Страница 1 из 1

Нужны советы про данные(числа)

Добавлено: 17 май 2020, 19:09
Адильбек
Я делаю виртуальную лабораторию для студентов .Там все работает кроме лампочки.Я думаю проблема в числах которые после запятой выходят семь или восемь цифр .Мне надо после запятой сделать три или четыре цифры .Я даже туда добавил конвертацию цифр 'SGL' но оно тоже не помогает. Пожалуйста можно только скрины у меня старая версия лабвью а новую комп не тянет.
Лампочка2.vi
(219.02 КБ) 87 скачиваний
Заранее спасибо

Re: Нужны советы про данные(числа)

Добавлено: 17 май 2020, 19:55
Artem.spb
Не понятно, что за лампочки у вас не работают, но в коде есть много странностей

Зачем 10 000 раз повторять запись в индикатор?
st1.PNG
st1.PNG (5.25 КБ) 1223 просмотра
тут же самое, да ещё лишний N задан, потому что автоиндексация сама всё сделает.
st2.PNG
st2.PNG (3.59 КБ) 1223 просмотра
Странно сравнивать булевскую с булевской, чтобы подать результат на селектор. Если выкинуть сравнение, результат будет ровно тот же.
st3.PNG
st3.PNG (2.53 КБ) 1223 просмотра
Ну и совсем странно перед сравнением ухудшать точность до sgl (при том что второе сравниваемое явно dbl)
st4.PNG
st4.PNG (3.34 КБ) 1223 просмотра
Подозреваю, что вопрос именно про это.
"Плавающие" числа бесполезно так сравнивать. Почти наверняка получите "не равно".
Проверять надо с заданной точностью
eq.png
eq.png (10.7 КБ) 1223 просмотра

Re: Нужны советы про данные(числа)

Добавлено: 17 май 2020, 23:02
Адильбек
Мне надо чтобы когда цифры совпадают горела лампочка.Если надо могу скинуть полную дипломку. Там правда еще страннее .

Re: Нужны советы про данные(числа)

Добавлено: 18 май 2020, 00:14
Artem.spb
Адильбек писал(а): 17 май 2020, 23:02 Мне надо чтобы когда цифры совпадают горела лампочка.
я уже написал, что нужно сделать, чтобы цифры "совпадали".
Арифметика с плавающей запятой страдает тем, что с виду одинаковые значения совершенно не одинаковые в последних битах. Из-за этого точное равенство мало когда достижимо.