Мантисса

Простейшие вопросы в области инженерной разработки
Ответить
CCCP33
beginner
beginner
Сообщения: 48
Зарегистрирован: 06 май 2014, 10:30
Версия LabVIEW: 2011, 2015
Откуда: Vldr
Благодарил (а): 1 раз
Контактная информация:

Мантисса

Сообщение CCCP33 »

Приветствую, товарищи!
Столкнулся с такой проблемой, что в работе программы оказалось, что (2>2)==True. Оказалось, что почему-то при вводе числа с клавиатуры в мантиссе появляются какие-то артефакты (см. картинку). В чем дело - не пойму?
Вложения
1.png
1.png (5.18 КБ) 2420 просмотров
Borjomy_1

Activity Professionalism Silver
doctor
doctor
Сообщения: 2210
Зарегистрирован: 28 июн 2012, 09:32
Награды: 3
Версия LabVIEW: 2009..2020
Откуда: город семи холмов
Благодарил (а): 27 раз
Поблагодарили: 26 раз

Re: Мантисса

Сообщение Borjomy_1 »

Можно сравнивать разницу с эпсилон. т.е искать не A>B, а A-B>eps и тогда, кстати, вы увидите, насколько у вас числа "2" различаются.
Аватара пользователя
IvanLis

Activity Professionalism Tutorials Gold Man of the year 2012
Автор
guru
guru
Сообщения: 5461
Зарегистрирован: 02 дек 2009, 17:44
Награды: 7
Версия LabVIEW: 2015, 2016
Откуда: СССР
Благодарил (а): 27 раз
Поблагодарили: 86 раз

Re: Мантисса

Сообщение IvanLis »

Borjomy_1 писал(а):Можно сравнивать разницу с эпсилон. т.е искать не A>B, а A-B>eps и тогда, кстати, вы увидите, насколько у вас числа "2" различаются.
Более корректно наверное модуль разности брать abs(A-B)>eps
Borjomy_1

Activity Professionalism Silver
doctor
doctor
Сообщения: 2210
Зарегистрирован: 28 июн 2012, 09:32
Награды: 3
Версия LabVIEW: 2009..2020
Откуда: город семи холмов
Благодарил (а): 27 раз
Поблагодарили: 26 раз

Re: Мантисса

Сообщение Borjomy_1 »

IvanLis писал(а):
Borjomy_1 писал(а):Можно сравнивать разницу с эпсилон. т.е искать не A>B, а A-B>eps и тогда, кстати, вы увидите, насколько у вас числа "2" различаются.
Более корректно наверное модуль разности брать abs(A-B)>eps
Ну в данном случае ищется не "равно", а "больше"
Ответить

Вернуться в «Для чайников»