Мантисса

Простейшие вопросы в области инженерной разработки

Мантисса

Postby CCCP33 on 13 Sep 2017, 17:13

Приветствую, товарищи!
Столкнулся с такой проблемой, что в работе программы оказалось, что (2>2)==True. Оказалось, что почему-то при вводе числа с клавиатуры в мантиссе появляются какие-то артефакты (см. картинку). В чем дело - не пойму?
Attachments
1.png
1.png (5.18 KiB) Viewed 83 times
CCCP33
beginner
beginner
 
Posts: 12
Joined: 06 May 2014, 10:30
LabVIEW Version: 2011
Karma: 0

Re: Мантисса

Postby Borjomy_1 on 13 Sep 2017, 18:45

Можно сравнивать разницу с эпсилон. т.е искать не A>B, а A-B>eps и тогда, кстати, вы увидите, насколько у вас числа "2" различаются.
Borjomy_1
expert
expert
 
Posts: 1735
Joined: 28 Jun 2012, 09:32
Location: город семи холмов
Medals: 3
Activity (1) Professionalism (1) Silver (1)
LabVIEW Version: 4-8.6,9-14
Karma: 306
VIP

Re: Мантисса

Postby IvanLis on 13 Sep 2017, 21:30

Borjomy_1 wrote:Можно сравнивать разницу с эпсилон. т.е искать не A>B, а A-B>eps и тогда, кстати, вы увидите, насколько у вас числа "2" различаются.


Более корректно наверное модуль разности брать abs(A-B)>eps
User avatar
IvanLis
professor
professor
 
Posts: 4415
Joined: 02 Dec 2009, 17:44
Location: СССР
Medals: 7
Activity (2) Professionalism (1) Tutorials (1) Gold (1) Man of the year 2012 (1)
Автор (1)
LabVIEW Version: 2010
Karma: 683
hardware VIP bloggers teachers

Re: Мантисса

Postby Borjomy_1 on 13 Sep 2017, 23:21

IvanLis wrote:
Borjomy_1 wrote:Можно сравнивать разницу с эпсилон. т.е искать не A>B, а A-B>eps и тогда, кстати, вы увидите, насколько у вас числа "2" различаются.


Более корректно наверное модуль разности брать abs(A-B)>eps

Ну в данном случае ищется не "равно", а "больше"
Borjomy_1
expert
expert
 
Posts: 1735
Joined: 28 Jun 2012, 09:32
Location: город семи холмов
Medals: 3
Activity (1) Professionalism (1) Silver (1)
LabVIEW Version: 4-8.6,9-14
Karma: 306
VIP


Return to Для чайников

Who is online

Users browsing this forum: No registered users and 12 guests

cron