Страница 1 из 1

String to number

Добавлено: 14 сен 2017, 17:39
willzon
Очередной глупый вопрос: как конвертировать строку вида числа с дробной частью в число?
По нижеследующей схеме на выходе - 0.
(то ли лыжи не едут, то ли я их дома оставил)

Re: String to number

Добавлено: 14 сен 2017, 17:50
dadreamer
willzon, почему у вас стоит Decimal String To Number? Надо использовать Fract/Exp String To Number или Scan From String.

Re: String to number

Добавлено: 15 сен 2017, 08:54
willzon
dadreamer писал(а):willzon, почему у вас стоит Decimal String To Number? Надо использовать Fract/Exp String To Number или Scan From String.
Точно, спасибо.

Может подскажете ещё, как отформатировать число, например, с генератора случайных чисел - обрезать до двух цифр после запятой. Только через конвертацию в строку и обратно?

Re: String to number

Добавлено: 15 сен 2017, 09:26
dadreamer
willzon писал(а):Может подскажете ещё, как отформатировать число, например, с генератора случайных чисел - обрезать до двух цифр после запятой. Только через конвертацию в строку и обратно?
Ну, это самый очевидный вариант. Можно ещё вот так попробовать: https://forums.ni.com/t5/Example-Progra ... -p/3531303 Ещё это посмотрите: https://forums.ni.com/t5/Example-Progra ... -p/3519059

Re: String to number

Добавлено: 15 сен 2017, 10:45
willzon
Спасибо.
Странно, что не сделали спец.инструмента для этого, приходится так извращаться.

Re: String to number

Добавлено: 15 сен 2017, 10:50
IvanLis
willzon писал(а):Странно, что не сделали спец.инструмента для этого, приходится так извращаться.
А в каких случаях это необходимо?
При отображении можно настроить сколько угодно знаков, при сохранении в текстовые форматы тоже.
Что касается хранения, то все равно тип DBL используется, т.е. те же 64bit под него в памяти выделяется, даже если Вы до целого округлите.