sdk5v3, у вас там как-то запутанно на картинке написано. Я начинал составлять программу, но потом прекратил, хотя с путаницей более менее разобрался. Не скажу, в чём у вас ошибка, однако вам в программе надо вводить условия на знаменатель, равный 0, чтобы избежать некорректных вычислений. Либо как-то учитывать эту некорректность, так как у вас при Z=0 в (2.3) B будет равно NaN. Ну, и кое где (например, тест D на 0) использовать машинный эпсилон, т.к. числа double формата. В общем, могу порекомендовать делать по частям. Разбейте вашу задачу на три этапа и делайте по порядку. Так проще будет найти ошибки. Необязятельно везде использовать Formula Express VI, можно и в
реализовать алгоритм, или использовать Formula Node / Expression Node.
