По MathCAD. Округление одно, а точность расчетов другая. Как понизить точность?

Маткад округляет результаты до 3 чисел после запятой, но считает по факту с точностью до 17 знаком.
Что в итоге при ручном решении примера приводит к расхождениям.

Вопрос!
Как изменить точность расчетов? Что бы он округлял, например, до 0, 308 и подставлял это же число, а не 0, 308010304403 и т. д.

В общем как понизить точность до 3 знаков, как и округление.
6 года назад от mrcjxhlzxgp

2 Ответы



0 голосов
А как ты считаешь вручную? Если сохраняешь по 3 знака в каждом исходном/промежуточном, тогда используй функцию round (x, n)
Например: x:=1/7 x=0. 1428571428571429 round (x, 3) =0. 143
6 года назад от FletaFitts3
0 голосов
боюсь, не предусмотрено. Просто смысла в нормалаьной жизни нет делать вычисления с промежуточными лишними ошибками.

по иде считаем чем точне. тем лучше, а в конце округляем до точности, имеющий смысл в задаче.
вручную тоже когда-то считали с 1-2-мя лишними знаками (оценивая по задаче, сколько надо знаков лишних) .

16-17 знаков - это не случайно, это просто стандартное аппаратное представление двойной точности.
6 года назад от Артур

Связанные вопросы

1 ответ
2 года назад от лютик