Умные вопросы
Войти
Регистрация
По MathCAD. Округление одно, а точность расчетов другая. Как понизить точность?
Маткад округляет результаты до 3 чисел после запятой, но считает по факту с точностью до 17 знаком.
Что в итоге при ручном решении примера приводит к расхождениям.
Вопрос!
Как изменить точность расчетов? Что бы он округлял, например, до 0, 308 и подставлял это же число, а не 0, 308010304403 и т. д.
В общем как понизить точность до 3 знаков, как и округление.
6 года
назад
от
mrcjxhlzxgp
2 Ответы
▲
▼
0
голосов
А как ты считаешь вручную? Если сохраняешь по 3 знака в каждом исходном/промежуточном, тогда используй функцию round (x, n)
Например: x:=1/7 x=0. 1428571428571429 round (x, 3) =0. 143
6 года
назад
от
FletaFitts3
▲
▼
0
голосов
боюсь, не предусмотрено. Просто смысла в нормалаьной жизни нет делать вычисления с промежуточными лишними ошибками.
по иде считаем чем точне. тем лучше, а в конце округляем до точности, имеющий смысл в задаче.
вручную тоже когда-то считали с 1-2-мя лишними знаками (оценивая по задаче, сколько надо знаков лишних) .
16-17 знаков - это не случайно, это просто стандартное аппаратное представление двойной точности.
6 года
назад
от
Артур
Связанные вопросы
3
ответов
Можно ли стать учителем английского на уровне Intermediate?
6 года
назад
от
Леся
2
ответов
Что такое редактор?
2 года
назад
от
monicapl69
1
ответ
Как учёные могут изобрести космический корабль? или
3 года
назад
от
Андрей Казаков