Умные вопросы
Войти
Регистрация
По MathCAD. Округление одно, а точность расчетов другая. Как понизить точность?
Маткад округляет результаты до 3 чисел после запятой, но считает по факту с точностью до 17 знаком.
Что в итоге при ручном решении примера приводит к расхождениям.
Вопрос!
Как изменить точность расчетов? Что бы он округлял, например, до 0, 308 и подставлял это же число, а не 0, 308010304403 и т. д.
В общем как понизить точность до 3 знаков, как и округление.
6 года
назад
от
mrcjxhlzxgp
2 Ответы
▲
▼
0
голосов
А как ты считаешь вручную? Если сохраняешь по 3 знака в каждом исходном/промежуточном, тогда используй функцию round (x, n)
Например: x:=1/7 x=0. 1428571428571429 round (x, 3) =0. 143
6 года
назад
от
FletaFitts3
▲
▼
0
голосов
боюсь, не предусмотрено. Просто смысла в нормалаьной жизни нет делать вычисления с промежуточными лишними ошибками.
по иде считаем чем точне. тем лучше, а в конце округляем до точности, имеющий смысл в задаче.
вручную тоже когда-то считали с 1-2-мя лишними знаками (оценивая по задаче, сколько надо знаков лишних) .
16-17 знаков - это не случайно, это просто стандартное аппаратное представление двойной точности.
6 года
назад
от
Артур
Связанные вопросы
1
ответ
Сложно ли учиться на финансиста по вакансии Экономист по финансовой работе?
6 года
назад
от
ЩЪЁРТ ПОБЪЕРЫ КЛУБ 9 МИНУС!
2
ответов
Учила так быстро говорила что я не понял что написал. Там был открыватель Северной Америки. Я записал так Дж. С Кампот А
12 года
назад
от
Луэлл Ким
1
ответ
Это всё ерунда про потепление?
2 года
назад
от
лютик