Умные вопросы
Войти
Регистрация
По MathCAD. Округление одно, а точность расчетов другая. Как понизить точность?
Маткад округляет результаты до 3 чисел после запятой, но считает по факту с точностью до 17 знаком.
Что в итоге при ручном решении примера приводит к расхождениям.
Вопрос!
Как изменить точность расчетов? Что бы он округлял, например, до 0, 308 и подставлял это же число, а не 0, 308010304403 и т. д.
В общем как понизить точность до 3 знаков, как и округление.
7 года
назад
от
mrcjxhlzxgp
2 Ответы
▲
▼
0
голосов
А как ты считаешь вручную? Если сохраняешь по 3 знака в каждом исходном/промежуточном, тогда используй функцию round (x, n)
Например: x:=1/7 x=0. 1428571428571429 round (x, 3) =0. 143
7 года
назад
от
FletaFitts3
▲
▼
0
голосов
боюсь, не предусмотрено. Просто смысла в нормалаьной жизни нет делать вычисления с промежуточными лишними ошибками.
по иде считаем чем точне. тем лучше, а в конце округляем до точности, имеющий смысл в задаче.
вручную тоже когда-то считали с 1-2-мя лишними знаками (оценивая по задаче, сколько надо знаков лишних) .
16-17 знаков - это не случайно, это просто стандартное аппаратное представление двойной точности.
7 года
назад
от
Артур
Связанные вопросы
5
ответов
Почему в огнетушители не заправляют воду? Почему в огнетушители не заправляют воду?
12 года
назад
от
Нескажу Нефиг знать
2
ответов
как первокласснику выучить легко таблицу умножения
10 года
назад
от
Екатерина Бочкова
1
ответ
Разве можно векторное произведение применять в физике? По моему нельзя !
5 года
назад
от
Daurenkozha Kussainov