Умные вопросы
Войти
Регистрация
По MathCAD. Округление одно, а точность расчетов другая. Как понизить точность?
Маткад округляет результаты до 3 чисел после запятой, но считает по факту с точностью до 17 знаком.
Что в итоге при ручном решении примера приводит к расхождениям.
Вопрос!
Как изменить точность расчетов? Что бы он округлял, например, до 0, 308 и подставлял это же число, а не 0, 308010304403 и т. д.
В общем как понизить точность до 3 знаков, как и округление.
6 года
назад
от
mrcjxhlzxgp
2 Ответы
▲
▼
0
голосов
А как ты считаешь вручную? Если сохраняешь по 3 знака в каждом исходном/промежуточном, тогда используй функцию round (x, n)
Например: x:=1/7 x=0. 1428571428571429 round (x, 3) =0. 143
6 года
назад
от
FletaFitts3
▲
▼
0
голосов
боюсь, не предусмотрено. Просто смысла в нормалаьной жизни нет делать вычисления с промежуточными лишними ошибками.
по иде считаем чем точне. тем лучше, а в конце округляем до точности, имеющий смысл в задаче.
вручную тоже когда-то считали с 1-2-мя лишними знаками (оценивая по задаче, сколько надо знаков лишних) .
16-17 знаков - это не случайно, это просто стандартное аппаратное представление двойной точности.
6 года
назад
от
Артур
Связанные вопросы
1
ответ
Проигрыватели винила, мелодия 103 стерео, ремонт проигрывателя винила, радиотехника
2 года
назад
от
СолныФко 95
1
ответ
Логарифм по основании а числа b равен с. Почему а0?
4 года
назад
от
МИХАИЛ(0709) БЕРЕЗОВСКИЙ
1
ответ
Куда девается масса материи при сгорании?
7 года
назад
от
Nurzhan Bodes