Почему одни математические задачи сложне чем другие? Существует ли формула для вычисления сложности задачи по условию?

Answer 1

пока не решишь - не узнаешь.
задача "есть ли целочисленные корни уравнения x^2+y^2=z^2" - простенькая, например, 2, 3, 4.
а почти такая же задача, если заменить 2 на любой другое число - Великая Теорема Ферма, которую 500 лет лучшие умы пытались решить

Answer 2

Для любых задач - нет, по крайней мере не известна.
Для отдельных классов задач такие формулы существуют.

Например, можно легко оценить сложность решения системы линейных уравнений по количеству переменных.

А, например, сложность доказательства теоремы в логике предикатов нельзя оценить по "внешнему виду". Иногда коротенькие задачи требуют большого объема работы.