Как найти все возможные решение системы нелинейных уравнений у которой неизвестных больше чем уравнений в системе ?

Answer 1

Не иначе, как с трудом. Получится какое-то многобразие (его и задаёт исходная система) . А описать это многобразие (эквивалентно исходной системы или "близко" к эквивалентному) можно только учитывая конкретные особенности системы и поставленную задачу, которую вы решаете. Локально, в окрестности некоторой точки, можно почти всегда, свести к линейной системе. Можно попытаться построить границу области решений. Удачно, если окажется применимо "выпуклость", "гладкость" и т. д.

Answer 2

Если никаких дополнительных ограничений нет (типа целочисленные, положительные и так дале) , то только выразив часть неизвестных через другие неизвестные.