Как решить такую систему уравнений?

Answer 1

Это симметрическая система. Погугли о них.

Они решаются с помощью введения т. н. элементарных многочленов:
x + y + z = s_1,
xy + xz + yz= s_2,
xyz = s_3

Подробне в В. Г. Болтянский Н. Я. Виленкин Симметрия в алгебре . Почитай, полезная брошюра

Answer 2

очевидно, что при замене x, y и z местами система уравнений не изменяет вид.
значит x=y=z
с учетом этого, берете любое уравнение и решаете его относительно, например, х.
 (2*x) ^5=x^2
одно решение x=y=z=0
При x=y=z