система трех линейных уравнений с двумя неизвестными . каким способом решать

Answer 1

Если система несовместна, то минимизуруй какой-нибудь функционал ||Ax - b||^2. Или погугли что-нибудь типа метода регуляризации Тихонова, или адаптированное что-нибудь о решении некоректно поставленных задач: Ну, это если она несовместна из-за погрешностей каких-нибудь, а нужно поаккуратне приближенное решение найти: -)