Найти уравнение инвариантной прямой скользящей симметрии, заданный формулами:

Answer 1

Берем произвольную точку А, по вашим формулам находим е образ А', вычисляем середину М отрезка АА'.
Берем вторую произвольную точку В, отличную от А и А', е образ В', тогда N — середина BB'.
Искомая прямая — MN.
Если вам не нравится такое решение, то можно по-другому. У матрицы, составленной из коэффициентов при х и у, имется ровно два характеристических числа, то есть 1 и -1. Направлению инвариантной прямой сответствует собственный вектор, отвечающий собственному значению 1. Ну и т. д.