Что такое X нулевое и Y нулевое ?

Answer 1

Ax + By - это скалярное произведение вектора (A, B) на вектор (x, y) , перпендикулярность означает равенство скалярного произведения нулю.

А если рассмотрите вектор (х - x0, y - y0) и помножите его скалярно на (A, B) , то сможете выразить C в уравнении прямой через x0, y0, A, B. Пробуйте и думайте дальше.

У Вас в условии A, B и C - это вобще не числа, а точки/векторы, к буквам A, B и С в уравнении прямой они отношения не имеют. Я бы Вам советовал одни и те же буквы для обозначения разных сущностей не использовать.
Еще и вершина какая-то тоже буквой С обозначена. Разгребите бардак в обозначениях, что ли.

Answer 2

Я так понимаю, что 9) - это условие задания, а точки А (2, 1) , В (1, -2) , С (-1, 0) - это варианты ответа на него.
Форма уравнения прямой - "по точке и направляющему вектору". Т. е. уравнение задано. Тогда (-1; 0) - кординаты точки. Т. е. ответ - точка С.