Нахождение круга, вписанного в пересечение двух окружностей.

Answer 1

Я бы нашёл уравнение прямой, образованной двумя точками пересечения, а следующим шагом определил кординаты середины отрезка найденной прямой между этими точками.

Answer 2

Легко.
1. Находите (строите) отрезок соединяющий центры окружностей.
2. На этом отрезке находите точки пересечения с окружностями. (на расстоянии радиуса от центра или решаете линейное ур + квадратное) .
3. На середине полученного отрезка будет лежать центр вписанной (внутренне или "внешне") искомой окружности.