В чеи у меня ошибка? Механика

Answer 1

1) разрисовать отдельно силы, действующие на брусок и силы, действующие на призму. У вас на рисунке они все в одной точке, что сильно затрудняет понимание.
2) есть подвох - нужно рассмотреть 2 случая: брусок скользит вниз или не скользит
3) самое главное - не зря условии упомянута ещё и стенка - с её стороны может действовать ещё одна горизонтальная сила на призму (в случае, если брусок скользит) .

Answer 2

Сложно сказать без условия задачи. Ну меня лет сорок назад в школе учили, что сила реакции опоры перпендикулярна поверхности, а не вверх направлена. Может в этом суть? Зачем Вы так выбрали оси Х и У? Может проще Х - вдоль поверхности, а У - перпендикулярно?