Что будет если ИИ напичкать неверной информацией?

Question

Если везде в соцсетях писать неверную информацию, ИИ будет учиться ей

Answer 1

Если информация будет взаимонепротиворечивой, твоя система будет выдавать неверные данные.
А если будут противоречия, то будет выдавать очень узкие заключения или вобще никаких - из-за сильной изоляции отдельных фрагментов противоречивой информации друг от друга.

Потом она сама не будет знать где правда а где нет
А она и так ничего не знает и не понимает. Это просто очень сложная поисковая система.