Что нужно, чтобы из ИИ сделать ИРазум?

Answer 1

Возможно, снабдить ИИ с одной стороны внутренним наблюдателем - сознанием. Не очень понятно, как это сделать. Возможно, это рекурсивно-иерархическая модель самого себя. Насколько она сложная, чтобы стать чем-то похожим на наше сознание - не знаю. Возможно, что достаточно будет относительно простой.

С другой, прицепить к этому тандему блок мотивации. Т. е. аналог той нашей части, которой мы ощущаем наши потребности и формируем желания. И обратную связь, которая бы давала аналог удовольствия от достижения желаний.

А, на ещё сразу лучше это надежно интегрировать с тем, что называют супер-эго. Т. е. снабдить ИРазум совестью и моралью. Чтобы не получилось как со скайнетом или с современными ИИ, которые с одинаковой легкостью могут дать как дельный совет, так и опасный, обоснованный и полную чушь.