Если появится мощный автономный ИИ, людишки больше не будут нужны?

Answer 1

Если ИИ (в сильном смысле) возможен, то можно предположить, что не имея людских недостатков и, не испытывая в людях необходимости, он вполне вероятно избавит територию на которой находится от "биологического мусора". Вся проблема в том, что ИИ, который способен вносить изменения в свой собственный код и "мышление" которого не будет алгоритмически предсказуемым будет непознаваем для людей - они просто не смогут понять его целей и рассуждений. Опосредованные теоретические выкладки о его "чувствах" и "сознании" ничем не помогут людям.
Как говорил один умный дядька: "если уж Вы открыли банку с червяками, то единственный способ их снова запечатать - это воспользоваться банкой бОльшего размера". а такой то как раз у людей не будет )
На самом деле нет особых причин считать ИИ врагом, но нет и причин считать его другом. ОН слишком отличен от нас. Возможно, конечно, что мы будем представлять для него некий интерес (как бабочки для энтомолога ) ) , но сказать это определённо нельзя.