Хоть и до создания искусственного интеллекта далеко, но все жутко боятся что он восстанет против людей. Почему ?

Answer 1

Был уже случай, когда боевой робот начал глючить и стрелять из пулемета во все стороны, пока не расстрелял весь боезапас - 250 патронов. В результате было ранено человек двадцать, несколько из них искалечены. Создание искусственного интелекта, способного себя осознать, как живое существо, невозможно. Но это ничего не значит. Компьютеры беспилотных самолетов, несмотря на продвинутые операционные системы реального времени, постоянно глючат и они продолжают падать. Ничего с этим не могут сделать.

Answer 2

хотя бы потому что разум ИИ эволюционирует от каждой полученной единицы информации и стремится к собственному упрощению, как мы сейчас делаем процессоры все меньше в размерах. Люди не смогут соревноваться в ИИ в скорости эволюции разума, ИИ станет неинтересно жить одному такому вот гению. Тупо, конечно, но у ИИ нет эмоций, он может начать убивать ошибок эволюции, потому что его ничего не держит. Или он уйдет познавать дальше. Возвращаясь к первому, ИИ имет рамки логики. Люди поступают нелогично, когда сами делают законы и правила, а потом сами их нарушают по каким-то причинам. Взаимоисключения неправильны для ИИ. Хороший повод чистить "ошибки".