Учёные пишут открытые письма с просьбой остановить развитие искусственного интеллекта. Почему? Чем он нам грозит?

Question

Какие ужасы боятся учёные? К чему плохому искусственный интеллект может нас привести?

Answer 1

Потому что эти ученые - на костре печеные.
В современном виде, как и в обозримой перспективе, ИИ нам ничем не грозит.
Единственная опасность от него - внедрение его в области, связанные с финансовой/юридической/медицинской и прочей ответственностью, связанное с желанием некоторых особо умных бизнесменов сэкономить на персонале. Один мужик уже выцыганил у Делла новый лапоть за доллар, заставив ИИ-робота подержки взять на себя юридические обязательства от имени компании, и то ли еще будет.

Answer 2

Вопервых люди тупеют отдавая часть ежедневных ментальных функций машине. За 10 лет это незаметно, а за 10 поколений это катастрофа.
Вовторых ИИ отбирает рабочие места, а это экономика.
Втретьих да. От сбоя системы до хакерской диверсии, когда ИИ будут доверять не такси а автобусы и больше то любой сбой приведет к восстанию машин. Также когда ИИ станет настолько умным он действительно захватит наш мир ибо развивается намного быстре. ИИ же поймет что в мире людей главным является человек и обязательно оставит нам некий терариум в зопарке.
-=-
Это нисколько не фантастика но специфика развития такова что приобретая чтото - чтото обязательно потеряешь. Это актуально даже для ИИ. Даже если ИИ никогда ничего не забывает он распределяет мощность вычисления на одно теря другое. Но без ИИ дальнейше развитие технологий невозможно. Он многократно ускоряет процесс понимания конкретных аспектов нашего развития.
-=-
Всю историю человек изобретает все лучшие инструменты. Настанет время когда инструменты будут изобретать человека. Вот увидите.