С чего эти опасения касательно развития искусственного интеллекта? Это разве что программа. Не боле того.

Question

Чтобы тебя лампочка не убила и обогреватель не сжег, нужно выключить их сначала из розетки, а потом уже пальцами в кишки им лезть.

То же самое и с атомной энергетикой, оружием, разведкой. Вот простой пример: сейчас война, и отрубить глонас, вайфай, gps над атакуемой територией ничего не решит. У бомбы-ракеты нет выхода в интернет, а кординаты заложены заране + есть миллион способов ей обнаружить себя в пространстве, включая банальных гироскоп. Запустил ракету, она себя высчитала в пространстве и пошла по заране заложенному маршруту - 200км вперед, через 300 км влево, через 30 км еще раз влево, потом 40 км направо и и все. По принципу слепого или соискателя кладов на пиратской карте - 5 шагов от точки нахождения карты влево, 10 вправо, 100 вперед.

Все серьезные и важные объекты и системы не имеют выхода в общую сеть. Поэтому их никак не взломать. Это то же самое, мол вот все машины имеют бензин, ключи и мотор. Вдруг мой сосед возьмет свой ключ, сядет в мою машину и убьет кого-то, а меня посадят. Так не бывает.


И к слову о сингулярности. С чего вдруг люди взяли, что ИИ нужно развиваться. Это машина. У не нет амбиций, эмоций, желаний. Она просто работает. Ей не холодно и не жарко, не грустно и не весело, не больно и не обидно, ей не хочется ни жрать, ни спать, ни трахаться. С чего вдруг кто-то решил, что машины захотят эволюционировать, развиваться? И почему именно против людей? Почему не деградировать, не оставаться стабильными?

Такая бредятина просто. Машины захотят создавать себя сами? Нахрена? Ты их попробуй еще заставить что-то захотеть.

Answer 1

ну, машину не про*шь, она будет делать что ей сказали, но. люди могут спокойно дать ей свободу воли, чтобы она делала не только что ей сказали но и то что она решит, к примеру, дали роботу машинке указание ехать вперед, и ничего не сказали, она приехала в стену. а цель доехать до финиша, и вот спустя 100 попыток отъехать назад и снова врезаться она научилась великолепной вещи! поворачивать бл*ь на лево! и вот, она уже повернула и едет дальше, а ведь умение поворачивать ей никто не присваивал. уже банальное развитие.
Но да, в основном машина будет развиваться в сторону конкретной цели, но так же спонтанно как и умение поворота на лево может возникнуть мысль эти люди. они. мешают мне работать. помехи нужно убрать. только в этом случае его уже не остановят не нормы морали, ничего, если последние не были насильно записаны в ии. так что в конце концов, так же как и с ядерным реактором - главное все контролировать, и если черт возьми ты дал своему ии возможность управлять компьютером, сделай гребанный аварийный кран.

Answer 2

Понимаете, неизвестно что такое интеллект, что для этого надо, и какой он может быть. Поэтому, если вдруг его создадим, или он сам как нибудь получится - то может быть так, что мы об этом не узнаем. А он может дел наделать. Ему будут не нужны никакие бомбы, ему достаточно вторгнутся, скажем, в финансовую, или в энергетическую систему. Потому, это - угроза.