А что если искусственный интеллект вобще не будет замечать человечества? Так же как мы не замечаем каких-нибудь червей.

Question

Как только он создаст машину которая сможет создать другую машину - они начнут размножаться в геометической прогрессии. Мимо вас будут пробегать огромные роботы, вобще не обращая на вас внимания, если не успете отбежать вас просто задавят.

Танки и вертолёты будут бесполезны против этих машин, а ядерные бомбы мы не сможем применять, т. к. придётся стрелять по своим же городам.

Answer 1

Повод, по которому И-Интел не будет замечать человечества, - это приверженность к старой истории и традициям? Мол, человеками нас делает то, что мы тысячелетиями не можем перестать вображать мамонтов, и типа поэтому испытывать эмоции?
А как тебе комплементация этих двух сущностей в одну ЖЫЖУ, как Шынджы Ыкары?

Answer 2

Если машины не будут нас замечать, то как они будут от нас защищаться?
В итоге, мы их, просто, уничтожим.
Впрочем, как и многих других, которые не замечали людей.

Answer 3

Чтобы ИИ смог себя апгрейдить, его код должен быть без багов. Но это просто нереально.

Пока ИИ будет самостоятельно развиваться, он будет ловить квадрильоны багов, после чего он обучиться, используя за основы все эти баги и в итоге он полностью загнётся.

Answer 4

Начать надо с того, что такое AI?
Затем, AI не может ничего замечать или не замечать. Но объяснить или, скоре, понять - как это так - Вам это может быть сложно. Равно как и понять, что AI не может понимать смыслы и вобще "понимать". Но не потому что AI тупой или умный.