Кто-нибудь верит, что когда-нибудь ИИ, нейронные сети и пр. выйдут из-под контроля?

Question

И это обернется чуть ли не катастрофой для человечества. Как в фантастических фильмах. Мне кажется, это полный бред. Если речь идет о том, что техника будет ломаться или глючить, то так оно есть и сейчас и будет всегда. Но сейчас стала популярна другая тема, что якобы роботы или хрен знает какая еще техника будет вести себя не как запрограммирована, а как-то иначе, чуть ли не свои интересы иметь, то это разумется техносказка

Answer 1

Верю-не верю, это детская игра. ИИ изначально будет неподконтрольным по определению, да и весь интернет неподконтролен, просто потому что он сразу таким создавался, однако никто не истерит по этому поводу. про будущую катастрофу никто знать не может, может быть её не будет, а может быть она произойдет в такой форме, что мы все будем радостно её приветствовать.

Answer 2

Скажем так, маловероятно, но не невероятно.
Собственно, неизвестно почему мы имем разум, и что для этого надо. И не зная этого можем случайно создать подходящие условия, что выглядит довольно правдоподобным, учитывая постоянное наращивания сложности и вычислительной мощности.