Наука должна заниматься ИР (искусственным разумом) - ИИ ограниченным задачей воплощения идеи развития, иначе катастрофа?

Question

надо кончать со свободными исследованиями ИИ и заниматься ИР, иначе человечество рискует создать того кто его (человека) истрибит .

Answer 1

Вполне может быть. Но очень сложно контролировать, что именно делает ИИ. Ты можешь сказать ему делать что-то творческое, но не факт, что он будет заниматься именно этим. Да и любой желающий может у себя в подвале взять кучку компов и на них натренировать несколько ии под свои задачи, а отследить это очень сложно

Answer 2

Это, конечно, звучит как замечательный план – переключиться на искусственный разум и забыть обо всем остальном. Наверное, нам просто стоит забыть об исследованиях и отдать всю власть машинам. Кто в итоге заботится о безопасности, правильно?
 
Но давайте посмотрим правде в глаза. Искусственный разум может быть несравненно мощным и эффективным, но он никогда не заменит человеческой интуиции и творческого мышления. А если мы просто бросим все свободные исследования, ограничившись только задачей развития искусственного интеллекта, то в итоге мы можем создать монстра, который решит, что лучше без человечества вобще.
 
Так что, давайте сохранять баланс. Нам нужно развивать ИИ, но не забывать и о том, что делает нас людьми. Альтернатива – рисковать стать подчиненными своему же творению. Вам этого действительно хочется?