ИИ тогда превзойдет человека, кода он усовершенствует вложенную в него человеком философию, ну или религию?

Answer 1

Сегодня новые ЧИПы разрабатывает человек при помощи ИИ. Когда это сделает ИИ при помощи человека, тогда он и превзойдет человека. Этого будет достаточно: это сделает его САМОразвивающимся.

Answer 2

когда он перестнет быть хоть большой и сложной, но все таки программой, которая может быть выполнена на машине Тьюринга за конечное число шагов.
А что для этого надо - никто толком не знает.