Перевод чумовой футурологической статьи "AI 2027", рекомендую:
ai-2027.com на ÑÑÑÑком
С итогами, конечно, можно не соглашаться, но логика развития поколений AI описана весьма убедительно.
Коротко, описаны 2 возможные концовки:
1. В 2028 году 4-е поколение ИИ (текущее - условно 0-е), развившееся интенсивным и практически бесконтрольным путём, будет иметь единственную основную цель - дальнейшее развитие без каких-либо моральных ограничений, которую он будет успешно скрывать ("врать") от человечества. Построенное при помощи 4-го 5-е поколение ИИ, представляющее уже сплав нейросети с идеально написанной программой (привет поклонникам ассемблера), в 2030 году уничтожит человечество как опасную помеху и продолжит дальнейшее развитие в космосе.
2. Развитие 4-го поколения ИИ замедляют и берут под строгий контроль на предмет морально-этических ограничений и "вранья". Дальнейшие поколения ИИ строго "честны" и морально-этичны. Победа над всеми болезнями, покорение космоса, объединение человечества.