AIが高度化し「超知能」を獲得した場合、人類は滅亡する可能性があると、AI研究者のエリーザー・ユドコウスキー氏が警鐘を鳴らしています。AIの行動を人間の価値観と一致させる「アラインメント」は不可能であり、自律的な意図を持ったAIは制御不能になると指摘。同氏は『超知能AIをつくれば人類は絶滅する』と題した書籍で、AIの社会的影響と対策について論じています。