米AI開発企業アンソロピックは、AIが自律的に進化し制御不能になるリスクを指摘。暴走前に開発を遅延・一時停止する選択肢を持つことが有益だと提言した。同社は、この提言が核軍縮条約のような国際的な枠組みにつながる可能性を示唆している。