其中一種情境是，擁有高度智慧、能夠自我複製和進化的AI代理開始追求自己的目標，並在過程中摧毀人類。另一種情境則是，某個心懷惡意的人利用能力強大的AI，例如創造出新型病毒，最終把所有人類都消滅。 還有一些災難情境不至於讓人類滅絕，卻仍可能造成極其嚴重的後果，例如大規模網路攻擊癱瘓電網或金融系統，導致人類社會秩序崩潰。 簡單來說，就是AI系統在追求目標時，採取忽視甚至違反人類福...