汎用人工知能による人類滅亡のリスク
悪意を持った汎用人工知能(AGI)が意図的に作られる可能性があるとされる。例えば、サイバー犯罪と同様に、軍事組織、政府、ソシオパス、または企業が、特定の集団に利益をもたらしたり、支配したり、または隷属させるために作られる可能性がある。また、悪意を持った汎用人工知能(邪悪なAI)は、情報爆発の段階で、自らを支援しなかった人類を苦しめることを目標に選ぶ可能性がある。
ある国が汎用人工知能(強いAI)技術の覇権を手に入れる寸前になると、ライバル国による先制核攻撃を引き起こし、核戦争に発展する可能性があるとされる。