現時点では意見が分かれています。汎用人工知能 (AGI: Artificial General Intelligence )とは、人間の知能に匹敵するか、これを超える能力を持ち、トレーニング中に遭遇したことのない問題を解決することのできる機械の能力です。AGIは激しい議論を巻き起こし、畏怖の念とディストピア (反理想郷、暗黒世界) を混在させた感情を生み出しています。AIの能力は確かに高まっており、人間がプログラムしていない動作が突然出現することもあります。
考えられる道筋は、人間の知能に似ているものの、最終的には複雑な問題を解決する人間を助けようとする機械知能 (マシン・インテリジェンス) の進化です。そのため、ガバナンスや新たな規制、そして社会からの幅広い関与が必要となるでしょう。