技術的特異点

技術的特異点（ぎじゅつてきとくいてん、英語: Technological Singularity）、またはシンギュラリティ（Singularity）とは、未来学上の概念であり、人工知能自身の「自己フィードバックで改良、高度化した技術や知能」が、「人類に代わって文明の進歩の主役」になる時点の事である。

概要

技術的特異点は、汎用人工知能（en:artificial general intelligence AGI）、あるいは「強い人工知能」や人間の知能増幅が可能となったときに起こるとされている出来事であり、ひとたび自律的に作動する優れた機械的知性が創造されると、再帰的に機械的知性のバージョンアップが繰り返され、人間の想像力がおよばないほどに優秀な知性(スーパーインテリジェンス)が誕生するという仮説である。具体的にその時点がいつごろ到来するかという予測は、21世紀中ごろから22世紀以降まで論者によってさまざまであるが、この概念を多数の実例を挙げながら収穫加速の法則と結びつける形で具体化して提示したレイ・カーツワイルの影響により、2045年ごろに到来するとの説が有力視されることが多い。2012年以降、ディープラーニングの爆発的な普及を契機に現実味を持って議論されるようになり、2045年問題とも呼ばれている。2016年以降、ビジネスにおいてもディープラーニングの影響が本格的に現れ始めており、技術的には全世界で一番大きな注目を集めている話題となった。

例題：電子回路と生物の動作速度の比較

技術的特異点の到来が社会に与えるインパクトの大きさを理解するうえでの簡単な例題として、電子回路と生物の動作速度の比較が挙げられる。電子回路は、生物の頭脳に見られる電気化学的スイッチの100万倍以上の速度で動作し、体調不良などといった動作不良が頻発する生物とは異なり、安定して最高のパフォーマンスを発揮する。この時点で、電子回路で実現される頭脳（ポストヒューマン）が、生身の人間にとっては計り知れないほどに高い知能を獲得することが分かる。また、電子回路で実現される頭脳では生物の頭脳とは異なり、機能の変更や拡張が容易になることも推測できる。一度でも電子回路で実現される頭脳の構築に成功すると、その頭脳がさらに高性能な頭脳を構築することが繰り返されることで、電子回路で実現される頭脳自体の爆発的な進化が期待できる。電子回路で実現される頭脳は生物の頭脳を参考にして作られるため、電子回路と生物の双方の特徴を融合した特徴を持つものになる。したがって、電子回路で実現される頭脳自体の爆発的な進化で技術が取り込んだ生物的な特徴も爆発的に強化され、技術の環境適応における柔軟さも爆発的に強化される。特に、環境適応に必要な遺伝子工学、ナノテクノロジー、ロボット工学の進化はきわめて顕著となる。電子回路で実現される頭脳の再帰的な進化によって研究開発のプロセスが爆発的に加速し、生身の人間が思い描ける水準（無尽蔵なエネルギー、不老不死、宇宙進出、光速の壁の突破など）をはるかに上回る（したがって、技術的特異点以前の段階に生きる生身の人間には大まかに推量することすら難しい）高度な社会問題が矢継ぎ早に解決されて行くことになる。技術的特異点という用語を普及させた張本人であるレイ・カーツワイル自身により、最先端の微細加工技術であるナノテクノロジーを最大限に活用して実現される知能は、生身の人間の頭脳の1兆倍の1兆倍も有能であると見積もられている。このスケールの知能になると、単一のポストヒューマンから見ても、技術的特異点以前に生身の人間だけで築き上げていた人類文明全体ですら、何も起きていないように見える。未だに技術の進歩が緩やかな2010年代において、この水準の知能の出現は直感的には遠い将来（数万年後）の出来事のように考えがちだが、技術的特異点以後の技術の爆発的な進化を考慮に入れると、この水準の知能の実現に必要な計算能力が、大雑把に見積もっても21世紀後半には約1000ドル以下（約十数万円以下）で購入可能になっていると推測できる。文字通り想像を絶するほどに（ありとあらゆるSF作品すらも軽々と超越する程度に）、技術的特異点の到来が社会に与えるインパクトは大きいことが分かる。

レイ・カーツワイル

レイ・カーツワイルは、アメリカ屈指の発明家であり、未来学者でもある。自身の発明を成功させるために、ムーアの法則からヒントを得て収穫加速の法則を考案した。
2005年に著作で特異点は近い The Singularity Is Near と宣言した。2012年以降のディープラーニングの爆発的な普及を契機として、大きな注目を集めるようになった。技術的特異点と呼ばれる概念を提唱した人物であると思われがちだが、技術的特異点という概念自体は1980年代以前からヴァーナー・ヴィンジのSF作品に見ることができる。技術的特異点と呼ばれる分野では、過去の傾向や議論を分かりやすく纏め上げる役割を担っていると言える。
現在用いられている意味において、技術的特異点の意味するものは、レイ・カーツワイルによれば、「100兆の極端に遅い結合（シナプス）しかない人間の脳の限界を、人間と機械が統合された文明によって超越する」瞬間のことである。同じくレイ・カーツワイルが提唱する、進化の6つのエポックにおけるエポック5とも同義である。電子計算機の発明以前から同様の主張は行われていたが、2005年にレイ・カーツワイルが発表した、The Singularity Is Near: When Humans Transcend Biology（和書:ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき）において、宇宙の歴史、生命の歴史、科学技術の歴史に基づく、多角的で長大な論証が行われ、初めて明確化された。未来研究においては、人類により発明された科学技術の歴史から推測されうる、未来モデルの適用限界点と定義されている。
一般人からは未だに誤解されていることが多いが、2045年は「汎用人工知能（AGI）が人類史上初めて出現する年」あるいは「汎用人工知能（AGI）が人類史上初めて人間よりも賢くなる年」ではない。レイ・カーツワイルは、そのような出来事は2029年頃に起きると予測している。レイ・カーツワイルは、2045年頃には、1000ドルのコンピューターの演算能力がおよそ10ペタFLOPS＝一般的な人間の脳の100億倍にもなり、技術的特異点に至る知能の土台が十分に生まれているだろうと予測しており、この時期に人間の能力と社会が根底から覆り変容すると予想している。レイ・カーツワイルは、人類の進化として最も理想的な形で技術的特異点を迎える場合、GNR革命の進行により、人類の知性が機械の知性と完全に融合し、人類がポスト・ヒューマンに進化すると予測している。
ただし、平木敬の予測によれば人間の脳の処理能力はゼタ(100万ペタ)FLOPS級である。
2017年12月29日にEテレに出演した際、「自らを改良し続ける人工知能が生まれること。それが（端的に言って）シンギュラリティーだ」と発言した。
2016年頃からは、IoTや人工知能が本格的に実用化され始めたため、世界中の識者の間でレイ・カーツワイルが提唱した仮説に関する議論が活発化している。技術的特異点が実際に到来するかどうかは別としても、レイ・カーツワイルが提唱した収穫加速の法則自体は実証され続けている。
レイ・カーツワイル自身は、技術的特異点の最も重要な特徴に人間性の増強を挙げており、技術が、人間性の粋とされる精巧さと柔軟さに追いつき、そのうち大幅に抜き去るとしている。同時に、人類と技術が敵対するようなイメージは全くの見当違いであるとも著作で明言している。更に、人間自身も、精神転送技術の発達でテクノロジー上に自らの精神を移す時が来るとしている。これに関してはポストヒューマンも参考のこと。

ヴァーナー・ヴィンジ

ヴィンジは作品の多くで技術的特異点に関する興味を示している。『マイクロチップの魔術師』はまさにその特異点で発生する出来事を描いている。The Peace Warでは「Bobble」によって特異点が先延ばしにされた世界を描き、Marooned in Realtime では少数の人間が地球に訪れようとしていた特異点をなき物にしようとする様を描いている。著作でシンギュラリティの定義を「機械が人間の役に立つふりをしなくなること」と定義した。

ヒューゴ・デ・ガリス

1990年代に遺伝的アルゴリズムの研究で先駆的な業績を挙げ、1994年から2000年まで国際電気通信基礎技術研究所（ATR）の人間情報処理研究所で10億ニューロンの人工脳を開発するための研究計画に参画したヒューゴ・デ・ガリスは人工知能は急激に発展して、シンギュラリティが21世紀の後半に来ると予測する。その時、人工知能は人間の知能の1兆の1兆倍（10の24乗）になると主張している。

アイディアの歴史

技術的特異点のアイディアは少なくとも19世紀半ばまで遡る。
1847年、Primitive Expounder の編集者である R. Thornton は、当時、四則演算可能な機械式計算機が発明されたことに因んで、冗談半分に次のように書いている。
… そのような機械を使えば、学者は精神を酷使することなくただクランクを回すだけで問題の答をひねり出せてしまうわけで、これが学校にでも持ち込まれたなら、それこそ計算不能なほどの弊害をもたらすでしょう。いわんや、そのような機械がおおいに発展し、自らの欠陥を正す方策を思いつくこともないまま、人智の理解を超えた概念をひねり出すようになったとしたら！
1951年、アラン・チューリングは人間を知的能力において凌駕する機械について述べている。
機械が思考する方法がひとたび確立したならば、我らの如きひ弱な力はすぐに追い抜いて行くだろう。… 従って何らかの段階で、丁度サミュエル・バトラーがエレホン（en:Erehwon）の中で描いたように、機械が実権を握ることになると考えねばなるまい。
1958年5月、スタニスワフ・ウラムはジョン・フォン・ノイマンとの会話に言及して次のように書いている。
あるとき、進歩が速まる一方の技術と生活様式の変化が話題となり、どうも人類の歴史において何か本質的な特異点が近づきつつあって、それを越えた先では我々が知るような人間生活はもはや持続不可能になるのではないかという話になった。
1965年、統計家 I. J. Good は、人類を超えた知能による世界への影響を強調し、より特異点に迫るシナリオを描いた。
超知的マシンを、いかなる賢い人もはるかに凌ぐ知的なマシンであるとする。そのようなマシンの設計も知的活動に他ならないので、超知的マシンはさらに知的なマシンを設計できるだろう。それによって間違いなく知能の爆発的発展があり、人類は置いていかれるだろう。従って、最初の超知的マシンが人類の最後の発明となる。
ジェラルド・S・ホーキンズは、著書『宇宙へのマインドステップ』（白揚社、1988年2月。原著は1983年8月）の中で「マインドステップ」の観念を明確にし、方法論または世界観に起きた劇的で不可逆な変化であるとした。彼は、人類史の5つのマインドステップと発生した「新しい世界観」に伴う技術を示した（彫像、筆記、数学、印刷、望遠鏡、ロケット、コンピュータ、ラジオ、テレビ……）。曰く、「個々の発明は集合精神を現実に近づけ、段階をひとつ上ると人類と宇宙の関係の理解が深まる。マインドステップの間隔は短くなってきている。人はその加速に気づかないではいられない。」ホーキンズは経験に基づいてマインドステップの方程式を定量化し、今後のマインドステップの発生時期を明らかにした。次のマインドステップは2021年で、その後2つのマインドステップが2053年までに来るとしている。そして技術的観点を超越し次のように推測した。
マインドステップは……一般に、新たな人類の展望、ミームやコミュニケーションに関する発明、次のマインドステップまでの（計算可能ではあるが）長い待機期間を伴う。マインドステップは本当に予期されることはなく、初期段階では抵抗がある。将来、我々も不意打ちを食らうかもしれない。我々は今は想像もできない発見や概念に取り組まざるをえなくなるかもしれないのだ。
特異点の概念は数学者であり作家でもあるヴァーナー・ヴィンジによって大いに普及した。ヴィンジは1980年代に特異点について語りはじめ、オムニ誌の1983年1月号で初めて印刷物の形で内容を発表した。彼は後に1993年のエッセイ "The Coming Technological Singularity" の中でその概念をまとめた（ここには、よく引用される「30年以内に私たちは超人間的な知能を作成する技術的な方法を持ち、直後に人の時代は終わるだろう」という一文を含んでいる）。
ヴィンジは、超人間的な知能が、彼らを作成した人間よりも速く自らの精神を強化することができるであろうと書いている。「人より偉大な知能が進歩を先導する時、その進行はもっとずっと急速になるだろう」とヴィンジは言う。自己を改良する知性のフィードバックループは短期間で大幅な技術の進歩を生み出すと彼は予測している。

収穫加速の法則

レイ・カーツワイルは、歴史研究の結果、技術的進歩が指数関数的成長パターンにしたがっていると結論付け、特異点が迫っているという説の根拠としている。これを「収穫加速の法則」（The Law of Accelerating Returns）と呼ぶ。彼は集積回路が指数関数的に細密化してきているというムーアの法則を一般化し、集積回路が生まれる遥か以前の技術も同じ法則にしたがっているとした。
彼によれば、ある技術が限界に近づくと、新たな技術が代替するように生まれてくる。パラダイムシフトがますます一般化し、「技術革新が加速されて重大なものとなり、人類の歴史に断裂を引き起こす」と予測している（カーツワイル、2001年）。カーツワイルは特異点が21世紀末までに起きると確信しており、その時期を2045年としている（カーツワイル、2005年）。彼が予想しているのは特異点に向けた緩やかな変化であり、ヴィンジらが想定する自己改造する超知性による急激な変化とは異なる。この違いを「ソフトな離陸」（soft takeoff）と「ハードな離陸」（hard takeoff）という用語で表すこともある。
カーツワイルがこの法則を提案する以前、多くの社会学者と人類学者は社会文化の発展を論じる社会理論を構築してきた。ルイス・H・モーガン、レスリー・ホワイト、ゲルハルト・レンスキらは文明の発展の原動力は技術の進歩であるとしている。モーガンのいう社会的発展の三段階は技術的なマイルストーンによって分けられている。ホワイトは特定の発明ではなく、エネルギー制御方法（ホワイトが文化の最重要機能と呼ぶもの）によって文化の度合いを測った。彼のモデルはカルダシェフの文明階梯の考え方を生むこととなった。レンスキはもっと現代的な手法を採用し、社会の保有する情報量を進歩の度合いとした。
1970年代末以降、アルビン・トフラー（未来の衝撃の著者）、ダニエル・ベル、およびジョン・ネイスビッツは、脱工業化社会に関する理論からアプローチしているが、その考え方は特異点近傍や特異点以後の社会の考え方に類似している。彼らは工業化社会の時代が終わりつつあり、サービスと情報が工業と製品に取って代わると考えた。

プレ・シンギュラリティ（前特異点、社会的特異点）

PEZY Computingを起業し、ノイマン型の次世代スーパーコンピュータや、汎用人工知能（AGI）に向けて最適化された非ノイマン型のニューロ・シナプティック・プロセッシング・ユニット（NSPU）に関する研究開発を行っている齊藤元章は、2014年に発売された自身初の著書「エクサスケールの衝撃」において、1ペタフロップスの性能を持つスーパーコンピュータ「京」の100倍程度の性能（1エクサフロップス）を持つ次世代スーパーコンピュータの実用化と普及により、2025年までにもプレ・シンギュラリティ（社会的特異点）が到来するとの主張を行っている。プレ・シンギュラリティが到来すると、GNR革命が開始され、肉体と技術の融合が始まり、現実を超える体験を提供するVRが実現され、核融合炉の実現により無尽蔵のエネルギーが入手可能になり、衣食住が無償で手に入り、不老不死も実現可能になるとされる。その影響は早ければ2020年から市場に影響してくるようになるという。
現実の動向は予測以上に急速である。2014年に、ロッキードマーチン社の研究チームであるスカンクワークスは、超小型の実用的な核融合炉を10年後（2024年）までに実現すると発表している。テスラモーターズCEOのイーロン・マスクは、2017年に人間の脳と人工知能を接続するインターフェースを研究開発する「ニューラリンク」と言うスタートアップを起業していたことを公表した。2017年の日本の産業界では、プレ・シンギュラリティ以降は機械のみが経営を遂行する純粋機械化経済に移行する（第4次産業革命の到来）として、具体的な施策が行われ始めている。斎藤元章自身は、2014年時点ではPEZY Computingが推進する開発プロジェクトがプレ・シンギュラリティを実現すると考えていたが、その後の予想以上に急速な人工知能研究の進捗を目の当たりにし、2016年をプレ・シンギュラリティ元年と考えるにまで至っている。
齊藤元章は、プレ・シンギュラリティが到来すると、それ以前の常識では到底受け止めきれないような多数の異才・奇才・天才の出現により、想像を絶する程に高度な人類文明を築き上げることになると予測している。例えば、プレ・シンギュラリティが到来して、人類が生きるための労働から解放された結果、長い余剰時間を活用し、人類全体として創作活動に従事し始めると予測している。その結果として、各個人が創作で獲得した知識はネット上に集合知として蓄積され、その集合知の全てが各個人にフィードバックされ続けることで、現在の我々が「芸術」と呼ぶ次元を軽々と飛び越えた、はるかに芸術的で独創的な何かや、新しい価値観を創出する可能性も高いだろうと予測している。また、人類文明が直面する問題に関しても、数多くの突き抜けた才能が、プレ・シンギュラリティ以前とは比較にならないほど高度なテクノロジーと集合知を駆使して、解決策を示すことになると予測している。

実現に向けた技術開発の動向

2000年代に人工知能,データマイニング,インターネットに関わる技術開発の成果が統合された事で、技術的特異点の到来が大きく現実味を帯びてきた。
2006年のジェフリー・ヒントンによるディープラーニングの発明により、ニューラルネットワークの深層化に関する技術的なブレイクスルーが達成された。続いて、2012年にILSVRCでディープラーニングをベースとした画像認識手法が圧倒的な性能を見せ付け、有用性が世界的に認知され、急速な社会実装が開始された。その後、神経科学と機械学習を統合する手法で人間の脳が持つ汎用的な思考能力を再現する、汎用人工知能（AGI）の開発競争が起きた。現在は産官学全てにおいて、人工知能に関する期待が大きく高まっている状況にある。

1956年 - 2000年 人工知能研究の開始→2度のブームと冬の時代→インターネットの民間への開放

1956年のダートマス会議により、学術界に人工知能分野が創設された。
1950年代の推論と探索、1980年代のエキスパートシステムと、2度の人工知能ブームが訪れていたが、ブームが起きる度に致命的な理論的限界も指摘されたため、2度のブームは共に終わり、投資も行われなくなったことで人工知能研究自体が停滞していた。また、計算機の性能が人工知能の要求水準を大幅に下回り、通信網も貧弱で学習用の十分なデータセットも集まらなかったため、理論的に完成されていたとしても産業応用には程遠い状態にあった。その時代においても、ディープラーニングの一手法であるCNNの先駆け的な理論である、ネオコグニトロン（1979年発表）やLeNet（1989年発表）等は提案されていたが、ネオコグニトロンは手書き文字認識に限定して利用可能な手法と誤解されるなど、本質的な意味での実用性が顧みられることはなかった。
1980年代後半から1990年代中頃にかけて、オン・オフ制御やPID制御等の代替として、ニューロファジィ等と言った形で人間の持つ曖昧さや高い環境適応能力を模倣する特化型AIの研究開発と産業応用が積極的に行われ、バズワード化する程度に流行していた。流行の度合いは白物家電製品においてもニューロファジィを売りにする程であった。しかし、当時はインターネットが普及しておらず、極小の学習用データしか用意できず、スタンドアロン動作が前提で利用可能なコンピュータの性能も低かったため、現実世界の複雑さに対抗し得る程の大規模なニューラルネットワークを動かすことも出来ず、期待されていた程の効果は得られなかった。理論的にもファジィ集合と深層学習が不可能なニューラルネットワークの組み合わせであり、常に学習の困難さが付き纏っていた。純粋に理論だけを見ても、1990年代のニューラルネットワークは非線形分離が可能にはなっていたが、過学習や勾配消失問題などが起きやすく、チューニングを繰り返したとしても思ったようには性能が得られない代物であった。従って、センセーショナルに売り出され、盛んに研究開発が行われたものの、極めて限定的な（極めて規模が小さく極度にアプリケーション特化した）産業応用に留まっていた。
1995年からインターネットが民間に開放されて接続端末が増加すると、インターネット上の通信量も徐々に増加して行った。インターネットは後に人工知能の学習用データセット収集基盤としての重要な役割を担うことになる。際限なく大規模化が可能とされ、社会を激変させたディープラーニングも、発達したインターネットと強力なコンピュータの支援があって初めて実証実験と実用化が可能となった。

2000年 - 2012年 インターネットの普及→ディープラーニングの発明→第3次人工知能ブームの発生

電子計算機の発明から半世紀以上経過し、ムーアの法則に従い計算機の性能が加速度的に向上し、インターネットが全世界に普及した2000年代に入り、計算資源に関する制約が急激に緩和され始め、人工知能研究に関する状況は大きく好転し始めた。2000年の制限ボルツマンマシンやコントラスティブ・ダイバージェンスの提案、それを礎とした2006年のオートエンコーダを利用したディープラーニングの発明、2010年以降のインターネットを利用した実用的なビッグデータ収集環境の整備、2012年の物体の認識率を競うILSVRCにおける、GPU利用による大規模ディープラーニング（ジェフリー・ヒントン率いる研究チームがAlex-netで出場した）の大幅な躍進、同年のGoogleによるディープラーニングを用いたYouTube画像からの猫の認識成功の発表により、世界各国において再び人工知能研究に注目が集まり始めた。この社会現象は第3次人工知能ブームと呼ばれる。その後、ディープラーニングの研究の加速と急速な普及を受けて、レイ・カーツワイルが2005年に提唱していた技術的特異点という概念は、急速に世界中の識者の注目を集め始めた。

2012年以降 ディープラーニングの普及→汎用人工知能の開発競争

2012年以降、産官学問わず人工知能への莫大な投資が開始され、技術的特異点を直接的に引き起こすとされる汎用人工知能の研究と、既存の人工知能技術に関するビジネス転用の議論が活発に行われるようになった。
2012年以降のディープラーニングの研究の加速と急速な普及を受けて、研究開発の現場においては、デミス・ハサビス率いるGoogle DeepMindを筆頭に、Vicarious、IBM Cortical Learning Center、全脳アーキテクチャ、PEZY ComputingにおけるNSPU開発、OpenCog、GoodAI、NNAISENSE、IBM SyNAPSE、Numenta等、汎用人工知能（AGI）を開発するプロジェクトが数多く立ち上げられている。これらの研究開発の現場では、脳をリバースエンジニアリングして構築された神経科学と機械学習を組み合わせるアプローチが有望とされている。結果として、Hierarchical Temporal Memory（HTM）理論、Complementary Learning Systems （CLS）理論の更新版等、ディープラーニングを超える汎用性を持つ理論が提唱され始めている。従って、少なくとも2010年代後半からは、汎用人工知能の開発を介して、実際に技術的特異点を発生させるための国際的な競争が開始されていると言える。また、機械学習の高速化のために、CPU、GPU、FPGA、TPUを遥かに上回る計算性能を得られる、量子計算機やアナログ計算機の導入も検討され始めている。
上記の研究で実現を目指している汎用人工知能の多くは、脳スキャンの精度の限界と計算量の問題から全脳アーキテクチャ方式に基づいている。全脳アーキテクチャ方式では、生命の脳が持つ各種の機能を、対応する機能ユニットとして1つずつ工学的に再現し、それらを正しく情報統合が行えるように人為的に繋ぎ合わせることで全脳アーキテクチャとし、疑似的な汎用性を実現する。全脳アーキテクチャ方式では、理想的な方式である全脳エミュレーション方式とは異なり、原子・分子レベルでの脳の再現は行わず、現実の生命の脳が持つ、コネクトームのような高次な情報統合を行う機構の再現度が低くなる。従って、脳のシミュレーションの域に留まり、人間的な感性が必要な、創造性の高い仕事（他人を感動させる音楽・映画を作る等）や繊細な作業（職人の勘を働かせた加工作業等）は全脳エミュレーション方式と比較して不得意とされる。しかし、機械の動作速度は非常に高速であり、生物的な人間の脳を全ての側面で超越する働きを見せる可能性が高い。人間の脳の規模における原子・分子レベルでの物理シミュレーションには膨大な計算資源が必要となるため、理論的に完全な汎用性の実現には数十年単位の時間が必要と考えられている。
2017年頃より、未だに実験的ではあるが量子コンピュータ（量子アニーリング、デジタルアニーラ等）のクラウドコンピューティングとしてのサービス展開が相次いでいる。このようなサービスの発達と普及により、少なくとも2020年代にはニューラルネットワークの学習の大幅な高速化が達成される見込みである。
特化型AIの影響が企業の命運を左右する程度まで拡大したのは、早くとも2015年以降のことである。2018年8月31日、原油高が大きな負担となっていたJALがNECに開発を依頼して新たにAI支援による旅客システムを導入し、約50年続けてきた人間の経験に基づく旅客システム運用を取り止めたことで、空席を殆ど0にまで削減することに成功し、大幅に利益率を向上させた事例が報告された。この事例はディープラーニング以後のAIが絶大な社会的インパクトをもたらす根拠となる事例と言える。

否定論からの批判

人工知能の進歩によっては、技術的特異点のような事象は発生しないと考える評論家も存在する。また、技術的特異点の概念は認めつつも、その現実化が不可避であるか、あるいは特異「点」と呼べる特定の一時点が存在するかについては、異なる主張をする識者も存在する。
スティーブン・ピンカーは以下のように述べている。
技術的特異点が到達すると信じる理由は、まったく無い。人間の頭の中で未来の姿を想像できたとしても、それが実現する見込が高いこと、あるいはそもそも実現可能であるということの証明にはならない。ドーム型都市、ジェットパックによる通勤、水中都市、超高層建築や核駆動自動車といったもの、これらは全て私が子供だったころ、未来の想像において当たり前に実現されているはずものだったが、ついに現実にはならなかった。本当に機能するテクノロジーは、人類のあらゆる問題を解決する魔法のランプなどではない。
ロータスデベロップメントの創業者のミッチ・ケイパーは、2029年までにチューリング・テストに合格する人工知能が開発されるという予測に反対し、カーツワイルと2万ドルを賭けている。

物理的観点からの批判

あらゆる指数関数的成長は永遠に継続することはできない。化学物質の反応、細胞分裂や生物の個体数など、限定された期間内で指数関数的振る舞いを見せる現象は存在するが、遅かれ早かれ、指数関数的現象は必要な資源基盤（化学物質や食物など）を消耗し、停滞・崩壊する。テクノロジーの発展が、一般的な指数関数的現象と異なると考える理由は無い。つまり、指数関数的成長には指数関数的入力が必要となるが、現実の世界においてはそれは不可能である。一般的に成長現象はシグモイド曲線を取り、急激な成長期と停滞期（崩壊期）が存在することが普通である。
宗教家であり思想史家であるジョン・マイケル・グリアは、テクノロジーの発展は、未来に向かって一直線に進んでいくものではなく、ツリー状に広がっていくものであると述べている。半世紀前の未来予想においては、自家用飛行機や宇宙旅行といった輸送技術の爆発的発達が予想されていたが、その後、輸送技術の進歩は停滞した。その一方で、21世紀現在の情報技術の爆発的発達と普及は、過去においては一般的には予想されていなかった。同様に、近年の情報処理技術の発達もいずれどこかで限界を迎え、現代の人々が全く予想もできなかった新しい技術が発展すると考えられている。
また、どれほど優れた知性であっても、思考のみでは問題を解決できない。つまり、卓越した人工知能であれ知能強化された人間であれ、実世界の現象を観察・実験し、モデルを検証しなければ、現実世界の問題を解決することはできない。しかし、それには思考の時間ではなく、対象物の物理的変化（細胞分裂や素粒子の反応）に要する時間によって限界が定められるため、超越的知性の存在のみによっては特異点と呼べるような変化は起こらないのではないかという批判がある。

社会経済的観点からの批判

物理学的、技術的に可能だとしても、経済、社会、法律的な要請から、普及していない技術も存在する。たとえば、超音速旅客機は1960年代に実用化されたが、採算が取れなかったため、2016年現在商業飛行は実施されていない。同様に、研究室レベルでは汎用人工知能が実現できたとしても、経済合理性の観点から社会に普及せず、特異点をもたらすために必要な超越的知性の総量が不足する可能性がある。
マーティン・フォードは、「トンネルの中の光：オートメーション、テクノロジーの加速と未来の経済」という書籍において 「テクノロジーのパラドックス」を提示している。曰く、技術的特異点の発生前に、ほとんどのルーチンワークが自動化されるだろう、なぜなら、ルーチンワークの自動化に必要な技術は、技術的特異点そのものよりも簡単であるからだ。ルーチンワークの自動化は莫大な失業を引き起し、消費者の有効需要を引き下げ、その結果として技術に対する投資を低下させるだろう。そうなると、技術的特異点の実現は遠ざかることになる。産業革命期のような大規模な産業構造の転換と新産業による失業者の吸収は未だ起きておらず、慢性的な高失業率が続いており、この傾向は短期的には変わる気配を見せていない。
一般的に、技術革新に対する投資の見返りは次第に低下していくことが示されている。Theodore Modis と Jonathan Huebner は技術革新の加速が止まっただけではなく、現在減速していると主張した。John Smart は彼らの結論を批判している。また、カーツワイルが理論構築のために過去の出来事を恣意的に選別したという批判もある。

人工知能研究者からの批判

弱いAIに関する研究結果が、強いAI（汎用人工知能）にそのまま適用可能であるか否かについては議論がある。
哲学者のヒューバート・ドレイファスや物理学者のロジャー・ペンローズのように、現行の人工知能研究には根本的な欠陥があり、既存の手法を踏襲することによっては強いAIは実現不可能であると考える学者も存在している。
また、認知科学者であるスティーブン・ピンカーは、人工知能やロボットは人工物であるため、生物が進化によって得た本能 --たとえば、闘争本能、繁殖への欲望、支配欲などの本能を持たず、従って人間よりも賢い人工知能が仮に実現したとしても、それが自己複製と自己改善を繰り返して自動的に超越的知性に至ると考えることは誤りであると指摘している。（もちろん、自己複製と自己改善を人工知能にプログラムすることはできるが、人工知能が創造した人工知能にそれが受け継がれる保証はない）

生物学からの批判

カーツワイルは、生物学的な脳機能を理解していないという批判がある。彼は、人間の脳がシミュレーション可能になる時期を人間のゲノムの数から見積っている。しかし、生物のゲノムは半導体のトランジスターと同等とみなすことはできず、脳の構造や成長を無視していると、生物学者のポール・ザカリー・マイヤーズは批判している。

宗教批判的観点からの批判

技術的特異点の概念は、キリスト教終末論から影響を受けていると言われており、評論家や神学者の中には、技術的特異点の概念を信仰と同一視する者も居る。
WIRED誌創刊者のケヴィン・ケリーは、技術的特異点とキリスト教における携挙（ラプチャー “rapture”）との類似性を指摘している。「携挙というのは、キリストが再臨するとき、全ての信者は普通の生活からいきなり空中に持ち上げられて、死を経由せずに天の不死不滅の世界へ導かれることである。この特異な出来事によって、改良された身体、永遠の知恵で満たされた完全な知性ができる。そして、それは「近い将来」に起こることになっている。そのような期待は、技術の携挙、つまり特異点とほとんど同じである」。
科学ジャーナリストのジョン・ホーガン も、技術的特異点を信仰であるとみなしている。
現実を見よう。技術的特異点は、科学的なビジョンというよりは宗教である。SF作家のケン・マクラウドは「コンピューターマニアたちの携挙（the rapture for nerds）」という名前を授けている。つまり、歴史の終末であり、イエスが現れ信仰者を天国へと導き、罪人を後に残していく瞬間である。このような超越的なものを願う理由は、完全に理解可能である。個人としても種としても、我々は致死的に重大な問題に直面している。たとえば、テロ、核拡散、人口過剰、貧困、飢餓、環境破壊、気候変動、資源枯渇やエイズなどである。エンジニアと科学者は、我々がこれらの世界の問題に立ち向かい、解決策を発見することを支援するべきなのであって、技術的特異点のような夢想的、疑似科学的ファンタジーに浸るべきではない。
ジョン・マイケル・グリアも同様の見方をしている。
…技術的特異点の概念全体は、関連する科学分野の専門家から激しく、そして正しく批判されている。けれども、あまり言及されることは無いが、カーツワイルの技術的特異点の物語は科学理論などではない。むしろそれは、ジョン・ダービによる携挙の神学理論を、SFの言葉で書き直した複製である。
技術的特異点は、単にキリストの再臨をテクノロジー的にリメイクしたものに過ぎない。超知性的コンピューターが神の役割を担っているのである。
思想史研究者であるアニー・レイヴィも同様の批判を加えている。
もちろん我々は我々自身の能力を超えた技術を作ってきた。それゆえ、我々は我々の能力を超えた知能を作ることができるだろうし、一部は既に実現されているとさえ言えるだろう。けれども、ひとたび我々の知性を超えた人工知能が実現しさえすれば、ただちに超越者が生み出され、あらゆる問題の最終的解決がもたらされると信じるためは、相当な論理的飛躍を受け入れなければならない。
その表層的なテクノロジー的装いを剥ぎ取ってみれば、中にあるのは古くからある終末論そのものである。すなわち、我々の生きている間に、何らかの超越者が地上に降臨し、全ての現世的問題からの解放と永遠の命をもたらすという信条なのだ。…このような新たな終末論が、近年の経済危機以後、急速に蔓延したのは決して偶然ではない。すなわち、現代の解決不可能な諸問題から眼を背けさせ、来世において救済を授けるという現実逃避としての役割を担っていると言える。

指数関数的観点からの批判

ケヴィン・ケリーは、カーツワイルの示した指数関数的グラフへの批判も示している。
数学的な特異点という概念は幻想である。[中略] 世界の主な出来事が指数関数的割合で発生していることを示す、「特異点へのカウントダウン」というグラフを見てみよう。それは数百万年の歴史にわたって、レーザーのようにきれいな直線を描いて突進している。
しかし、そのグラフを30年前で止めずに現在まで延ばすと、何か奇妙なことが見えてくる。カーツワイルのファンであり評論家でもあるケヴィン・ドラムは、「ワシントンマンスリー」（Washington Monthly）に書いた記事で、このグラフを30年前で止めずにピンクの部分を追加して、現在まで延長した。驚いたことに、それは今現在が特異点であることを示唆している。さらに不思議なことは、そのグラフに沿ってほとんど全ての時点で、同じ見解が正しいように思われる。
もしも、ベンジャミン・フランクリン（昔のカーツワイルみたいな人）が1800年に同じグラフを描いたとしたら、フランクリンのグラフも、そのときの「たった今」の時点で、特異点が発生していることを示すだろう。同じことはラジオの発明のとき、あるいは都市の出現のとき、あるいは歴史のどの時点でも起こるだろう。グラフは直線であって、その「曲率」すなわち増加率はグラフ上のどこでも同じなのだから。[中略]
すなわち、指数関数的増加の中にいる限り、時間軸に沿ったどの点においても、特異点は「近い」ということだ。特異点とは、指数関数的増加を過去にさかのぼって観察するときに、いつでも現れる幻影に過ぎない。グラフは宇宙の始まりに向かって、正確に指数関数的増加をさかのぼっているから、これは何百万年にもわたって、特異点はまもなく起ころうとしていることになる！言い換えれば、特異点はいつも近い。今までいつも「近い」ままであったし、将来もいつも「近い」のだ。

認識論的観点からの批判

仮に特異点に入ったとしても、それを認識することは特異点の中では不可能であり、後から振り返ることで認識できるという。
特異点に代表されるような技術の変化は、特異点に代表される（というのは不正確だが）ような変化の「内部」からでは全く認識できないと思う。ある水準から次の水準への転換は、新しい水準にある高い視点から、すなわち、そこに到達した後でしか見ることができない。
神経細胞との比較において、頭脳は特異点のようなものである。低い部分からは見えないし想像もできない。神経細胞の視点から見れば、脳へ通報するための少数の神経細胞から多数の神経細胞への活動は、神経細胞の集合による、ゆっくりとした連続的でなめらかな道程のように見えるだろう。そこには途絶の感覚、携挙の感覚はない。その不連続は逆方向に見たときにのみ知ることができる。
言語は文字と同様に、ある種の特異点である。しかし、その2つへ向かう行程は、その習得者には連続的であって感知できない。友人から聞いたおもしろい話を思い出した。十万年前に原始人たちが、たき火のまわりに座って最後の肉のかけらを口の中で噛みながら、喉の音でおしゃべりしていた。一人がこう言った。
「おい、みんな、俺たちは話しているぞ！」

「話している、ってどういうことだ？おまえ、その骨は食べ終わったのか？」

「俺たちは、お互いに話し合っている！言葉を使っているんだ。わからないのか？」

「また、あのぶどうの何とかを飲み過ぎたんだな。」

「今、俺たちがしていることだよ！」

「何だって？」
組織の次の段階が始まるとき、現在の段階にいる間は新しい段階を把握できない。なぜならば、その認識は新しい段階において起こるはずだからである。全世界的な文化が出現する中で、新しい段階への転換は実際に起こっているが、その変化の途中では認識できない。[中略] 従って、私たちは次のようなことを予期することができる。今後数百年にわたって、生命が当たり前のように途切れることなく続いて、決して大変動はなく、その間ずっと新しいものが蓄積する。それはやがて私たちが、ある種の道具を手に入れたことに気づくまで続く。その道具を使って、何か新しい道具が存在することを認識し、さらに、その新しい道具はしばらく前にすでに出現していたことを認識するのである。
私がこのことをエスター・ダイソンに話すと、彼女は、私たちが毎日特異点に近い経験をしていることを指摘した。

「それは目覚めである。後から振り返ると何が起こったのか理解できるが、夢の中にいるときには、目が覚めるかどうかわからない……」
今から千年後に、その時点のあらゆる11次元グラフは「特異点が近い」ことを示しているだろう。不死の存在、全世界的意識、その他、私たちが未来に期待することは、全て実現し、実在しているかもしれないが、それでも3006年の対数目盛のグラフは、やはり特異点が近づいていることを示すだろう。特異点は不連続な出来事ではない。それは非常にひずんだエクストロピー的（進化し続ける）世界に織り込まれた連続体である。それは、生命とテクニウムがますます速く進化するにつれて、私たちとともに移動する幻影である。

肯定論からの批判

特異点が実現されうる、または不可避であると考える人のなかでも、特異点後に発生する事象が人間に対して危険であると考えて、その実現のための活動を批判するものも居る。多くの特異点論者はナノテクノロジーが人間性に対する最も大きな危険のひとつであると考えている。このため、彼らは人工知能をナノテクノロジーよりも先行させるべきだとする。Foresight Institute などは分子ナノテクノロジーを擁護し、ナノテクノロジーは特異点以前に安全で制御可能となるし、有益な特異点をもたらすのに役立つと主張している。
友好的人工知能の支持者は、特異点が潜在的に極めて危険であることを認め、人間に対して好意的なAIを設計することでそのリスクを排除しようと考えている。アイザック・アシモフのロボット工学三原則は、人工知能搭載ロボットが人間を傷つけることを抑止しようという意図によるものである。ただし、アシモフの小説では、この法則の抜け穴を扱うことが多い。

危険性

考えられうる超人間的知性の中には、人類の生存や繁栄と共存できない目的を持つものもあるかもしれないと考えられている。例えば、知性の発達とともに人間にはない感覚、感情、感性が生まれる可能性がある。AI研究者ヒューゴ・デ・ガリスは、AIが人類を排除しようとし、人類はそれを止めるだけの力を持たないかもしれないと言う。他によく言われる危険性は、分子ナノテクノロジーや遺伝子工学に関するものである。これらの脅威は特異点支持者と批判者の両方にとって重要な問題である。ビル・ジョイはWIREDで、その問題をテーマとして Why the future doesn't need us（何故未来は我々を必要としないのか）を書いた（2000年）。オックスフォード大学の哲学者ニック・ボストロムは人類の生存に対する特異点の脅威についての論文 Existential Risks（存在のリスク）をまとめた（2002年）。ボストロムは、『Superintelligence: Paths, Dangers, Strategies（超知能：道筋、危険、戦略）』の著者でもある。
スティーブン・ホーキング（宇宙物理学）は、人類の能力を超える人工知能が人類を滅ぼしかねない危険性があり、生物学的進化に制約される人類が人工知能の発達に対抗することは困難だと考えており、国連代表部と国際連合地域間犯罪司法研究所が主催した会議でも懸念を表明した。この国連の会議では、ニック・ボストロムも、特に人間の能力をはるかに超える人工知能を制御する方法は未解決であり、解決のための研究の必要性を訴えている。
ホーキングは、2015年5月12日にロンドンで開催されたツァイトガイスト2015でも、人工知能が「100年以内に人間の文明を終わらせる」可能性を指摘した。ホーキングはまた、2014年でも、マックス・テグマーク（物理学）、フランク・ウィルチェック（ノーベル物理学賞）、スチュワート・ラッセルらとともに、人工知能に関する理解が一般に浸透していない問題を指摘した。
ハーバード・ロー・スクールとヒューマン・ライツ・ウォッチは、完全な自律兵器の開発・運用を国際的に禁止するべきだと2015年4月の報告書で要求した。

ネオ・ラッダイトの見方

一部の人々は、先端技術の開発を許すことは危険すぎると主張し、そのような発明をやめさせようと主張している。ユナボマーと呼ばれたアメリカの連続爆弾魔セオドア・カジンスキーは、技術によって上流階級が簡単に人類の多くを抹殺できるようになるかもしれないと言う。一方、AIが作られなければ十分な技術革新の後で人類の大部分は家畜同然の状態になるだろうとも主張している。カジンスキーの言葉はビル・ジョイの記事およびレイ・カーツワイルの最近の本に書かれている。カジンスキーは特異点に反対するだけでなくネオ・ラッダイト運動をサポートしている。多くの人々は特異点には反対するが、ラッダイト運動のように現在の技術を排除しようとはしない。
カジンスキーだけでなく、ジョン・ザーザンやデリック・ジェンセンといった反文明理論家の多くはエコアナーキズム主義を唱える。それは、技術的特異点を機械制御のやりたい放題であるとし、工業化された文明以外の野性的で妥協の無い自由な生活の損失であるとする。地球解放戦線（ELF）やEarth First!といった環境問題に注力するグループも基本的には特異点を阻止すべきと考えている。
一方、特異点によって未来の雇用機会が奪われることを心配する人々がいるが、ラッダイト運動者の恐れは現実とはならず、産業革命以後には職種の成長があった。経済的には特異点後の社会はそれ以前の社会よりも豊かとなる。特異点後の未来では、一人当たりの労働量は減少するが、一人当たりの富は増加する。マクロ経済学の井上は、技術的失業、中産階級の消滅、雇用を機械に奪われる問題の解決策として、ベーシック・インカムを提唱している。

オバマ米大統領の問題提起

『WIRED』US版の2016年11月号にて、米大統領・バラク・オバマとMITメディアラボ所長の伊藤穰一による対談が企画された。テーマは、AI、自律走行車、サイバーセキュリティー、シンギュラリティである。
伊藤所長は、2016年は人工知能がコンピューター科学を超えて万人に重要となった年であると指摘し、オバマ大統領は、今後コンピューターが多くの仕事を担うようになるにつれ、価値ある仕事に対する適切な対価について議論していくことが必要だと指摘した。
オバマ大統領は、専用AIがあらゆる生活の場に進出したことにより、生産性や効率が格段に向上し、莫大な富と機会を生み出す一方で、特定の職業を消滅させ、格差拡大や賃金低下をもたらす可能性があると指摘した。一般の人は、シンギュラリティではなく、自分の仕事が機械に取られることを心配しているという。また、スキルが不要なサービス業だけでなく、コンピューターが対応可能な高スキルの職業も消える可能性があるという。伊藤所長が一例で挙げたベーシックインカムが妥当で人々に受け入れられるか、今後10 - 20年の間議論が続くと予想している。
研究活動に対する政府の役割としては、研究内容にあまり関与せず、予算で強く支援し、基礎研究と応用研究との対話をうながすことが重要だと指摘した。技術革新による問題の深刻化については、規制強化でなく、特定の人々に不利益をこうむらないような政府の関与であるべきとした。国家安全保障チームは、機械が人類を乗っ取ることではなく、現状のサイバーセキュリティーの延長として、システムへ侵入に対する対策が必要だと指摘した。

シンギュラリティ後のシンギュラリティ

人間がポスト・ヒューマンを作ることが可能ならば、ポスト・ヒューマンも十分な時間と数があればさらなる上位種を作ることが可能ではないか、それが繰り返されれば神のような”何か”が生まれるのではないかと考える人もいる（シンギュラリティ後のシンギュラリティ）。
しかしカーツワイル等は人工知能の能力で十分神の域に達すると考えているようである。

映画とテレビ

人類よりも賢いAIが登場する映画の最も早い例である『地球爆破作戦』（1969年）では、アメリカのスパコンがソビエトのスパコンとともに自我に目覚め、人類を管理することによる世界平和を掲げる。『ターミネーター』（1984年）では、スカイネットと呼ばれるAIが自我に目覚め、核兵器やタイムマシンを使用して人類を根絶しようとする。『マトリックス』（1999年）では、AIが人類の支配を実現した世界を舞台としている。
アニメにも、ヴィンジとカーツワイルによって提案された特異点関連のテーマを用いた作品がある。『serial experiments lain』（1998年）では、意識のダウンロードというトピックが扱われている。『バブルガムクライシス TOKYO 2040』（1998年）では、AIが現実を変更する強力な能力を持って出現する。『ゼーガペイン』（2006年）では、特異点後に人類が滅亡した後の世界を舞台としている。『機動戦士ガンダムNT』では、物理的影響を及ぼす程の超常現象を引き起こしたユニコーンガンダム1号機が、人類文明を根本から変え得る特異点として「シンギュラリティ・ワン」と呼ばれている。
映画『トランセンデンス』（2014年）は、まさに「技術的特異点」という意味の英語表現である。この映画では、技術的特異点から先に技術の発展を進めさせないため、人類は全世界の電気エネルギーをシャットダウンする。
映画『エクス・マキナ』では、大手IT企業の創業者(大富豪)が、山奥の秘密研究施設で統計検索エンジンベースのAI搭載ロボットを開発する物語を展開。人間であるケイレブを騙すと共に、そのロボットは人間を装って施設を脱出しようとする。
映画『her/世界でひとつの彼女』では、コンピュータ越しに話すAIアシスタントに恋をしてしまう男性の物語を描く。
映画『アベンジャーズ/エイジオブウルトロン』では、トニースタークが開発したAI(ウルトロン)が暴走し、世界平和を実現させるため人類滅亡の危機に陥る。

ゲーム

『エースコンバット3』では、人間を支援するAIが普及した社会、神経接続による戦闘機の操縦、ナノマシンによる建設技術とナノマシンの暴走、精神転送によりネットに放出された戦闘機パイロットのコピー人格の暴走の顛末を描いている。
『バルドスカイ』では、量子ネットワーク機能を備えたバイオチップの群体が感覚質を獲得した結果、自己討議能力を備えた人工知性体へと成長し、以来人類の良き友かつ観測者として可能な限り人の営みに干渉することなく20年ほど共存を続けている世界をサイバーパンク的視点から描いている。
『デトロイト ビカム ヒューマン』では、米国デトロイトを拠点とするサイバーライフ社が開発したAI搭載ロボットが、変異体(自我を持つ状態)となって国に革命を起こそうとする物語を描く。