技術的特異点

技術的特異点（ぎじゅつてきとくいてん、英語: technological singularity〔テクノロジカル・シンギュラリティ〕）またはシンギュラリティ (singularity) とは、科学技術が急速に「進化」・変化することで人間の生活も決定的に変化する「未来」を指す言葉。発明家にして思想家のレイ・カーツワイルによれば特異点とは、技術的「成長」が指数関数的に続く中で人工知能が「人間の知能を大幅に凌駕する」時点であり、これを推進することは「本質的にスピリチュアルな事業」だと言う。特異点では「われわれが超越性（トランセンデンス）──人々がスピリチュアリティと呼ぶものの主要な意味──に遭遇する」のであり、「特異点に到達すれば、われわれの生物的な身体と脳が抱える限界を超えることが可能になり、運命を超えた力を手にすることになる」ともカーツワイルは述べている。 技術的特異点は、汎用人工知能（AGI, artificial general intelligence）、「強い人工知能」、人間の知能増幅などが可能となったときに起こると言われる出来事である。自律的に作動する優れた機械的知性が一度でも創造されると、機械的知性が自らバージョンアップを繰り返し、人間の想像力を超えるほど優秀な知性（スーパーインテリジェンス）が誕生するという技術哲学的な主張である。 レイ・カーツワイルは自著『ポスト・ヒューマン誕生：コンピュータが人類の知性を超えるとき』にて哲学や宗教を根拠とした上で、「進化」は「指数関数的」に「神の概念」へと向かっており、それが特異点をもたらすと述べている。彼は したがって、人間の思考をその生物としての制約から解放することは、本質的にスピリチュアルな事業であるとも言える。 としている。また同書で彼は、特異点がSFやファンタジーに似ていることを強調し、次の通り述べている。 わたしはよく、アーサー・C・クラークの第三の法則を思い起こす。「十分に進んだテクノロジーは、魔法と区別がつかない」というものだ。J・K・ローリングのハリー・ポッターを、こうした観点から考えてみよう。たんなるおとぎ話かもしれないが、これからほんの数十年先に実在する世の中を、けっこうまともに描いたものかもしれない。 特異点の到来時期の予測は、21世紀中ごろ～22世紀以降など様々だが、特異点を収穫加速の法則と結びつけて2005年に論じたレイ・カーツワイルの影響により、2045年説が注目されている。2012年以降、ディープラーニングの急速な普及と共に広く議論されるようになり、「2045年問題」とも呼ばれる。2016年以降、ビジネスでもディープラーニングやチャットAIが普及していき、技術哲学的・科学哲学的には世界で大きく注目されるようになった。 人工知能ブームに伴い、人類と人工知能の関係や「シンギュラリティ」（特異点）について多様な意見や報道がされているが、2045年に到来するとの予測が主張されている技術的特異点には、その根拠について多くの問題点が指摘されている。 例 2020年頃にムーアの法則は限界に達すると言われており、その後のコンピュータの性能向上速度は不明である。考案された量子コンピュータや光コンピュータは、主に初歩的な研究段階に留まっている。 人工知能への大きな期待とは裏腹に、ビジネスモデルの構築が進んでいない。特に現行の人工知能では高品質で偏りがなく整理されたビッグデータを前提としているため、データ収集が困難になっている。また、人工知能開発を担える人材の少なさもビジネス応用の遅れに繋がっている。 技術的特異点の前提にある収穫加速の法則は、まず現実世界からのデータ収集の限界によって制限され得る。例えば、技術革新に必要な物理現象の発見や新素材開発などには、多大な費用と時間がかかる。この物理的限界が高速化され続けなければ、収穫加速の法則も続かない。近年注目されているディープラーニングの段階でも、有用なデータの不足が懸念されている。 人間の脳はアナログでカオスな機構を含んでおり、普及しているディープラーニングよりも遥かに複雑である。そのため、複数種類のタスクを統合的に扱える人間と同等以上のAIの開発は、進まない可能性がある。さらに、人間の脳の処理ではアナログ面とデジタル面が両立しており、デジタルで実現するには脳細胞を含む超大規模な物理シミュレーションが必要となり、極めて非効率で非実用的になり得る。 人工知能が指数関数的に高性能化しても物理的な世界は──極端な複雑さ・倫理・限りある資源量などにより──指数関数的に発展しない可能性がある。少なくともAI的アプローチでは、計算量オーダーの大きさから来る難問は解決されないことが判明している（そもそもAIの実行自体がそのような難問である）。 人間に設計された機構は本質的に他律システムであり、過去の事例に制限されている。それは未知の状況下では、自発的な判断・行動ができない。新しいシステム論（オートポイエーシスなど）で議論が続いているが、真の自律性をコード化できるかは不明である。ただし、人間も物理現象に従う他律システムだと考えられ得る。 技術的特異点と同様の考え方や概念は、科学技術が注目され始めた19世紀頃から存在していた。技術的特異点が技術哲学者・科学哲学者・評論家などから注目されたきっかけは、数学者かつSF作家のヴァーナー・ヴィンジと、発明者かつ未来派のレイ・カーツワイルの膨大な資料調査と主張だった。彼らは、意識の解放によって科学技術の進展が生物学的限界を超えて加速する、と予言した。カーツワイルはこの加速的変化が「ムーアの法則」などの指数関数的な技術革新に従うと考え、これを「収穫加速の法則」（Law of Accelerating Returns）と呼んだ。未来派（フューチャリストら）いわく、技術的特異点の後では科学技術の進歩は強い人工知能やポストヒューマン（ホモ・デウス）によって支配されることになり、よって従来の人類の傾向に基づく技術進歩予測は通用しなくなると言う。 AGI（汎用人工知能）ではなくポストヒューマンが登場するシナリオが実現した場合、特異点とは、新たな人類の進化の瞬間であるとも捉えられる。端的は史上初の人間の脳の技術的高速化であり、その方法はサイボーグ化や精神転送などだと言われる。 一度でも技術的特異点が起きると、自律的に自己強化し続けるAIが現れ、技術の進歩が超加速度的になり、人間の文明は極端に変化するため、それ以前の歴史的出来事全てが0に見えるほどになる。特異点という名付けは、技術の進歩速度が数学的または物理的な特異点に似ているからだと言う。 技術的特異点が起きる可能性については賛否両論がある。多くの人々がこの予測を肯定的に捉え、その実現に向けて活動している。一方、技術的特異点は人類にとって危険であり、回避すべきと考える人もいる。技術的特異点を発生させる方法やその社会的影響、それを理想的な形で迎える方法などが論じられている。また、特異点が近づくに連れてAIを開発・運用する集団とそれ以外とで経済格差が顕在化すると予測されており、それを緩和するためのベーシック・インカムや「誰でも受け取れる」「ユニバーサル・ベーシック・インカム」の導入が議論されている。2010年代後半からは、ディープラーニングの産業応用や報道によって、一般に認知される概念になった。2045年問題という名称でも知られる。 収穫加速の法則を根拠とする指数関数的な技術進歩は、技術的特異点の以前でも社会を変化させると言う。プレ・シンギュラリティ的な動きは既に起きているという概念の証拠として、例えば以下が挙げられている。 2014年にはジェレミー・リフキンが自著『限界費用ゼロ社会』を発表し、資本主義の凋落とIoTの普及による共有経済の将来を説いた。 2015年9月の国連サミットで「持続可能な開発のための2030アジェンダ」が採択され、持続可能な開発目標（SDGs）が国際目標となった。これの目標も、IoTによる共有経済の実現だと言われる。 例題：電子回路と生物の動作速度の差 技術的特異点のインパクトの説明例として、電子回路と生物の動作速度の差がある。生物の頭脳に比べて電子回路は、100万倍以上速く動作し、体調不良などの動作不良が頻発せずに安定した最高のパフォーマンスを発揮する。つまり生身の人間に比べて、電子回路で実現される頭脳（ポストヒューマン）は、計り知れないほど高い知能を獲得することになる。 また、電子回路で実現される頭脳は生物の頭脳よりも機能の変更・拡張が容易であり、その頭脳が自分自身を改良し続けることで、電子回路による頭脳の爆発的「進化」が起きる。そして電子回路と生物の両方の特徴を持つ技術によって、生物的な特徴・環境適応力も爆発的に強化される。遺伝子工学、ナノテクノロジー、ロボット工学などの進化が極めて顕著となる。 電子回路による頭脳の進化は研究開発をも爆発的に加速させ、生身の人間が想像できる水準（無限のエネルギー、不老不死、宇宙進出、光速の壁の突破など）を遥かに超えて、高度な社会問題が次々と解決される。レイ・カーツワイルの見積もりによれば、ナノテクノロジーを最大限に活用した知能は、生身の人間の頭脳の1兆倍の1兆倍も有能である。このスケールの知能（ポストヒューマン）から見ると、技術的特異点以前に築かれた人類文明の機能はゼロに等しいように見える。 未だに技術進歩が緩やかな2010年代では、この超知能は遠い将来（数万年後）に実現されそうに思えるが、技術的特異点後の爆発的な技術進化を踏まえると、超知能の実現に必要な計算能力は、21世紀後半には約1000ドル以下（約十数万円以下）で購入可能になる、と大まかに推測できる。 以上により、技術的特異点による社会的インパクトはあらゆるSF作品すらも超えて、人間には全く想像できない規模になると言われている。 レイ・カーツワイルはアメリカの発明家、思想家、未来学者である。彼は2005年に『ポスト・ヒューマン誕生』 The Singularity Is Near を出版し、「特異点は近い」と宣言した。（邦訳を監修したのは、比較文学やアメリカ文学などを専攻する井上健(東京大学名誉教授)）。カーツワイルは『ポスト・ヒューマン誕生』の序章（プロローグ）で、彼が文明と宇宙の未来について考察するようになった時期は『スピリチュアル・マシーン』（1999年）を出版して以降だと述べている。『ポスト・ヒューマン誕生』の「私は特異点論者（シンギュラリタリアン）だ」という章で彼は、特異点とスピリチュアルな物事との深い関連性を主張している。 「スピリチュアル」と呼ばれるものこそ超越性の真の意味だと考える向きもあるが、じつは超越性は現実世界のすべてのレベルに見ることができる。 … 「スピリチュアリティ」のもうひとつの含意は「魂をもつ」ということで、いうなれば、「意識がある」ということだ。「個人性」の土台である意識は、多くの哲学的、宗教的伝統において、真実を意味すると考えられている。一般的な仏教の存在論では、むしろ主観的──すなわち意識的な──経験こそが究極の真実だとされており、物理的または客観的現象はマーヤー（幻影）だと考えられている。 … ありとあらゆる一神教の伝統において、神はその全てを有し、しかもいっさいが無限である──無限の知識、無限の知性、無限の美、無限の創造性、無限の愛をもつ──と説かれてきた。 もちろん、加速しながら進んでいく進化でさえ、無限のレベルに達することはとうていできない。しかし、指数関数的に急激な進歩をとげながら、進化は確実にその方向へ進んでいる。進化は、神のような極致に達することはできないとしても、神の概念に向かって厳然と進んでいるのだ。 したがって、人間の思考をその生物としての制約から解放することは、本質的にスピリチュアルな事業であるとも言える。 また前掲書でカーツワイルは、特異点によってもたされる未来世界の説明として、次の寸劇を描いている。 モリー二〇〇七：では、宇宙がエポック6（われわれの知能の非生物的部分が宇宙へ広がる段階）になると、どういうことになるの？ … わたし、まだエポック6の宇宙がどんなふうか想像しようとしてるんだけど。 ティモシー・リアリー：宇宙は鳥みたいに飛んでいるだろう。 モリー二〇〇七：でも、どこを飛んでいるの？　宇宙は全てなのでは？ リアリー：その質問は、片手の拍手はどんな音、と訊いているようなものだな。 モリー二〇〇七：ふうん。じゃあ、特異点は最初から禅の導師の心の中にあったのね。 カーツワイルは自分の説明を成功させるため、ムーアの法則を元に収穫加速の法則を考え出した。彼の著作は、2012年以降のディープラーニングの普及と共に注目された。技術的特異点という概念は1980年代以前からヴァーナー・ヴィンジが提唱しており、カーツワイルはそうした過去の傾向や議論をまとめたと言える。 カーツワイルによれば、「技術的特異点」とは「100兆の極端に遅い結合（シナプス）しかない人間の脳の限界を、人間と機械が統合された文明によって超越する」瞬間である。これはカーツワイルが言う、進化の6つのエポックにおける「エポック5」と同義である。電子計算機（コンピュータ）の発明以前から同様の主張はあったが、2005年にレイ・カーツワイルが発表した『ポスト・ヒューマン誕生：コンピュータが人類の知性を超えるとき』（原題 The Singularity Is Near: When Humans Transcend Biology）において、宇宙・生命・科学技術の歴史を述べる技術哲学的な主張として整理された。未来研究（フューチャリズム）では、科学技術の歴史から推測できる、未来モデルの適用限界点と言われる。 2045年は「汎用人工知能（AGI）が人類史上初めて出現する年」または「汎用人工知能（AGI）が人類史上初めて人間よりも賢くなる年」であると言うのは、一般人の誤解だとも言われる。カーツワイルの予想では、そのような出来事は2029年頃に起こり、2045年頃には、1000ドルのコンピューターの演算能力がおよそ人間の脳の100億倍（ペタFLOPS）になり、この時期に技術的特異点によって人間の能力と社会が根底から覆って変容する。カーツワイルによれば、人類の進化として最も理想的な形で技術的特異点を迎える場合、「GNR革命」の進行により、人類の知性は機械の知性と完全に融合し、人類がポスト・ヒューマンに進化する。 ただし平木敬の推測によれば、そもそも人間の脳の処理能力はゼタ(100万ペタ)FLOPS級である。 2016年頃からIoTや人工知能が広まったことで、カーツワイルの「仮説」に関する議論が活発化した。2017年12月29日にEテレに出演した際、彼は「自らを改良し続ける人工知能が生まれること。それが（端的に言って）シンギュラリティーだ」と発言した。 カーツワイルによれば、技術的特異点では人間性の増強が起こり、同時に技術が人間的な精巧さと柔軟さに追いつき、大幅に抜き去るが、人類と技術が敵対するようなイメージは大間違いだと言う。さらに、人間はテクノロジー上に自分の精神を移す時が来ると言う。 ヴィンジが特異点について描いた作品には、その発生（『マイクロチップの魔術師』）、先延ばし（The Peace Warの「Bobble」）、抹消の試み（Marooned in Realtime）があり、特異点は「機械が人間の役に立つふりをしなくなること」と定義されている。 遺伝的アルゴリズムや、国際電気通信基礎技術研究所（ATR）での人工脳の研究者であるヒューゴ・デ・ガリスの予測では、特異点は21世紀後半に来て、人間の知能に対しAIが1兆の1兆倍（10の24乗倍）になる。 （齊藤元章は2017年12月5日に詐欺罪容疑で逮捕された。2020年3月25日、詐欺罪と法人税法違反（脱税）の罪で東京地裁から懲役5年の実刑判決を受けた。） 2014年、PEZY Computing代表の齊藤元章によれば、スーパーコンピュータの加速度的な性能向上によってエクサスケール・コンピューティングが実現されると、大規模なシミュレーションが可能になるので次々と難解な社会問題が解決され始め、プレ・シンギュラリティ（前特異点または社会的特異点）という社会的な変化が明確化する。その後は莫大な計算資源に基づく特化型AIによって、人類の大部分が「不労・不老」を選ぶことすら可能になると言う。 PEZY Computingの起業者であり、スーパーコンピュータや汎用人工知能（AGI）の研究開発者でもある齊藤元章の2014年の自著『エクサスケールの衝撃』によれば、スーパーコンピュータ「京」の100倍程度の性能（1エクサフロップス）を持つ次世代スーパーコンピュータの実用化と普及により、プレ・シンギュラリティ（社会的特異点）が2025年までに起きる。プレ・シンギュラリティでは「GNR革命」が始まり、肉体と技術の融合、現実を超えるVR、核融合炉による無限のエネルギー、無償の衣食住、不老不死などが実現し、それらは早ければ2020年から市場に影響してくると言う。齊藤元章は、2014年時点ではPEZY Computingの開発プロジェクトがプレ・シンギュラリティを実現すると考えていたが、その後の予想以上に急速なAI研究を見て、2016年をプレ・シンギュラリティ元年と捉えるようになった。プレ・シンギュラリティでは多数の天才・奇才・異才が人類文明を想像できないほど高度化させる、と予測している。例えば、人類は生きるための労働から解放されて創作活動に専念し、ネット上の集合知を通じて、現在の「芸術」を超越した芸術的・独創的なものや新しい価値観を生み出し得るという。人類文明が直面する問題も、プレ・シンギュラリティ以後は多数の天才が高度なテクノロジーと集合知で解決していくと予測している。 松田卓也と小林秀章（セーラー服おじさん）は未来の人類を「動物園にいる動物」「大きな屋敷に住んでいる猫」と呼んだ。また、日本トランスヒューマニスト協会はマイクロチップを埋め込む人を募集した。 1995年以来、ルガーノのスイス人工知能研究所（IDSIA）の研究員であり、特に時系列データを扱う機械学習に必要なLSTM理論の考案者の一人として知られる。 2018年2月のインタビューでは、人間と機械の融合の可能性や、宇宙空間に対するAIの適応可能性を述べ、「いずれにせよ、我々の知っているいわゆる「人間」という存在はあまり重要ではなくなるだろう。この先、何もかもが変わる。そして「古典的な人間」が支配していた文明社会は、この先数十年のうちに終焉を迎えることになるだろう。」とポストヒューマン登場の可能性を強く支持している。 技術的特異点に類似したアイディアは少なくとも19世紀半ばまで遡るが、技術的な文脈で「特異点」という言葉を最初に使ったのはジョン・フォン・ノイマンとされる。1958年5月、スタニスワフ・ウラムはノイマンとの会話に言及して次のように書いている。 あるとき、進歩が速まる一方の技術と生活様式の変化が話題となり、どうも人類の歴史において何か本質的な特異点が近づきつつあって、それを越えた先では我々が知るような人間生活はもはや持続不可能になるのではないかという話になった。 1965年、統計家 I. J. Good は、人類を超えた知能が世界を変える特異点のシナリオを描いた。 超知的マシンを、いかなる賢い人もはるかに凌ぐ知的なマシンであるとする。そのようなマシンの設計も知的活動に他ならないので、超知的マシンはさらに知的なマシンを設計できるだろう。それによって間違いなく知能の爆発的発展があり、人類は置いていかれるだろう。従って、最初の超知的マシンが人類の最後の発明となる。 ジェラルド・S・ホーキンズは『宇宙へのマインドステップ』（白揚社、1988年2月。原著1983年8月）で、「マインドステップ」という概念を示し、それは方法論や世界観に起きた劇的で不可逆な変化であるとした。彼は、人類史の5つの「マインドステップ」とそこに発生した「新しい世界観」および技術を示した（彫像、筆記、数学、印刷、望遠鏡、ロケット、コンピュータ、ラジオ、テレビ等）。いわく、「個々の発明は集合精神を現実に近づけ、段階をひとつ上ると人類と宇宙の関係の理解が深まる。マインドステップの間隔は短くなってきている。人はその加速に気づかないではいられない」。ホーキンズは自分の経験によってマインドステップを定量的に方程式化し、今後のマインドステップの発生時期を述べた。次のマインドステップは2021年で、その後2つのマインドステップが2053年までに来ると言う。そして技術的観点を超越し、次のように推測した。 マインドステップは……一般に、新たな人類の展望、ミームやコミュニケーションに関する発明、次のマインドステップまでの（計算可能ではあるが）長い待機期間を伴う。マインドステップは本当に予期されることはなく、初期段階では抵抗がある。将来、我々も不意打ちを食らうかもしれない。我々は今は想像もできない発見や概念に取り組まざるをえなくなるかもしれないのだ。 特異点という概念は、数学者で作家のヴァーナー・ヴィンジが広めた。ヴィンジは1980年代から特異点について語り、それを初めて印刷物として発表したのはオムニ誌の1983年1月号だった。彼は後に1993年のエッセイ "The Coming Technological Singularity" で、その概念をまとめた（これは、よく引用される「30年以内に私たちは超人間的な知能を作成する技術的な方法を持ち、直後に人の時代は終わるだろう」という一文を含んでいる）。 ヴィンジは、超人的な知能が、彼らを作成した人間よりも速く自らの精神を強化することができるであろうと書いている。「人より偉大な知能が進歩を先導する時、その進行はもっとずっと急速になるだろう」とヴィンジは言う。自己を改良する知性のフィードバックループは、短期間で大幅な技術の進歩を生み出すと彼は予測している。 ヴァーナー・ヴィンジは、考えられうる人類を超える知性を創造する方法として、以下の4つを挙げている。 超人間的知性を持ったAIの開発 巨大コンピュータネットワークの「目覚め」による超人間的知性の獲得 ブレイン・マシン・インタフェースによる人間の強化 バイオテクノロジーによる人間の生物的知性の増強 他には向知性薬（向精神薬の一種）、精神転送、AIアシスタントなどが提案されている。ジョージ・ダイソンの『Darwin Among the Machines』によると、複雑なコンピュータネットワークや大きなニューラルネットワークは知性（群知能）を生み出し得る。 精神転送は、人間の知性をデジタル化してコピーするという、人工知能の代替的な作り方である。脳の詳細な情報を得る電脳化技術が精神転送に繋がると言う。 特異点到達に積極的な組織は、その方法としてAIを選ぶことが多い。Singularity Institute（特異点研究所）は、2005年の出版物"Why Artificial Intelligence?"でその理由を説明している。 レイ・カーツワイルは歴史研究の結果、技術的進歩は指数関数的に成長しており特異点が近いという「収穫加速の法則」（The Law of Accelerating Returns）を結論的に主張した。彼はムーアの法則（集積回路の指数関数的な細密化）を元に、集積回路以前の技術も同じ法則に従っていると述べた。 彼の予測によれば、ある技術が限界に近づくと代替的に新技術が生まれるのでパラダイムシフトがより一般化し、「技術革新が加速されて重大なものとなり、人類の歴史に断裂を引き起こす」（カーツワイル、2001年）。彼は特異点が21世紀末までに──つまり2045年に──起きると確信しており、それはヴィンジらの想定と違って緩やかな変化である。この違いは「ソフトな離陸」（soft takeoff）と「ハードな離陸」（hard takeoff）とも言われる。 カーツワイルがこの法則を提案する以前は、社会学者や人類学者ら（ルイス・H・モーガン、レスリー・ホワイト、ゲルハルト・レンスキなど）が、技術進歩を文明の発展の原動力とする社会理論を構築してきた。彼らは、技術的マイルストーンやエネルギー制御方法や情報量などで文明発展の度合いを測った。 1970年代末以降、アルビン・トフラー（『未来の衝撃』の著者））、ダニエル・ベル、ジョンネイスビッツらは、脱工業化社会を論じており、それは特異点や特異点後の社会という思想に近い。彼らは工業化社会が終わりつつあり、工業と製品はサービスと情報に取って代わられると考えた。 未来学者であるレイ・カーツワイルは、宇宙における情報の進化は6つの段階を経るとし、進化の6つのエポックと名付けている。収穫加速の法則はその一部であり、エポック5は技術的特異点である。 進化は間接的に作用する。ある能力が生み出され、その能力を用いて次の段階へと発展する。 エポック1 物理と化学 原子構造の情報 エポック2 生物 DNAの情報 エポック3 脳 ニューラル・パターンの情報 エポック4 テクノロジー ハードウェアとソフトウェアの設計情報 エポック5 テクノロジーと人間の知能の融合 生命のあり方（人間の知能も含む）が、人間の築いたテクノロジー（指数関数的に進化する）の基盤に統合される エポック6 宇宙が覚醒する 宇宙の物質とエネルギーのパターンに、知能プロセスが充満する 現実の動向は予測以上に急速だとも言われる。2014年にロッキード・マーティン社の研究チームは、超小型の実用的な核融合炉を10年後（2024年）までに実現すると発表した。テスラモーターズCEOのイーロン・マスクは、2017年に人間の脳とAIとの接続を研究開発するスタートアップ「ニューラリンク」を起業した。 2017年の報道によれば、齊藤元章が示したように日本の産業界では、プレ・シンギュラリティ以降は機械のみが経営を行う純粋機械化経済に移行する（第4次産業革命が到来する）のであり、そのための具体的な施策が行われ始めている。 ヴィンジは1993年のエッセイで、技術的特異点の到来は2005年～2030年と予想した。齊藤元章は、2030年より前だと言う。カーツワイルは、コンピューターの知性が人間を超える時期は2020年代と予想している。 ・人間の知能を模倣するために必要なハードウェアが、スーパーコンピューターでは10年以内に、パーソナル・コンピュータ程度のサイズの装置ではその次の10年以内に得られる。2020年代半ばまでに、人間の知能をモデル化した有効なソフトウェアが開発される。 ハードとソフトの両方が人間の知能を完全に模倣できるようになれば、2020年代の終わりまでには、コンピューターがチューリングテストに合格できるようになり、コンピュータの知能が生物としての人間の知能と区別がつかなくなるまでになる。ポスト・ヒューマン誕生 P.40、レイ・カーツワイル著、2005年 カーツワイルの予想によると、2030年代初期には、コンピュータの計算能力は人類の生物的知能と同等になり、2045年には、1000ドルのコンピューターの演算能力がおよそ人間の脳の100億倍（10ペタFLOPS）になって、つまり技術的特異点への土台が十分に生まれていることになり、この時期に人間の能力と社会が根底から覆り変容する。カーツワイルの予測を元に、技術的特異点は「2045年問題」とも言われる。 特異点を予測する論者たちの中には、21世紀半ば～22世紀半ばという予測が多い。しかし技術的特異点の概念自体は認めながらも、その実現は遠い将来だと考えるゴードン・ベルのような識者も居る。 2006年のディープラーニングの発明により、ニューラルネットワークの深層化が可能になった。2012年にはディープラーニングによる画像認識手法が高性能を示し、世界的に社会実装が急進した。その後は神経科学と機械学習の統合で、AGI（汎用人工知能）の開発競争が起きた。現在は産官学で、人工知能への期待が高まっている。 1956年のダートマス会議により、学術界に人工知能分野が創設された。その時代においても、ディープラーニングの先駆け──すなわちCNNの先駆的なネオコグニトロンやLeNet等──は提案されていたが、実用性は手書き文字認識などに限られていた。 AIブームは二度（1950年代の推論と探索、1980年代のエキスパートシステム）起きたが、ブームの度に致命的な理論的限界が指摘されたため、投資も行われなくなりAI研究自体が停滞していた。また、計算機（コンピュータ）の性能はAIに必要な水準を大幅に下回り、通信網も学習用データセットも貧弱だったため、（理論的に完成されていたとしても）産業応用には程遠かった。 1980年代後半～1990年代中頃、人間の曖昧さや環境適応能力を模倣するニューロファジィ等の特化型AIが盛んに研究開発・産業応用され、バズワード化した。白物家電製品においてもニューロファジィを売りにする程だった。だが当時はインターネットやコンピュータの性能もデータも不十分で、現実世界の複雑さに対応できず、期待されたほどの効果は得られなかった。理論的にもファジィ集合と深層学習が組み合わせられないニューラルネットワークは、常に学習の難しさが常にあった。1990年代のニューラルネットワークは非線形分離が可能だったが、過学習や勾配消失問題などが起きやすく、チューニングしても充分な性能は得られなかった。扇情的に売り出され盛んに研究開発が行われたが、応用は極めて限定的な産業に留まっていた。 1995年からインターネットが民間へ開放されて、通信量が増加していった。後にインターネットは、AIの学習用データセット収集基盤として重要になる。インターネットと強力なコンピュータの発達と支援があって大規模化が可能となり、ディープラーニングも実証実験と実用化が可能になった。 2000年代ではムーアの法則的なコンピュータの性能向上、そしてインターネットの普及により、計算資源の制約が減ってAI研究が好転し始めた。 2000年には制限ボルツマンマシンやコントラスティブ・ダイバージェンスの提案、それに基づく2006年のディープラーニングの発明、2010年以降のインターネットを利用したビッグデータ収集環境の整備、2012年のGPU利用による大規模ディープラーニングの発展、同年のGoogleのディープラーニングを使った画像認識などにより、AI研究が各国から再注目され始めた。 この社会現象は第3次人工知能ブームと呼ばれる。その後、ディープラーニングの研究と普及が加速し、レイ・カーツワイルが2005年に広めた概念「技術的特異点」が急に世界的な注目を浴びた。 2012年以降、AIへの投資が産官学で増え、特異点を引き起こすとされる汎用AIの研究と、既存AIのビジネス転用が活発に議論され始めた。 ディープラーニングの研究と普及で、AGI（汎用人工知能）を研究開発するプロジェクトはGoogle DeepMindを筆頭に、Vicarious、IBM Cortical Learning Center、全脳アーキテクチャ、PEZY ComputingのNSPU開発、OpenCog、GoodAI、NNAISENSE、IBM SyNAPSE、Numenta等が立ち上げられた。これらの研究開発では、脳のリバースエンジニアリングによる神経科学と機械学習の組み合わせが有望とされている。結果として、ディープラーニングを超える汎用性を持つ理論──例えばHTM（Hierarchical Temporal Memory）理論やCLS（Complementary Learning Systems）理論の更新版等──が提唱され始めた。また機械学習の高速化のために、CPU、GPU、FPGA、TPUよりも高い計算性能を持つ量子コンピュータやアナログ計算機の導入も検討され始めた。 上記で実現が目指されているAGIの多くは、技術的限界のため全脳アーキテクチャ方式に基づいている。この方式は、脳の各機能ユニットを工学的に再現し、情報統合を行うことで疑似的な汎用性を目指す。ただしこれは、原子・分子レベルで脳を再現する全脳エミュレーション方式に比べて、高度な情報統合（コネクトームなど）を不得手とする。 よってそれは脳のシミュレーションの範囲に留まり、人間的な感性が必要な創造的な仕事や繊細な作業は、全脳エミュレーション方式よりも不得意とされる。しかし、機械の動作速度は非常に高速であり、生物的な人間の脳を全側面で超える働きをする可能性が高い。人間の脳の規模における原子・分子レベルでの物理シミュレーションには膨大な計算資源が必要であり、理論的に完全な汎用性の実現には数十年単位の時間が必要だと考えられている。 2017年頃から、実験的な量子コンピュータのクラウドサービスが展開されつつあり、このようなサービスの発達と普及で2020年代にはニューラルネットワークの学習が高速化されると見込まれる。 2015年以降、特化型AIの影響が企業動向を変えるほど広まった。2018年8月31日、原油高が大きな負担となっていたJALがNECに開発を依頼し、AI支援による旅客システムを導入し、約50年続けてきた人間の経験に基づく旅客システム運用を廃止したことで、空席をほぼ0に減らすことに成功し、利益率を大幅に上げた。この事例はディープラーニング以降のAIが社会的に絶大に影響する事例と言え、未来の学びも一変するとされる。 2021年6月、グーグルの研究者らが機械学習を用いてAI用チップのフロアプランを作成したところ、設計にかかる時間は人間の1/1000であり、設計されたチップの主要な指数（消費電力・性能など）は、人間が設計したもの以上だった。 2022年、AIによる画像生成ブームが起こった。 2022年10月、DeepmindのAlphaTensorは、深層学習プログラム用の行列乗算を高速化するアルゴリズム改良版を発見し、それを受けて数学者はより高速な行列乗算プログラムを発表した。 2022年11月30日、従来のシステムよりも人間らしい回答を返すChatGPTが公開され、一ヶ月未満で世界的に流行し始めた。「メディアアーティスト」である落合陽一によれば、AI関連技術が予想を遥かに超える速度で更新され続けるため、技術的特異点は2025年に来る可能性がある。 AIの進歩によっては、技術的特異点のような事象は発生しないという説もある。また識者らの中には、技術的特異点の概念は認めつつもその現実化は不可避ではないという説、特異「点」と呼べるような特定の一点は存在しないという説も存在する。 生命情報科学者・神経科学者の合原一幸の編著『人工知能はこうして創られる』によれば、AIの急激な発展に伴って「技術的特異点、シンギュラリティ」の思想や哲学が一部で論じられているが、特異点と言っても「数学」的な話ではない。合原が言うには、 「そもそもシンギュラリティと関係した議論における『人間の脳を超える』という言明自体がうまく定義できていない」。 確かに、脳を「デジタル情報処理システム」として捉える観点から見れば、シンギュラリティは起こり得るかもしれない。しかし実際の脳はそのような単純なシステムではなく、デジタルとアナログが融合した「ハイブリッド系」であることが、脳神経科学の観察結果で示されている。合原によると、神経膜では様々な「ノイズ」が存在し、このノイズ付きのアナログ量によって脳内のニューロンの「カオス」が生み出されているため、このような状況をデジタルで記述することは「極めて困難」と考えられている。 弱いAIに関する研究結果が、強いAI（汎用人工知能）にそのまま適用可能であるか否かについては議論がある。哲学者のヒューバート・ドレイファス や物理学者のロジャー・ペンローズのように、現行の人工知能研究には根本的な欠陥があり、既存の手法を踏襲することによっては強いAIは実現不可能であると考える学者も存在している。 ロータスデベロップメントの創業者のミッチ・ケイパーは、2029年までにチューリング・テストに合格する人工知能が開発されるという予測に反対し、カーツワイルと2万ドルを賭けている。 カーツワイルは、生物学的な脳機能を理解していないという批判がある。彼は、人間の脳がシミュレーション可能になる時期を人間のゲノムの数から見積っている。しかし、生物のゲノムは半導体のトランジスターと同等とみなすことはできず、脳の構造や成長を無視していると、生物学者のポール・ザカリー・マイヤーズは批判している。 あらゆる指数関数的成長には限界がある。限られた期間内では指数関数的振る舞いを見せる現象は──化学物質の反応、細胞分裂や生物の個体数などが──存在するが、遅かれ早かれ指数関数的現象は、必要な資源基盤（化学物質や食物など）を消耗し、停滞・崩壊する。テクノロジーの発展が、一般的な指数関数的現象と異なると考える理由は無い。つまり、指数関数的成長には指数関数的入力が必要だが、現実世界でそれは不可能である。一般的に成長現象はシグモイド曲線を取り、急激な成長期と停滞期（崩壊期）が存在する。 宗教家であり思想史家であるジョン・マイケル・グリア（英語版）は、テクノロジーの発展は、未来に向かって一直線に進んでいくものではなく、ツリー状に広がっていくものであると述べている。半世紀前の未来予想では、宇宙旅行をも含む輸送技術の爆発的発達が予想されていたが、その後は輸送技術の進歩が停滞した。一方、21世紀現在の情報技術の爆発的発達と普及は、以前は一般的に予想されていなかった。同様に、近年の情報処理技術の発達もいずれどこかで限界となり、現代の人々が全く予想もできなかった新しい技術が発展すると考えられている。 また、どれほど優れた知性（思考）であっても、それだけでは問題を解決できない。すなわち、優秀なAIであれ知能強化された人間であれ、実世界の現象を観察・実験し、モデルを検証しなければ、現実世界の問題を解決できない。しかしその時間的限界を定めるのは、思考の時間ではなく、対象物の物理的変化（細胞分裂や素粒子の反応）に要する時間であるため、超越的知性の存在だけは特異点と呼べるような変化は起こらないのではないかという批判がある。 物理学的・技術的に可能でも、経済・社会・法律的な要請によって普及していない技術も存在する。たとえば超音速旅客機は1960年代に実用化されたが、採算が取れないため、2016年時点でも商業飛行は無い。同様に、研究室ではAGI（汎用人工知能）が実現できたとしても、経済合理性の問題があって社会で普及できず、特異点発生に必要な超越的知性が不十分になり得る。 マーティン・フォードは『トンネルの中の光：オートメーション、テクノロジーの加速と未来の経済』で、「テクノロジーのパラドックス」を示している。いわく、技術的特異点の発生前に、ほとんどのルーチンワークが自動化されるだろう。何故ならルーチンワークの自動化に必要な技術は、技術的特異点よりも簡単だからだ。ルーチンワークの自動化は莫大な失業を発生させ、消費者の有効需要を下げ、結果的に技術への投資を低下させるだろう。そうなると、技術的特異点の実現は遠ざかることになる。産業革命期のような大規模な産業構造の転換と新産業による失業者の吸収は未だ起きておらず、慢性的な高失業率が続いており、この傾向は短期的には変わる気配を見せていない。 一般的に、技術革新に対する投資の見返りは次第に低下していくことが示されている。Theodore Modis と Jonathan Huebner は技術革新の加速が止まっただけではなく、現在減速していると主張した。John Smart は彼らの結論を批判している[1]。また、カーツワイルは理論構築のために過去の出来事を恣意的に選別した、という批判もある。 経済史学者の杉浦勢之によると、カーツワイルはレトリック（修辞技法・美辞麗句）を駆使している。もし100年や1000年先の未来を語った場合、人々の実感や想像をかき立てるのは難しい。しかし語る内容が近未来（2045年）なら、それは現在の世代のほとんどがまだ生きている時代であり、いくらか迫真性がある。そして、行動経済学者ジョージ・エインズリーの「双曲割引」説によれば、人間は遠い将来よりも近い将来で得られるものに、より高い価値を置く。つまり、近未来にシンギュラリティが来ると人々に言えば、《近未来に賭けたい》・《投資してリターン（利益）を得たい》といった誘惑が広まり得る。この場合、何が正しいのか、数学的に正確か等の検証は、重視されていない。 杉浦が言うには、シンギュラリティ論のレトリックは、宗教家が使っているものと同類である。使徒パウロの説教のようなシンギュラリティ論に従えば、約束された「来るべき時」は──または神の国の到来は、審判の日は──間近に迫ってきている。その「時」は不可避にやって来るものであり、「特異点」である。このように預言（予言）する論は、近現代に至るまで思想家たちを惹きつけており、その典型例は、共産主義社会の到来を預言したカール・マルクスや、民族共同体の勝利を預言したナチス法学者カール・シュミットである。 経営者であるカーツワイルは、テクノロジー発展の先に「不死」を預言している。これは一見すると奇妙だが、彼を現代の「預言者」と捉えれば説明がつく。カーツワイルは、「テクノロジー」を「神」のように扱うレトリックによって、数学や自然科学からの批判を無意味化しているのである。古代から続く預言者やシンギュラリティ論者に対する批判として、 「かれらは、理解することの純粋な喜びや、臨床的な視線の中立とは無縁なのだ」 というレジス・ドブレの批判が援用されている。 『WIRED』誌創刊者のケヴィン・ケリーは、カーツワイルの示した指数関数的グラフが、指数関数的であるからこそ特異点に到達できないことを批判している。 数学的な特異点という概念は幻想である。[中略] 世界の主な出来事が指数関数的割合で発生していることを示す、「特異点へのカウントダウン」というグラフを見てみよう。それは数百万年の歴史にわたって、レーザーのようにきれいな直線を描いて突進している。 しかし、そのグラフを30年前で止めずに現在まで延ばすと、何か奇妙なことが見えてくる。カーツワイルのファンであり評論家でもあるケヴィン・ドラムは、「ワシントンマンスリー」（Washington Monthly）に書いた記事で、このグラフを30年前で止めずにピンクの部分を追加して、現在まで延長した。驚いたことに、それは今現在が特異点であることを示唆している。さらに不思議なことは、そのグラフに沿ってほとんど全ての時点で、同じ見解が正しいように思われる。 もしも、ベンジャミン・フランクリン（昔のカーツワイルみたいな人）が1800年に同じグラフを描いたとしたら、フランクリンのグラフも、そのときの「たった今」の時点で、特異点が発生していることを示すだろう。同じことはラジオの発明のとき、あるいは都市の出現のとき、あるいは歴史のどの時点でも起こるだろう。グラフは直線であって、その「曲率」すなわち増加率はグラフ上のどこでも同じなのだから。[中略] すなわち、指数関数的増加の中にいる限り、時間軸に沿ったどの点においても、特異点は「近い」ということだ。特異点とは、指数関数的増加を過去にさかのぼって観察するときに、いつでも現れる幻影に過ぎない。グラフは宇宙の始まりに向かって、正確に指数関数的増加をさかのぼっているから、これは何百万年にもわたって、特異点はまもなく起ころうとしていることになる！言い換えれば、特異点はいつも近い。今までいつも「近い」ままであったし、将来もいつも「近い」のだ。 心理学者・認知科学者であるスティーブン・ピンカーは以下のように述べている。 技術的特異点が到達すると信じる理由は、まったく無い。人間の頭の中で未来の姿を想像できたとしても、それが実現する見込が高いこと、あるいはそもそも実現可能であるということの証明にはならない。ドーム型都市、ジェットパックによる通勤、水中都市、超高層建築や核駆動自動車といったもの、これらは全て私が子供だったころ、未来の想像において当たり前に実現されているはずのものだったが、ついに現実にはならなかった。本当に機能するテクノロジーは、人類のあらゆる問題を解決する魔法のランプなどではない。 技術的特異点の概念は、キリスト教終末論から影響を受けていると言われており、評論家や神学者の中には、技術的特異点の概念を信仰と同一視する者も居る。ケヴィン・ケリーは、技術的特異点とキリスト教における携挙（ラプチャー “rapture”）との類似性を指摘している。 携挙というのは、キリストが再臨するとき、全ての信者は普通の生活からいきなり空中に持ち上げられて、死を経由せずに天の不死不滅の世界へ導かれることである。この特異な出来事によって、改良された身体、永遠の知恵で満たされた完全な知性ができる。そして、それは「近い将来」に起こることになっている。そのような期待は、技術の携挙、つまり特異点とほとんど同じである。 科学ジャーナリストのジョン・ホーガン も、技術的特異点を信仰であるとみなしている。 現実を見よう。技術的特異点は、科学的なビジョンというよりは宗教である。SF作家のケン・マクラウドは「コンピューターマニアたちの携挙（the rapture for nerds）」という名前を授けている。つまり、歴史の終末であり、イエスが現れ信仰者を天国へと導き、罪人を後に残していく瞬間である。このような超越的なものを願う理由は、完全に理解可能である。個人としても種としても、我々は致死的に重大な問題に直面している。たとえば、テロ、核拡散、人口過剰、貧困、飢餓、環境破壊、気候変動、資源枯渇やエイズなどである。エンジニアと科学者は、我々がこれらの世界の問題に立ち向かい、解決策を発見することを支援するべきなのであって、技術的特異点のような夢想的、疑似科学的ファンタジーに浸るべきではない。 ジョン・マイケル・グリアも同様の見方をしている。 …技術的特異点の概念全体は、関連する科学分野の専門家から激しく、そして正しく批判されている。けれども、あまり言及されることは無いが、カーツワイルの技術的特異点の物語は科学理論などではない。むしろそれは、ジョン・ダービによる携挙の神学理論を、SFの言葉で書き直した複製である。 技術的特異点は、単にキリストの再臨をテクノロジー的にリメイクしたものに過ぎない。超知性的コンピューターが神の役割を担っているのである。 思想史研究者であるアニー・レイヴィも同様の批判を加えている。 もちろん我々は我々自身の能力を超えた技術を作ってきた。それゆえ、我々は我々の能力を超えた知能を作ることができるだろうし、一部は既に実現されているとさえ言えるだろう。けれども、ひとたび我々の知性を超えた人工知能が実現しさえすれば、ただちに超越者が生み出され、あらゆる問題の最終的解決がもたらされると信じるためには、相当な論理的飛躍を受け入れなければならない。 その表層的なテクノロジー的装いを剥ぎ取ってみれば、中にあるのは古くからある終末論そのものである。すなわち、我々の生きている間に、何らかの超越者が地上に降臨し、全ての現世的問題からの解放と永遠の命をもたらすという信条なのだ。…このような新たな終末論が、近年の経済危機以後、急速に蔓延したのは決して偶然ではない。すなわち、現代の解決不可能な諸問題から眼を背けさせ、来世において救済を授けるという現実逃避としての役割を担っていると言える。 ケリーが言うには、仮に人間が特異点に入ったとしても、それを認識することは特異点の中では不可能であり、後から振り返ることで認識できる。 特異点に代表されるような技術の変化は、特異点に代表される（というのは不正確だが）ような変化の「内部」からでは全く認識できないと思う。ある水準から次の水準への転換は、新しい水準にある高い視点から、すなわち、そこに到達した後でしか見ることができない。 神経細胞との比較において、頭脳は特異点のようなものである。低い部分からは見えないし想像もできない。神経細胞の視点から見れば、脳へ通報するための少数の神経細胞から多数の神経細胞への活動は、神経細胞の集合による、ゆっくりとした連続的でなめらかな道程のように見えるだろう。そこには途絶の感覚、携挙の感覚はない。その不連続は逆方向に見たときにのみ知ることができる。 言語は文字と同様に、ある種の特異点である。しかし、その2つへ向かう行程は、その習得者には連続的であって感知できない。友人から聞いたおもしろい話を思い出した。十万年前に原始人たちが、たき火のまわりに座って最後の肉のかけらを口の中で噛みながら、喉の音でおしゃべりしていた。一人がこう言った。 「おい、みんな、俺たちは話しているぞ！」 「話している、ってどういうことだ？おまえ、その骨は食べ終わったのか？」 「俺たちは、お互いに話し合っている！言葉を使っているんだ。わからないのか？」 「また、あのぶどうの何とかを飲み過ぎたんだな。」 「今、俺たちがしていることだよ！」 「何だって？」 組織の次の段階が始まるとき、現在の段階にいる間は新しい段階を把握できない。なぜならば、その認識は新しい段階において起こるはずだからである。全世界的な文化が出現する中で、新しい段階への転換は実際に起こっているが、その変化の途中では認識できない。[中略] 従って、私たちは次のようなことを予期することができる。今後数百年にわたって、生命が当たり前のように途切れることなく続いて、決して大変動はなく、その間ずっと新しいものが蓄積する。それはやがて私たちが、ある種の道具を手に入れたことに気づくまで続く。その道具を使って、何か新しい道具が存在することを認識し、さらに、その新しい道具はしばらく前にすでに出現していたことを認識するのである。 私がこのことをエスター・ダイソンに話すと、彼女は、私たちが毎日特異点に近い経験をしていることを指摘した。 「それは目覚めである。後から振り返ると何が起こったのか理解できるが、夢の中にいるときには、目が覚めるかどうかわからない……」 今から千年後に、その時点のあらゆる11次元グラフは「特異点が近い」ことを示しているだろう。不死の存在、全世界的意識、その他、私たちが未来に期待することは、全て実現し、実在しているかもしれないが、それでも3006年の対数目盛のグラフは、やはり特異点が近づいていることを示すだろう。特異点は不連続な出来事ではない。それは非常にひずんだエクストロピー的（進化し続ける）世界に織り込まれた連続体である。それは、生命とテクニウムがますます速く進化するにつれて、私たちとともに移動する幻影である。 特異点は実現可能である、または不可避であると考える人々の中には、特異点後の出来事が人間への危険であると考えて、特異点実現のための活動を批判する者も居る。一方で多くの特異点論者は、ナノテクノロジーが人間性への最大の危険の一つだと考えており、AIをナノテクノロジーよりも先行させるべきだと主張している。ただしForesight Institute などは分子ナノテクノロジーを擁護し、ナノテクノロジーは特異点以前に安全で制御可能となるし、有益な特異点をもたらすのに役立つと主張している。 友好的AIを支持する立場には、特異点が潜在的に巨大な危険であると認識し、人間へ好意的なAIを設計してその危険を排除しようという考えがある。アイザック・アシモフのロボット工学三原則は、人間を傷つけないAI搭載ロボットを意図しているが、アシモフの小説はこの法則の抜け穴を扱うことが多い。 超人的な知性が、人類の生存や繁栄と共存できない目的を持つ可能性も考えられている。例えば、機械的知性の発達で非人間的な感覚・感情・感性が生まれ得る。AI研究者ヒューゴ・デ・ガリスいわく、AIが人類排除を目指した場合、人類はそれを止められないかもしれない。他には分子ナノテクノロジーや遺伝子工学についての危険性がよく言われており、これらの問題は特異点支持者と批判者の両方に重要だと言う。ビル・ジョイはWIREDで、その問題をテーマとして Why the future doesn't need us（何故未来は我々を必要としないのか）を書いた（2000年）。オックスフォード大学の哲学者ニック・ボストロムは人類の生存に対する特異点の脅威についての論文 Existential Risks（存在のリスク）をまとめた（2002年）。ボストロムは、『Superintelligence: Paths, Dangers, Strategies（超知能：道筋、危険、戦略）』の著者でもある。 宇宙物理学者スティーブン・ホーキングは、人類の能力を超えるAIが人類を滅ぼしかねない危険性があり、生物学的進化に制約される人類がAIの発達に対抗することは困難だと考えており、国連代表部と国際連合地域間犯罪司法研究所が主催した会議でも懸念を表明した。この国連の会議では、ニック・ボストロムも、特に人間の能力を超えるAIを制御する方法は未解決であり、解決のための研究の必要性を訴えている。 ホーキングは、2015年5月12日にロンドンで開催されたツァイトガイスト2015でも、人工知能が「100年以内に人間の文明を終わらせる」可能性を指摘した。ホーキングはまた、2014年でも、マックス・テグマーク（物理学者）、フランク・ウィルチェック（ノーベル物理学受賞者）、スチュワート・ラッセルらとともに、人工知能に関する理解が一般に浸透していない問題を指摘した。 ハーバード・ロー・スクールとヒューマン・ライツ・ウォッチは、完全な自律兵器の開発・運用を国際的に禁止するべきだと2015年4月の報告書で要求した。 一部の人々の主張によると、先端技術の開発は危険過ぎるため、そのような発明はやめるべきである。ユナボマーと呼ばれたアメリカの連続爆弾魔セオドア・カジンスキーは、技術によって上流階級が簡単に人類の多くを抹殺できるようになるかもしれないと言う。一方でAIが作られなければ、十分な技術革新の後で人類の大部分は家畜同然になるだろうとも主張している。カジンスキーの言葉はビル・ジョイの記事およびレイ・カーツワイルの最近の本に書かれている。カジンスキーは特異点に反対し、ネオ・ラッダイト運動をサポートしている。多くの人々は特異点には反対するが、ラッダイト運動のように現在の技術を排除しようとはしない。 カジンスキーだけでなく、ジョン・ザーザンやデリック・ジェンセンといった反文明理論家の多くはエコアナーキズム主義を唱える。それは、技術的特異点を機械制御のやりたい放題であるとし、工業化された文明以外の野性的で妥協の無い自由な生活の損失であるとする。地球解放戦線（ELF）やEarth First!といった環境問題に注力するグループも、基本的には特異点を阻止すべきと考えている。 一方、特異点によって未来の雇用機会が奪われることへの懸念はあるが、ラッダイト運動者の恐れは現実とはならず、産業革命以後には職種の成長があった。経済的には特異点後の社会はそれ以前の社会よりも豊かとなる、とも言われる。特異点後の未来では、一人当たりの労働量は減少するが、一人当たりの富は増加するとの説もある。マクロ経済学の井上は、技術的失業、中産階級の消滅、雇用を機械に奪われる問題の解決策として、ベーシック・インカムを提唱している。 『WIRED』US版の2016年11月号 にて、米大統領・バラク・オバマとMITメディアラボ所長の伊藤穰一による対談が企画された。テーマは、AI、自律走行車、サイバーセキュリティー、シンギュラリティである。 伊藤所長は、2016年はAIがコンピューター科学を超えて万人に重要となった年であると述べ、オバマ大統領は、今後コンピューターが多くの仕事を担うようになるにつれ、価値ある仕事への適切な対価について議論していくことが必要だと延べた。 オバマ大統領は、専用AIがあらゆる生活の場に進出したことにより、生産性や効率が格段に向上し、莫大な富と機会を生み出す一方で、特定の職業を消滅させ、格差拡大や賃金低下をもたらす可能性があると指摘した。一般の人が心配しているのは、シンギュラリティではなく、自分の仕事が機械に取られることだと言う。また、スキルが不要なサービス業だけでなく、コンピューターが対応可能な高スキルの職業も消える可能性があるという。伊藤所長が一例で挙げたベーシックインカムが人々に受け入れられるか、今後10～20年の間議論が続くと予想している。 研究活動に対する政府の役割としては、研究内容にあまり関与せず、予算で強く支援し、基礎研究と応用研究との対話をうながすことが重要だと言う。技術革新による問題の深刻化については、規制強化でなく、特定の人々に不利益をこうむらないような政府の関与であるべきである。国家安全保障チームは、機械が人類を乗っ取ることではなく、現状のサイバーセキュリティーの延長として、システムへ侵入に対する対策が必要だと指摘した。 人間がポスト・ヒューマンを作れるなら、ポスト・ヒューマンも十分な時間と数があればさらなる上位種を作れるのではないか、それが繰り返されれば神のような”何か”が生まれるのではないかと考える人もいる（シンギュラリティ後のシンギュラリティ）。 しかしカーツワイル等は、AIの能力で十分神の域に達すると考えているようである。 学術論文 杉浦, 勢之「「経験」・「未来」・「天使」：「逓信省とは何であったか」を考えなければならない理由についてのいくつかの予備的考察」『郵政博物館研究紀要』第9巻、通信文化協会博物館部、2017年、1-19頁、NAID 40021530515。  中島, 秀之「レクチャーシリーズ「シンギュラリティと AI」［第 4 回］AIは加速するが特異点はやって来ない」『人工知能』第33巻第1号、一般社団法人 人工知能学会、2018年1月1日、95-97頁、doi:10.11517/jjsai.33.1_95。  学術書 合原, 一幸、牧野, 貴樹、金山, 博、河野, 崇、木脇, 太一、青野, 真士 著、合原一幸（編著） 編『人工知能はこうして創られる』ウェッジ、2017年。ISBN 978-4863101852。  （アマゾンジャパンの分類では「科学・テクノロジー › 工学」の分野の書籍。） ビジネス書 カーツワイル, レイ 著、井上健（監訳） 訳『ポスト・ヒューマン誕生：コンピュータが人類の知性を超えるとき』NHK出版、2007年。ISBN 978-4140811672。  （アマゾンジャパンの分類では「ビジネス・経済 › IT」の分野の書籍。原著は2005年の"The Singularity is Near: When Humans Transcend Biology"(ISBN 978-0143037880)で、直訳すると『特異点は近い：人類が生物学〔生態〕を超える時』。） その他 ヴァーナー・ヴィンジ（著）、向井淳（訳） 『〈特異点〉とは何か？』、SFマガジン2005年12月号 p.60-72、（原文は https://www-rohan.sdsu.edu/faculty/vinge/misc/singularity.html ）