技術的特異点
特異点は実現可能である、または不可避であると考える人々の中には、特異点後の出来事が人間への危険であると考えて、特異点実現のための活動を批判する者も居る。一方で多くの特異点論者は、ナノテクノロジーが人間性への最大の危険の一つだと考えており、AIをナノテクノロジーよりも先行させるべきだと主張している。ただしForesight Institute などは分子ナノテクノロジーを擁護し、ナノテクノロジーは特異点以前に安全で制御可能となるし、有益な特異点をもたらすのに役立つと主張している。
友好的AIを支持する立場には、特異点が潜在的に巨大な危険であると認識し、人間へ好意的なAIを設計してその危険を排除しようという考えがある。アイザック・アシモフのロボット工学三原則は、人間を傷つけないAI搭載ロボットを意図しているが、アシモフの小説はこの法則の抜け穴を扱うことが多い。
技術的特異点(ぎじゅつてきとくいてん、英語: technological singularity〔テクノロジカル・シンギュラリティ〕)またはシンギュラリティ (singularity) とは、科学技術が急速に「進化」・変化することで人間の生活も決定的に変化する「未来」を指す言葉。発明家にして思想家のレイ・カーツワイルによれば特異点とは、技術的「成長」が指数関数的に続く中で人工知能が「人間の知能を大幅に凌駕する」時点であり、これを推進することは「本質的にスピリチュアルな事業」だと言う。特異点では「われわれが超越性(トランセンデンス)──人々がスピリチュアリティと呼ぶものの主要な意味──に遭遇する」のであり、「特異点に到達すれば、われわれの生物的な身体と脳が抱える限界を超えることが可能になり、運命を超えた力を手にすることになる」ともカーツワイルは述べている。
2020年頃にムーアの法則は限界に達すると言われており、その後のコンピュータの性能向上速度は不明である。考案された量子コンピュータや光コンピュータは、主に初歩的な研究段階に留まっている。
人工知能への大きな期待とは裏腹に、ビジネスモデルの構築が進んでいない。特に現行の人工知能では高品質で偏りがなく整理されたビッグデータを前提としているため、データ収集が困難になっている。また、人工知能開発を担える人材の少なさもビジネス応用の遅れに繋がっている。
技術的特異点の前提にある収穫加速の法則は、前提として現実世界からのデータ収集の限界によって制限され得る。例えば、技術革新に必要な物理現象の発見や新素材開発などには、多大な費用と時間がかかる。この物理的限界が高速化され続けなければ、収穫加速の法則も続かない。近年注目されているディープラーニングの段階でも、有用なデータの不足が懸念されている。
人間の脳はアナログでカオスな機構を含んでおり、普及しているディープラーニングよりも遥かに複雑である。
2006年のディープラーニングの発明により、ニューラルネットワークの深層化が可能になった。2012年にはディープラーニングによる画像認識手法が高性能を示し、世界的に社会実装が急進した。その後は神経科学と機械学習の統合で、AGI(汎用人工知能)の開発競争が起きた。現在は産官学で、人工知能への期待が高まっている。
上記で実現が目指されているAGIの多くは、技術的限界のため全脳アーキテクチャ方式に基づいている。この方式は、脳の各機能ユニットを工学的に再現し、情報統合を行うことで疑似的な汎用性を目指す。ただしこれは、原子・分子レベルで脳を再現する全脳エミュレーション方式に比べて、高度な情報統合(コネクトームなど)を不得手とする。
よってそれは脳のシミュレーションの範囲に留まり、人間的な感性が必要な創造的な仕事や繊細な作業は、全脳エミュレーション方式よりも不得意とされる。しかし、機械の動作速度は非常に高速であり、生物的な人間の脳を全側面で超える働きをする可能性が高い。人間の脳の規模における原子・分子レベルでの物理シミュレーションには膨大な計算資源が必要であり、理論的に完全な汎用性の実現には数十年単位の時間が必要だと考えられている。
2017年頃から、実験的な量子コンピュータのクラウドサービスが展開されつつあり、このようなサービスの発達と普及で2020年代にはニューラルネットワークの学習が高速化されると見込まれる。
2015年以降、特化型AIの影響が企業動向を変えるほど広まった。
現実の動向は予測以上に急速だとも言われる。2014年にロッキード・マーティン社の研究チームは、超小型の実用的な核融合炉を10年後(2024年)までに実現すると発表した。テスラモーターズCEOのイーロン・マスクは、2017年に人間の脳とAIとの接続を研究開発するスタートアップ「ニューラリンク」を起業した。
2017年の報道によれば、齊藤元章が示したように日本の産業界では、プレ・シンギュラリティ以降は機械のみが経営を行う純粋機械化経済に移行する(第4次産業革命が到来する)のであり、そのための具体的な施策が行われ始めている。