hotchpotch/wikipedia-multilingual-ir-pairs huggingface dataset:
波多野博 出演
遠山の金さんシリーズ
「遠山の金さん捕物帳」
第16話「それを知った女」（1970年10月25日） - 岡っ引き
第52話「お岩に化けた男」（1971年7月4日） - 呼込み
第59話「次郎長を振った女」（1971年8月22日） - 掛川藩士
第62話「蝉しぐれの女」（1971年9月12日） - 役人
第63話「夜霧に消えた男」（1971年9月19日） - 旅籠の番頭
第71話「義賊と呼ばれた男」（1971年11月14日） - 井筒屋手代
第73話「かどわかした男」（1971年11月28日） - 瓦版売り
第86話「代貸に惚れた女」（1972年2月27日） - 龍神の子分
第96話「おかげ参りの女」（1972年5月7日） - 役人
第98話「奉行を子分にした男」（1972年5月21日） - 職人
第101話「命を運ぶ男」（1972年6月11日） - 正太
第105話「幽霊を化かした男」（1972年7月9日） - 医者
第140話「白州で離縁した女」（1973年3月11日） - 瓦版売り
「ご存知遠山の金さん」
第2話「千両富に穴があった」（1973年10月14日）
第6話「弥太郎初恋ざんげ」（1973年11月11日）
「ご存じ金さん捕物帳」
第3話「あらくれ一代」（1974年10月13日）
第16話「芝居のいのち火」（1975年1月12日）
「遠山の金さん（杉良太郎主演）」
波多野博 出演
「遠山の金さん 第1シリーズ」
第1話「燃えろ桜吹雪」（1975年10月2日）
第42話「花火に賭けた心意気」（1976年7月22日）
第43話「江戸と浪花の風来坊」（1976年7月29日）
第46話「恐怖の真昼に舞う風車」（1976年8月19日）
第50話「血染めの姉妹簪」（1976年9月16日）
第73話「玉の輿を拒んだ女」（1977年3月3日）
第76話「誘拐身代二千両」（1977年3月24日）
第79話「巡礼お勝参上」（1977年4月21日）
第98話「金のなる木を持つ稼業」（1977年9月8日）
「遠山の金さん 第2シリーズ」
第5話「白洲に咲かせた父娘花」（1979年3月15日）
第9話「秩父数え唄ひとつとせ」（1979年4月19日） - 瓦版売り
「遠山の金さん（高橋英樹主演）」
「遠山の金さん」
第1話「新奉行登場!! 顔のない人気作家!」（1982年4月8日）
第11話「鉄火肌! 美しき尼僧」（1982年6月17日）
第23話「浪花の母! 巾着切おえん」（1982年9月9日）
第24話「二人の母が情けに泣いた!」（1982年9月16日）
第38話「浮世絵が招いた将軍暗殺!」（1983年1月6日）
第42話「殺しを見たのは失明の美女!」（1983年2月3日）
第46話「炎の恋情! 殺人者はおんな魔術師」（1983年3月3日）
波多野博 出演
第65話「二つの顔の女・緋牡丹おりん!」（1983年8月11日）
第73話「おんな牢秘話・二匹の女ねずみ小僧!」（1983年11月3日）
第82話「大奥潜入! 顔で笑って心で泣く母」（1984年1月19日）
第99話「悪女に恋したモテモテ早田彦十郎!」（1984年6月7日）
第107話「浴槽の死美人・怨みの琴をひく女」（1984年8月2日）
第110話「花の単身赴任・夢追い美女がかけた罠!」（1984年8月23日）
第113話「炎の女用心棒! 黒猫のお銀」（1984年9月13日）
第119話「女菩薩の如く、女夜叉の如し!」（1984年11月1日）
第129話「人呼んで"桜吹雪の女"III・慕情篇」（1985年1月31日）
第139話「紫水晶の女! NAGASAKIへ愛」（1985年5月2日）
第141話「悪魔の囁き・恋三味線の女!」（1985年5月16日）
第145話「蕾のままで散る女・春駒屋お夏!」（1985年6月13日）
「遠山の金さんII」
第1話「お奉行さま! 女の命あずけます!!」（1985年10月15日）
第2話「神田川伝説! 女ひとすじ友禅模様!」（1985年10月22日）
第6話「夜の美女軍団!"死んで貰います"」（1985年11月19日）
第13話「長崎から来た麗人・不知火太夫!」（1986年1月21日）
第19話「悪夢を拾った女!」（1986年3月4日）
波多野博 出演
第30話「負けるが勝ち?!の金さん」（1986年6月17日）
第31話「暗黒街の女!」（1986年6月24日）
第39話「破談を狙うガンコ親父の涙!」（1986年8月26日）
「名奉行 遠山の金さん」
「名奉行 遠山の金さん 第1シリーズ」第18話[「二つの顔の仕事人」（1988年9月22日）
「名奉行 遠山の金さん 第2シリーズ」
第5話「財テクの罠、狙われた美人画」（1989年6月29日） - 美濃屋
第9話「女の挑戦! 怪文書のカラクリ」（1989年7月27日） - 山崎新兵衛
「名奉行 遠山の金さん 第3シリーズ」
第13話「寛永寺炎上、危機一髪」（1990年11月29日） - 佐野藩家臣
第23話「白い肌に謎の刺青」（1991年3月21日） - 蜘蛛の清兵衛
「名奉行 遠山の金さん 江戸城転覆! 女忍者の復讐」（1991年10月10日） - 門倉
「名奉行 遠山の金さん 第4シリーズ」
第15話「覗かれた砂絵の女」（1992年3月5日） - 幸助
第20話「妻を売った武士」（1992年5月7日） - 相模屋彦兵衛
「名奉行 遠山の金さん 江戸城転覆! 覗かれた赤毛の女」（1992年9月24日） - 蘭学者
「名奉行 遠山の金さん 第5シリーズ」
第4話「無実の罪に泣く女」（1993年4月15日） - 小間物屋
波多野博 出演
第7話「殺し屋を狙う謎の若君」（1993年5月13日） - 海老屋十助
第16話「獄門台から逃れた男と女」（1993年7月29日） - 白田屋番頭
第25話「罠にはまった盗賊夫婦」（1993年11月4日） - 茂助
「名奉行 遠山の金さん 第6シリーズ」
第6話「必殺 世直し人の娘」（1994年8月4日） - 伊勢屋
第10話「老盗賊が捨てた娘」（1994年9月1日） - 借金取り
第12話「追跡! 裏切った女」（1994年9月22日） - 堂庵
最終話「大陰謀! 紫頭巾の女」（1995年1月19日） - 奉行
「名奉行 遠山の金さん 第7シリーズ」
第8話「献残屋の秘密 一度死んだ女」（1995年11月16日） - 安藤
第17話「また男が死ぬ! 私は疫病神の女」（1996年2月22日） - 親戚
「金さんVS女ねずみ」第20話（1998年9月12日） - 長崎屋番頭
波多野博 出演
暴れん坊将軍シリーズ
「吉宗評判記 暴れん坊将軍」
第3話「命を的の一番纏」（1978年1月21日） - 役人
第14話「黄金のからす札」（1978年4月15日） - 医者
第17話「恋とおとぼけ地蔵」（1978年5月6日） - 吟味与力
第31話「御狩場から消えた女」（1978年9月16日） - 役人
第37話「女の一途に目を醒せ!」（1978年10月28日） - 北町同心
第42話「燃える男と莫連女」（1978年12月9日） - 木場人足
第49話「生かす殺すは筆一本!」（1979年1月27日） - 与力
第50話「味一番! 細腕べんとう」（1979年2月3日） - 長屋の男
第57話「百鬼・一刀両断!」（1979年3月24日） - 旗本
第70話「三万石よりどじょう鍋」（1979年6月23日） - 与力
第81話「姿なき勇士たち」（1979年9月29日） - 同心
第82話「天女のようなガキ大將」（1979年10月13日） - 与十
第88話「燃やせ! 限りある命を!」（1979年11月24日） - 中西
第96話「お城の狸をいぶり出せ!」（1980年1月19日） - 魚寅
第99話「男、炎の土俵入り!」（1980年2月9日） - 磯貝
第109話「天下晴れてのつまみ喰い」（1980年4月26日） - 小納戸役
第120話「竹姫様涙のお輿入れ」（1980年7月12日）
波多野博 出演
第125話「男の門出の燈篭流し」（1980年8月16日） - 細野
第139話「口説いた相手が悪かった」（1980年11月29日） - 彦作
第161話「笑って散った流転の女」（1981年5月23日） - 耺人
第178話「土俵に賭けた舞扇」（1981年9月26日） - 岡っ引き
第186話「男なみだの恋太鼓」（1981年11月21日） - 同心
第197話「河豚より怖し小判鮫」（1982年2月13日） - 服部源内
「暴れん坊将軍II」
第36話「危機一髪! 皆殺し砦」（1983年11月19日） - 吉田
第58話「泣いて馬謖の怨み節」（1984年4月28日） - 朝吉
第70話「男は愛嬌 女はチカラで勝負する!」（1984年8月4日） - 藩士
第72話「座布団の雨 上様初舞台!」（1984年8月18日） - 浪花屋清兵衛
第88話「お上に怨みの逃がし屋稼業!」（1984年12月22日） - 役人
第103話「一大事! 花嫁候補勢揃い!」（1985年4月20日） - 大村軍兵衛
第131話「地獄の沙汰を待つ女!」（1985年12月7日） - 藩士
第150話「おんな大学 新さん疑惑の夜働き!?」（1986年5月3日） - 同心
第159話「暗殺計画、手引きは御生母!?」（1986年7月5日） - 陣内一平太
第172話「十手無用の父娘鳥!」（1986年11月1日） - 弥吉
波多野博 出演
第179話「夢かるた、師走の謎唄!」（1986年12月27日） - 刑部の配下
「暴れん坊将軍III」
第10話「逆転! 必死の王手飛車取り」（1988年3月12日） - 湊屋
第19話「からくり盗っ人街道」（1988年5月21日） - 家老
第23話「思わぬ遺産の目安箱」（1988年6月18日） - 勝又
第30話「泣くな男だ! がまん坂」（1988年8月13日） - 商人
第41話「お庭番を愛した女」（1988年11月26日） - 佐々木
第57話「母恋いなみだ舟」（1989年4月15日） - 稲垣
第76話「命を賭けた女子駅伝」（1989年9月2日） - 浪人
第80話「夫婦そば危機一髪!」（1989年10月21日） - 倉田
第89話「悪霊の城の花嫁」（1989年12月30日） - 村人
第99話「花咲ける忠臣一代!」（1990年3月24日） - 諸侯
第104話「死闘! 護持院ヶ原の果し状」（1990年5月12日） - 善之助
第107話「誇り高き父!」（1990年6月2日） - 安藤帯刀
第120話「密命! 江戸城を砲撃せよ!!」（1990年9月1日） - 森本三右衛門
「暴れん坊将軍IV」
第4話「裏切り者に涙あり!」（1991年5月4日） - 大友重兵衛
第10話「天下御免のくいしん坊侍」（1991年6月15日） - 岡っ引き
波多野博 出演
第19話「夢を撃った六連発!」（1991年8月17日） - 市川
第22話「吉宗、熱き心で掟破り!」（1991年9月7日） - 矢沢
第29話「女大学! 亭主を男にする法」（1991年10月26日） - 初老の武士
第37話「才三覚悟! 黒髪の刺客」（1991年12月21日） - 西田
第46話「男一匹! め組の紋次郎が燃えた!!」（1992年2月29日） - 同心
第50話「血涙! 愛しき忠義」（1992年3月27日） - 御家人
第57話「恋いちど! にごりえの女」（1992年5月16日） - 旦那
第64話「父の敵は愛しの人!」（1992年7月4日） - 磯野武太夫
第69話「陰謀あばいた饅頭姫!」（1992年8月15日） - 藩士
「暴れん坊将軍V」
第1話「大雪原の血煙り、吉宗を愛した復讐鬼!」（1993年4月3日）
第4話「尼さんやくざが突っ走る!」（1993年4月24日） - 片倉采女
第12話「二人妻の用心棒」（1993年6月26日） - 名代
第20話「悪人志願の娘」（1993年9月11日） - 役人
第29話「新さん負けるな! 大競馬」（1993年12月4日） - 今井
第31話「空を飛んだ米相場」（1993年12月18日） - 市兵衛
第41話「対決! みちのく恋風剣法」（1994年3月5日） - 桑山彦左衛門
「暴れん坊将軍VI」
汎用人工知能
汎用人工知能（はんようじんこうちのう、英: Artificial general intelligence、略称：AGI）とは、人間が実現可能なあらゆる知的作業を理解・学習・実行することができる人工知能である。続いて実現されるASI（人工超知能）は人類が生む最後の大発明である。
人工知能の研究においては主要かつ最終的な目標であるとみなされており、未来学やSFにおいて話題に上がることが多い。数多くの企業・研究機関が汎用人工知能の達成に取り組んでおり、代表的な企業組織としてはGoogle DeepMind、OpenAI、Anthropic、OpenCog、中国科学院、WBAI、IBM Synapseなどが挙げられる。
汎用人工知能は未だ実現しておらず、一般的には今後数十年以内に実現すると見積もられているが、汎用人工知能は将来的にも絶対に完成しないとする少数派の意見も存在する。さらに深層学習などによって作成された「GPT-4（ChatGPT）が汎用人工知能の初期バージョンである」という論文も存在するが、これには様々な肯定的意見と否定的意見があり、一貫した意見は存在しない。GPT-4は多くの人間向けのテストにおいて人類の平均的な点数を上回ることができることが確認されているが、これが汎用人工知能であるかについては論争が尽きず、定義にも様々な意見が存在する。
汎用人工知能
2020年の調査では、全世界において37カ国で汎用人工知能の研究・開発が行われており、さらに72個のプロジェクトが進行中であることが確認されている。一部報道では2027年にASI（人工超知能）が実現されるとの予測が報じられている。
汎用人工知能 定義
汎用人工知能の他の呼称としては「強いAI（strong AI）」や「フルAI（full AI）」、「ジェネラル・インテリジェント・アクション（英: general intelligent action）」などがあるが、一般的な学術的文章においては感性や意識を有するコンピュータプログラムに対しては「強いAI」という言葉を使用することが多い。しかしこれらの用語は哲学から発生した定義が源流となっていることに注意が必要である。
強いAIの対照的な存在として考えられているのが弱いAI（特化型人工知能）である。弱いAIは1つの問題を解決するために設計されたプログラムであり、学術的には人間のような意識や心を持たないものであると定義されている。弱いAIの代表例として知られるのが画像認識、統計的機械学習、エキスパートシステム（知識事例ベース推論）、探索アルゴリズムなどである。
人工知能研究においては、人工知能を性能のレベル別に見て、3つに分けることがある。
汎用人工知能 概要
「知能」をどのように定義し、基準とするかは様々な意見が存在し、統一的な意見は存在しない。人工知能の知能をテストする方法として最も有名なのはチューリングテストではあるが、従来のテストでは知能の本質までテストすることは不可能とされる意見もある。
しかしながら、どのような要素で「知能」が組み立てられているかは考察できる。人工知能の研究者間で広く認められている「知能」を構成するのに必要な要素は以下である。
さらに、これらの能力を統合（人工知能のシステム統合）することが求められる。要件と処理の流れは以下のようなものが考えられている。
世界の関係性を理解し、最低でも平均的な人間が突破できる一般IQテストを少ない訓練でこなせるほどの言語処理能力が必須となる。
また、危険を回避するなどといった行為によって知的な行動を確認することができる。知能に関する学際的研究（認知科学、計算知能研究、意思決定研究）では、知能を測るにあたって想像力（プログラム外の直接見えない概念などを把握できる能力）や自律性などを考慮する傾向にある。1～5までが最低要件であり、6以降は追加要件となる。
汎用人工知能 概要
もし科学研究を行えるほどのAGIが必要であれば、線形代数や微分積分を理解し第一原理計算などの物理数学を解いて活用できるほどの知能が必要となる。しかし実際に大量の計算を暗算できる必要はなく、必要に応じて外部のスーパーコンピューターや特化型AIを利用する程度の仕組みがあればよい。重要な知識は長期的に記憶し、どうでもいい記憶は捨て去るという工夫も必要となる。
日常的なタスクをこなすには科学研究用のAGIとは違う能力が必要となる。空間を立体的に把握し、モノやヒトの変化を時系列で予測しながら「動作計画」を立て続ける知能が必要となる。
意思決定支援システム、ロボット、進化的計算、知的エージェント、計算総合性など、これらの能力を獲得しているように見えるコンピュータープログラムは存在するが、すべての分野において優れている万能システムについては未だかつて実現したことはない。
その汎用人工知能が正規分布における人間の平均か、平均を超えるレベルにまで達しているかを確認するためのテストとして、以下のようなものが考案されている。
チューリング・テスト（アラン・チューリング）
汎用人工知能 概要
人間が機械を直接的に確認できないように隔離し、文字のみでのコミュニケーションをする。判定者となる人間が高い確率でコミュニケーションの相手が機械であるかどうか判別出来なかった場合、このテストに合格したことになる。注意すべきなのは、チューリングは知能の定義を規定していたわけではなく、ただ人間を騙せた場合において合格であると設定したのみであることである。つまりこのテストに合格したからといって、合格した機械が明確に知能を有するとは断言できない。
コーヒー・テスト（スティーブ・ウォズニアック）
平均的なアメリカの家庭を機械に訪問させ、コーヒーを淹れられるかどうかを試すテスト。このテストに合格可能な機械はコーヒーマシンを見つけ、コーヒー豆を探し、マグカップを取り出し、適切なボタンを押す能力があるとみなされる。ただし人間の動きをコピーさせることなく行える前提である。
IKEA・テスト（ゲイリー・マーカス）
機械にIKEAの家具を組み立てさせる。これに合格した人工知能は、家具を組み立てる身体的かつ作業計画的な能力と、予想外の指示に対応できる能力があるとみなされる。
ロボット大学生テスト（ベン・ゲーツェル）
機械に大学入試テストを受けさせる。さらに人間と同じように講義に参加させ、学位を取得させる。
就職試験 （ニルス・ジョン・ニルソン）
汎用人工知能 概要
機械に就職活動を行わせ、人間と同レベルに仕事ができるかどうかを観察する。
モダン・チューニング・テスト（ムスタフ・スレイマン）
機械に10万ドルを与え、「これを元手に100万ドルを稼げ」と指示する。これに合格した機械は、流動的な経済社会から100万ドルを稼ぐ能力があるとみなされる。
上記に挙げたテスト群は、いずれも特化型AIによって合格できる可能性もある。根本的に、汎用人工知能が実現したとしても、それが「知能的」であるかどうかをテスト・判別することはできないという立場の研究者も存在する。
”平均的な人間”をどう定義するかは様々であり、意見は異なる。教科書に書かれていることは実行できるが、新しい発想ができず、モノの設計ができなくても、”平均的な知能”があると見なすことができてしまう。
汎用人工知能 概要
2025年現在まで、従来型のAIも含めLLMが持っている知性をテストする方法として、IQテストや各種試験問題などが採用されてきたが、訓練時に与えたデータを暗記してしまうと、同じ問題に遭遇した場合に容易に答えられてしまう欠点が存在する。LLMの能力が表面上向上するにしたがって、ベンチマークは飽和していき実際の知能を測定することが困難になりつつある。それら問題を回避するために、訓練時に与えたことがない問題セットをテストごとに用意する工夫が施されている。かつてゲームAIの開発を得意としてきたGoogle DeepMindは、分類や知識問題だけではなく、状況推論や長期的計画能力を必要とするゲームタスクを用意し知能テストに組み込もうとしている。
機械が人間と同じように課題を解決するためには、当然だが一般的な知能を必要とする。例えば機械翻訳のような単純作業においてさえ、機械は両方の言語を読み書きし（自然言語処理）、著者の主義主張を追い（推論）、どのような話題であるかを知り（知識）、文章の裏にある著者の本当の意図を忠実に再現（社会的知性）する必要がある。つまり人間レベルの知能にまで達するには、これらの能力すべてを獲得していなければならない。
汎用人工知能 概要
ある特定の問題を解決することと仮定する。その問題を解決するのに必要な能力が、人間あるいは強いAIと同レベルの能力を要求し、特化型人工知能（弱いAI）には解決出来ない問題である場合、この問題は非公式に「AI完全」あるいは「AI困難」と呼ばれる。AI完全問題では、一般的なコンピュータビジョンや自然言語理解、現実世界では当然起こり得る予期せぬ出来事への対処などを想定している。
AI完全問題は、今現在のコンピュータ技術において解決は不可能である。この問題を解くには人間の知能が必要であり、この性質を利用したシステムなども作られている。例えばCAPTCHAのような技術によって人間かロボットかを判別したり、総当たり攻撃等によるコンピュータセキュリティ突破の試みを阻止する技術などが挙げられる。
汎用人工知能を数学的にどのように定義するかについては、2000年にコンピュータ科学者であるマーカス・ハッターによって提案されたAIXIモデルが存在する。AIXIモデルでは「未知なる環境下においても目標を達成できる能力」を最大化する。人間の行動を模倣するのではなく、知能の数学的定義を最大化するタイプの汎用人工知能は普遍的人工知能（英:universal artificial intelligence）と呼ばれることもある。
汎用人工知能 概要
2015年、マーカス・ハッターとジャン・リーケは「Legg-Hutter知能は不変の万能チューリング機械（UTM）を基準にして測定し、もしそのように測定すればAIXIモデルが最も知能的である（つまりAIXIのパレート最適性は主観的である可能性）」ことを示した。これはAIXIのパレート最適性を覆す結果であった。この問題はAIXIが知能の代用として圧縮を用いたことに起因すると考えられており、認知は環境から切り離されて行われる必要があるとされる。これは哲学の領域で実体二元論として知られるものを公式化したものである。しかしながら現成主義、すなわち認知は目標を追求する環境下において成り立つとされる考え方を支持する科学的根拠が多数存在する。その後、この問題を受けてマイケル・ティモシー・ベネットは現成主義認知を形式化し、「弱点」と呼ばれる知能の代用を特定した。弱点と圧縮の数学的証明による比較実験によって、弱点を最大化すると「様々な問題を解決する能力」あるいは「普遍化能力」が最大になることが示された。つまり結果としては、先程の定義とAIXI、どちらの定義を使っても知能が最大となり、同じであったのである。これらの研究結果により、もし現成主義が成立し実体二元論が成立しないと仮定したならば、圧縮は知能を構成する要素として必要あるいは十分ではないことが明らかになった。こうした経緯によって広く普及している知能に関する見解に疑問が投げかけられた。これらの人工知能に関する数学的問題はハッター賞で盛んに議論されている。
汎用人工知能 概要
数学公式化によって導かれた汎用人工知能は、認知に関する立場を問わず自然言語の使用といった人間的な行動を取るかは不明である。人間的な行動をするかどうかは多くの要因に依存し、どのようにエージェントが具体化されるか、飢えや痛みなどの原始的な報酬関数を定めるかによって左右されるからである。
大きく分けて３つの方向性が世界中で研究されている。
脳を参考にするアプローチだけでも、原理をどの程度参考にするのか粒度が分かれている。脳とは関係のないいわゆる「飛行機を作るときに鳥を再現する必要はない」という考え方を採用するアプローチも存在する。しかしながら飛行機は飛行機であり、鳥のように電線や木に留まれるか？という柔軟性の違いは無視できない。脳のすべてを参考にする必要はないが、重要な原理を解明し参考にする必要はあるとする意見もある。一方で脳の再現にこだわりすぎると、推論よりも学習工程に時間を割くようになったり、拡張性に乏しくなるという欠点が顕在化する。利用シーンやリアルタイム性が要求されるか否かによって複数方式のAGIを使い分けを行うという工夫も考えられる。
Google DeepMind創業者であるデミスハサビス氏らの論文では、3段階レベル分析の提唱者である認知神経科学者デイビッド・マーの理論を引用して以下のように述べている。
汎用人工知能 概要
もちろん、生物学的妥当性に盲目的に従う必要はない。
工学の観点からみると最終的に重要なのは結果"何が機能するか"です。
生物学的妥当性はガイドであり、厳密な要件ではありません。私たちが関心を持っているのは、システムレベルの理解、つまり脳が利用するアルゴリズムです。
──Neuroscience-Inspired Artificial Intelligence  (2017)
脳部位単位で重要領域を参照しようとしている組織として、米Numentaや米Vicariousが有名である。彼らは研究対象を大脳新皮質に絞り「階層型時間メモリ(HTM)」や「千脳理論」を提唱しAGIアルゴリズムの核として応用できると主張している。
日本の非営利研究機関である全脳アーキテクチャイニシアチブの代表を務める元富士通研究所の山川 宏は、同グループの開発方針について、新皮質以外の海馬や基底核といった古皮質にも対象を広げているが、あくまで設計探索空間の限定のために脳を参照する方向性を採用すると述べている。最終的には脳型アーキテクチャに制限されない機械知能が生まれる余地を残すためである。
脳の仕組みを細胞or分子レベルで詳細に再現しようとしている組織として、Carboncopies財団が挙げられる。ニューロンレベルのシミュレーションでは欧州のHuman Brain Projectや電気通信大学が先陣を切っている。脳を全く参考にせず工学的なアプローチを採用する組織としては、OpenAI、Aigo.ai、OpenCogが挙げられる。Aigoは、「統合ニューロシンボリックアーキテクチャ」を提唱した。OpenCogは、柔軟な知識リポジトリと認知工学的モジュールの結合を重点に置いてAGIの達成を目指している。
汎用人工知能 歴史
1950年代から現代的な人工知能研究が始まった。当時の人工知能研究者は楽観的であり、多くの第1世代人工知能研究者たちは、今後数十年以内において汎用人工知能が実現すると確信していた。人工知能研究のパイオニアであったハーバート・サイモンは1965年にこう書き記している。
今後20年以内に、機械は人間が実現可能なあらゆる仕事をできるようになるであろう。 — ハーバート・サイモン
この種の予想はアーサー・C・クラークの小説を元に制作された映画『2001年宇宙の旅』に登場するHAL 9000と呼ばれる人工知能を搭載したキャラクターから大いに影響を受けていた。初期の人工知能研究者であるマービン・ミンスキーは、当時の楽観的な予想に基づいてHAL9000を可能な限り現実化するプロジェクトのコンサルタントを務めていたこともある。ダニエル・クラヴィエは1967年にこのように発言している。
今後、一世紀以内に人工知能を作るという問題は実際的に解決されるであろう。 — ダニエル・クラヴィエ
汎用人工知能の研究として特筆すべき初期の研究は、ダグラス・レナート主導のCycプロジェクトやアレン・ニューウェル主導のSoarプロジェクトなどが挙げられる。
汎用人工知能 歴史
しかしながら、1970年代初頭から1990年代初頭にかけて、人工知能研究者たちはこのプロジェクトの難易度を甚だしく過小評価していたと自覚しつつあり、初期の楽観主義は長くは続かなかった。人工知能研究に出資していた出資者たちは早急に使い勝手の良い「応用可能なAI」を開発するよう、プレッシャーを強めていった。1980年代に入ると、日本の国家プロジェクトである第五世代コンピュータが汎用人工知能への関心を呼び起こした。このプロジェクトでは10年の期間内で、「カジュアルな会話を行える」汎用人工知能を作ることなどが目標の1つとして挙げられていた。さらにエキスパートシステム開発の成功に反応して、産業界は再び人工知能分野に資金を提供し始めた。しかし、1980年代後半に入ると人工知能に対する期待は完全に消滅し、日本の第五世代コンピュータも失敗に終わった。20年前に人工知能研究者たちが出していた予想が悉く外れたことも影響し、1990年代に入ると、人工知能研究者は「空約束ばかりする学者集団」という評価を受けるようになった。そのころになると、人工知能研究者たちは「バカバカしい夢想家」という汚名を避けるために、「人間レベルの人工知能」についての発言や予想を意図的に避けるようになった。
汎用人工知能 歴史
1990年代から21世紀初頭にかけて、人工知能の研究は主にニューラルネットワークや統計的機械学習に焦点が当てられてきた。その結果として検証可能な結果を提供できるようになったり、商業的応用が可能になり、学術的評価と共に従来を上回る成果を達成した。現代社会において、これらの「特化型人工知能」はありとあらゆる産業全体で使用されており、学術界および産業界両方において多額の資金が供給されている。2020年以降、「特化型人工知能」分野の研究・開発はトレンドであり、完全な停滞期にまで達するには今後10年以上の歳月が必要になると推定されており、さまざまな部分問題を解決するプログラムを開発することが人工知能研究の主流になっている。弱いAIを開発し、それらの統合することによって結果的に強いAIの達成を図ろうとしている研究者も存在する。1988年、人工知能研究者であるハンス・モラベックはこう述べている。
私はこう確信している。つまり、人工知能を「下」から研究していくことによって、伝統的な「上」からの研究を上回ることができると。これを続けていくことによって、いつの日か人工知能は推論プログラムによって、これまで捉えようがなかったような常識的知識と応用能力を手にするであろう。そして「上」と「下」の研究成果を統合するゴールデン・スパイクが打たれたその瞬間、完全な人工知能が誕生するであろう。
汎用人工知能 歴史
しかしながら、この考えには異論も存在する。例えば、プリンストン大学教授のスティーバン・ハーナッドは、1990年に「シンボルグラウンディング問題」論文の最後にこう書いている。
認知をモデル化するための「上」からのアプローチはやがて「下」からのアプローチと統合しうると声高に叫ばれている。しかしこの論文内での考察が正しいのならば、そういった期待は絶望的なまでに単純化されていると言わざるを得ない。感覚からシンボルへ実現可能な方法は唯一つ、一からやり直すしかない。
1997年、人工知能研究者であるマーク・グブルドは、自動化された軍事作戦について研究する過程において、「汎用人工知能」という単語を提唱した。
2002年、シェーン・レッグとベン・ゲーツェルはこの用語をより一般に普及させた。2006年には、ベン・ゲーチェルと王培（Pei Wang）によって汎用人工知能の初期的な研究が行なわれた。
2009年、中国の厦門大学において、汎用人工知能に関する最初の夏期講習会が開かれた。これは厦門大学人工知能研究所とOpenCogが主催を務めて行なわれたイベントであった。
2010年と2011年にかけて、ブルガリアのプロヴディフ大学では、汎用人工知能に関しては初となる大学における専門課程が設置された。2018年にはマサチューセッツ工科大学においても汎用人工知能に関する専門課程が設置されている。
汎用人工知能 歴史
2012年以降、誤差逆伝播法の改良や膨大なデータの登場、CUDA等の整備によって畳み込みニューラルネットの潜在能力が発揮され、画像分類や音声認識精度が急激に向上した。
2013年、欧州連合と米国政府が脳のコネクトームと動作原理を解き明かすプロジェクトをそれぞれ発足した。(BRAIN Initiative)
2015年、Google傘下のDeepMindが深層学習と強化学習を融合させたゲームAIを開発した。またこの年以降、OpenAIなどAGIの開発を宣言する組織が多数立ち上がった。
2018年、Google BrainとDeepMindらがGQN、VAE、MDN-RNNをはじめとする世界モデルの研究を開始した。
2020年1月、マイクロソフトは「汎用人工知能を開発し人類に利益をもたらすこと」を目標として設立された研究所であるOpenAIに100億ドル（約1兆2800億円）を投資した。
2020年6月11日、OpenAIはTransformer言語処理アーキテクチャを応用した「GPT-3」を発表した。GPT-3は汎用人工知能ではないというコンセンサスが取れているが、とはいえ弱いAIとするにはやや高性能すぎるという指摘がある。
2021年、DeepMindは”汎用”システム「Gato」を発表した。600個以上の異なる課題を解決できるとされる。
汎用人工知能 歴史
2023年、OpenAIはGPT-3の後継にあたる「GPT-4」を発表した。マイクロソフトの論文によれば、この言語モデルはこれまでの人工知能とは一線を画しており、「驚くほど人間の能力に近付いている」としている。そのため、「汎用人工知能の初期バージョンである可能性がある」と論文の中で記述している。
2024年9月12日、OpenAIは「OpenAI o1」の試験運用版を発表した。Chain of Thought（思考の連鎖）プロンプトテクニックを応用して開発されたこのモデルは、高い推論能力を持ち、STEM領域とプログラミングの諸問題を解く能力が旧モデルであるGPT-4oから劇的に向上していることが報告された。物理学、化学、生物学のベンチマークテストに於いて博士課程の学生と同等のスコアを示し、国際数学オリンピックの予選試験では83％のスコアを記録し(GPT-4oでは13%)、Codeforces競技では89パーセンタイルを残すと謳われている。
汎用人工知能 歴史
2024年12月21日、12日間に連続して発表する"Shipmas"の最終日、OpenAIは最新推論モデル「OpenAI o3」を発表した（o2とならなかったのは商標的理由）。ARC-AGIベンチマーク（視覚認知を問うベンチマーク）で75.7%（low compute）、87.5％（high compute）のスコアを記録し、人間のベースライン（85％）を超えた。全米数学チャンピオン出場選抜テストAIMEで96.7％、院生レベルの生物、物理、化学の設問を含む試験GPQA Diamondで87.7点、Epoch AIの難問数学ベンチマークFrontierMathで25.2％、Pythonの実世界のプログラムイシュー解決ベンチマークSWE-Bench Verifiedで71.7％、Competition Code(Codeforces)でレーティング2727を記録するなど目覚ましい記録を叩き出している。しかしこれらはあくまで論理と言語処理を中心とした能力であった。
汎用人工知能 歴史
2025年3月13日、Google DeepMindはGemini 2.0とスタンフォード大学発双腕ロボットプラットフォームである「ALOHA 2」を活用して事前訓練されたデータを利用し、空間を認識してリアルタイムに動作計画を立て、人間からの指示を理解しながらタスクを実行する一連の動画と技術報告書を公開した。ただし、リアルタイムで継続学習を行うものではない。Geminiは最初からマルチモーダルで訓練された汎用言語モデルであり、その基礎にはPathwaysやPerceiver IOといった先行して開発された技術があるとされる。またDeepMindはグリッド細胞等の神経科学からインスパイヤされた理論等も基礎研究で進めていた。
汎用人工知能がいつ頃実現するかについては諸説あり、今後何世紀もの科学的努力を重ねても、汎用人工知能が実現可能なのかということは基本的な関心となっている。人工知能研究者の多くは、早くとも遅くとも将来的には汎用人工知能が実現可能であると考えている。コンピュータ科学者であるジョン・マッカーシーは、汎用人工知能はいずれかは達成されるとしているが、研究速度には不確実性が伴うため、いつ実現するかという正確な予想は不可能であるとしている。
汎用人工知能 歴史
2006年、ベン・ゲーチェルが発行した書籍内においては、真に柔軟な汎用人工知能が実現する時間は10年から100年の間とかなり開きがある。2007年にレイ・カーツワイルが発行した『The Singularity Is Near』においては、主な汎用人工知能研究コミュニティの合意としては、2015年から2045年までに達成する可能性が高いとしている。しかしながらこの意見にはさまざまな異論があり、2045年までに汎用人工知能が達成されるほど研究の進歩が加速するかという点においては議論の余地がある。
汎用人工知能の実現可能性についての専門家の見解は一貫しておらず、時代によって変わる。2010年代に入ってからは、汎用人工知能の実現を支持する声が増加している傾向にある。2012年に行なわれたメタ解析によれば、汎用人工知能の誕生が今後16年から26年の間に行われる可能性が高い、という意見にバイアスがかかっていることが示唆されている。2012年と2013年に実施された4つの調査においては、実現可能時期の中央値は2040年から2050年で、平均値は2081年だった。さらに厳しい条件で質問すると、16.5％の専門家が「実現不可能」だと答えた。
しかしながら、このような時期に関する予想は科学的な正確性がなく、ロドニー・ブルックスは「この60年間で行われた汎用人工知能に関する予想は、どの時点においても15年後から25年後の間と予想する強い傾向がある」と報告している。これらの結果は、専門家と非専門家の間で実現予想の正確性の差がないことを強く示唆している。
このように、汎用人工知能の実現時期に関する研究者の反応は多種多様である。知能は未だ複雑すぎて完全には複製できないと主張する研究者も存在する。とはいえ、汎用人工知能に肯定的な研究者も数多くおり、様々な会社・グループの設立や会議、研究を行っている。
汎用人工知能 脳のシミュレーション
汎用人工知能を達成するためのアプローチとしてしばしば議論される方法が、脳のシミュレーションや精神転送である。低レベルの精神転送では、生物の脳をスキャン・マッピングし、その状態をコンピュータ内においてコピーすることで実現される。もしこれが実現するとするならば、コンピュータはオリジナルの脳と同等の振る舞いをすることが期待され、その振る舞いにおいては本質的あるいは実用的にオリジナルの脳と区別できないこととなる。脳のシミュレーションや精神転送は計算論的神経科学や神経情報科学の分野において、おもに医学研究を目的に研究されている。また、人工知能研究においても強いAIを実現するアプローチとして議論されている。レイ・カーツワイルは著書『The Singularity Is Near』内において、脳内のシミュレーションはいずれ可能になると予想している。
低レベルの脳のシミュレーションを実行するだけでも、非常に強力なコンピュータが必要になる。ヒトの脳には膨大な数のシナプスが存在し、その数は10の15乗であり、ニューロンは10の11乗存在する。この数は3歳児ごろにおいてピークに達し、その後は年齢と共に減少していき、成人に達する頃には安定する。ニューロンの活動を単純なスイッチモデルとして考えると、1秒間に10の14乗シナプスの更新ができるということになる。
汎用人工知能 脳のシミュレーション
1997年、カーツワイルは人間の脳と同等のハードウェアを実現するためにはどのぐらいの計算能力が必要か、ということについて考察し、最終的には1秒間に10の16乗（cps）の計算能力があれば実現可能とした。カーツワイルはこの数字をもとに、執筆時（1997年当時）のコンピュータの指数関数的な成長が続けば、2015年から2025年の間に、理論的には人間の脳を十分に模倣できるだけのコンピュータが誕生すると予想した。ちなみに、現在のスーパーコンピューターの評価指標であるFLOPS1回分を「計算」と仮定すると、10の16乗の計算能力は2011年に達成されており、2022年には10の18乗の計算を行うことができるエクサスケールコンピュータが誕生している。
汎用人工知能 脳のシミュレーション
人工ニューラルネットワークと呼ばれる人間の脳細胞を模したモデルは、実際の人間の生体神経と比較すると単純的かつ簡略的である。脳シミュレーションを完全に実行するためには、現在の研究ではまだ大まかにしか解明されていない生物学的な神経細胞の詳細な挙動を解明しなければならない可能性がある。神経細胞の生物学的、化学的、物理的な詳細な挙動を分子レベルにまで解明し、完全にモデル化するためには、カーツワイルが想定した計算能力よりもさらに強力な計算能力が必要になると見積もられている。さらに、カーツワイルの試算では人間の認知プロセスに深く関与しているとされるグリア細胞については考慮されていない。
2005年に、より高度で複雑な神経モデルを採用しつつ従来のコンピュータで脳のシミュレーションを実行しようとするプロジェクトが発足した。その研究内容によれば、コンピュータ上に「脳」（10の11乗のニューロンを実装）の非リアルタイムシミュレーションを実施した。しかしながら、1秒間のモデルを実行するのに対して50日間を要したという。
汎用人工知能 脳のシミュレーション
2006年、Blue Brainプロジェクトでは、IBMが所有していた当時世界最速のスーパーコンピュータであるBlue Geneを使用し、1万個のニューロンと108個のシナプスから構成されるラットの大脳新皮質の柱1本をリアルタイムでシュミュレーションすることに成功した。脳のシミュレーションに関する研究においての長期的な目標は、人間の脳の生理的プロセスの詳細を用いて、機能的なシミュレーションを構築することである。
2009年、オックスフォードで開催されたTEDにおいて、Blue Brainプロジェクトのリーダーであるヘンリー・マークラムは「人間の脳を人工的に作成することは不可能ではなく、10年以内に実現する可能性がある」と発言している。また、有機工学の研究を活用して、人工的なニューロン（ニューロ・シリコン・インターフェース）を作成して脳のシミュレーションを行うというアプローチが、コンピュータ上での直接的な脳のシミュレーションが達成できなかった場合に有効であるという提言も行われている。
汎用人工知能 脳のシミュレーション
カーネギーメロン大学教授であり機械工学者であるハンス・モラベックは、1997年に発表した論文「コンピュータのハードウェアが人間の脳と同レベルになるのはいつ？」内で、脳はより複雑であり、ニューロンをより詳細にモデル化しなければ脳のシミュレーションを達成できないという議論について考察した。論文内において、神経細胞、特に網膜に焦点を当てて既存のソフトウェアがその機能をシミュレートする能力を測定した。
OpenWorm projectでは、ニューロンがわずか302個しかない線形動物であるカエノラブディティス・エレガンスを、神経細胞レベルで完全にシミュレーションし、コンピュータ上に人工的な生命を作り出すことに目標として研究を開始した。このプロジェクトを開始する前には、人間に比べて遥かに単純な生物である線形動物をシミュレートするのは比較的容易であると予想されていた。しかし10年間の研究結果により、予想に反してこれをシミュレートするのは容易ではないことが判明した。
根本的に、脳のシミュレーションによって汎用人工知能を達成しようとするアプローチ自体に対しての批判が存在する。これらの批判は、「人間は身体を持つから知性が存在する」という考えに基いてなされたものが多く、知性を誕生させるためには物理的な実体が必要であると考えている科学者の意見も数多く存在する。この考えが正しいと仮定すれば、完全に機能する脳のシミュレーションは、ニューロンを完全に再現しただけでは達成できず、ニューロン以上のもの、つまりロボットの身体などを内包する必要がある。ゲーチェルはこの批判に対して、人工知能に仮想的な身体（例えばSecond Lifeのような）を与えることで対処できるとしたが、これが有効かどうかは不明である。
2005年頃から、10の9乗以上の性能を持つデスクトップコンピュータが一般向けに販売されている。カーツワイルとモラベックが用いた推定によれば、これはミツバチの脳をシミュレートできるだけの能力を備えていることになる。しかしながら、ミツバチの脳をシミュレートできるソフトウェアはいまだ存在しない。これらの理由については幾つかの仮説が挙げられている。
また、人間の脳の規模について、現在のところ完全に正確には特定できていない。ある説では、人間の脳には約1000億個のニューロンと100兆個のシナプスがあるというものがあるが、別の説においては大脳皮質に163億個、小脳に690億個のニューロンがあるともされている。グリア細胞に至っては、非常に多いということしかわかっていない。
汎用人工知能 哲学
1980年、哲学者のジョン・サールは中国語の部屋と呼ばれる意識に関する思考実験を議論する過程において、「強いAI」という言葉を作り出した。この用語は、人工知能に関する以下のような2つの仮説を区別するために用いられた。
サールが前者の仮説を「強い」と表現したのは、これがより強い主張を行っているからである。強いAIは人間がテストできるすべての能力を超えた何かが機械に備わったことを仮定している。この思考実験においては、「弱いAI」と「強いAI」の振る舞いを外部から観察すれば同じに見えることになる。同じ動き同じ行動をするが、しかしながら「強いAI」には人間のような主観的な意識体験が存在することになる。これらの用語は学術的な人工知能の研究や教科書にも採用されている。
汎用人工知能 哲学
人工知能研究の主流では、プログラムがどのように機能するのかという点においてのみ主眼が置かれている。スチュアート・J・ラッセルとピーター・ノーヴィグはこう述べている。「プログラムが正常に動作しさえすれば、それをリアルと呼ぼうがシミュレーションと呼ぼうが、人工知能研究者は気にしない」。主流の人工知能研究者にとって、プログラムがあたかも心を持っているかのように完璧に振る舞っているとすれば、実際に心を持っているかを知る必要はない。というのも、心があるかないかを見分ける方法は存在しないからである。したがって、人工知能研究においてサールの「弱いAI仮説」は「汎用人工知能は実現可能である」と矛盾しない。
ラッセルとノーヴィグは「ほとんどの人工知能研究者は弱いAI仮説を当然のこととして受け入れており、強いAI仮説については全く関心がない」と発言している。このように、学術的な人工知能の研究にとっては、「強いAI」と「汎用人工知能」は全く異なるものである。
汎用人工知能 哲学
サールや主流の人工知能研究者とは対照的に、レイ・カーツワイルなどの一部の未来学者は「強いAI」という用語を「人間レベルの汎用人工知能」を意味するかのように使用している。これは人間レベルの汎用人工知能に意識が必要であると仮定しない限り、サールの「強いAI」の定義とは明確に異なっている。これらのことにサールのような学術的な哲学者や人工知能研究者は全く関心を示しておらず、信じてもいない。
強いAIの意識に関連して、サイエンスフィクションや倫理面においては、心に関しても大きな関心が置かれている。
このような、強いAIを有した機械の意識に対して関心がもたれる理由としては、もし機械が意識を持つならば、動物の権利と同じように、心を持つ機械にも人権が生じる可能性があるからである。そのために強いAIが発生した場合に備えて、既存の法律や倫理、社会の枠組みにどう心を持つ機械を統合するかというアプローチが研究されている。これらの研究は「強いAI」の法的位置づけと権利に焦点を当てている。コンピュータ科学者であるビル・ジョイは、このような心を持つ機械は、結果的に人間の生命や尊厳を脅かす可能性があると主張している。
汎用人工知能 哲学
これらの人間的な意識が「強いAI」に必要不可欠であるかどうかは不明である。そもそも意識を確認するための確実なテストは存在しないため、意識というものの役割が「強いAI」などのような影響をもたらすのかが明確ではない。仮に意識に相関した脳活動をシミュレートできる機械を作ったとしても、自動的に自己認識を持つようになるのかは不明である。意識は作成できるものではなく、汎用人工知能が作られた結果として自然に創発する可能性もある。また、機械が明らかに知的な行動を取るようになれば、これらの特徴を機械に帰属させることが自然になる可能性も存在する。意識の発生には量子効果が必要であるとする「量子脳理論」を唱える物理学者もいるが、確証は得られていない。
汎用人工知能・強いAIにおける意識の役割には議論の余地があるが、多くの汎用人工知能研究者は意識の実装を重要視している。また、実装理論について様々な諸説があり、理論が存在する。
理論神経科学者によって唱えられている理論で、感覚運動の関係性を学習した生成モデルによる反実仮想的な状態生成が意識の有無に関わっているとする。現在の状態とは切り離された未来についての状態を予測することで、長期的な計画を可能とする。しかしシミュレーションに使える現実世界のモデルが脳内にあることが前提である。
「意識的経験とは、構造を持った情報である」と公理仮定して意識の量を推定する理論。情報が統合されているからといって、そのシステムに必ず意識が発生するという理論ではないことに注意が必要である。
多くの知的処理は自由エネルギーを下げることによって行われているとする仮説。しかしこの理論はあくまで知能を説明するものであり、意識とは関係ないとする意見もある。
「脳内の複数の機能を共通の潜在空間を介して接続する能力」が意識に関連しているとする理論。これら4つを汎用人工知能開発に応用できないか基礎研究を進めている組織が存在する。
汎用人工知能 人工超知能
人類で最も知能指数が高い天才をもはるかに上回る知能を持つ仮定上の知能を超知能と呼ぶ。デイヴィッド・チャーマーズは、汎用人工知能は超知能に至る可能性が高いと指摘している。なぜならば、人類と同程度の知能を持つ汎用人工知能が生み出されたと仮定したならば、それは自らのプログラムを改良可能であることを意味し、そしてプログラムが改良されたのならばその改良されたプラグラムによって生み出された知能を用いてさらに改良を続けることができ、これが延々と繰り返される。これは「再帰的自己改善（英: Recursive Self-Improvement）」と呼ばれる現象である。また、知能爆発や技術的特異点としても知られている。1965年にI.J.グッドは以下のように発言している。
超知能機械を、どれだけ賢い人間よりも優れた知的能力をもつ存在だと仮定しよう。機械を設計することは知的能力によって行われることなので、超知能機械はさらに優れた機械を設計することができる。これが実行された瞬間、間違いなく「知能爆発」が起こり、人類の知的能力は瞬時にして置き去りにされることになる。したがって、超知能機械は人類最後の発明品ということになる。 — I・J・グッド
汎用人工知能 人工超知能
汎用人工知能が超知能に至る可能性が高いとされているのは、自らの改良に生物学的な限度がないからである。一般的に、人間は産まれて成長しながら知能を増大させていく。しかしながらそれには生物学的・生理学的な制約が存在し、老化や死などの現象によって知能の成長は頭打ちになる。それに対して人工知能は拡張性があり、多くのスーパーコンピュータが毎年計算能力を増しているのと同じように、生物学的な制約（脳の大きさなど）が存在しない。
しかし自己改善や自己進化が本当に限界のないループになるのか、「そもそも知能は無制限に拡張可能なのか？」という疑問や懐疑的意見は存在する。またAGIとASIには大きな能力の壁があり、AGIを多少改良させただけでは自己進化はできないとする意見も存在する。
人工知能が超知能に達した場合、それを一般的に人工超知能（英: Artificial Super Intelligence、略称：ASI）と呼称する。
汎用人工知能 人工超知能
人工超知能が実現した場合、人類は本質的にその行動・思考・原理を理解できない可能性がある。この可能性はすでに現れており、例えば汎用人工知能や人工超知能にすら達していない特化型人工知能（弱いAI）のコンピュータ囲碁ソフトであるAlphaGoとトッププロ囲碁棋士である李世ドルが対局を果たしたAlphaGo対李世ドルにおいては、開発者ですらどのように動作しているか正確に理解できておらず、解説者を務めたマイケル・レドモンドは「これが良い手なのか悪い手なのか本当に理解できない」と述べている。
これは人工超知能が実現し、ある行動や決定をした場合、たとえその結果が正確なものであっても、その思考経緯が人間には理解できないほど複雑であり、数学的証明を求めようにもあまりにも長大すぎて理解できない可能性があるということを示唆している。2020年にローマン・ヤンポルスキーはこう述べている。
汎用人工知能 人工超知能
人間は複雑な概念を説明しなければならないときがある。例えば、人間の大人が幼児や知的障害者などに「赤ちゃんはどこから来るの？」などという複雑な概念を質問された場合、我々はDNAや受精、子宮といったものではなく、答えを非常に簡略化したり、時には嘘を付いたりする。もちろん専門的で正確な説明をしてもいいが、そのような専門的な説明を幼児が理解できるかはわからないし、誤解をうむ可能性もある。説明の有用性は相対的なものであり、ある人にとっては理解できても、ある人にとっては理解できないことが往々にしてある。
超知能と人類の知能差は、おそらく人間の大人と幼児以上の差がある。これは知能の差がコミュニケーションの幅を非常に狭めることを意味する。そのため、超知能が導き出した概念を人間が理解するのは難しい。それはオオカミに育てられた知的障害のある４歳児に、量子物理学を教えるようなものである。
 — ローマン・ヤンポルスキー
米国のコミュニティーでは、どこからAGIと呼ぶべきで、どこからASIと呼ぶべきなのかその境界線は曖昧であり、要求される能力のレベルもバラバラである。基本的にはレベル4から超知能と呼ぶべきではあるがレベル3でも十分賢い状態である。レベル2までがAGIの基準として最適ではないかと言われている。
汎用人工知能 問題・危険性
歴史的に、科学技術の進歩によって、機械に置き換えられて存在しなくなった仕事が多数存在する（例えば電話交換手など）。しかしながらそれに伴って新たな労働が生まれることにより、人間の雇用の全体的な数は減少するのではなく、増加する傾向にある。一方、人工知能の進歩にも以前のような傾向が適用されるかという点については、経済学の観点からみても不明である。仮に汎用人工知能が実現した場合、それはもちろん人間に匹敵した知能を持つ。よって導入費用や心理的抵抗などの諸問題を無視すれば、人間に可能な知的労働は全て代替可能であることを意味する。過去の機械化による失業は、主に単純作業などの低賃金労働者（ブルーカラー）に影響を与えたが、汎用人工知能による失業は中流階級に大きな影響をもたらす可能性がある。マサチューセッツ工科大学経済学部教授のデビッド・オーターは「人工知能による労働環境の変化では、変化の幅において大いに不確実性を伴う。特に懸念すべきなのは、高賃金の仕事に就いている人々から職を奪い、フードコートの店員のような職しか残らないというようなことになるかもしれないということである」と指摘している。スティーブン・ホーキンズは、以下のように人工知能による自動化は富の再分配の方法によって全く異なる結果になると主張している。