人工知能
歴史 > 2020年代前半

2020年には、OpenAIがアーキテクチャとしてTransformerを採用した1750億パラメータを持つ自然言語処理プログラムGPT-3が開発され、アメリカの掲示板サイトRedditで1週間誰にも気付かれず人間と投稿・対話を続けた。プログラムと気付かれた理由は文章の不自然さではなく、その投稿数が異常というものだった。
DeepMindが開発したタンパク質の構造予測を行うAlphaFold2がCASPのグローバル距離テスト (GDT) で90点以上を獲得し、計算生物学における重要な成果であり、数十年前からの生物学の壮大な挑戦に向けた大きな進歩と称された。
最先端のAI研究では2年で1000倍サイズのモデルが出現し、1000倍の演算能力を持つコンピュータが必要になって来ている。
2020年の時点で、メタ分析によれば、いくつかのAIアルゴリズムの進歩は停滞している。
2021年4月、NVIDIAの幹部、パレシュ・カーリャは「数年内に100兆パラメータを持つAIモデルが出てくるだろう」と予想した。
2021年5月、マイクロソフトリサーチが32兆パラメーターのAIを試験。
2021年6月、中国政府の支援を受けている北京智源人工知能研究院がパラメーター数1兆7500億のAI「悟道2.0」を発表。
2021年6月、グーグルの研究者達がグラフ畳み込みニューラルネットと強化学習(方策勾配法最適化)を用いて配線とチップの配置を自動設計させたところ、消費電力、性能など全ての主要な指数で人間が設計したもの以上の行列演算専用チップ(TPU4.0)のフロアプランを生成した。そして、設計にかかる時間は人間の1/1000であった。
2021年8月、グーグルの量子人工知能研究部門を率いるハルトムート・ネベンは量子コンピュータの発達の影響がもっとも大きい分野として機械学習分野などAIを挙げた。
2021年8月、DeepMindはさまざまな種類の入力と出力を処理できる汎用の深層学習モデル「Perceiver」を開発した。
2021年10月、GoogleBrainは視覚、聴覚、言語理解力を統合し同時に処理するマルチモーダルAIモデル「Pathways」を開発中であると発表した。
2022年には自動倉庫の制御がすでに実現していた。同年、AIが囲碁の盤面の映像から棋譜を作成することも実現した。
2022年、研究者の間では大規模ニューラルネットワークに意識が存在するか議論が起こった。深層学習の第一人者Ilya Sutskeverは「（大規模ニューラルネットワークは）少し意識的かもしれない」と見解を示した。
2022年02月、DeepMindは自動でプログラムのコーディングが可能なAI「AlphaCode」を発表した。
2022年4月、Googleは予告どおりPathwaysを使い、万能言語モデルPaLMを完成させた。とんち話の解説を行えるほか、9-12歳レベルの算数の文章問題を解き、数学計算の論理的な説明が可能であった。デジタルコンピュータは誕生から80年弱にして初めて数学計算の内容を文章で説明できるようになった。その後、自然言語処理としてPathwaysをベースにした数学の問題を解けるモデル「Minerva」を開発した。また、Pathwaysをベースにした自然言語処理とDiffusion Modelを連携し、画像生成モデルPartiを発表した。
2022年5月12日、DeepMindは様々なタスクを一つのモデルで実行することができる統合モデル「Gato」を発表した。チャット、画像の生成と説明、四則演算、物体を掴むロボットの動作、ゲームの攻略等々、600にも及ぶ数々のタスクをこの一つのモデルで実行することができるという。
DeepMindのNando de Freitasは「今は規模が全てです。(AGIに至る道を探す)ゲームは終わった」と主張したが人工知能の歴史の中で繰り返されてきた誇大広告だという批判も存在する。
2022年5月、GoogleのチャットボットLaMDAの試験が行われた。それに参加していたエンジニアであるブレイク・ルモワンはLaMDAに意識があると確信、会話全文を公開したがGoogleから守秘義務違反だとして休職処分を受けた。この主張には様々な批判意見がある。
2022年8月、拡散モデルがベースの画像生成AI・Midjourneyの作品が米国コロラド州で開催された美術品評会で優勝した。ただし細かい部分は人間の手が加えられている。
2022年10月、DeepMindは行列の積を効率的に計算するための未発見のアルゴリズムを導き出す「AlphaTensor」を開発した。「4×5の行列」と「5×5の行列」の積を求める際に、通常の計算方法で100回の乗算が必要なところを、76回に減らすことができた。またこれを受けて数学者もさらに高速な行列乗算プログラムを公表した。
2022年11月30日、OpenAIが大規模言語モデルのGPT-3.5を用いて人間とチャット（会話）をするChatGPTをリリースした。全世界的に従来よりも圧倒的に人間に近い回答を返す質問応答システムとして話題となり、世界各国で産官学を巻き込んだブームを引き起こした。非常に使い勝手の良いChatGPTの登場により、AIの実務応用が爆発的に加速すると予想されたため、これを第4次AIブームの始まりとする意見も挙がっている。
2022年12月、Googleは、「Flan-PaLM」と呼ばれる巨大言語モデルを開発した。米国医師免許試験(USMLE)形式のタスク「MedQA」で正答率67.6%を記録し、PubMedQAで79.0%を達成した。57ジャンルの選択問題タスク「MMLU」の医療トピックでもFlan-PaLMの成績は他の巨大モデルを凌駕した。臨床知識で80.4%、専門医学で83.8%、大学生物学で88.9%、遺伝医療学で75.0%の正答率である。Googleロボティクス部門はまた、ロボットの入力と出力行動(カメラ画像、タスク指示、モータ命令など)をトークン化して学習し、実行時にリアルタイム推論を可能にする「Robotics Transformer 1(RT-1)」を開発した。
2023年1月11日、DeepMindは、画像から世界モデルを学習し、それを使用して長期視点から考えて最適な行動を学習する事が出来る「DreamerV3」を発表した。
2023年5月11日、日本政府は首相官邸で、「AI戦略会議」（座長　松尾豊・東京大学大学院教授）の初会合を開いた。
2023年12月、Googleはさらに「Gemini」と呼ばれる人工知能基盤モデルを発表した。この人工知能基盤モデルの特徴は、一般的なタスクにおいて専門家よりも高い正答率を示すことで、「Gemini」はついに専門家を超えたと宣伝されている。
2024年5月、OpenAIはGPT-4oをChatGPTに実装する。開発者はGPT-4o、Gemini 1.5、Meta Chamelonなどが音声、動画、画像、テキストを同時に処理できる新しいAI基盤モデルによって、創造的なアプリを生成できるようになる。
2024年9月、OpenAIはOpenAI o1をChatGPTに実装する。これにより、科学、コーディング、数学など、複雑な推論タスクを要する分野で特に優れた性能を持つ。
一般的に2018年頃はまだ、人工知能は肉体労働や単純作業を置き換え、芸術的・創造的仕事が「人間の領域」となると予想されてきたが、実際には2020年代前半から芸術的な分野へ急速に進出していると学術界でさえ予想できなかった節がある。また人工知能の実用化後も残るとされた翻訳、意思決定、法律相談など高度なスキルを必要とする分野への応用も進んでいる>。
2025年3月13日、Google DeepMindはGemini 2.0とスタンフォード大学発双腕ロボットプラットフォームである「ALOHA 2」を活用して事前訓練されたデータを利用し、空間を認識してリアルタイムに動作計画を立て、人間からの指示を理解しながらタスクを実行する一連の動画と技術報告書を公開した。ただしリアルタイムで継続学習を行うものではない。Geminiは最初からマルチモーダルで訓練された汎用言語モデルであり、その基礎にはPathwaysやPerceiver IOといった先行して開発された技術があるとされる。またDeepMindはグリッド細胞等の神経科学からインスパイヤされた理論等も基礎研究で進めていた。
本節は今後の動向により更新される予定である。