PaLM

PaLM (Pathways Language Model, パスウェイズ言語モデル) は、Googleが開発した大規模言語モデル(LLM)のひとつ。最新版はGoogle I/O 2023で発表されたPaLM2。 同社が2021年に発表した会話に特化したLLM、LaMDAと異なり、より幅広い利用を想定して開発された。2023年3月にGoogleはデベロッパー向けにPaLMの一部APIを一般公開した。 Googleが開発しているLaMDAは会話に特化したLLMだが、PaLMは会話に加え文章の生成や分類といった能力に長けているより高性能なLLM。性能指標のひとつであるパラメーターの数は5400億で、競合のGPT-3(パラメーター数1750億、後継であるGPT-3.5は3550億)やLLaMA(同650億)、自社のLaMDA(同1370億)と比べると大きく上回る。そのため質疑応答や文脈読解などNLP(自然言語処理)の能力が大幅に向上し、先述のLLMやMetaが開発したLLaMAを上回る性能を獲得しているとGoogleは主張している。また最新版のPaLM2は、100以上の言語に対応したことで、多言語翻訳が可能となった。さらに文脈の読み取りや計算能力、論理的思考などが強化され、ことわざやなぞなぞ、隠喩や慣用句などが理解できるようになったとしている。ただ、パラメーターの増加によって必要処理能力の増大などの課題もあり、その点LLaMAは意図的にパラメーターを減らすことにより単体GPUで動くように設計されている。GPT-3などのLLMに匹敵する性能を持っていることが大学や企業の研究で明らかになっている他、単体GPUで動作するため家庭用PCで運用が可能。 CNBCは2023年5月7日、同年5月10日(米国時間)に開催されるGoogleの開発者会議「Google I/O2023」でPaLMの次期バージョン「PaLM2」を発表する方針であると報道した。 2023年5月8日、Googleの内部文書がDiscordの公開サーバーに流出した。文書中には「OpenAIはすでに敵ではない」「警戒すべきはオープンソースとMetaであり、特にオープンソースプロジェクトは驚異的で、我々が1000万ドルと5400億のパラメーターで実現していることを、彼らは100ドルと130億のパラメーターで実現している。」などとしており、「我々がAI市場の主要なメンバーであり続けるためには、オープンソース化することが必要だ」と結論づけた。この内部文書ではオープンソースという第三の敵へのGoogleの危機感が多く示されおり、Googleの今後の開発方針に影響する可能性がある。 Googleは、2023年5月10日に開催された開発者会議「Google I/O」で事前情報の通りPaLM2を発表し、即日導入を開始した。Googleによると、すでに25を超えるサービスで導入が開始されているという。 Googleの最高経営責任者(CEO)であるサンダー・ピチャイ氏は2023年3月31日、The NewYork TimesのAI関連の取材に応じChatGPTなどの画期的なAIサービスが誕生したことに嬉しさを感じているとした上で、自社の会話型AIサービスであるBard(バード)にPaLMを導入することを示唆した。現在、BardはLaMDAの軽量版を基に開発されているが、これが実現すれば大幅に性能が上がる可能性を秘めているとサンダー・ピチャイ氏は期待を示した。これは、Googleが会話型AI市場への参入の遅れの他、Bardの性能が市場の期待よりも低く、ChatGPT一強の状態になることを危惧したものだとThe NewYork Timesは解説している。 2023年4月10日、GoogleはBardに対して基盤となるLLMをLaMDAからPaLMへと変更するアップデートを展開した。この結果、事前情報の通り計算や倫理的な考え方がより高度になったとしている。 2023年5月10日、Google I/Oにてベースの大規模言語モデルをPaLMからPaLM2へと移行することを発表し、同時配信が開始された。これにより、日本語と韓国語に対応したほか、より高度な論理的思考や文脈の読み取りが可能となり、なぞなぞなどの曖昧な情報から答えを生成できるようになった。 Googleは2023年3月14日、開発者向けにAPIの一部を公開したほか、自社のクラウドコンピュータサービスであるGoogle CloudにPaLMなどのAIを利用できるジェネレーティブAI機能を導入した。これにより開発者は、セキュリティ、プライバシーなどを確保しつつ、クラウドソリューションとの統合も可能になるなどのメリットが生まれるとしている。 2023年5月10日、Gmailの自動返信機能やGoogle検索における新機能「SGE(Search Generative Experience)」を発表した。どちらも効率化を目的として導入されており、Google Workspaceでは文書からプレゼンテーションを作ったり、文書の要約などの新機能が発表された。またBardは、今夏よりAdobe Fireflyとの連携が可能になる。 2023年12月13日、Googleは PaLM2 ベースの医療業界向け大規模言語モデル MedLM を発表した。 LaMDA Gemini [脚注の使い方] ^ “GPT-3とは？仕組みや活用事例まで詳しく解説！”. メタバース相談室. 2023年4月22日閲覧。 ^ “大規模言語モデル（LLM：Large Language Model）とは？”. ＠IT. 2023年4月22日閲覧。 ^ gdep. “[No.61GoogleのAIは自我を持ち人間になった！？チャットボット「LaMDA」は「自分は感性を持ち人間として認めてほしい」と要求]”. GDEP Solutions. 2023年4月22日閲覧。 ^ ASCII. “グーグル、大規模言語モデル「PaLM」のAPIを発表”. ASCII.jp. 2023年4月22日閲覧。 ^ “Pathways Language Model (PaLM): Scaling to 540 Billion Parameters for Breakthrough Performance” (英語). ai.googleblog.com. 2023年4月22日閲覧。 ^ “Metaが大規模言語モデル「LLaMA」を発表、GPT-3に匹敵する性能ながら単体のGPUでも動作可能”. GIGAZINE. 2023年4月22日閲覧。 ^ “論文要約：LLaMA: Open and Efficient Foundation Language Models”. Qiita. 2023年5月4日閲覧。 ^ Elias, Jennifer. “Alphabet to unveil A.I. updates at Google I/O, showing off creative writing and coding capabilities” (英語). CNBC. 2023年5月9日閲覧。 ^ https://www.semianalysis.com/p/google-we-have-no-moat-and-neither ^ “「オープンソースは脅威」「勝者はMeta」「OpenAIは重要ではない」などと記されたGoogleのAI関連内部文書が流出”. Gigazine.net. 2023年5月10日閲覧。 ^ “https://twitter.com/Google/status/1656347171556294669?s=20”. Twitter. 2023年5月12日閲覧。 ^ “グーグルCEO、「Bard」のアップデートを予告--現状は「チューンアップした大衆車」”. CNET Japan (2023年4月4日). 2023年4月22日閲覧。 ^ Roose, Kevin (2023年3月31日). “Google C.E.O. Sundar Pichai on the A.I. Moment: ‘You Will See Us Be Bold’” (英語). The New York Times. ISSN 0362-4331. https://www.nytimes.com/2023/03/31/technology/google-pichai-ai.html 2023年4月22日閲覧。  ^ “Googleの大規模言語モデル「Bard」、日本でも利用可能に。英語のみだが、改良されたPaLMベース|au Webポータル”. au Webポータル|最新のニュースをお届け！ (2023年4月19日). 2023年5月12日閲覧。 ^ 日経クロステック（xTECH）. “Googleの対話型AI「Bard」が日本語に対応、最新のPaLM 2ベースに”. 日経クロステック（xTECH）. 2023年5月12日閲覧。 ^ Active, 日経クロステック. “グーグルが生成AIのクラウドサービスを発表、巨大言語モデル「PaLM」のAPIなど”. 日経クロステック Active. 2023年4月22日閲覧。 ^ 株式会社インプレス (2023年3月15日). “Google、AI全面展開。PaLM APIやクラウド拡大、GmailやDocsも”. Impress Watch. 2023年4月22日閲覧。 ^ “アドビの画像生成AI「Adobe Firefly」とGoogleの会話型AI「Google Bard」が連携（Web担当者Forum）”. Yahoo!ニュース. 2023年5月12日閲覧。 ^ “Google、医療特化の大規模言語モデル「MedLM」の提供開始”. ITmedia NEWS (2023年12月14日). 2023年12月20日閲覧。