知っておきたいキーワード
Keywords you should know.

第 155 回

言語系生成 AI延 澤 志 保††東京都市大学情報工学部情報科学科"Generative AI in Natural Language Processing" by Shiho Hoshi Nobesawa (Department of Computer Science, Faculty of Information
Technology, Tokyo City University, Tokyo)
キーワード：言語系生成 AI，ChatGPT，自然言語処理，深層学習，大規模言語モデル

情報を引き出すことができる ChatGPT

本稿では，ChatGPT に代表されるは，各国の政府や高等教育機関などか「言語系生成 AI」について，人間の言2022 年に発表された ChatGPT は世界

らその使用の是非や注意点などについ葉をコンピュータで扱う自然言語処理中に話題を巻き起こしました．人間同て次々と声明が出されるなど，社会問の一分野との立場から概説します．

士のように言葉で対話しながら欲しい題にすらなりました．

まえがき

文書は膨大な数に上るため，検索エンす情報が載っている可能性が高いと見

ジンは文書をランク付けして可能性の做された部分をハイライトする「強調ChatGPT は，いわゆる AI チャット

高いものから順に出力することでユースニペット（図 1）」の出現で，情報検ボットで，質問応答システムと言われザの負担軽減を図ります．ユーザが探索はさらに便利になりました．

情報検索と質問応答る自然言語処理分野技術のひとつに当たります．
情報検索システム（検索エンジン）は1990 年代に生まれ，2006 年には「ググる」という動詞が流行語候補に選ばれるほど一般的になりました．検索エン
ジンに与えるキーワード群はクエリと呼ばれます．ユーザは例えば「ChatGPT，生成系，人工知能」などクエリを検索エンジンに提示し，検索エンジンはクエリとして与えられたキーワード群からユーザの検索意図を推定して，ユーザの欲しい情報が載っている可能性が高い文書を提示します．一
般に，クエリに関連すると推定される

映像情報メディア学会誌 Vol. 78, No. 1, pp. 67〜 69（2024）

図 1 強調スニペットの例（67） 67

知っておきたいキーワード

しかし，そもそも情報検索の目

これが質問応答システムです．2011 年

印象付けました．その後 Watson を始的は欲しい情報を得ることにあり，シ2 月，IBM の開発した質問応答システ

め質問応答技術はさまざまな分野に応ステムが欲しい情報だけを抜き出してム「Watson」がアメリカのクイズ番組用され発展を続けています．

提示してくれるのであれば，ユーザはJeopardy!で人間チャンピオン 2 人を自ら文書を読む必要がなくなります．

相手に勝利し，人工知能の発展を強く言語系生成 AI2022 年，アメリカの人工知能開発企

S

S

NP

NP

VP

VP

業 OpenAI が ChatGPT を発表すると，VP

その自然な受け答えに世界中が驚きまPPした．ChatGPT は，人間の言葉で入力した質問に対して，人間のように言NPNPNVPDNNNVDN

timeflies

likeanarrow

timeflies

likeanarrow

葉などで回答します．この質問をプロンプトと呼びます．この少し前から，画像処理の分野でも，同様にプロンプ「光陰矢のごとし」「時蠅矢を好む」

トに対して対応する画像を生成するシ
図 2 従来の自然言語処理ステムが話題になっていました．
ChatGPT の，まるで人間同士のお喋りのようなやりとりは，人工知能や情decoder

報科学の専門知識がなくても最先端の人工知能技術を誰でも気軽に使える仕組みを提供するものでした．ChatGPT

私はトムです

EOS

h2

h2

h3

h4

h5

attentionのような対話的な質問応答システムはc

言語系生成 AI と呼ばれるようになりました．
自然言語処理で用いる知識の源は電子化文書です．従来の自然言語処理技

hb1

hb2

hb3

hb4

hf1

hf2

hf3

hf4

I

amTOM

EOS

術では個々の語句，言語の構文など，さまざまな要素をそれぞれについて「特徴を掴む」ような学習をする必要がありました．受験に備えて問題をたくさん解いて特徴を覚えるようなイメー

big dataencoder

ジです．例えば，図 2 の英文は 2 種類の解析が可能な「構文的に曖昧な文」

図 3 ディープラーニングとアテンションとして有名な例です．図 2 の例では，構文解析を施した上で，語句の出現状を行います．留学先で日々その言語にて，出現頻度の低い語句も含め，膨大況などから「time flies」という複合名

さらされているうちによく聞く言い回なテキストから語句同士の関連などさ詞の出現確率よりも「time」が「fly する」

しが身に着くようなイメージです．言まざまな情報を自動的に学習し積極的確率の方が高いことを推定することで語系生成 AI の出力が自然なのはそのに活用することができるようになりま精度の向上を図るというのが，従来のためです．ニューラルネットワークにした．また，再帰型ネットワーク技術自然言語処理の基本的な動きでした．

ついての研究は古くからありますが，などによって文脈を考慮した出力が可

それに対して，言語系生成 AI を実

これを大きく発展させ言語系生成 AI能になったこと（図 3）が，自然な文の現した深層学習では，従来とは比較にの実現に貢献したのが深層学習技術に生成を実現しました．

ならないほどの膨大な量の電子化文書よる大規模言語モデル（LLM）です．

からその言語や語句に「慣れる」学習

語句をベクトル表現する技術によっ

68 （68）

映像情報メディア学会誌 Vol. 78, No. 1（2024）

言語系生成 AI

言語系生成 AI との共存

語系生成 AI 自身が内容を理解し妥当が，これは本来，各企業に任せてよい性を判断しているわけではありませ

問題ではありません．現時点では話題

現在の言語系生成 AI は，膨大な文ん．そのため，場合によってはさらり性が先行しており，この部分は今後早書から得た言語モデルを基に出現可能と嘘をつく可能性（ハルシネーション）急に対応が進められることになりま性の高い言い回しを並べて出力していもあります．これは，質問応答システ

す．言語によってベースとする電子化るようなレベルに過ぎず，流暢さ，自ムとして活用するには，致命的な課題

文書の量も質も大きく異なるため，他然さを主な目標としている段階で，回です．またヘイトスピーチに代表され言語から得た知識を活用する方法など

答の正確さや適切さについては今後のるような不適切発言の抑制は，現時点の研究も進められています．

検討が必要です．現時点ではまだ，言では知識ベースの管理に頼っています

むすび磨き上げてきました．今，人工知能は研究者はその健やかな成長を手助けす

自ら学ぶ方法を得，自然言語処理の基る立場へと変化する段階にきたようで

これまで，自然言語処理の分野では，本技術になろうとしています．人工知

す．現時点の人工知能はまだまだ発展

情報検索，質問応答，意図推定，文生能が研究者から手法や教師データを与途上ですが，言語系生成 AI の誕生は，成，対話処理など，人工知能の実現にえられて処理を行う時代はそろそろ終

人工知能の分野のひとつの歴史的なポ向けてさまざまな課題について技術をわりを迎え，人工知能自身が自ら学び，イントと考えてよいように思います．
（2023 年 9 月 26 日受付）

参考

文

のべさわ

献

しほ

延澤 志保 慶應義塾大学大学院理工学研究科計1）乾健太郎： ChatGPT の出現は自然言語処理の専門家に何を問いかけているか ，自然言語処理，30，2（2023）

算機科学専攻後期博士課程修了．東京理科大学理工学部情報科学科助手を経て，現在，武蔵工業大学知識工学部（現，東京都市大学情報工学部）情報科学科講師．博士（工学）．

キーワード募集中
この企画で解説して欲しいキーワードを会員の皆様から募集します．ホームページ（https://www.ite.or.jp/）の会員の声より入力可能です．また電子メール（ite@ite.or.jp），FAX（03-3432-4675）等でも受け付けますので，是非，編集部までお寄せください．

（編集委員会）（69） 69