生成AIへの誤解はきっとアニメとゲームとSF映画のせい。

:::note info
この記事は[NTTコムウェア Advent Calendar 2024](https://qiita.com/advent-calendar/2024/nttcomware) 21日目の記事です。
<font color="#FF0000">ハッピーホリデー！</font>
:::

**生成AIの活用による業務効率化を目標**として奮闘する、強いられている皆さま、こんな壁にぶつかっていませんか？
そう、<font color="00B6AB">**AIは人間との対話を通じて学習するという誤解**</font>です。
この記事は、「AIは私と会話すればするほど賢くなるんでしょ？」と思っているAI初心者自身の誤解を解くため、また、IT企業に限らず、このような誤解と戦う生成AI活用推進者の皆さんに役立ててもらうためのポイントを述べた記事です。

NTTコムウェアのKoDAMAと申します。中小規模のシステムのスクラムマスターや巨大業務システムのエンジニア、広報を挟んで、最近は生成AI利用促進など色々やってきたSIer的中堅サラリーマンです。
さて、AIが勝手に学習するという誤解に、皆さんもストレスを感じた事はありませんか？

Qiitaを見るような方はとっくに分かっているかもしれません。
でもそんな人でも・・・
### １．(生成)AIと言われて最初に頭に浮かぶイメージはこれでしょう！
いらすとやにもある、水槽内に保存される電極の刺さった脳。
https://www.irasutoya.com/2016/10/blog-post_613.html
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2322473/ce094387-b0fa-4139-57c6-d1e1dd448837.png" width=30%>
出展：いらすとや「水槽の脳のイラスト　電極付き」(閲覧日2024年12月20日)

このような少しざわっとするような頭のいいAIのイメージは、多くの人が子供の頃からアニメやゲームやSF映画で見てきた物ですよね？
・「攻殻機動隊」で見た電脳
・「ドラえもん」の(映画とかでたまにある)ちょっと怖い回
・「ゼノギアス」で回る球体から浮かびあがる脳となった敵。
・「portal」の不気味な敵
・「A.I.」、「ターミネーター」、「マトリックス」などSF超大作映画
枚挙にいとまがないですね。

そう私たちは、慣れ親しんだアニメやゲームやSF映画のせいで、<font color="00B6AB">**深層心理レベルで、AIは人間の脳が機械化された何かなんだ！と埋め込まれている**</font>のです。
だから生成AI活用のスタートラインが、会話すれば学習するという誤解から始まるのは仕方のない事なのです。もちろん、<ins>沢山の素敵な夢を見させてくれたこれらのコンテンツが悪い訳はありません!!!</ins>
とはいえ、長期記憶となった記憶を上書きする事は、短期記憶に対してより大変な事だと心理学でも言われています。だからといって、この誤解を放置しても良い事はありません、生成AIに勝手に期待をされて勝手に失望されてしまいます。
さて、私たちはどうするべきでしょうか？

### ２．生成AIとの付き合い方、利用者への大切な伝え方。
<font color="00B6AB">**"ある時点の記憶を基に、最も近い回答を返してくれる"**</font>このシンプルな事実を、最初からシンプルに伝えるのが大切です。

Chat GPTの各モデルを例とすると、それぞれの頭の中身は図の通りです。※2024/12現在
![カットオフ日の確認.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2322473/46b3bbb2-db2c-ce80-bd56-ad21cadd48d6.png)
まずはこれだけ、この事実が誰しもに伝わるようにしましょう。カットオフ日(上の日付の事)など用語や、各モデルの特徴の話は不要です。
中の人も、プロンプトエンジニアリングの学習以前に、実はこれが2024年でもまだまだ一番大切な事な気がしています。生成AIについて説明する際に、冒頭に挟むようにしています。

<font color="00B6AB">**【決して使ってはいけない日本語】**</font>
**AIを育てる**
これを使ってる人がいたら逐一訂正するのも大切です。札束で育てるのはもちろん可能です、誤解なきように、ここからは基本的な生成AIと学習の考え方を振り返ります。

### ３．生成AIは学習しない事の振り返り(条件付可能)
改めて、事実を確認しましょう。条件付きであれば、もちろんできます。
※それぞれざっくりです、詳細な説明は個々の深い記事を参照してください。
**◆再学習はコストをかければ出来る**
ChatGPTの5系がリリースされる際、「2023年12月」に当たる学習データも新しい物で提供されます。このプロセスには、OpenAIが莫大なコストをかけています。
あるいはファインチューニングなどの技術の活用手段もありますが、計算コストに加え適切な量と品質を満たすデータの用意など、選択肢として利用できる状況は限られます。
昨今は私たち[NTTグループのtsuzumi](https://www.rd.ntt/research/LLM_tsuzumi.html)などローカルLLMへの注目もあります、今後の進化や活用が期待される分野です。
**◆RAGを使って追加の知識を基に回答を生成できる**
最近、日本人が大好きなのがこのRAGです。自社の業務フローやデータの持ち方の汎用化など本質的な業務改善からは目を逸らし、ガラパゴス化した既存業務のままでも、正しく使えば生成AIによる業務効率化が現実的なコストでできる技術です(個人の意見です)。
RAGとファインチューニングの違いの説明は他に任せますが、自社のマニュアルやQ&Aなど外部ドキュメントの知識を追加学習せずとも生成AIで利用できるので、正しく使えばとても便利になります。
**◆同じ会話内でのやり取りをある程度は参考にしてくれる**
生成AIといえばチャットUIでの利用が最も思い浮かべられやすいでしょう、大雑把に言えば直近の会話くらいは覚えていて、新たな回答に利用してくれます。
セッション毎に初対面のAIと会話をしている、更に毎回会話の文脈を覚える限界量がある、くらいの認識が最低限必要です。
**◆インターネットも検索して回答する機能もある**
ウェブ検索機能として、インターネット上の今の検索結果も参考にした上で回答してくれる生成AIもあります。この技術はEdgeのチャット機能やAndroidスマホでGeminiのチャットを使えばすぐにイメージとしては理解できるでしょう。面白いからみんなどんどん使おうね！

このように、様々な技術を用いて生成AIの各モデルに新たな知識を身に付けさせる手法があります。この記事では詳しくは触れませんが、私はその進化を期待してます。しかし、同時に生成AIリテラシーの向上も必要です！ただ使うだけでは生成AIは学習しません。人間の脳が機械化されたものでは無いからです。そんな事実が伝わる事もリテラシー向上の一助になると思います。
多くの日本人が生成AIを誤解する理由、根気よく伝えるべき理由が腑に落ちましたでしょうか？
是非、<font color="00B6AB">**スタート地点の誤解は早いうちに解いて、より良い生成AI活用ライフ**</font>をみんなで過ごしていきましょう。

記載されている会社名、製品名、サービス名は、各社の商標または登録商標です。