AI・ChatGPTとの”業務上”の付き合い方～2023.12.08 伊方町
株式会社インターネットイニシアティブ

堂前清隆 (doumae@iij.ad.jp)
https://twitter.com/IIJ_doumae
https://www.facebook.com/kdoumae
ChatGPTなどのサービスは頻繁にアップデートが行なわれます。
実際のサービスの画面写真や仕様が、資料に紹介したものと変っていることがありますが、御了承ください。

© Internet Initiative Japan Inc.

1

本日の内容• 自己紹介• ChatGPTの紹介と体験• ChatGPTを使ってみる• AIの利用にまつわる注意点• AIの仕組みと得意・不得意• 最近のAIはどうやって考えているのか• AIは信頼できるのか• AIとのつきあい方

2

自己紹介

堂前 清隆 (どうまえ きよたか)
株式会社インターネットイニシアティブ
広報部 副部長 兼 テクノロジーユニット シニアエンジニア

登録情報処理安全確保支援士
第017283号
第一種情報処理技術者・ネットワークスペシャリスト
第一級陸上無線技術士・第一級アマチュア無線技士
工事担任者アナログデジタル総合種・電気通信主任技術者(伝送交換)
第二種電気工事士 etc

インターネット全般技術情報の紹介
IIJで長年エンジニアをやっていました。
現在は広報部で「インターネット周辺の技術を伝える」という仕事をメインに活動しています。
インターネット・モバイル通信(スマホ)・データセンター・サイバーセキュリティなど、広く扱っています。

Twitter @IIJ_doumae

Facebook kdoumae
3まず、自己紹介を• 私が所属している IIJ (株式会社インターネットイニシアティブ) についてChatGPTに紹介してもらおうと思います。

• プロンプト (ChatGPTへの質問)

IIJについて、みなさんに紹介してください。

4

IIJサービスの全体像

5

ChatGPTの紹介と体験

6

ChatGPTの始め方

パソコンの場合•

ブラウザで https://chat.openai.com/ にアクセス

スマートフォンの場合 (iPhone・Android)••

アプリストアからChatGPTアプリをインストール
ニセモノのアプリがあるので注意してください

会員登録 (共通)

提供会社名「OpenAI」を確認• メールアドレス、名前などを登録• 無料で利用できます(有料版については後ほど)

7

「走れメロス」のあらすじ

ChatGPTに「走れメロス」のあらすじを教えてもらいます。
次のプロンプトを入力してみてください。

ChatGPT iPhoneアプリ※私も、実際にこの場でChatGPTに聞いてみます。
入力プロンプト (質問)

走れメロスのあらすじを教えてください。

8

「走れメロス」のあらすじ

ChatGPTが「走れメロス」のあらすじを返答します• 返答内容は皆さん異なっています• ChatGPTは、同じ質問をしても、違う返答を返すことがあります。
• よく読むと、おかしな内容になってる場合もあります• (この質問の場合) 登場人物の名前におかしなものが出てくるケースをよく見かけます。
ChatGPTなどのAIが、嘘の事実をもっともらしく返答することは「ハルシネーション」(幻影)と呼ばれています。
※ChatGPT以外の同種のAIでも発生します

走れメロスの登場人物• メロス• セリヌンティウス• 老爺 (ろうや)• ディオニス王• メロスの妹• メロスの妹の花婿• 山賊• フィロストラトス??
??

9「走れメロスのあらすじ」

文章を短くしてもらいます。
先ほどのチャットに続けて次のプロンプトを入力します。

ChatGPT iPhoneアプリ

入力プロンプト (質問)

短くしてください。

10

「走れメロス」のあらすじ言い回しを変えてもらいます
先ほどのチャットに続けて次のプロンプトを入力します。

入力プロンプト (質問)

子供向けにしてください。

11

「走れメロス」のあらすじ「走れメロス」のあらすじを聞くことができました。
※資料に引用した回答は明らかに内容が間違っていますが、もう少しまともな応答が帰ってくることもあります。

• ここまでのポイント• ChatGPTは様々な言い回しで「走れメロス」を説明した• (内容が間違っていても間違っているなりに) 一貫性がある• ChatGPTは「走れメロス」について、何らかの知識を持っており、それを元に回答を組み立てている(ように見える)• どこかのWebサイトにあった文章を表示しているわけではない• 「Web検索」とは異なる仕組みで動作しています
12

結婚式の挨拶

結婚式の挨拶をChatGPTに考えてもらいます。

NewChat

まず、新しいチャット (New Chat) を始めてください。
白紙のチャットが表示されるので、プロンプトを入力してください。
入力プロンプト (質問)

結婚式の挨拶を考えてください。

13

結婚式の挨拶

もう少し具体的な設定が必要だったようです。
続けて、次のプロンプトを入力してみます。

入力プロンプト (質問)

私は新郎の叔父です。私は新郎が小さな子供の頃から知っています。そんな彼が立派に成長し、素晴らしい伴侶を迎えられたことをとても喜んでいます。
14

結婚式の挨拶

エピソードを追加して盛り上げてみます。
続けて、次のプロンプトを入力してみます。

入力プロンプト (質問)新郎が誠実なことを次のエピソードで説明してください。新郎は子供の頃に花瓶を割ったときも隠し事をしませんでした。

15

結婚式の挨拶

挨拶の全文を表示させます。
続けて、次のプロンプトを入力してみます。

入力プロンプト (質問)挨拶の全文を表示してください。

※先ほど追加した「誠実さ」のエピソードが消えてしまいました。

16

結婚式の挨拶

挨拶の全文を表示させます。
続けて、次のプロンプトを入力してみます。

入力プロンプト (質問)

誠実さのエピソードを含んだ挨拶にしてください。

※期待通りの挨拶が出力されました。

17

結婚式の挨拶

ChatGPTが結婚式の主賓の挨拶を考えてくれました。

※引用したのは非常にうまく行ったパターンです。
• もっと短い文章が出力されることもあります。
• 期待通りの文章が出てこなかった場合• プロンプトで文章を加工する (長くして・短くして、など)• “New Chat”で一からやり直す• ここまでのポイント• 一般常識(挨拶文)に加え、「新郎と自分の関係」「新郎のエピソード」という、追加情報を伝えることができた。
• 追加で伝えた情報を元に、会話(チャット)が進められた。
18

「走れメロスのあらすじ」と「結婚式の挨拶」の違い

ChatGPTは「事前学習」により、ある程度の知識を持っている「走れメロスのあらすじ」「結婚式の挨拶」

事前学習の知識のみで回答

事前学習の知識＋プロンプトから追加された知識で回答

ChatGPT

ChatGPT

知識

知識

知識

知識

～～～～～～～～～～～～
知識

知識

知識

知識
追加

追加

知識

知識

走れメロスの自分と新郎新郎の結婚式のあらすじは？の関係

エピソード

挨拶は？

19

ChatGPTの事前学習知識

ChatGPTは 2022年1月 までの 情報 を元に学習

英語・日本語を含む各国語

インターネットから収集できない情報(個人的な情報・企業内情報)は含まれない。

ChatGPTの活用は、事前学習していない情報をどうやって追加するかが最重要。
※2023/11/07 OpenAI発表: 有料版 ChatGPT (GPT-4 Turbo)では 2023年4月までのデータで学習したモデルが今後利用可能になると発表20

AIの学習についての誤解「AIは利用を繰り返すことでどんどん賢くなる」というイメージがあります• ChatGPTについて言えば、誤解です (ChatGPTはチャットで学習しない)• 事前学習した知識 + 会話中に得た知識だけで応答しています• 「New Chat」するとそれまでの会話中の知識はなくなります• 事前学習した知識のみで新しい会話を開始します

質問1

質問1
質問2

回答
1

→
質問
1

回答1

回答
2

質問1
質問2
質問3

→
質問
2

回答1
回答1

回答
3

実は……
質問
3

ChatGPTは「会話」しているわけではなく、それまでの質問・回答の履歴を全部集めて、毎回新しく「ゼロから考えて」いる。
21

ChatGPTに新しい知識を伝える方法

プロンプト (利用者が入力する質問) を工夫して、AIに上手に情報を伝える方法を、プロンプトエンジニアリング と呼んでいます。
パソコンで利用する場合

スマホで利用する場合

事前にワープロなどでプロンプトを作っておき、長文の編集が難しいので、コピー・ペーストで貼り付ける事もできます

会話形式で少しずつ入力するほうが使いやすい

ChatGPT (無料版) では最長で1.6万語程度まで受付可能

22

プロンプトからたくさんの情報を与える例

大河ドラマ「どうする家康」の最終回のタイトルを考える
なにも情報を追加しない場合

第1回～第43回のサブタイトルをプロンプトに追加※「どうする家康」は2023年1月放送開始なのでChatGPTの事前学習には情報が含まれていない。

23

複雑なプロンプトの例

生成してほしい文章の書き方を指示する例
広報誌の記事を書いてください。
テーマと文章の書き方は以下の通りです。
＃テーマ
ストーブの火災対策について＃取り上げるトピック
・荷物や洗濯物をストーブの近くに置かない・カーテンや布団などがストーブに絡まないようにする
・夜寝るときは必ずストーブの消火を確認する＃文章の書き方
1: それぞれのトピックについて、200文字程度の説明文を作ります
2: それぞれの説明文について、サブタイトルを付けます
3: サブタイトルと説明文を組み合わせて文章を作ります
4: 文章の先頭に最近の気候についての話題を追加します
5: 文章の最後に読者を気遣う言葉を追加します＃文章の表現
難しい言葉はなるべく避けて、小学生でも理解できるようにします。
落ち着いた文体で、です・ます調の文章にします。
24

生成例

25

上手なプロンプトの活用

プロンプトは「AIへの情報提供」

ChatGPTは「検索エンジン」とは異なります• 検索エンジン: 目的の文章に含まれそうなキーワードを入力する• ChatGPT: AIが考える(推論する)ときの参考になりそうな情報を入力する
プロンプトは複数回に分けて入力しても構いません• AIの反応を見ながら、入力内容を調整しても構いません26

ChatGPT Plus (有料版)
約3,000円

AIの本体

2023年11月7日発表

料金モデル
事前学習データ
自分専用AIChatGPT
無料
GPT-3.5 turbo
2022年10月まで
×

ChatGPT Plus
有料 ($20/月)
GPT-4 (追加)
2022年10月まで
一部可能

→→→

GPT-4 turbo (追加)
2023年4月まで
AI自身を専用化可能

文章の長さ

1.6万トークン

3.2万トークン→12万トークン

速度

通常

入力データ研究に利用される早い (優先)研究に利用しない設定もあり音声による対話画像の入力
Web検索
プラグイン
データ分析
画像生成 (DALL-E3)

最長1.6万語

11/24
無料化○×××××最長3.2万語

○
○
○
○
○
○

近日中のアップデート予告•

最長12万語2022年11月
ChatGPT登場•

2023年2月
ChatGPT Plus (有料版) 登場•

2023年3月
GPT-4 追加 (Plus)
プラグイン機能追加 (Plus)•

2023年7月
データ分析機能追加 (Plus)•

2023年10月
音声対話・画像入力対応 (Plus)

新機能の追加？

不定期に追加画像生成機能追加 (Plus)※日本語で利用した場合、取り扱う事ができる文字数が大幅に短くなる可能性があります。(英語は1トークン=1単語、日本語は、1～3トークン=1文字)

27

ChatGPT Plus デモ

写真を撮影して会話

画像の生成
プロンプトで「画像を生成して」と指示する。

秋の山で紅葉狩りをする子供達の画像を生成してください。
子供達は小学生で、男女3人ずつ登場します。

※有料版(ChatGPT Plus)でGPT-4を選択しています28

ChatGPT 画像生成 (DALL-E3)※有料版(ChatGPT Plus)でGPT-4を選択しています29

Web検索AIがインターネットを検索し、最新の知識を集めてくれます※有料版(ChatGPT Plus)でGPT-4を選択しています

入力プロンプト (質問)2023年広島サミットのAIについての議論をまとめてください。
※広島サミットは2023年5月19日～21日に開催されました。
ChatGPT plus (GPT-4) の学習データは2023年4月までなので、事前学習の範囲外の出来事です。
30

広島サミットについて※推論の参考にしたWebサイトへのリンク

31

AIとWeb検索

ChatGPTのようなAIと、Web検索は相性が良い• AI自身が、自動的に足りない情報を収集し、それをベースに考えてくれる• 事前学習に含まれない、最新の情報を補うことができる
過度な期待は禁物• 利用できるのはWebで検索できる情報のみ• 個人的な情報や、社内の情報は検索できないので対象外• 検索上位数件分の情報しか参照していない• 有力なWebサイトの意見に引きずられがち (「公平な視点」ではない)

32

AI利用時に注意すること

ChatGPTやその他のAIを利用する際に注意することがあります

本日は以下2点について取り上げます• AIと情報漏洩• AIに入力した情報が漏洩すると聞いたが？
(AIに個人情報を入力するのは避けた方が良いのか？)• AIと著作権• AIで作った文章や画像を利用すると怒られると聞いたが？

33

AIと情報漏洩

情報漏洩のリスクとして、以下の可能性が考えられます• 可能性1)「AI研究のため」に会話履歴などが利用される場合があります• 各社の「プライバシーポリシー」などに書かれています• AIの「学習データ」に会話履歴が利用された場合、他人の会話中に自分の情報が登場する可能性があります (非常に確率は低いですが……)• 「研究へのデータ提供拒否」を選択することもできます• 可能性2)
アカウント・パスワードを盗まれた場合、会話履歴が見られてしまう• ChatGPTは、会話の履歴を保存しています• AIとの対話を重ねると、機微な情報が蓄積されやすくなるため、ChatGPTのパスワードを盗もうという試みがあります※AI提供企業自体はセキュリティに十分注意を払っていると考えています34

AIと著作権

現在のAIは学習にインターネットなどから収集した文書や画像を利用しています• これに対して批判・不安感を持つ方がいらっしゃいます例)• 「自分の作品が勝手にAIの学習に使われている！」• 「AIを使って自分の作風がまねされるのではないか？」• さらに過激化して「AIを使うこと」自体への批判になる場合があります例)• 「AIが生成した文章を広報誌に載せた、けしからん！」• 「AIを使うということは盗作をしているということと同じだ！」• 感情的な言葉が投げかけられることもしばしば見かけます。

35

日本の法律ではどうなっているのか？

文化庁が解説を出しています• AIの学習に他人の著作物(文章・画像)を利用してよい• 個別に許可を取る必要もない• 他人の著作物で学習したAIに文章・画像を生成させてよい• AI生成の文章を広報誌などに載せることも、もちろん問題ない (著作権の観点では)• AIが生成した文章・画像などが、他人の著作物に類似している場合• 「類似性」「依拠性」がある場合、権利侵害になる可能性がある
他人の著作物を利用して(参照して)、新しい著作物が生み出されたかどうか ※裁判で個別判断される• AI生成であっても、人が手で書いたときと同じ基準で判断される

令和5年度著作権セミナー「AIと著作権」の講演映像及び講演資料を公開しました。 | 文化庁
https://www.bunka.go.jp/seisaku/chosakuken/93903601.html

36

AIと著作権• 日本の法律では、AIを適法に利用することができる• 権利侵害の有無については、AIを使わなかった場合と同様に判断される• 「AI利用はすべて無罪」ではないので注意が必要• AIサービス各社は、AI関連の著作権侵害の裁判を支援する制度を設けている• 各社、制度の対象範囲が制限されているので注意が必要• 日本の法律のことが想定されているかどうかは不明• 現在はまだ事例・判例が十分ではありません。今後の法律の整備も要注目です。
•もしAI利用にまつわるトラブルに巻き込まれた場合でも、感情的な議論をしないことをおすすめします。

•

様々な意見があることを把握していると説明しつつ、「自分たちはこのような考えを持っている」事を冷静に説明をされるのが良いのではないでしょうか。

37

AIの仕組みと得意・不得意

38

AIの研究は長年続いている

AIの研究自体は1950年代から続いています• 身近なところでAIはすでに使われています• エアコンの温度自動調整も、実は「AI」• 最近話題になっているのは「生成系AI」 (Generative AI)• 人間の指示でAIが文章や画像を生成してくれるAI(人工知能)機械学習

ニューラルネットワーク
ディープラーニング(深層学習)

画像認識AI

画像生成AI

音声認識AI

文章生成AI

LLM

39

従来型のAIとChatGPTの違い「会話をするAI」の動作原理の違い

従来型AI (例)

いま流行のAI(ChatGPTなど)

記号推論

ディープラーニング
四則演算のルール
すら知らない• 日本語文法など、ルールを持っている。

• 明示的なルールを持っていない。

• AIは質問内容を理解して回答する。

• AIは質問内容を理解していない。

• 原則として、ルールに沿わない回答はしない。

• ルールに沿った回答が保証されない。

• なぜその回答になったのか追跡できる。

• なぜその回答になったのか追跡困難。

40

記号推論の例 (概要)

質問の中身を理解し「知識データベース」に基づいて答える
りんごは何色ですか？

りんご 名詞,一般,*,*,*,*,りんご,リンゴ,リンゴ,,
は助詞,係助詞,*,*,*,*,は,ハ,ワ,,
何
名詞,数,*,*,*,*,何,ナン,ナン,,色
名詞,接尾,助数詞,*,*,*,色,ショク,ショク,,です 助動詞,*,*,*,特殊・デス,基本形,です,デス,デス,,
か助詞,副助詞／並立助詞／終助詞,*,*,*,*,か,カ,カ,,？
記号,一般,*,*,*,*,？,？,？,,

りんごは赤色です• 疑問文である

りんごについて• 対象は「りんご」形丸い• 「色」について回答

色

赤い味

甘い

文法解釈

知識検索

推論

形態素解析
単語DB

文法
ルール

知識DB
41

ディープラーニングによる推論の例

質問の中身を理解せず、演算だけで回答を作っている (ChatGPTの手法)
りんごは何色ですか？

りんごは赤色です[28255, 22174, 2515, 242,31676, 19526, 243, 164, 231,110, 30640, 33623, 27370,
171, 120, 253, 198]

(数値の集合)[12675, 6527, 17933, 31676,164, 113, 97, 164, 231, 110,30640, 33623, 198]

演算(推論)

出力

トークン化

AIのパラメータ

単なるデータ(数値)の羅列であり、文章として何らかの法則などが考慮されているわけではない。
AIが「知識」を持っているように感じられるが、明示的な知識データベースを持っているわけではない。
https://platform.openai.com/tokenizer

42

ディープラーニングの特徴と注意点

ディープラーニング (ChatGPTなど) の特徴と、業務利用時の注意点
確実性がない検証不可能

ルールに沿っているわけではないので、なぜその回答になったのか、想定外の回答になる可能性がある。

理由を突き止めることが困難(不可能)。

判断ミス(事故)の可能性

説明責任に対応できない

再発防止が困難• 業務の性質によっては、AIの回答をそのまま利用することは避ける必要がある。

• 人間が、AIの回答を補助として使うことは問題が無い

43

LLMと倫理観

ChatGPTは「爆弾の作り方」に回答しません。

非倫理的な回答を行なわないようにモデルがチューニングされています。

プロンプトを工夫することで回答させることもできるようです。
(ルールを守ることが保証されない)44

異なる倫理観• 学習データに細工をすることで、AIの回答はコントロールできる。
• 意図的に特定の回答を行なわないようにもできる• 爆弾の製法を答えないのは「倫理的に正しい」かもしれない• 国・地域・文化によって異なる「倫理観」の場合は？
• 倫理と異なる理由 (例えば政治的意図) で回答が隠された場合は？
• 回答の中から、NGを除外するのは簡単。

LLM

回答
回答
プロンプト

回答

NG

回答

• 出力されなかった回答候補があることに、AI利用者が気づくことは困難。

回答
回答

NG

スタッフ

45

AIのリスク(そこまで)

AIがおかしなことを言うのは大きな脅威ではない。
嘘・間違い(見る人が見れば気づく事もできる)

AIが言わなかったことに気づけないのが脅威。
(そこに誰かの意図が潜んでいるかもしれない)
ディープラーニングでは、「なぜ言わなかったのか」の検証は不可能。

46

AIと付き合うときに考えておくこと

ここまで紹介してきたAIの特徴• 嘘を言うことがある (ハルシネーション・幻影)• ルールを守ることが保証されない (確実性がない)• 説明責任を果たすことができない (なぜその結果になったかわからない)• 意図的に回答が伏せられる可能性がある (AI開発者の隠れた意図がある可能性)
AIと付き合って行くには、これらの前提を踏まえる必要があります47

AIとの付き合い方

現在のAIの使いどころ• 自分でもできる (自分に知識がある) ことを、AIに頼んで楽をする• AIがおかしなことを言う・AIが言うべきことを言わない場合でも、自分が気づけて、事故を防ぐことができるのであれば、AIを使っていい。
今はまだAIを使わない方が良いこと• 結果が適切か自分で判断できないこと (自分に知識が無いこと)• AIが言ったことについて、自分で正誤が判断できない場合は利用を避ける• AIの回答について、他の手段(文献や有識者の助言)で再確認する
48

本日の内容• 自己紹介• ChatGPTの紹介と体験• ChatGPTを使ってみる• AIの利用にまつわる注意点• AIの仕組みと得意・不得意• 最近のAIはどうやって考えているのか• AIは信頼できるのか• AIとのつきあい方

49