ChatGPT等の生成AIの概要と教育・学習における利用に関する留意事項
東北大学データ駆動科学・AI教育研究センター

金谷吉成

はじめに

生成AIの発展と普及AI（人工知能）の活用分野はさまざま
データの分析、機械の制御、文字認識や顔認証などのAIによる識別デジタルの画像や動画、音声や音楽、文章やプログラムコードなどのテキストを生成（生成AI、対話型AI）
画像を生成できるAIの「Stable Diffusion」や、動画を生成できるAIの「Sora」、テキストを生成できるAIの「ChatGPT」などインターネットを利用する上でGoogle検索が不可欠になったように、ChatGPTなどの生成AIも、今後我々の生活に確実に入り込んでくる

2

ChatGPT等の生成AIが教育現場に与える影響
誰もが（多くの学生が）気軽に利用できるように既に、分野によっては生成AIが実用化され、業務の効率化に貢献している
今後は専門性の高い生成AIの出現も予想される
PCやスマートフォンの標準機能として搭載されてきているMicrosoft Edgeには既にAI機能が組み込まれているGoogle検索ではSGE（Search Generative Experience）を有効にすることで、生成AIによる概要説明やトピックの要点が表示されるように

教育現場では、教員の授業支援や学生の予習・復習など、さまざまな場面で教育や学習を効率化し、生産性を向上させる可能性がある一方で、さまざまな懸念も生じる
3

演習課題やレポート課題における生成AIの利用
学生による生成AIの利用
小論文や要約、英訳や和訳、プログラミングなど、分野によってはかなり正確な出力結果が得られることも多い
生成AIの出力結果は、英語、日本語問わず、自然な文章となっており、一見して、人が書いたものか、生成AIによる出力なのか区別がつかない場合が多い
レポート課題によっては、そのままでも正解と判断できてしまう出力結果が得られるため、学生が生成AIの出力を少し修正して提出してきた場合、それと見抜くことは難しいという問題が生じる（使用が疑われたとしても、それを断言することは困難）
4

ChatGPTの利用例（1）：プログラム課題（基本構文）

プログラム課題（基本構文）•出力例を指示するだけでPythonのプログラムコードを生成•for文やwhile文による繰り返し処理を利用するように指示（AIに対する入力を「プロンプト」という）•出力結果では、プログラムコードだけでなく、コードの説明や実行結果まで出力された
5

ChatGPTの利用例（2）：プログラム課題（データ分析）

プログラム課題（データ分析）•X1とX2という2つのデータ間に直線的な関連があるかどうかを分析（ピアソン相関係数の算出）•データは質問内に入力•出力結果では、t検定に基づいて有意な相関があるとした

6

ChatGPTの利用例（3）：レポート課題（著作権）

レポート課題（著作権）•社会的な課題に関しても、質問に応じてそれなりの出力結果が得られた•1回の質問で適切な答えが得られない場合は、繰り返し質問することで求める答えに近づけることができる•ただし、AIの学習データが古く、最新情報が抜け落ちているケースや、記述に間違いがあるケースも多々ある•時には事実とまったく異なる内容が出力されることもある（幻覚＝ハルシネーション）
7

演習課題やレポート課題における予想される懸念 レポート課題やプログラム課題によっては、学生がまじめに取り組んだ末のレポートより、生成AIの出力をほぼ丸写ししたようなレポートの方が正解に近い場合も
学生自身の学びにならないまじめに取り組んだ学生にとっての不公平感
厳格な成績評価の点で大きな問題が生じる 教員は、このような生成AIにどのように向き合うべきか？
利用を禁止する？
授業時間や試験の際に禁止できたとしても、授業時間外の利用を排除することは難しい
学生がGoogleを使って調べ学習をするのと、ChatGPTを使って対話を通じて理解を進めることに本質的な違いはない

ではどうすればいのか？
8

生成AIへの対応方法案（1）教員もぜひChatGPT（生成AI）を使ってみましょう！
生成AIがどのような出力をするのか体験してみる
例）過去のレポート課題や試験問題をChatGPTに入力してみる

生成AIに何ができて何ができないかがわかる
例）プログラミングは得意だな
一見すると正しい論述に見えても根拠が不明快だな

予定した演習課題やレポート課題に対し、生成AIがどのような出力を行うかを事前に確認しておくことで、評価のポイントを変えたり、生成AIの利用だけでは不十分な課題に作り替えたりすることができる
9

生成AIへの対応方法案（2）注意喚起する
生成AIの出力をレポート等の解答にそのまま利用することは、学生自身の勉強にならない旨を注意する
部分的に利用を禁止したり、利用した場合はプロンプトとあわせて利用した旨を明記させるなど

生成AIの学習データには他者の著作物が含まれていることもあり、著作権侵害や剽窃のおそれが生じることを注意する
生成AIの出力が、ある論文や論評そのままの記述である可能性もある
生成AIの出力は出典不明なケースも多く、思わぬ権利侵害を引き起こす危険がある
画像生成AIの場合は、学習データに用いられた原作品群に酷似した出力が得られることも多い

10

生成AIへの対応方法案（3）課題内容や出題方法を工夫する
予定した演習課題やレポート課題に対し、生成AIがどのような出力を行うかを事前に確認しておく
持ち帰ってレポートを書かせる課題形式ではなく、教室で記述させる試験形式にする
提出したレポートに対して自分の言葉で説明させた上で採点する（学生へのインタビューや口述試験を含む）

11

生成AIへの対応方法案（4）これまで述べた対応方法案はあくまで一例
生成AIの活用を積極的に奨めることもあり得る
英会話の相手として活用、留学生の日本語学習のために活用
学生が自ら書いた文章を生成AIに修正させ、それを「たたき台」としてよりよい文章を推敲していく（プログラムコードも同様）

グループワーク等のアイデア出しの段階で、いくつか出た考えを要約させたり、足りない視点を見つけて議論を深めたりする教育・学習における生成AIにはメリット・デメリットがあるので、授業内容に照らし、どのように対応すべきかはそれぞれの教員が判断することになる

12

その他の注意点（1）研究インテグリティの観点から研究を遂行する上で、未発表の研究成果をインターネットのクラウド上に保存したり、研究支援の用途で生成AIや翻訳サイトを利用したりすることが考えられる
そうした場合、サービス提供事業者に、部分的にまたは完全に、未発表データが意図せずに流出してしまう点が懸念されるまた、生成AIや翻訳サイトへの入力が学習データとして利用されることで、他の利用者への回答として提示され、情報が漏えいする懸念もある
13

その他の注意点（2）サイバーセキュリティの観点から
機密情報についても同様

入試に関する情報や学生・教職員の個人情報など、外部に漏らしてはならない情報が、生成AIなどを通じてサービス提供事業者に伝わってしまうリスクや、他の利用者への回答として提示されてしまうリスクが存在する

14

ChatGPTのオプトアウトについて
ChatGPT等を提供しているOpenAIは、ウェブ版のChatGPTとDELL-Eからの入力を学習に利用しないよう、「オプトアウト（opt-out）」する申請を受け付けているhttps://help.openai.com/en/articles/7039943-data-usage-forconsumer-services-faq

また、ウェブ版のChatGPTでは、各ユーザの「Settings」で「Chat history & training」の設定をオフにすることで、会話を履歴に保存せず、モデルのトレーニングにも利用させない設定が可能標準では、生成AIを利用すると入力が学習データとして使用されるおそれがあることには注意
15

生成AIのメリット、活用法

ChatGPT等の生成AIが教育現場で利用されることによって、教員の授業支援や学生の予習・復習など、さまざまな場面で教育や学習を効率化し、生産性を向上させる可能性がある

16

教員・学生それぞれの利用の例
教員による利用の例
授業準備
アイデア出し、授業計画、時間配分

学生による利用の例
予習・復習前提知識の確認

シラバス原案の作成

授業で理解できなかった箇所の再確認

教材作成

外国語を翻訳して学習演習問題と解答例の作成

試験準備（練習問題の生成）授業
アイスブレイク

コミュニケーション支援

課題に対する利用

授業で扱うトピックの身近な例
示

例文作成

プログラムコードの作成

プログラミング課題の作成

授業後

レポート作成

採点、添削17

生成AIのメリット・デメリットを理解した上で利用していく生成AIはあくまでもツールにすぎない
最後は自分で判断することが必要

一定の知識や自分なりの問題意識を持った上で利用する
真偽を判断する能力も必要

生成AIにはさまざまな懸念も多い
透明性に関する懸念：AIがどのようなデータを学習しているのか、学習データをどのように作成しているのか、どのようなアルゴリズ
ムに基づき回答しているかが不明
信頼性に関する懸念：機密情報が漏えいしないか、個人情報の不適正な利用を行っていないか、回答の内容にバイアスがかかっていないか

18

まとめ
生成AIの利用を完全に排除することは現実的ではない（特に授業時間外）

学生が生成AIをレポート作成等に利用することで、学生自身の学びや厳格な成績評価の点で大きな問題が生じ得る多くの学生が使用することも想定した上で、必要に応じて対策を講じる

19

参考リンクChatGPT（OpenAI）
https://openai.com/blog/chatgpt
実際にChatGPTを使ってみましょう！（アカウント登録が必要）

生成AIの利用について（文部科学省）
https://www.mext.go.jp/a_menu/other/mext_02412.html
初等中等教育段階における生成AIの利用に関する暫定的なガイドライン

ChatGPT・AIの教育関連情報まとめ（東京大学 大学院工学系研究科 吉田塁研究室）
https://edulab.t.u-tokyo.ac.jp/chatgpt-ai-resources/
ChatGPT・AIの教育関連情報についてまとめられている
20