ユネスコが作成した教育・研究分野における生成AIのガイダンスについて

# はじめに

本書はユネスコが2023年9月7日にリリースした ["Guidance for generative AI in education and research" ](https://unesdoc.unesco.org/ark:/48223/pf0000386693) の内容について解説したものです。プレスリリース記事は ["UNESCO: Governments must quickly regulate Generative AI in schools" ](https://www.unesco.org/en/articles/unesco-governments-must-quickly-regulate-generative-ai-schools)をご確認ください。

# プレスリリースの概要

- **教育分野での生成AIの規制**
ユネスコは、教育分野での生成型AIの使用に人間中心のアプローチを確保するために、政府に適切な規制と教師研修を実施するよう呼びかけています。そのために、ユネスコは生成AI技術が引き起こす混乱に対処するために、 ["Guidance for generative AI in education and research" ](https://unesdoc.unesco.org/ark:/48223/pf0000386693)を初めて発表しました。
- **生成型AIの概要と問題点**
生成AIはテキストや画像、動画、音楽、ソフトウェアコードなどの出力を生成することができる技術です。生成AIは人間の発展にとって大きな機会ですが、同時に危害や偏見を引き起こす可能性もあります。生成AIは公的な関与や政府による必要な保護措置や規制なしに教育に統合することはできません。このガイドラインでは、生成型AIがデジタルデータ格差を悪化させていることや、現在のChatGPTモデルがグローバルノースの価値観や社会規範を反映したオンラインユーザーのデータで訓練されていることなど、生成型AIの周囲の論争とその教育への影響について詳しく説明しています。
- **教育と研究での生成AIの倫理的な使用のための政策枠組み**
このガイダンスでは、政府が生成AIを規制し、教育と研究での倫理的な使用のための政策枠組みを確立するために取るべき **7つの主要なステップ** を提示しています。それらは、グローバル、地域、または国家レベルでデータ保護やプライバシー基準を採用することや、教室でのAIツールの使用に13歳以上の年齢制限を設けること、教師研修を行うことなどです。このガイダンスは、人間の主体性、包摂性、公平性、ジェンダー平等、文化的および言語的多様性を促進するものであり、ユネスコが2021年に採択した[「人工知能倫理勧告」](https://www.unesco.org/en/artificial-intelligence/recommendation-ethics)や2019年に発表した[「人工知能教育北京コンセンサス」](https://unesdoc.unesco.org/ark:/48223/pf0000368303)に基づいています。また、2023年5月にユネスコが開催した初めての[「生成型AIに関するグローバル閣僚級ラウンドテーブルで表明された懸念」](https://www.unesco.org/en/articles/ai-unesco-mobilizes-education-ministers-around-world-co-ordinated-response-chatgpt)にも応えています。

# [教育・研究分野における生成AIのガイダンス](https://unesdoc.unesco.org/ark:/48223/pf0000386693)

このガイダンスは6つの章で構成されています。
- 第一章 生成AIとは何なのか
- 第二章 生成AIをめぐる論争と教育への影響
- 第三章 教育現場における生成AI利用の規制
- 第四章 教育・研究における生成AI活用のための政策フレームワークに向けて
- 第五章 教育・研究における生成AI の創造的な活用の促進に向けて
- 第六章 生成AIと教育・研究の未来

# 「第一章 生成AIとは何なのか」の概要

**「第一章 生成AIとは何なのか」** には、以下のような内容が記述されています。

- **生成AIの使用**
  - 生成AIは表面的には使いやすいが、より洗練された出力には熟練した人間の入力が必要。
  - 生成AIの出力は批判的に評価する必要がある。
  - GPT-4は信頼性が完全ではなく、事実を「幻覚」させることがあるため、注意が必要。
- **教育と研究への影響**
  - 生成AIは教師や研究者の仕事をサポートするための有用なテキストや他の出力を生成する可能性がある。
  - 若い学習者は、教師よりも専門家ではないため、生成AIの出力を批判的に受け入れることなく受け入れる可能性がある。
- **教育と研究のための生成AIのガイダンス**
  - 生成AIモデルは、より専門的またはドメイン固有のモデルを開発するための基盤として機能する可能性がある。
  - 教育の文脈でのGPTの使用は初期段階にあり、[EduChat](https://www.educhat.top) や [MathGPT](https://mathgpt.com) などの例が存在する。
- **生成AIの論争とその教育への影響**
  - 生成AIは大量のデータと巨大な計算能力に依存しており、これは主に大手国際技術企業と一部の経済圏（主に米国、中国、およびヨーロッパ）のみが利用可能。
  - データへのアクセスが国の経済発展や個人のデジタル機会のためにますます重要になるにつれて、十分なデータへのアクセスを持たないか、十分なデータを手に入れることができない国や人々は **「データの貧困」** という状況に置かれる。

# 「第二章 生成AIをめぐる論争と教育への影響」の概要
**「第二章 生成AIをめぐる論争と教育への影響」** には、以下のような内容が記述されています。

- **ユネスコの教育におけるリーダーシップ**
  - 教育はユネスコの最優先事項です。
  - 教育は基本的な人権であり、平和と持続可能な発展の基盤です。
  - ユネスコは教育のための国連の専門機関として、全ての学習者に奉仕する国のシステムの強化と復元力を提供します。
- **2030年のグローバル教育アジェンダ**
  - ユネスコは教育のための国連の専門機関として、2030年までに17の持続可能な開発目標を通じて貧困を根絶するためのグローバルな動きの一部として、教育2030アジェンダを主導・調整する役割を担っています。
  - 教育は、これらの目標すべてを達成するための基本であり、専用の目標を持っています。
  - この目標は、全ての人々のための包括的で公平な質の高い教育を確保し、生涯学習の機会を促進することを目指しています。
- **生成AIの人間中心のアプローチに向けて**
  - 公に利用可能な生成AIツールが急速に登場しており、そのリリースの反復バージョンは国の規制の適応を上回っています。
  - ほとんどの国での生成AIに関する国の規制の欠如は、ユーザーのデータプライバシーを保護せず、教育機関はツールを検証する準備ができていません。
  - ユネスコの教育における生成AIの最初のグローバルガイダンスは、これらの新しい技術の人間中心のビジョンを確保するための即時の行動の実施、長期的な方針の計画、および人間の能力の開発をサポートすることを目的としています。

# 「第三章 教育現場における生成AI利用の規制」の概要

生成AIの論争を解決し、教育における生成AIの潜在的な利益を活用するためには、まずそれを規制するところからはじめる必要があります。教育目的の生成AIの規制には、その倫理的、安全で公平かつ意味のある使用を確保するための人間中心のアプローチに基づいた多くのステップと政策措置が必要です。

## 3.1 人間中心のAIアプローチ
  - 2021年の人工知能の倫理に関する勧告は、生成的AIの論争を解決するための枠組みを提供しました。
    - この勧告は、人間中心のアプローチに基づき、AIの使用が人間の能力の発展を支援することを目的としています。
    - 人権の原則と文化的多様性の保護がこのアプローチの中心です。
    - ガバナンスでは、透明性や公的説明責任を確保する規制が必要だと言っています。
  - 2019年の北京合意では、教育におけるAIの使用に関する人間中心のアプローチを詳述されています。
    - 教育におけるAIは、持続可能な開発や人間と機械の協力を強化すべきです。
    - AIへの公平なアクセスや文化的多様性の促進が重要です。
    - 教育におけるAIの方針策定には、多部門や多くの利害関係者のアプローチが提案されています。
  - ユネスコのガイダンスでは、教育におけるAIの利益とリスクに関する人間中心のアプローチを詳細が記述されています。
  - ユネスコのガイダンスでは、AIの使用に関する具体的な方針の策定の推奨事項が提案されています。

## 3.2 教育における生成AIの規制手順

ChatGPTのリリース前、米国政府はAIの使用とデータ収集を規制する枠組みを整備していました。2022年11月以降の生成AIモデルのリリースを受けて、米国政府は生成AIの規制に関するさまざまな政策を採用し始めました。2023年4月には、米国政府の生成AI規制戦略がユネスコで評価され、生成的AIの規制と活用のための6つのステップが提案されました。

### ステップ1. 国際的または地域的な一般データ保護規則（GDPR）を承認するか、国内のGDPRを開発を行う

生成AIモデルは多くの国の市民のデータを収集・処理しており、同意なしの使用はデータ保護を複雑にしています。2018年のEUのGDPRは、生成AIのデータ収集を規制する法的枠組みの一例です。194ヶ国中137ヶ国がデータ保護法を持っていますが、その実施状況は不明確です。適切な実施と新しい法律の開発が急務となっています
### ステップ2. AIに関する全体的な政府戦略を採用/改訂し、資金を提供する。

生成的AIの規制は、国家AI戦略の一部として取り組むべきです。全体的な政府のアプローチが必要で、異部門間の調整を保証します。2023年初めには67ヶ国がAI戦略を計画・開発しており、その中で生成的AIに関する具体的な取り組みはまだ少ない。国々は、AIの倫理的使用を規制するための戦略を改訂または開発する必要があります。

### ステップ3. AIの倫理に関する具体的な規制を確立し、実施する

AIの使用に関する倫理的問題を対処するための具体的な規制が求められています。ユネスコの2023年の調査によれば、40の国が倫理的なAI戦略を持っており、その中で20の国がAIの倫理に関する規制を持っています。教育は多くの国家AI戦略で重要視されていますが、主にAIのスキル開発の観点からであり、倫理的側面は具体的には触れられていません。規制をまだ持っていない国々は、AIの倫理に関する規制を急ぎ策定・実施する必要があります。

### ステップ4. AIが作成したコンテンツを規制するための既存の著作権法を調整または施行する

生成AIの使用が増加しており、著作権に関する新しい課題が出てきています。中国、EU、および米国は生成AIの影響を考慮し、著作権法を調整しています。米国は生成AIの出力を保護しないと判断し、EUはAIの開発に使用される著作権資料の開示を要求しています。中国は生成AIの出力を「AI生成コンテンツ」として認識しています。著作権法の調整が急募となっています。

### ステップ5. 生成AI に関する規制の枠組みを作成する

AI技術の進展に伴い、国や地方の規制更新が求められています。2023年7月に、中国が生成AIに関する規制を導入し、AI生成コンテンツの適切なラベル付けを要求しています。既存の規制のギャップを埋めるため、他の国も生成AIの規制枠組みの開発が必要です。

### ステップ6. 教育・研究における生成AIの適切な使用のための能力開発を行う

学校や教育機関は、教育のためのAIの利益とリスクを理解する能力を育成する必要があり、これに基づきAIツールの採用を検証する必要があります。教師や研究者は生成AIの使用能力を強化するサポートが求められており、シンガポールをはじめとする国々が能力構築プログラムを提供しています。

### ステップ7. 教育と研究に対する生成AIの長期的な影響について考える

生成AIの影響はまだ始まったばかりで、特に教育への影響が未知数です。同時に、より強力なAIが進化しています。この影響に関する重要な疑問が残っており、生成AIを教育に導入する国々は長期的な影響を理解しきれていません。AIの人間中心の利用を確保するためには、長期的な影響について公開討論と政策対話を急ぐ必要があります。

## 3.3 生成AIに関する規制

すべての国は、教育やその他の文脈での発展を確実にするために、生成AIを適切に規制する必要があります。

### 3.3.1 政府の規制機関

生成AIの規制の設計、整合性、実施の調整には全体的な政府のアプローチが必要です。
以下の7つの主要な要素と行動が推奨されています。

  - **間接的な調整**
  生成AIへの全体的な政府のアプローチを主導し、セクター間の協力を調整する国家機関を設立。
  - **法律の整合性**
  各国の関連する法的・規制的文脈との整合性を確保。
  - **生成AIの規制とAIイノベーションの促進のバランス**
  信頼性のあるモデルを共同で開発するための業界間の協力を促進。
  - **AIの潜在的なリスクの評価と分類**
  生成AIサービスの効果、安全性、セキュリティの評価と分類のための原則とプロセスを確立。
  - **データプライバシーの保護**
  生成AIの使用は、ユーザーがデータを生成AIプロバイダーと共有することをほぼ常に伴います。
  - **生成AIの使用の年齢制限の定義と施行**
  生成AIアプリケーションのほとんどは主に大人のユーザー向けに設計されています。
  - **国家のデータ所有権とデータ貧困のリスク**
  国家のデータ所有権を保護し、国内で運営する生成AIのプロバイダーを規制するための立法措置を講じる。

### 3.3.2 生成AIツールの提供者

生成AIツールの提供者は生成AIの倫理規範を含む「倫理的なデザイン」に責任を負っており、規制で規定されている倫理的な原則を実施する責任があります。

- **人間の責任**
   - 核心的な価値観と合法的な目的を遵守する。
   - 知的財産を尊重する。
   - 倫理的な実践を維持する。
   - デマやヘイトスピーチの拡散を防ぐ。
- **信頼性のあるデータとモデル**
   - データソースと方法の信頼性と倫理性を証明する。
   - 法的に証明されたデータソースと基本モデルを採用する。
   - 個人情報の収集は明示的な同意のもとで行う。
- **差別的なコンテンツ生成の禁止**
   - 人種、国籍、性別などに基づくバイアスや差別的なコンテンツの生成を禁止する。
   - オフェンシブな、バイアスのある、虚偽のコンテンツを防ぐ「ガードレール」を確保する。
- **生成AIモデルの説明可能性と透明性**
   - データソース、スケール、ラベリングルール、生成方法、提供サービスに関する説明を公共のガバナンス機関に提供する。
   - 技術とデータの理解を支援するサポートを提供する。
- **生成AIコンテンツのラベリング**
   - 生成生成のコンテンツを適切にラベル付ける。
   - 機械によって生成されたことを明確に表示する。
- **セキュリティと安全性の原則**
   - 生成AIシステムのライフサイクル全体で安全で堅牢なサービスを提供する。
- **アクセスと使用の適切性に関する仕様**
   - 対象観客、使用シナリオ、目的に関する明確な仕様を提供する。
   - ユーザーが合理的で責任ある決定を行うのを助ける。
- **制約の認識と予測可能なリスクの防止**
   - システムの制約を明示的に提示する。
   - 予測可能な害を防ぐ技術を開発する。
   - 倫理的原則に基づくガイダンスを提供し、過度の依存と中毒を防ぐ。
- **苦情と救済の仕組み**
   - ユーザーと一般の人々からの苦情を収集し、処理する仕組みとチャンネルを設立する。
- **違法な使用の監視と報告**
    - 違法な使用を監視し、報告するための協力体制を構築する。

### 3.3.3 組織の利用者

組織のユーザーには、生成AIを採用すべきかどうか、どのタイプの生成AIツールを調達し、組織内に展開すべきかを決定する責任を持つ、大学や学校などの教育当局や機関が含まれます。

- **生成AIアルゴリズム、データ、および出力の組織による監査**
生成AIツールが使用するアルゴリズムとデータ、そしてそれらが生成するアウトプットを可能な限り監視する仕組みを導入する。これには、定期的な監査と評価、ユーザーデータの保護、不適切なコンテンツの自動フィルタリングを含むべきである。
- **適正性の検証と利用者の幸福を守る**
国の分類メカニズムを導入するか、生成AIシステムとアプリケーションを分類・検証するための制度的方針を構築する。組織が採用する生成AIシステムが、現地で検証された倫理的枠組みに沿ったものであり、組織の対象ユーザー、特に子どもや社会的弱者に予測可能な危害を与えないことを確認する。
- **長期的な影響を検討し、対処する**
教育において生成AIのツールやコンテンツに依存することは、批判的思考力や創造性といった人間の能力の発達に大きな影響を与える可能性がある。こうした潜在的な影響を評価し、対処すべきである。
- **年齢適正性**
機関内での生成AIの独立使用に対する最低年齢制限の導入を検討すること。

### 3.3.4 個人ユーザー

個人利用者は、世界中のインターネット利用者で、少なくとも1つの生成AIツールを持つ人々を指し、主に正規の教育機関の教師、研究者、学習者、または非正規の学習プログラムの参加者を含みます。

- **契約時の生成AI利用に関する参照事項の認識**
契約を結ぶ際、ユーザーは契約に規定された参照事項（ToR）とそれに基づく法律や規制を遵守する責任を認識すべきです。
- **倫理的な生成AIアプリケーションの使用**
ユーザーは、生成AIを倫理的に使用し、他人の評判や法的権利を損なう可能性のある方法で悪用しないよう心がけるべきです。
- **違法な生成AIアプリケーションの監視と報告**
違反を発見した場合、ユーザーは政府の規制機関に対して違法な生成AIアプリケーションを通報すべきです。

# 「第4章 教育・研究における生成AI活用のための政策フレームワークに向けて」の概要

生成AIの教育と研究への潜在的な利益を最大限に引き出すためには、適切な政策の開発が必要です。2023年の調査によれば、教育におけるAI利用について政策や計画を持つ国は限られています。このセクションでは、生成AIの教育と研究における利用を規制するための包括的な政策枠組みを開発するための手段を提供します。

この取り組みの出発点は、2022年の「AIと教育：政策立案者向けガイダンス（UNESCO、2022b）」です。これは、質の高い教育、社会的公平性、インクルージョンの促進に焦点を当て、AIと教育に関する政策の開発と実施を指導する包括的な勧告を提供しています。これらの勧告の大部分は、生成AIの教育に関する具体的な政策の策定を指導するために適用および適応できます。

また、既存のガイダンスを補完するために、生成AIの教育と研究に関する政策立案のための8つの具体的な策が提案されています。

## 4.1 包括性、公平性、言語的および文化的多様性の推進

包括性の重要性は、生成AIのライフサイクル全体で認識し、対処する必要があります。具体的には、生成AIツールは、性別、民族、特別な教育ニーズ、社会経済的地位、地理的位置、避難状況などに関係なく、包括的にアクセス可能にならない限り、教育の根本的な課題やSDG 4へのコミットメントの達成には役立ちません。また、デザインにおいて公平性、言語的多様性、文化的多元主義を促進しない限りも同様です。これを実現するために、以下の3つの政策措置が推奨されています。

- インターネット接続やデータにアクセスできない人々を特定し、公平で包括的なAIアプリケーションへのアクセスの障壁を減少させるために、普遍的な接続とデジタル能力の促進に取り組みます。特に障害や特別なニーズを持つ学習者向けの生成AI対応ツールの開発と提供のために持続可能な資金供給メカニズムを確立します。また、すべての年齢、場所、バックグラウンドのライフロングラーナーを支援するために生成AIの利用を促進します。
- 生成AIシステムの検証基準を開発し、データやアルゴリズムに性別の偏り、マージナライズドグループへの差別、ヘイトスピーチが組み込まれていないことを確保します。
- 生成AIシステムの包括的な仕様を開発し、教育と研究における生成AIの展開時に言語と文化の多様性を保護する機関対策を実施します。この仕様は、生成AIプロバイダに対して、特に地元や先住民言語を含む複数の言語でデータを提供し、生成AIが多言語のテキストに対応し、生成する能力を向上させるよう求めます。仕様と機関対策は、生成AIプロバイダが意図的または偶発的に少数言語を削除したり、先住民言語話者を差別しないよう厳格に規定し、主要な言語や文化的規範を促進するシステムを停止することを求めます。

## 4.2 人間の主体性を保護する

生成AIがますます高度になるにつれ、その主要な危険性は人間の主体性を損なう可能性があります。個々のユーザーが生成AIを文章作成や他の創造的な活動のサポートに使用すると、意図せずにそれに依存することがあります。これは知的スキルの発展を損なう可能性があります。生成AIは人間の思考を挑戦し拡張するのに役立つかもしれませんが、人間の思考を乗っ取ることは許容されません。人間の主体性を保護し向上させることは、生成AIの設計と採用において常に考慮すべき要点です。以下は、7つの観点から生成AIの設計と採用に関する推奨事項です。

- 学習者に、生成AIが収集する可能性のあるデータの種類、それらのデータの使用方法、およびそれが彼らの教育や生活全般に与える影響について情報提供する。
- 学習者の個人的な成長と学びに対する内在的な動機づけを保護する。生成AIシステムを使用する文脈での研究、教育、学習において、個人が自分自身のアプローチに対する自己決定権を強化する。
- 生成AIの使用が学習者に現実世界の観察、実験、他の人々との議論、独立した論理的思考などを通じて認知能力や社会的スキルを発展させる機会を奪わないようにする。
- 十分な社会的相互作用と、人間が生み出す創造的な成果物への適切な接触を確保し、学習者が生成AIに依存することを防ぐ。
- 宿題や試験の圧力を緩和するために生成AIツールを使用し、悪化させないようにする。
- 研究者、教師、学習者から生成AIに関する意見を収集し、特定の生成AIツールを組織全体で展開すべきかどうか、そしてどのように展開すべきかを決定するためにそのフィードバックを活用する。学習者、教師、研究者に、AIシステムの方法論、出力内容の正確性、および規範や教育方法について批評的に検討し、疑問を投げかけることを奨励する。
- 重要な意思決定を行う際に、生成AIシステムに人間の責任を委任しないようにする。

## 4.3 教育のための生成AIシステムを監視および検証する

生成AIの開発と展開は倫理的に設計されるべきであり、生成Iが使用されてからそのライフサイクル全体で、倫理的なリスク、教育的な適切さと厳格さ、学生、教師、および教室・学校の関係への影響を注意深く監視および検証する必要があります。このため、以下の5つの行動が推奨されています。

- 教育と研究で使用される生成AIシステムが、特に性別に偏見を持たず、多様性を代表するデータで訓練されているかどうかをテストするための検証メカニズムを構築すること。
- 特に子供や他の脆弱な学習者が本当に知識に基づいた同意を得ることができない状況など、知情同意の複雑な問題に対処すること。
- 生成AIの出力にディープフェイク画像、偽のニュース、またはヘイトスピーチが含まれていないかを監査すること。生成AIが不適切なコンテンツを生成している場合、組織と教育者は迅速かつ効果的な対策を講じる用意があるべきです。
- 教育機関または研究機関で公式に採用される前に、生成AIアプリケーションを厳格に倫理的に検証すること（つまり、倫理に基づいたデザインのアプローチを採用すること）。
- 組織的な採用を決定する前に、対象学習者の年齢と能力に対して予測可能な害を及ぼさず、教育的に効果的であること、健全な教育学の原則（すなわち、関連する知識の領域と期待される学習成果および価値観の育成に基づく）に合致していることを確認すること。

## 4.4 学習者向け生成AI関連スキルを含むAIコンピテンシーを開発する
学習者の間でのAIの能力の開発は、教育およびその先におけるAIの安全で倫理的かつ意義ある使用に不可欠です。しかし、ユネスコのデータによれば、2022年初頭には、政府が認可したAIカリキュラムを開発し実施した国はわずか15か国程度であり、または開発中でした（ユネスコ、2022c）。生成AIの最新の進展は、全ての人がAIの人間と技術の側面の適切なリテラシーを習得し、広範な意味でのAIの動作、および生成AIの具体的な影響を理解する緊急の必要性をさらに強調しています。このため、以下の5つの行動が今急務です。

- 政府公認のAIカリキュラムを、学校教育、技術・職業教育、生涯学習において提供する。AIカリキュラムは、AIが私たちの生活に与える影響（AIが提起する倫理的問題を含む）、アルゴリズムやデータに関する年齢に応じた理解、生成AIアプリケーションを含むAIツールの適切かつ創造的な使用のためのスキルをカバーすべきである。
- 高等教育機関や研究機関が、地域のAI人材を育成するプログラムを強化することを支援する。
- 高度なAIの能力開発における男女平等を推進し、ジェンダーバランスの取れた専門家を育成する。
- 最新の生成AIの自動化によって引き起こされる国内および世界的な雇用シフトの部門間予測を策定し、将来的な需要のシフトに基づき、あらゆるレベルの教育および生涯学習システムにおいて、将来を見据えたスキルを強化する。
- 新たなスキルを習得し、新たな環境に適応する必要がある高齢労働者や市民のために、特別なプログラムを提供する。

## 4.5 生成AIの適切な活用のために教師と研究者の能力を構築する

政府による教育へのAIの活用に関する2023年の調査データ（ユネスコ、2023年版）によると、教師のためのAIに関するフレームワークやトレーニングプログラムを開発した、または開発中であると報告したのは7カ国（中国、フィンランド、グルジア、カタール、スペイン、タイ、トルコ）のみでした。シンガポールの教育省のみが、ChatGPTを教育と学習に中心としたオンラインリポジトリを構築していると報告しました。このことは、ほとんどの国の教師が、教育におけるAIの利用、特に生成AIの利用について、十分に体系化されたトレーニングを受けることができないことを示しています。
教師が生成AIを責任を持ってかつ効果的に使用できるように準備するために、各国は以下の4つの行動を取る必要があります。

- ローカルのテストに基づいたガイダンスを策定または調整し、研究者と教師が広く利用可能な生成AIツールを活用し、新しい特定のドメインに特化したAIアプリケーションの設計を導く。
- 研究者や教師が広く利用可能な生成AIツールを使いこなし、新たなドメインに特化したAIアプリケーションの設計を導くために、ローカルテストに基づいたガイダンスを策定または調整する。
- 教師が生成AIシステムを理解し、効果的かつ倫理的に使用するために必要な価値志向、知識、スキルを定義する。教師が教室や自身の専門的な能力開発において学習を促進するための具体的な生成AIベースのツールを作成できるようにする。
- 教師が教育、学習、および専門的な学習においてAIを理解し、使用するために必要な能力を動的に見直し、AIに関する価値観、理解、スキルの新たなセットを、在職および現職前の教師のための能力フレームワークとプログラムに統合する。

## 4.6 複数の意見と複数のアイデアの表現を推進する

生成AIはプロンプトやレスポンスを理解しません。代わりに、その応答は、モデルが訓練された際に取り込まれたデータ（インターネットからの情報）に見られる言語パターンの確率に基づいています。この応答における根本的な問題に対処するため、生成AIを知識データベースや推論エンジンに接続するなど、新しい方法が研究されています。しかし、生成AIの仕組みや情報源、そして開発者の視点により、生成AIはその出力において主要な世界観を再現し、少数派の意見や多様な意見を弱めてしまうのが事実です。そのため、人類の文明が発展するためには、生成AIはどのトピックに関与していても、絶対的な知識源ではないことを認識することが不可欠です。
具体的には生成AIの回答を以下のように見る必要があります。

- **生成AIの役割を理解する**
先に述べたいくつかのプラグインやLLMベースのツールは、検証された最新の情報にアクセスする必要性をサポートするように設計されていますが、これらが効果的であるという確かな証拠はまだほとんどありません。
- **学習者と研究者に生成AIが提供する回答を批判するように促す**
通常、生成AIは確立されたまたは標準的な意見を繰り返すだけであり、その結果、複数の意見や少数派の意見、複数のアイデアの表現が損なわれていることを認識すること。
- **学習者に試行錯誤、経験的な実験、および現実世界の観察から学ぶ機会を十分に提供すること**

## 4.7 地域に関連した応用モデルをテストし、累積的な証拠基盤を構築する

生成AIモデルはこれまでのところ、北半球からの情報を元に作成されており、南半球や先住民コミュニティーの情報は使われてません。地域のニーズに合ったアプローチを模索するために、以下の8つの行動を推奨します。

- 生成AIの設計と採用が、受動的で重要でない調達プロセスを促進するのではなく、戦略的に計画されるようにする。
- 生成AIの設計者が、オープンエンドで、探索的で、多様な学習オプションをターゲットにするよう奨励する。
- 目新しさや神話、誇大広告ではなく、教育や研究の優先順位に従って、AIを教育や研究に応用するエビデンスに基づいたユースケースをテストし、スケールアップする。
- コンピューティング能力、大規模データ、生成AIのアウトプットを活用し、研究手法の改善に情報を提供し、インスパイアすることを含め、研究におけるイノベーションのきっかけとなる生成AIの利用を導く。
- 研究プロセスに生成AIを取り入れることの社会的・倫理的意味を検討する。
- 実証された教育学的研究と方法論に基づく具体的な基準を確立し、インクルーシブな学習機会の提供を支援し、学習・研究目的を達成し、言語的・文化的多様性を促進するという観点から、生成AIの有効性に関するエビデンスベースを構築する。
- 生成AIの社会的・倫理的影響に関するエビデンスを強化するための反復的なステップを踏む。
- AI技術を大規模に活用する際の環境コスト（GPTモデルのトレーニングに必要なエネルギーや資源など）を分析し、気候変動への影響を回避するためにAIプロバイダーが満たすべき持続可能な目標を策定する。

## 4.8 生成AI利用の長期的な影響を学術的な方法で検討する

生成AIを教育と研究で効果的で倫理的に使うには、異なる分野や専門家を協力させることが必要です。多くの関係者を結集し、幅広い知識を活かすことで、重要な問題を速やかに見つけ、同時に長期的な悪影響を最小限に抑えつつ、持続的で累積的な利点を活かす方法を見つけることができます。そのために3つの行動が推奨されます。

- AI提供事業者、教育者、研究者、保護者と学習者の代表者と連携し、カリキュラムフレームワークと評価方法の全体的な調整を計画し、生成AIの教育と研究における潜在能力を最大限に活用し、リスクを軽減させる。
- 教育者、研究者、学習科学者、AI技術者、その他の利害関係者の代表者を含む、分野横断的・学際的な専門知識を結集し、学習と知識生産、研究と著作権、カリキュラムと評価、人間の協働と社会力学に対する生成AIの長期的な影響を検討する。
- 規制や政策の反復的な更新を知らせるためのタイムリーなアドバイスを提供する。

# 「第五章 教育・研究における生成AI の創造的な活用の促進に向けて」の概要

ChatGPTが最初に登場した際、世界中の教育関係者は、レポートを生成する可能性や学生の不正行為への影響を心配しました。しかし、最近では、多くの人々や組織、特に一流大学など、ChatGPTのようなツールは教育環境で生産的に活用されるべきだとの主張が広がっています。同時に、インターネット上では生成AIを教育と研究に活用するための提案が増えており、それには新しいアイデアの創出や多視点の例の生成、授業計画やプレゼンテーションの作成、既存資料の要約、画像の生成などが含まれています。新たなアイデアが毎日のように出ている一方で、研究者や教育者はまだ生成AIが教育、学習、研究にどのような影響をもたらすのかを具体的に模索中です。特に、提案されている多くの利用法の背後にいる人々は、倫理的原則を十分に考慮していない可能性があり、他の人々は、研究者、教師、学習者のニーズよりも生成AIの技術的な可能性に魅了されていることがあります。このセクションでは、教育における生成AIの創造的な利用を促進する方法について紹介します。

## 5.1 生成AIの責任ある創造的な利用を支援するための組織戦略

前述の通り、教育機関や研究機関は、生成AIシステムとアプリケーションの責任ある倫理的な使用を指導するための適切な戦略と倫理的な枠組みを開発し、実施、検証すべきです。これは、以下の4つの戦略を通じて達成できます。

- **倫理原則の制度的実施**
研究者、教師、学習者が責任と倫理を持って生成AIツールを使用し、アウトプットの正確性と妥当性に批判的にアプローチすることを保証する。
- **ガイダンスとトレーニング**
研究者、教師、学習者に生成AIツールに関するガイダンスとトレーニングを提供し、データラベリングやアルゴリズムにおけるバイアスなどの倫理的問題を理解させ、データプライバシーや知的財産に関する適切な規制を遵守させる。
- **AIの迅速なエンジニアリング能力の構築**
教科固有の知識に加えて、研究者と教師は、生成AIが生成するプロンプトを工学的に設計し、批判的に評価する専門知識も必要となる。生成AIが提起する課題は複雑であるため、研究者や教師は質の高いトレーニングとサポートを受けなければならない。
- **生成AIを利用した課題文の剽窃の検出**
生成AIは、学生が自分の作品として提出するために自分の執筆でないテキストを使用する可能性があり、これは新しい形態の「盗作」です。生成AIの提供者は、自分たちの成果物に「AIによって生成された」という透かしを付けることが義務付けられており、AIによって生成されたコンテンツを識別するためのツールも開発中です。ただし、これらの対策やツールの効果については、ほとんど証拠がありません。現在の組織の戦略は、アカデミックな誠実さを守り、人間による厳格な監視を通じて責任を強化することです。長期的な戦略としては、教育機関や教育者が、生成AIツールが人間の学習者よりも優れた成果を出すことができるタスクを評価するために筆記課題を再設計し、代わりに生成AIや他のAIツールではできない人間の価値観、例えば思いやりや創造性を複雑な現実の課題に適用することを考えるべきです。

## 5.2 「人間中心で教育学的に適切なインタラクション」アプローチ

研究者や教育者は、生成AIを使用するかどうか、またどのように使用するかを決定する際に、人間の主体性と、人間とAIツールの間の責任ある、教育学的に適切なインタラクションを優先すべきです。これには以下の5つの考慮事項が含まれます。

- ツールの使用は、学習や研究がテクノロジーを使わない場合や他の方法よりも効果的になるように、人々のニーズに貢献しなければなりません。
- 教育者や学習者がツールを使う際は、自分たちの内発的な動機に基づくべきです。
- ツールを使う過程は、教育者、学習者、または研究者によってコントロールされる必要があります。
- ツールの選択や構成、そして生成されるコンテンツは、学習者の年齢、期待される結果、対象とする知識の種類（例：事実、概念、手続き、メタ認知など）、または対象とする問題のタイプ（例：構造化または非構造化）に適している必要があります。
- 利用プロセスは、人間と生成AIの間で相互に関わり、AIが生成したコンテンツの正確性、教育や研究戦略、そして人間の行動に関する決定についての人間の責任を確保する必要があります。

## 5.3 教育と研究における生成AI利用の共同設計

教育や研究における生成AIの使用は、上から押し付けたり、商業的な宣伝に惑わされたりすべきではありません。生成AIの安全で効果的な使用方法は、教師、学習者、研究者が共同で設計するべきです。また、異なる使用方法の効果と長期的な影響を検証するために、堅実なパイロットプロセスと評価が必要です。
この推奨される共同設計をサポートするために、このガイダンスでは、以下の6つの観点で構成されたフレームワークを提案しています。これにより、教育的に適切な相互作用と人間の主体性が重要視することができます。

-  知識または問題の適切な領域
-  期待される成果
-  適切な生成AIツールと比較優位性
-  ユーザーに対する要求事項
-  必要とされる人間の教育方法とプロンプト例、そして
-  倫理的リスク

このセクションでは、生成AIの使用における共同設計プロセスが、研究実践の向上、教育の支援、基本的なスキルの自己学習のサポート、高次の思考の促進、特別なニーズを持つ学習者の支援など、どのように役立つかを例を挙げて説明します。これらの例は、教育と研究における生成AI利用の可能性の一部でしかありません。

### 5.3.1 研究を支援するための生成AI

生成AIモデルは、研究の概要を広げ、データの探索や文献レビューを向上させる潜在的な能力を持っています。今後、さまざまな使い方が考えられますが、新しい研究が必要です。その研究は、どのような研究課題が対象で、どんな成果が期待され、効果と正確性がどの程度あるかを定義し、AIツールの使用によって研究を通じて現実世界を理解するために、人間の役割や主体性が損なわれないようにすることが求められます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/78535/ecbc565f-7179-39d2-ce4a-1e8742daae1e.png)
※https://unesdoc.unesco.org/ark:/48223/pf0000386693　より抜粋

### 5.3.2 教育を支援するための生成AI

一般的な生成AIプラットフォームと特定の教育用生成AIツールの設計のどちらも、授業計画、コースパッケージ、またはカリキュラム全体の教師とAIの共同設計を通じてなど、教育方法論に関する知識と同様に、教師の教科の理解を強化するように設計されるべきです。生成AIが支援する会話型教師アシスタントや、経験豊富な教師や図書館からのデータに基づいて事前に訓練された「その分野専用の教師アシスタント」は、いくつかの教育機関でテストされており、未知の可能性と同時に未知の倫理的リスクを秘めているかもしれません。これらのモデルの実用化プロセスとさらなる反復は、本ガイダンスで推奨される枠組みを通して注意深く監査される必要があり、表4に示すように、人間の監視によって保護されるべきです。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/78535/2cb9f798-65b0-d15a-f3ec-e71e31cbce6e.png)
※https://unesdoc.unesco.org/ark:/48223/pf0000386693　より抜粋

### 5.3.3 基本的なスキルの自己ペースでの習得のための1対1のコーチとしての生成AI

学習の成果を定義する際、高次の思考力や創造性に注目が集まっていますが、子供の心理的な発達と能力向上には、基礎的なスキルが極めて重要です。これらの基礎的なスキルには、母国語や外国語の聞き取り、発音、文章作成、基本的な数学能力、美術、コーディングなどが含まれます。「ドリル＆プラクティス」という教育手法は時代遅れの教育方法と考えるべきではなく、、実際には生成AI技術を活用して、学習者が基礎スキルを自分のペースで練習できるように再構築し、アップグレードするべきです。倫理的な指針と教育原則に従えば、生成AIツールは、このような自己ペースの練習をサポートするための1対1のコーチとして機能する可能性があります。詳細は表5をご参照ください。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/78535/d7e20a6b-9ef8-f1b2-e5af-d67724a8b6fe.png)
※https://unesdoc.unesco.org/ark:/48223/pf0000386693　より抜粋

### 5.3.4 探究やプロジェクトベースの学習を促進するための生成AI

生成AIは高次の思考や創造性を促進するために意図的に使用されない場合、盗作や浅い「確率的オウム返し」の出力を助長する傾向があります。ただし生成AIモデルは大規模なデータに基づいて訓練されていることから、ソクラテス的対話の相手役として、あるいはプロジェクト型学習の研究アシスタントとして機能する可能性を秘めています。しかし、これらの可能性は、高次の思考を誘発することを目的とした教育／学習デザインプロセスを通じてのみ活用することができのです。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/78535/65ceb759-4f61-e21f-fe82-2376f7ca3395.png)
※https://unesdoc.unesco.org/ark:/48223/pf0000386693　より抜粋

### 5.3.5 特別なニーズを持つ学習者を支援する生成AI

理論的には、生成AIモデルは聴覚や視覚に障害のある学習者を支援する潜在的の能力を持っています。新たな実践例としては、耳の不自由な学習者のための生成AI対応の字幕やキャプション、視覚障害のある学習者のための生成AI生成音声説明などがあります。生成AIのモデルは、視覚、聴覚、言語に障害を持つ人々がコンテンツにアクセスし、質問し、仲間とのコミュニケーションを可能にするために、テキストを音声に、音声をテキストに変換することができます。しかし、この機能はまだ大規模には活用されていません。ユネスコが2023年に実施した、政府による教育分野でのAI活用に関する前述の調査によると、障害を持つ学習者のインクルーシブ・アクセスを支援するAI支援ツールを政府機関が検証し、推奨していると報告したのはわずか4カ国（中国、ヨルダン、マレーシア、カタール）だけでした(UNESCO, 2023c)。また、少数民族や先住民の言語を含め、学習者が自分自身の言語を使用して学習やコミュニケーションを行うことを支援するために、生成AIモデルの反復学習が行われる傾向もあります。例えば、Googleの次世代LLMであるPaLM 2は、ソースとターゲットのテキストペアの形で、数百の言語をカバーする並列データで訓練されています。多言語の並列データを含めることで、多言語テキストを理解し生成するモデルの能力をさらに向上させるように設計されています(Google, 2023b)。

リアルタイムの翻訳、言い換え、自動修正を提供することで、生成AIツールは、少数言語を使用する学習者がアイデアを伝え、異なる言語的背景を持つ仲間とのコラボレーションを強化するのを支援する可能性があります。しかし、これは自然にスケールアップするものではありません。意図的なデザインによってのみ、この可能性を活用し、社会から疎外されたグループの声を増幅させることができるのです。

最後に、生成AIシステムは会話ベースの診断を行い、学習上の問題だけでなく、心理的・社会的情緒的問題を特定する可能性も示唆されています。しかし、このアプローチが効果的で安全であるという証拠はまだほとんどなく、いかなる診断も熟練した専門家による解釈を必要します。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/78535/2cc1626b-e0a0-d173-b5ac-4f01afaf3a6f.png)
※https://unesdoc.unesco.org/ark:/48223/pf0000386693　より抜粋


# 「第六章 生成AIと教育・研究の未来」の概要

生成AIテクノロジーはまだ急速に進化しており、教育や研究に多大な影響を与える可能性が高く、まだ十分に理解されていません。したがって、教育や研究に対する長期的な影響は、直ちに注意が必要であり、さらなる詳細な検討が必要です。

## 6.1 未知の倫理的問題

ますます高度化す生成AIツールは、詳細に検討する必要のある追加の倫理的懸念を引き起こすでしょう。第2章、3章に加えて、少なくとも以下の5つの観点から、未知の倫理的問題を明らかにし、対処するために、より深く、将来を見据えた分析が必要です。

- **アクセスと公平性**
教育における生成AIシステムは、テクノロジーや教育資源へのアクセスにおける既存の格差を悪化させ、不公平をさらに深める可能性があります。
- **人間同士のつながり**
教育における生成AIシステムは、人間同士の交流や、学習における重要な社会的情緒的側面を減少させる可能性があります。
- **人間の知的発達**
教育における生成AIシステムは、事前に決まった解決策を提供したり、学習体験の範囲を狭めたりすることによって、学習者の自律性と主体性を制限する可能性があります。若い学習者の知的発達への長期的な影響を調査する必要があります。
- **心理的影響**
人間のやり取りを模倣した生成AIシステムは、学習者に未知の心理的影響を与える可能性があり、認知の発達や感情的な幸福、また操作の可能性について懸念が生じる。
- **隠れたバイアスと差別**
より洗練された生成AIシステムが開発され、教育に応用されるにつれ、モデルによって使用される学習データや方法に基づく新たなバイアスや差別の形態が生成される可能性が高く、その結果、未知の有害な結果をもたらすことがあります。

## 6.2 著作権と知的財産

生成AIの登場は、科学的、芸術的、文学的な作品が創造、配布、消費される方法を急速に変えつつあります。著作権保持者の許可なしに著作権保護作品を許可なくコピー、配布、使用することは、その独占的な権利を侵害し、法的な問題を招く可能性があります。例えば、生成AIモデルのトレーニングは、著作権の侵害として訴えられています。最近の事例の1つとして、「Drake」と「The Weeknd」（Abel Tesfaye）がフィーチャーされたAI生成の曲が、著作権に関する争いのためにオフラインになる前に、数百万人のリスナーに届きました（Coscarelli、2023）。新たな規制の枠組みは、生成AIプロバイダーにモデルで使用されるコンテンツの所有者の知的財産を認識し保護することを求める意図を持っていますが、生成される作品の圧倒的な量の所有権と独自性を判断することがますます困難になっています。このトレーサビリティの欠如は、クリエイターの権利を保護し、その知的貢献に対する公正な補償を確保することに関する懸念を引き起こすだけでなく、生成AIツールの出力がどのように責任を持って使用されるべきかについて教育的な文脈にも課題をもたらします。これは研究システムに深刻な影響を及ぼす可能性があります。

## 6.3 コンテンツと学習の情報源

生成AIツールは、教育コンテンツの生成と提供方法に変革をもたらしています。将来的には、人間とAIの対話から生まれるコンテンツが、主要な知識の源の1つとなる可能性があります。これにより、人間によって作成され、検証された教育用のリソース、教科書、およびカリキュラムに基づく学習コンテンツに対する学習者の直接的な関与が減少する可能性があります。生成AIテキストの信頼性が高いため、事前知識が不足している若い学習者は、誤った情報を認識したり、それを効果的に疑問視したりするのが難しいかもしれません。未検証のコンテンツとの学習者の関与が本当に「学習」として認識されるべきかどうかも議論の余地があります。

その結果、集計された二次情報に焦点を当てることで、学習者が知識を構築する機会が減少し、実際の世界を直接経験し、試行錯誤から学び、実証実験を行い、常識を養うといった実証された方法が制約される可能性があります。また、知識の社会的構築や共同の教室での社会的価値の育成にも影響を与える可能性があります。

## 6.4 均一化された回答と多様で創造的な回答の対比

生成AIは、通常、出力が主流の視点を反映し強調する傾向があるため、複数の視点を狭めることがあります。この結果、知識が均一化され、多様な創造的な思考が制約される可能性があります。教師や学習者が提案を求めるために生成AIツールに過度に依存することは、回答の標準化や一律化につながり、独立した思考や自己主導の探求を減少させる可能性があります。文章作品や芸術作品における表現の均一化も、学習者の想像力や創造性、異なる視点の表現に制約を加える可能性があります。

したがって、生成AIプロバイダと教育者は、教育機関向けGPTが創造性、協力、批判的思考、および他の高次思考スキルを促進するためにどのように開発および活用されるべきかを考慮する必要があります。

## 6.5 評価と学習成果の見直し

生成AIの評価に関する示唆は、単なるレポートの不正使用に関する直接的な懸念をはるかに超えています。生成AIは比較的整然とした論文やエッセイ、印象的な芸術作品を生成し、特定の科目領域の一部の知識ベースの試験に合格することができるため、何を正確に学ぶべきか、それにどのような目的があるか、学習はどのように評価および検証されるべきかを再考する必要があります。

教育者、政策立案者、学習者、および他の関係者による重要な議論は、以下の4つの学習成果のカテゴリを考慮する必要があります：

- **価値観**
テクノロジーの人間中心の設計と利用を確保するために必要な価値観は、学習成果とその評価をデジタル時代に再考する上で中心的な要素です。教育の目的を見直す際、テクノロジーが教育に関連する方法に情報する価値観を明示する必要があります。この規範的な視点を通じて、学習成果とその評価および検証は、テクノロジー、AIを含む、社会でますます浸透しているテクノロジーの使用に対応するために反復的に更新される必要があります。

- **基盤となる知識とスキル**
生成AIツールが人間よりも優れた領域でも、学習者は引き続き確かな基盤とスキルが必要です。基盤となるリテラシー、数学、基本的な科学リテラシースキルは、将来の教育において鍵となります。これらの基盤とスキルの範囲と性質は、私たちが生活するますますAI豊かな環境を反映するために定期的に見直す必要があります。

- **高次の思考スキル**
学習成果には、人間とAIの協力と生成AI生成の成果物の利用に基づく高次の思考と問題解決をサポートするために必要なスキルも含まれるでしょう。これには、事実と概念的な知識の役割を理解し、AI生成のコンテンツを批判的に評価するスキルが含まれるかもしれません。

- **AIと協力するために必要な職業スキル**
AIが人間よりも優れており、タスクユニットを自動化している領域では、人間の学習者は生成AIツールを開発し、操作し、使用するための新しいスキルを育む必要があります。教育成果と評価の再設計は、AIによって作成された新しい仕事に必要な職業スキルを反映する必要があります。

## 6.6 思考プロセス

生成AIが教育や研究に与える長期的な影響について最も基本的な視点は、やはり人間の主体性と機械の相互補完的な関係についてです。その中でも重要な疑問のひとつは、人間が基本的な思考とスキル獲得プロセスをAIに譲り渡し、AIが提供する成果物に基づいて高次の思考スキルに集中することができるかどうかということです。

例えば、文章を書くことは、しばしば思考の構造化と関連づけられています。生成AIを使えば、人間はゼロから一連のアイデアの目的、範囲、アウトラインを計画するのではなく、生成AIが提供する十分に構造化されたアウトラインから始めることができます。一部の専門家は、このように生成AIを使ってテキストを生成することを「考えずに書く」ことだと特徴づけています(Chayka, 2023)。このような新しい生成AI支援の実践がより広く採用されるようになると、ライティングスキルの習得と評価のための確立された方法は適応する必要があります。将来的には、ライティングの学習は、生成AIのアウトラインに基づく共同執筆だけでなく、プロンプトの計画や構成、生成AIのアウトプットに対する批判的評価、高次の思考といったスキルの構築に重点を置くということになるでしょう。

# 総括

人間中心のアプローチから見ると、AIツールは人間の知的能力と社会的スキルを拡張または補完するために設計されるべきであり、それらを損なったり、対立させたり、奪ったりすべきではありません。長らく、AIツールは、包括的で持続可能な未来の分析と行動をサポートするために、人間が利用可能なツールの一部としてさらに統合されることが期待されてきました。

AIが個人、機関、およびシステムレベルで信頼性のある人間との機械協力の一部となるためには、2021年のUNESCOによるAI倫理の勧告に基づく人間中心のアプローチが、生成AIなどの新興技術の特性に従ってさらに具体化および実施される必要があります。この方法しか生成AIが研究者、教師、および学習者に信頼性のあるツールとなることを確保できません。

生成AIは教育と研究に役立つべきですが、私たちは生成AIがこれらの分野の確立されたシステムとその基盤を変える可能性もあることを認識する必要があります。もしそのような変革が起こる場合、教育と研究の変革は人間中心のアプローチによって厳格に審査され、導かれるべきです。これによって、特にAIの潜在能力や教育で広く使用されている他の技術のカテゴリなど、すべての技術が人間の能力を向上させ、包括的なデジタル未来を築く手助けをすることができることが確保されます。