JIPDECセミナー

講演資料「AI規制について
デジタル基盤センター長

欧米の動向と日本の状況」

独立行政法人情報処理推進機構
AIセーフティ・インスティテュート 副所長・事務局長

平本 健二氏本資料は、2024年7月22日（月）開催、JIPDECセミナーで配布した資料です。
セミナーお申込み者様限定での配布となりますので、WEB、SNS等への掲載、転載はご遠慮ください。
2023.07.22©2024 JIPDEC All Rights Reserved.

AISI

AIと規制についてー 欧米の動向と日本の状況 ー(AISIは規制担当部局ではないので、本資料・講演は、情報ハブとしての一般的な情報提供)

2024-07-22
AIセーフティ・インスティテュート（AISI）

AISI

Japan
AI Safety InstituteJapan
AI Safety
Institute

AISI（AIセーフティ・インスティテュート）とは

AISI

Japan
AI SafetyInstituteAISIは、内閣府を中心に10府省、5政府関連機関が連携する官民の取組を支援する機関である。（2024年2月設立。独立行政法人情報処理推進機構（IPA）に事務局）⬧ 役割• 政府への支援として、AIセーフティに関する調査、評価手法の検討や基準の作成等の支援を行う• 日本におけるAIセーフティのハブとして、産学における関連取組の最新情報を集約し、関係企業・団体間の連携を促進する。
• さらに、 他国のAIセーフティ関係機関と連携する。

⬧ スコープ• AIによる以下の事象や検討事項の中で、諸外国や国内の動向も見ながら柔軟にスコープを設定し取組を進めていく。
• 社会への影響、ガバナンス、AIシステム、コンテンツ、データ

2

AIのリスクとは• 規制を考える前提

AISI

Japan AI Safety Institute

AISI

Japan
AI Safety
Institute3

AI開発と活用の流れ

AISI

Japan
AI Safety
Institute

4

AISI

AIに関して想定されるリスク

Japan
AI Safety
Institute AIには、Physical, Social, Economical, Psychologicalなリスクがある。
共通の指針

主なリスク

1)
人間中心

① 人間の尊厳及び個人の自律② AIによる意思決定・感情の操作等への留意③ 偽情報等への対策④ 多様性・包摂性の確保⑤ 利用者支援⑥ 持続可能性の確保

・人間の尊厳及び個人の自律を損なうリスク（プロファイリング時の配慮の必要性等）
・AIにより意思決定・感情の操作をされてしまうリスク
・偽情報などのリスク・多様性や包摂性が確保されないリスク
・地球環境への影響のリスク

2)
安全性① 人間の生命・身体・財産、精神及び環境への配慮② 適正利用③ 適正学習・動作が止まる、低下するリスク
・意図しない動作のリスク・ステークフォルダがリスクを知らないリスク
・目的外に利用してしまうリスク
・学習データに十分な品質がないリスク
・学習データのコンプライアンスリスク

3)
公平性① AIモデルの各構成技術に含まれるバイアスへの配慮② 人間の判断の介在・バイアスによる公平性を損なうリスク
・潜在的なバイアスが発生するリスク
・人間の介在が不足するリスク・バイアスの評価プロセスが不十分なリスク

6AISI

AIに関して想定されるリスク

JapanAI Safety
Institute共通の指針

主なリスク

4)
プライバシー保護① AIシステム・サービス全般におけるプライバシーの保護

・プライバシーを侵害するリスク

5)
セキュリティ確保① AIシステム・サービスに影響するセキュリティ対策② 最新動向への留意

・不正操作のリスク
・AIシステム自体へのセキュリティ侵害へのリスク
・不正データが使われるリスク

6)
透明性① 検証可能性の確保② 関連するステークホルダーへの情報提供③ 合理的かつ誠実な対応④ 関連するステークホルダーへの説明可能性・解釈可能性の向上・検証ができないリスク
・ステークホルダーに十分な情報提供がされないリスク
・合理的でない情報提供を求められるリスク

7)
アカウンタビリティ① トレーサビリティの向上② 「共通の指針」の対応状況の説明③ 責任者の明示④ 関係者間の責任の分配⑤ ステークホルダーへの具体的な対応⑥ 文書化

・トレーサビリティ情報が入手できないリスク
・共通の指針への対応状況が報告されないリスク・責任が明確にならないリスク
・ステークホルダーと適切なコミュニケーションが取れないリ
スク・各種情報をドキュメンテーションできていないリスク
6AISI

AIに関して想定されるリスク
8)
教育・ リテラシー

共通の指針

主なリスク

① AIリテラシーの確保② 教育・リスキリング③ ステークホルダーへのフォローアップ

・AI利用者が判断能力を持たないリスク
・AIにより雇用が奪われるリスク・ステークホルダーが技術などの進化に追随できないリスク9)
公正競争確保10)
イノベーション

JapanAI Safety
Institute

・AIに関して公正な競争が阻害されるリスク① オープンイノベーション等の推進② 相互接続性・相互運用性への留意③ 適切な情報提供

・AIのイノベーションが阻害されるリスク・相互運用性が確保されないリスク
・AIに関する情報が十分に伝達されないリスク

7

RISKの定義とレベル

AISI

Japan
AI Safety
Institute

 RISKの定義• ISO 31000• effect of uncertainty on objectives• ISO 9001

• effect of uncertainty

 RISKの定義• 様々な機関が定義している• 右の図は欧州AI法の定義

8ISO 31000におけるリスクへの対応

AISIJapanAI Safety
Institute

1. Avoiding the risk by deciding not to start or continue
with the activity that gives rise to the risk
2. Accepting or increasing the risk in order to pursue anopportunity
3. Removing the risk source
4. Changing the likelihood
5. Changing the consequences
6. Sharing the risk with another party or parties(including contracts and risk financing)
7. Retaining the risk by informed decision9規制の考え方AISIJapan AI Safety InstituteAISIJapanAI Safety
Institute10リスクベース・アプローチ

AISI

Japan
AI Safety
Institute

 従来型のコンプライアンス型のアプローチではなく、リスクに見合った低減措置を講ずること
 低リスク分野に必要以上にリソースを割くの避け、高リスクの分野に対する11ソフト・ローとハード・ロー

AISI

Japan
AI Safety
Instituteソフト・ロー• ガイドラインなど、強制力を伴わない• 制定や変更が迅速にできる

ハード・ロー• 法律など強制力を伴う• 制定や変更に時間がかかる

12

13

概要AISIJapan
AI Safety
Institute暫定

14多様なリス
ク
への各
国の対
応

AISI

Japan
AI Safety
Institute

15

基
本的な考
え
方AISI

Japan
AI Safety
Institute16

具体
的な考
え
方AISI

Japan
AI Safety
Institu te17

偽AISIJapan
AI Safety
Institute

•

誤情
報、
知的
財
産に権対のすリ るス考クえ方18

「ＡＩ制度研究会」の設置について

AISI

Japan
AI Safety
Institute

令和６年７月１９日ＡＩ戦略会議決定
 「統合イノベーション戦略 2024」(2024 年 6 月 4 日閣議決定)に基づき、イノベーション政策強化推進のための有識者会議「ＡＩ戦略」（ＡＩ戦略会議）の下、「ＡＩ制度に関する考え方」等を踏まえ、ＡＩ制度の在り方に ついて検討することを目的として、「ＡＩ制度研究会」（以下「研究会」という。）を設置する。

19

評価やテスティングについて

AISIJapan AI Safety InstituteAISIJapan
AI SafetyInstitute

20

AISI

AISIの活動と成果予定物
AISIの活動/成果物
4月
AIセーフティサミット 5月

・米国AI RMFの翻訳・調査事業方針の整理
・日米クロスウォーク1の成果公表

G7サミット 6月

政府の動き
AI事業者ガイドライン公表

Japan
AI Safety
Institute

効果・セーフティに関する基礎情報を提供
・今後の計画概要がわかる
・グローバルな確認が可能になる

各種の政府戦略の公表

7月 ・評価観点の公表

・評価のポイントがわかる

8月 ・日米クロスウォーク2の成果公表
・レッドチームの手順書作成

・グローバルな確認が可能になる・テスト手法がわかる

・諸外国の取組を見ながら順次実施

21

AISI

AISIの推進体制

Japan
AI SafetyInstitute 内閣府を事務局とする「AISI関係府省庁等連絡会議」を設置し、重要事項を審議（年間２～３回の開催を予定）。AISIの中に、AISI所長を委員長とする「AISI運営委員会」を設置（月１回の開催を予定）。
• 運営委員会の下に、必要に応じて、「テーマ別小委員会」や「パートナーシップ事業」（研究機関等の関連の取組みをAISI事業として発信）を設置。

【関係府省庁】
・内閣府（科学技術・イノベーション推進事務局）
・国家安全保障局
・内閣サイバーセキュリティセンター
・警察庁
・デジタル庁
・総務省
・外務省
・文科省
・経産省
・防衛省

【関係機関】
・情報処理推進機構（IPA）
・情報通信研究機構
・理化学研究所
・国立情報学研究所
・産業技術総合研究所

出典︓AISI関係府省庁等連絡会議（第1回/令和6年2月29日）資料２22

AISIJapanAI SafetyInstituteAISIJapan AI Safety Institute世界最先端で働きたい人材大募集中
23

本資料は、2024年7月22日（月）開催、JIPDECセミナーで配布した資料です。セミナーお申込み者様限定での配布となりますので、WEB、SNS等への掲載、転載はご遠慮ください。
©2024 JIPDEC All Rights Reserved.