第2回 AI品質マネジメントシンポジウム

安心安全なAIの提供に向けたガバナンスの取り組み
2023年10月31日

富士通株式会社
ジャパン・グローバルゲートウェイ
浦下 瞬

1© 2023 Fujitsu Limited

富士通のAIへの取り組み

2© 2023 Fujitsu Limited

富士通株式会社 会社概要
本社
東京

従業員
124,000 人

創立
1935

売上収益
3兆7,137億円

代表取締役社長 CEO
時田隆仁

営業利益
3,356億円

事業概要
サービスソリューション
ハードウェアソリューション
ユビキタスソリューション
デバイスソリューション

研究開発費
1,095億円
売上収益比3.0%

上場証券取引所
東京 (コード 6702)
名古屋（注）1．2023年3月末現在（注）2．2022年度連結概要（2023年3月31日終了会計年度）
3© 2023 Fujitsu Limited

4© 2023 Fujitsu Limitedテクノロジービジョン

富士通の重点技術領域⚫ 富士通は5つの重点技術領域の研究開発にリソースを集中するとともに、幅広いパートナーとのコラボレーションを推進⚫ Computing、Network、Data & Security、Converging TechnologiesとAIの融合を強化
5 つのテクノロジーメガトレンド
つながり、誰も取り残されない

創造性の拡張AINetwork• セマンティックグラフAI（セマンティックグラフ、グラフAI）• 説明可能なAI• 発見するAI• Actlyzer

AI

量子スピードの創造
ComputingAI

未来のリ・デザイン
Converging Tech.

AI

進化するウェブ
Data & Security

AI• 6G技術• ディスアグリゲーテッド
コンピューティング• 光伝送/光電融合技術• HPC（高性能プロセッサ）• 量子コンピュータ• Computing WorkloadBroker• フェデレーテッド・デジタルツイン• ソーシャルデジタルツイン• エンタープライズメタバース• Web3/ブロックチェーン• IDYX, CDL, 透過的トラスト• トラストネットワーク• インテリジェント・ネットワーク（ネットワーク制御AI）• 発見するAI• マテリアルズ・インフォマティクス• マルチアスペクトシミュレーション• 行動予測技術• AIセキュリティ/トラスト• 常時認証富士通の重点技術領域

Computing

NetworkAI
5

Data & Security

Converging Technologies© 2023 Fujitsu Limited

AIトラスト実現に向けた取り組み
AI倫理

品質

セキュリティ

安心安全なAI活用のための技術・活動

国際基準に沿ったAI品質評価技術と社内適用AIに対するサイバー攻撃の自動監視技術の開発⚫ 欧州最大の倫理団体AI 4 Peopleに設立当初か⚫ 国際標準化機構ISO/IECにおけるAIの安全・安⚫ 敵対的パッチ攻撃による不正を検知する技術を開ら参画し、政策提言に貢献。主要メンバーとして
実践と標準化を推進

心な利用のための標準化提案・策定をリード⚫ AIの倫理的リスクを網羅的に抽出するリスクベース⚫ 国際規格に準拠した社内標準ガイドラインの作成と全社品質管理プロセスの適用

評価技術を開発し、世界に向けて無償公開

AI4People

ミュンヘン工科大学

ISO/IEC JTC 1/SC 42

6発、北米NRFに出展、小売領域に展開⚫ AIモデルの再学習を必要としないため導入が容易で、初見のパッチによる不正の検知もできる独自技術（ベングリオン大学。共同研究）

ベングリオン大学© 2023 Fujitsu Limited

富士通のAIガバナンスに向けた取り組み（トップダウン）

7© 2023 Fujitsu Limited

富士通グループ AIコミットメント
PARTNERSHIP ON AI

Future of Life
Asilomar AI principles

IEEEEAD

モントリオール宣言

Statement on Artificial Intelligence,Robotics and 'Autonomous' Systems

AI4People*

英国議会
AI in the UK*欧州の国際団体

5 principals

富士通グループAIコミットメントは AI4people の 5つの原則に基づき客観性を確保
1

AIによってお客様と社会に価値を提供します

2

人を中心に考えたAIを目指します

AI Commitment

3

AIで持続可能な社会を目指します

FUJITSU Way

4

人の意思決定を尊重し支援するAIを目指します

5

企業の社会的責任として、AIの透明性と説明責任を重視します8© 2023 Fujitsu Limited

AI倫理に向けた制度・体制の確立
富士通グループAIコミットメントに基づき全社的かつ総合的な取り組みを実践
富士通グループAI倫理外部委員会

富士通グループAIコミットメント
自社規律・ 社内外浸透

開発プロセスへの組み込み
企画
開 発・ 検証
導入

運用

サポー
ト各
事
業
特性に応
じた
実
践

相談体制

教育制度

取締役会

研究開発

多様な分野のハイレベルな識見を持った外部専門家を招き、実践的な提言をいた
だいている

技術的支援

情報工学
消費者
行政

法学

SDGs

医学

生態学

コーポレート部門（法務・知財など）

協調
Society
国際標準化

ユーザー企業との勉強会

共有

提言
産学連携

富士通グループ
A I 倫理外部委員会

9

本委員会のミッション

01：当社のAI倫理指針・ガバナンスに対する評価
当社のAI倫理に関する指針や戦略について、法制度や社会の状況を踏まえ、技術・人権・サステナビリティ等の多様な観点のもと評価を行い、今後の方向性を検討します。
02：当社のAIビジネス推進およびブランド向上への寄与「信頼されるAI」の提供に向け、客観的視点で評価・提案を行い、当社の経営層に共有しています。また、本取組みを社会の幅広いステークホルダーにも発信し、当社AI倫理ブラン
ドの認知向上に寄与することを目指します。

© 2023 Fujitsu Limited

富士通のAIガバナンスに向けた活動（ボトムアップ）10© 2023 Fujitsu Limited

安心・安全なAIの提供に向けた課題
AI特有事項についての考慮が現行の富士通の品質保証基準やセキュリティ基準だけでは不適当/不十分な可能性• AI倫理・AI品質・AIセキュリティの考え方、知財の検討範囲の拡大、個人情報保護法、各国法規制対応などAI向けの様々なガイドラインがあるが、ビジネスプロデューサー/SEが全て把握・対応するのは困難• 倫理/品質/契約などの分野別• 読み応えあるボリューム• 抽象的記述• 具体的な手法やアクションが不明確
11© 2023 Fujitsu Limited

組織横断活動
あらゆるお客様に向けて、AI活用（デリバリ）を担える富士通であり続けるため、富士通全体でAIのデリバリプロセスを確立していく組織横断活動

12© 2023 Fujitsu Limited活動概要
AIの各デリバリプロセスで必要なリスクや対策を観点横断的に洗い出し取りまとめ提供

観点横断でまとめてチェック
観点横断でまとめてチェックできるリスクに対して対策がとれるAIのデリバリプロセス（当社実践知と国際標準プロセス (ISO/IEC 5338) をあわせて独自に作成）

考慮観点

安心安全なAIの提供

安心安全なAIの提供ができるAIコミットメントの達成につながる

観点×ステップ毎の具体的な注意点や対策
13※初期構想イメージ© 2023 Fujitsu Limited

当社専門家集団の知見を集約
一度きりでなく、最新の技術や動向を踏まえた継続メンテナンス性を担保
AIプロジェクト

AI品質
人工知能研究部門

SE部門

AI倫理
AI倫理ガバナンス室
AI倫理研究部門

セキュリティ組織横断活動

セキュリティ研究部門

外部環境

技術動向

政策渉外部門

技術戦略部門

知財

法務
法務部門

14

知財部門

© 2023 Fujitsu Limited

AI品質
産業技術総合研究所の「機械学習品質マネジメントガイドライン 第2版」をベースにAI品質の評価を行う手法を開発
当社人工知能研究部門の専門家が抽出・具体化
••
•

1

2

200ページを超えるボリュームから各段階で必要な要素を抽出
様々なAIシステムを評価対象とする汎用的評価指標から、当社AIシステム開発で用いるための具体的な指標に落とし込み活用ノウハウを組込みエッセンスを抽出した活用ガイドライン
・AI品質早期アセスメントガイド
・AI品質実践ガイド
容易利用可能なExcel版チェックシート
15© 2023 Fujitsu Limited

成果物
基本的な考え方を説明
初学者向けの導入

確認・実施すべき事項を具体的な対策や相談先とともに提供し、実施状況のチェックやリスク把握可能化

概説

実施事項集

チェックリスト

2022年3月の0.5版提供から改版を重ね、2022年7月1.0版、2023年10月2.0版提供
16© 2023 Fujitsu Limited

商談・システム提供プロセスへの組み込みノウハウドキュメントの提供だけでなく商談・デリバリのプロセスに組み込むことで実効性を確保

富士通の商談・システム提供時の品質保証プロセスへ組み込み、実施基準に基づきセルフチェック・統制部門のレビューを実施
商談フェーズ

提供フェーズ

商談化

プロジェクト開始前
AIチェック＆レビューを組込受注・契約前審査

プロジェクト完了報告
17© 2023 Fujitsu Limited

効果
課題であったAI特有の複数観点に渡る考慮事項を横断的にチェック可能•十数ガイドライン4桁ページの要素を具体化したうえで
商談時・開発提供時それぞれ20件程度のチェック項目に集約、1日でチェック可能化

商談・システム提供時の品質保証プロセスにチェック＆レビュー組み込み、安心安全なデリバリを実現••

最低レベルでもセルフチェック必須化（約200件/月（AI以外も含む））
高レベル以上の2件についてレビューを実施しデータ利用許諾の考慮などアドバイス実施

本活動
ガバナンスガイドライン

富士通
品質保証プロセス

安心安全なAI

AIチェック＆レビュー

チェックリスト
重点

ガバナンスレビュー
18

対象拡大

お客様
© 2023 Fujitsu Limited

今後の継続改善
イノベーションを阻害しないリスクベースアプローチの採用
リスクベースアプローチ リスク評価からリスク軽減までをカバー
1. リスクレベル判定：AIシステムのユースケースにおけるリスクレベルの判定
2. リスクアセスメント：AIリスクの特定、リスク軽減計画の評価と提案
3. リスク対応：リスク軽減計画を選択して適用
細かな行為義務を規定するルールベースの規制がイノベーションを阻害しうることも同時に指摘されている。これらの問題を克服するためには、従来のルールベース型から、最終的に達成されるべき価値へと企業等を導くゴールベース型へと、ガバナンスの構造を変革することが求められている。
我が国の AI ガバナンスの在り方 ver.
1.1：経済産業省
https://www.meti.go.jp/shingikai/mono_info_service/
ai_shakai_jisso/pdf/20210709_1.pdf• グローバルでの全社展開に向けた制度の確立• 生成AIへの対応
19© 2023 Fujitsu Limited

今後の継続改善
イノベーションを阻害しないリスクベースアプローチの採用
リスクベースアプローチ リスク評価からリスク軽減までをカバー
1. リスクレベル判定：AIシステムのユースケースにおけるリスクレベルの判定
2. リスクアセスメント：AIリスクの特定、リスク軽減計画の評価と提案
3. リスク対応：リスク軽減計画を選択して適用

当社研究所でリスク管理技術開発、チェックへの組み込み細かな行為義務を規定するルールベースの規制がイノベーションを阻害しうることも同時に指摘されている。これらの問題を克服するためには、従来のルールベース型から、最終的に達成されるべき価値へと企業等を導くゴールベース型へと、ガバナンスの構造を変革することが求められている。
我が国の AI ガバナンスの在り方 ver.
1.1：経済産業省
https://www.meti.go.jp/shingikai/mono_info_service/
ai_shakai_jisso/pdf/20210709_1.pdf• グローバルでの全社展開に向けた制度の確立• 生成AIへの対応
20© 2023 Fujitsu Limited

21© 2023 Fujitsu Limited

Thank you© 2023 Fujitsu Limited