DENSO Crafting the Core自動車の安全性を高めるためのAI品質2023年10月31日中神徹也・桑島洋株式会社デンソーソフト生産革新部先端ソ開室2課1.世の中のAI動向とデンソーの取り組み2. デンソ−社内におけるAI品質保証の仕組みづくり3.構築した仕組みの紹介4.まとめCONFIDENTIAL
m
作用202画像像音声テキスト機械学習工学研究会[行き場深層学習の登場によってAld's々な領域に浸透[アッテミル] Alを工学的に扱うための制発が活きに深層学習の登場でAIの産業応用が加速AIのリスクに対する社会の不安AIの積極的な活用が競争の力ギAIの社会受容性に関するルール化の動き世の中がAIの研究から応用フェ−ズに入り、AIの社会受容性に関する取り組みが始まっている[1] https://sites.google.com/view/sig-mlse [2] https://www.bosch.co.jp/press/group-2001-02/ [3] https://www.youtube.com/watch?v=Q0nGo2-y0xY [4] https://www.youtube.com/watch?v=w2VWAoLrzE0 [5] https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist [6] https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai [7] https://www.bosch.com/stories/ethical-guidelines-for-artificial-intelligence/やDENSO CORPORATION All Rights Reservedデンソーの取り組み事業部主体でAl搭載製品の品質を確保DNのAI搭載製品群社会に受容される仕組み世の中のAIルール（各国・国際の法規・標準）世の中のAIルールに対応できるようにするため、デンソーの社内標準づくりを開始DENSO Crafting the Core自動車の安全性を高めるためのAI品質/ Oct 31, 2023 /中神徹也・桑島洋© DENSO CORPORATION All Rights Reserved. 5 CONFIDENTIAL
社会に受容されるための仕組みづくりの方針目的①（マネジメント領域）：目的②（エンジニアリング領域） . .法規・標準のAI要求事項を満たすAl要求事項に含まれない技術的な内容を補完するため、デンソーが必要と考える内容を世間相場に沿って定義するデンソ−では、以下の枠組みで社会に受容されるための仕組みを構築している。方針① (マネジメント領域) AI要求事項※1に基づいて管理規程を作成アウトプット：Al品質管理規程※1：EU Al Act、ISO42001など方針②（エンザニアリング領域）論文・ガイドライン※²に基づいて設計基準を作成アウトプット：Al設計基準（品質） ※※2：Towards a Framework to Manage Perceptual Uncertainty for Safe Automated Driving、Al品質マネジメントシステム（AIQM）など混合型機械学習ライフサイクルプロセスの概念図出典：AIQM第3版DENSO CORPORATION All Rights Reserved構築した仕組みの紹介方針①（マネジメント領域）：Al要求事項に基づいて管理規程を作成
万針の（ベビュルスフト前日） Al要求事項※1に基づいて管理規程を作成INFIDENTIAアウトプット：Al品質管理規程Alは仮説検証の繰り返しで開発が進むため、Al開発プロセスをそのまま従来プロセスに反映した場合、両方に対して対応が必要どちらのプロセスにも準拠していることを示す必要あり繰り返し型のAI開発プロセスAI開発プロセスの各活動を分解して従来プロセスに反映した場合、従来プロセスの中で対応が可能従来プロセスと整合するように反映従来プ	セス繰り返し型のAI開発プロセスAI開発プロセスの各活動を分解して反映することで、既存規程と同じ仕組みとなるように工夫DFNSOためのAI品質/ Oct 31, 2023 /中神欲也・桑島洋Crafting the Core © DENSO CORPORATION All Rights Reserved AI品質管理規程の概要AI品質管理規程では、AI品質を担保する上で必要な活動をプロセスとして定義している。社内規程作成の段階で会社として検討しておくべきAI観点をAIの品質設計方針とする（例）品質管理の対象とするAIの定義Al品質設計各製品の製品標積の段階で検討しておくべきAl個点をAIのコンセプト定義とする（例）AI国有のリスク特定～リスク対策を実施従来システムに対するAI国有の新規点・変化点をAIのシステム設計とする（例）AIの搭載を考慮したシステムの要件定義Al開発時に守るべき基準（設計基準）に徒った対応を実施AI品質管理規程品質管理プロセスに関連するAl要求事項を取り込んだ規程を作成DENSO Crafting the Core効率の安全性を高めるためのAI品質/ Oct 31, 2023 /中神変也・桑島洋方針の（マキジメント領域） Al要求事項※1に基づいて管理規程を作成アウトプット：Al品質管理規程CONFIDENTIAL開発の中では取り切れないAI固有のリスク（ドリフトなど）をおさえる対応をAIのリリース・運用とする(例）AIの搭載を考慮した運用時の要件定義リリース・運用© DENSO CORPORATION All Rights Reserved構築した仕組みの紹介方針②（エンジニアリング領域）：論文･ガイドラインに基づいて設計基準を作成11万針②（エンジニアリング領域）
│論文・ガイドライン※²に基づいて設計基準を作成アウトプット：AI設計基準（品質） ONFIDENTIAデンソ−では、車載製品／非車載製品の両方を扱っており、どちらの製品に対しても対応できるようにするため、 IT業界と自動車業界の両方の考えを取り入れる方針とした。 AI品質を担保する際の要点を抽出Al品質を担保するための基本的な考え方各業界で言及されている内容に基づいて考えづくりを実施方針②（エンジニアリング領域）論文・ガイドライン※²に基づいて設計基準を作成CONFIDENTIAL
アウトプット：AI設計基準（品質）機械学習で実装されたソフトウェアコンポーネント（機械学習要素）の内部品質を管理する際の特性軸について言及出典：AIQM第1版　着目する内部品質特性出典：AIQM第1版　着目する内部品質特性Al開発における品質管理指針を定めたガイドラインをベースにした
自動車の安全性を高めるためのAI品質/ Oct 31, 2023 /中神徹也・桑島洋
Tソッーアルシグ会員/
教師あり学習を用いた機械学習モデルに入り込む認識不確実性（7つ）について言及論文・ガイドライン※²に基づいて設計基準を作成CONFIDENTIAアウトプット：AI設計基準（品質） F1:コンセプトの不確実性(例) [歩行者]の定義がぶれる→ F2:シナリオのカバレッジの不確実性(例)未知の｢歩行者｣のパターンが存在F3:シーンの不確実性(例)遮蔽、霧、夜間、人の重なりなどF4:センサ特性の不確実性(例)ダイナミックレンジ、ノイズ、搭載位置などF5:ラベルの不確実性(例)クラスの間違い、BBOXのズレ・バラツキF6:モデルの不確実性(例)パラメータの初期値、選定する最適化手法F7:運用時の不確実性(例)データ分布の変化、レアケースK. Czarnecki and R. Salay. Towards a Framework to Manage Perceptual Uncertainty for Safe Automated Driving. WAISE2018.自動運転プロセスの文脈でおさえるべき観点を網羅した論文をベースにした前卑の安全性を高めるためのAI品質/ Oct 31, 2023 /中神徽也・桑島洋© DENSO CORPORATION All Rights Reserved万能(2) （T V T V A S A V会計V Al設計基準（品質）の概要：4つのゆらぎAI品質を担保する基本方針AI開発プロセスの構成要素に対し、品質低下や不確実性要因によってゆらぎが発生することを防止するAI品質を担保するための基本的な考え方データ収集時の考え方を抽出ラベリング時の考え方を抽出モデル構築時の考え方を抽出運用時の考え方を抽出
AIに含まれる”ゆらぎ”を抑えるための基本的な考え方に基づいてAI設計基準を定義論文・ガイドライン※²に基づいて設計基準を作成アウトプット：AI發計基準（品質） CONFIDENTIALまとめ© DENSO CORPORATION All Rights Reserved.まとめ世の中のAI動向とデンソーの取り組みAI（機械学習）の活用が拡大し社会に浸透し始める一方、AIのリスクも顕在化している。このため、各国政府・ISOがAIリスク対策に着手しており、世の中全体でルール化の動きが高まっている。このような世の中のAIルールの動きに対応できるようにするため、デンソーでは社内標準づくりを進めてきた。デンソ−社内におけるAI品質保証の仕組みづくりデンソーでは、以下の方針でAI品質保証の仕組みづくりに着手方針①（マネジメント領域）： AI要求事項に基づいて管理規程を作成方針②（エンジニアリング領域）： 論文･ガイドラインに基づいて設計基準を作成構築した仕組み方針①に対する対応結果：品質管理プロセスに関連するAl要求事項を取り込んだ規程を作成方針②に対する対応結果：AIに含まれる“ゆらぎ”を抑えるための基本的な考え方に基づいてAI設計基準を定義
自動車の安全車を高めるためのAFFF / Oct 31, 2023 /中神教也・委島洋
データから学習・推論するAIにおいて思わぬ誤りにつながる不確実性要因や品質特性が存在不確実性要因と品質特性※ F1：コンセプトの不確実性F2：シナリオカバレッジの不確実性
性質7：プログラムの健全性通常のソフトウェアの品質保証活動にて対応方針②（エンジニアリング領域）論文・ガイドライン※2に基づいて設計基準を作成ONFIDENTIALアウトプット：AI設計基準（品質） AI品質を担保する基本方針AI開発プロセスの構成要素に対し、不確実性要因や品質低下によってゆらぎが発生することを防止する
AIに含まれる"ゆらぎ"を抑えるための基本的な考え方に基づいてAI設計基準を定義※AI品質に関して、不確実性要因はネガティブ要因、品質特性はポジティブ要因の位置づけとなる目動車の安全性を高めるためのAI品質/ Oct 31, 2023 /中神変也・桑島洋Crafting the Core DENSO Crafting the Core