Top SE education program for top software engineers最先端ソフトウェア王学ゼミ[個別ゼミ2]成長報告2022年12月8日氏名:朴 龍勲所属:キヤノンメディカルシステムズ
Copyright (C) 2022 National Institute of Informatics, All rights reserved.
Top SE education program for top software engineers熟表内容1.設定したテーマとその理由•テーマ設定2.調査方法• AIガバナンス/oversightの論文調査3.調査結果•調査した論文のまとめ4.考察•医療への展開5.まとめ
Copyright (C) 2022 National Institute of Informatics. All righ
education program for top software engineers.設定したテーマとその理由■テーマ: oversightの動向と医療AIへの適用における課題検討■設定した理由■ Oversight (AIの監視)は新しい考え方であり, AIがステークホルダーのみならず社会も大きな影響を与えることから必要とされている機能■医療分野での最新の動向を把握し、今後対応すべき課題について検討したい
Copyright (C) 2022 National Institute of Informatics. All rights res
education program for top software engineers背景■ AIをめぐっては、国際的な機関や会議体でさまざまな議論が行われている。その中で活発に議論が交わされている課題の１つはTrustworthiness/trustworthyである。特に欧州では進んでいる。 ■ Trustworthiness/trustworthy定義はまだ統一されていない。 ■ ISO/IECによるtrustworthinessの定義■ ability to meet stakeholders' expectations in a verifiable way (ステークホルダーの期待に検証可能な形で応える能力） ■欧州委員会によるtrustworthyの定義■ human agency and oversight (人間の関与)/technical robustness and safety (技術のロバスト性、安全性）/privacy and data governance (プライバシーとデータガバナンス)/Transparency (透明性)/diversity, non-discrimination and fairness (多様性、差別のないこと、公正)/environmental and societal well-being and (環境と社会のwell-being(福祉))/Accountability (アカウンタビリティ/説明責任) ■ ISO/IEC38507:2022一「組織による人工知能の使用に関するガバナンスの影響」を公表している■ AIガバナンスについて最新動向を調査し、その中での医療でhuman oversight (人間の関与)の対応すべき課題を考察したい
Copyright (C) 2022 National Institute of Informatics. All rights re
education program for top software engineers調査方法■ ISO/IEC38507:2022の定義された「組織による人工知能の使用に関するガバナンスの影響」を調査■その他ガバナンス関連の論文を調査論文①: Bridging the Gap Between Ethics and Practice: Guidelines for Reliable, Safe, and Trustworthy Human− centered AI Systems ■医療向けのoversightの最新論文を調査■論文②: Clinician checklist for assessing suitability of machine learning applications in healthcare ■論文③: Identifying Ethical Considerations for Machine Learning Healthcare Applications
opyright (C) 2022 National Institute of Informatics. All rights res
education program for top software engineers
■目的■組織内でAIが効果的、効率的使用するために組織メンバーがAIの使用&管理するためのガイダンスを提供■スコープ■より広いコミュニティに対するガイダンスを提供■経営管理者■法律や会計の専門家、小売業や業界団体、専門団体など、外部の企業や技術専門家。 ■公的機関および政策立案者■内部および外部のサービスプロバイダー（コンサルタントを含む）。 ■評価者、監査人
pyright (C) 2022 National Institute of Informatics. All rights r
education program for top software engineers

■ AI活用に対応するためのポリシー

Copyright (C) 2022 National Institute of Informatics, All rights reserved.
education program for top software engineers
Governance oversight of AI ■ AI適切監視するために以下の内容を保証する必要がある■ AIの適切な使用を確保するためのポリシーが整備されている■責任、責任連鎖、説明責任、権限、権限委任の可能性が明確定義され、組織と関連関係者間で合意されている■ AIを使用する際に、適切な人の監視が行われていること。 ■ AIを使用する人、またはAIの使用に責任を持つ人は◾使用されているAIシステムについて適切な理解をしていること。 ■適切な情報提供と訓練を受け、懸念を表明する方法と相手を知っていること。 ■意思決定を行う権限をもっている及び誰に報告すべきかを知っていること。 ■必要に応じて介入する可能性を含め、AIシステムを十分に制御できること。
Copyright (C) 2022 National Institute of Informatics. All rights
education program for top software engineers.
■タイトル■ Bridging the Gap Between Ethics and Practice: Guidelines for Reliable, Safe, and Trustworthy Human-centered AI Systems ■ College Park, BEN SHNEIDERMAN  2020, ■背景■広く議論されているHCAIの倫理原則と効果的ガバナンスための実際手順とのギャップを埋めたい■研究目的と手法■人間中心のAI (HCAI)システムの信頼性、安全性、信頼性向上することを目的にしている■チーム、組織、業界の3レベルで15の推奨事項を提案
Copyright (C) 2022 National Institute of Informatics. All rights res
education program for top software engineers
■チーム:健全なソフトウェア・エンジニアリングプラクティスに基づく信頼性の高いシステム組織:ビジネス管理戦略による安全文化の構築業界:独立した監督による信頼できる認定Governance Structures for Human-Centered Al論文「Bridging the Gap Between Ethics and Practice: Guidelines for Reliable, Safe, and Trustworthy Human-centered AI Systems」から引用Copyright (C) 2022 National Institute of Informatics, All rights reserved. education program for top software engineers
■　タイトル■ Clinician checklist for assessing suitability of machine learning applications in healthcare ■ Ian Scott, Stacy Carter, Enrico Coiera, BMJ Health Care Informatics 2021 ■背景■臨床医がAIのアルゴリズムを利用する場合、その妥当性、有用性、実現可能性、安全性、倫理的使用などに関わる需要な問題が対処されているかどうかを確認する必要がある■しかし、臨床医が機械学習アルゴリズムの専門家ではないので、高度な技術を持ってアルゴリズムを判断するのが困難である研究目的と手法■臨床医が機械学習アルゴリズムを臨床的価値を判断するとき、アルゴリズム開発者やベンダーに質問する内容をまとめる■ 10項目のチェックリストを提案■世の中の82件の研究を分析し、10項目のチェックリストの対応状況を分析Copyright (C) 2022 National Institute of Informatics. All rights res education program for top software engineers
Copyright (C) 2022 National Institute of Informatics, All rights reserved. education program for top software engineers
■タイトル■ Identifying Ethical Considerations for Machine Learning Healthcare Applications ■ Am J Bioeth. HHS Public Access, 2020 November ; 20(11): 7–17 ■背景■機械学習へルスケアアプリケーション(ML-HCA)は魅力的な将来的にものであり、現在臨床的現実へ移行している■ ML-HCAの構想、開発、キャリブレーション、実装、評価、監視状況を把握ための体系的なアプローチはまだ確率されてない■研究目的と手法■倫理的に関連する様々な意思決定とその結果を積極的、体系的、徹底的、統合的に特定する能力を高めることを目的■倫理的な配慮を特定するためのフレームワークとして、ML-HCAの構想から実装までの開発パイプラインと、ML-HCAの評価と監視の並列パイプラインと共に使用■パイプラインに沿って、価値観に基づく問題を明らかにするための重要な質問を定義education program for top software engineers
Pipeline Model for Identifying Ethical Considerations for論文「Identifying Ethical Considerations for Machine Learning Healthcare Applications」から引用(C) 2022 National Institute of Informatics, All rights reserved. education program for top software engineers. ■ ISO/IECで定義したAI適切監視するための保証内容について調査論文の対応関係

ight (C) 2022 National Institute of Informatics. All righ
education program for top software engineers. ■医療に適用したとき検討すべき課題■責任、責任連鎖、説明責任、権限委任の可能性が明確定義を行うこと■説明責任は重要であることが理解して取り込んでいるが、責任連鎖や権限委任などはまだ検討が少ない■これから医療AI発展により、医療行為を実施又はサポートする場合、責任連鎖や権限委任などの定義が重要になる。 ■必要に応じて介入する可能性を含め、AIシステムを十分に制御できる■医療ではAI結果を参考情報として医師提示するものが多いので、システムを制御するまでのレベルに達してないことで、AIシステムの制御方法についての検討が少ない■これから医療AI発展により、医療行為を実施又はサポートする場合、AIシステムの制御が重要になる。
vright (C) 2022 National Institute of Informatics. All righ
education program for top software engineersまとめ■論文: ■ ISO/IEC38507:2022を始め医療以外と医療関連の論文を確認し、Oversightに関する動向を把握した。 ■考察: ■医療ではまだISO/IEC38507で定義したOversightの保証内容を対応が不十分である。 ■責任、権限などの明確化は対応■使用者のAIシステムを十分に制御
Copyright (C) 2022 National Institute of Informatics. All rights re
Top SE education program for top software engineers
Copyright (C) 2022 National Institute of Informatics, All rights reserved.