ARTIFICIAL INTELLIGENCE

Keeping
it real

AIを現実から乖離させず、そして人間が人間であるために人工知能 (AI) が日常生活の多くの場面で欠かせない存在となっている
今、クオリティプロフェッショナルや監査員はその将来の展望について果たして何を知る必要があるでしょうか。IRCA登録のQMS Associate Auditor であり、日本電気株式会社、環境・品質統括部 (TQM・品質マネジメントG)、エバンジェリスト (AI・QMS・法務) の北村弘 (きたむらひろむ)氏にお話を伺いました。北村さんは、ISO/IEC JTC1/SC42 国内専門委員会 (人工知能) のエキスパートであり、会員数 5万人を超える日本最大のAIコミュニティ Community of Deep Learning Evangelists(CDLE シードル) のAI リーガルグループリーダーを務めておられます。

20 | QUALITY WORLD | AUTUMN 2022

Photos: iStock.com/Metamorworks/3alexd/AF-studio

ARTIFICIAL INTELLIGENCE

QW: 北村さんは、人工知能 (AI) をどのようなものだとお考えですか？
HK: AIとは、推論、認識、判断など、人間と同等の知的処理能力を持つ情報処理システムであるというのが、多くの研究者の共通認識です。
しかし、専門家の間でさえ、「人工知能とは何か」について、共有された正確な定義はありません。
個人的な見解ですが、AIについては、個人や社会がAIの成果を信頼し、満足することができるか幸せと感じられるかが極めて重要だと考えています。AI を差別や社会的支配の道具と見なしたり、利用したりすることを許してはならないのです。例えば、採用活動にAI を活用する場合、採用アンケートに回答する人が1,000人いれば、1,000個の回答があり得ます。
組織や社会の成長には、そうした異なる視点が必要であり、それをAI のパラメータであらかじめ厳しくフィルタリングするべきではないと考えています。AI は、人の成長の可能性を図るように設計されるべきであり、既存のスキルだけに基づいて確立された答えを求めるべきものではないと思っています。
QW: AIがビジネスに役立つかどうかは定かでなく、リスクもわからないという方もいらっしゃいます。企業はAI を採用すべきだと思いますか、また採用すべきだとしたらその理由は何でしょうか？
HK: 採用すべきかどうかについて、どのような場合にも当てはまる答えを出すのは難しいですが、多くの場合、前向きに検討すべきだと思います。AI を避ければ企業の競争力が低下する可能性があり、AI を取り入れることで今までできなかったことができるようになったり、より効率的にできるようになったりすると考えています。
よく知られているグローバルな課題を克服するためには、私たちの社会はより効率性を高めていかなければならないのです。
対象となる事業分野にもよりますが、小さな範囲で一度はQUALITY.ORG | 21

ARTIFICIAL INTELLIGENCE
テスト実装をしてみるとよいと思います。AI、あるいは学習デー
タの質が限定的な場合は、ビジネスに適さない可能性があり、費用対効果も期待できないかもしれません。
うまくフィットして、低コストかつ実用レベルで使える、アドバイザリーレベルで使える、高い精度が必要ない、または対象業務での使用範囲にマッチしているなどの場合は、採用してもよいでしょう。

QW: ISOが2022年7月に発行した「ISO/IEC 22989:2022
Information technology - Artificial Intelligence concepts
and terminology 情報技術 - 人工知能の概念と用語」
を開発するに至った経緯は何でしょうか？
HK: グローバルな共通言語を構築するためには、ISOによるAIの標準化が必要です。優先分野を特定し、戦略を構築し、情報を収集し、規制や認証につなげる、これをセットで普及させることが重要です。
人工知能を産業界で活用しようという動きが活発化しています。AIに関する概念や用語が定義され、システムの枠組みが標準として整理される中、私たちの余暇がさらに便利になり、産業が活性化することが期待されます。
AIシステムの成長と発展の可能性の裏返しとして、AIに対する広範な規制や、セクターと一般規格との関係の複雑さにもかかわらず、既存のマネジメントシステムで、AIシステム固有の責任ある使用と開発に関するすべての要素に完全に対処できているとは言えません。
法的な拘束力がない社会的規範を意味するソフトローのアプローチ (すなわち、国際的な技術規格や組織内のマネジメントシステムなど) がより重要になる一方で、国内規制だけで、また各国で管理できるものは少なくなくなってきているのです。
この作業の中心となるのが SC 42 人工知能の専門委員会で、その理想とする成果は、倫理的なAI対応社会の実現です (bit.
ly/3qaGa7F)。ISO/IEC JT 1の下で活動するこの専門家グルー
プは、画期的な規格をもって順調に進みつつあり、AIに対応した文化を促進するための新しい青写真を世界に提供しています。
2022年4月に発行した「ISO/IEC 38507:2022 Information
technology - Governance of IT - Governance implications ofuse of artificial intelligence by organisations 情報技術 - ITガバナンス - 組織による人工知能の利用がもたらすガバナンスへの影響」、2022年6月に発行した「ISO/IEC 23053:2022: Framework
for Artificial Intelligence (AI Systems Using Machine Learning:ML) 人工知能 (機械学習 ML を利用したAIシステム) の枠組
み」など、この専門委員会はAIガバナンスとマネジメントを支える一連のコア規格を提示しています。
また、「ISO/IEC 42001
Information technology - Artificial Intelligence - Management
system 情報技術-人工知能 - マネジメントシステム」、「ISO/IEC5338 Information technology - AI system life cycle processes
情報技術-AI システムのライフサイクルプロセス」も含まれ、その他にも開発中のものがあります。
QW: この標準化によって、AIの利用をめぐるリスクや懸念について、どのようなガイダンスが提供されるのでしょうか？
HK: 規格を策定することで、問題が起きたときの対応方法や基準など、リスクを回避、あるいは軽減するための方針の策定がある程度容易になり、問題の発生を未然に防ぐことができるようになります。
ISOの規格に従うことで、一定程度、リスクを回避した上でAIを提供することが可能になると考えています。
また、文化的、歴史的背景、国やコミュニティが異なっていても、最低限共通して守るべきことをグローバルに定めることができるようになります。
ISO規格は、組織のマネジメントシステムを映し出す鏡として、22 | QUALITY WORLD | AUTUMN 2022

AI expert Hiromu Kitamura.

“クオリティプロフェッショナルや監査員は、AIの特性を理解しなければなりません”
また、目的志向でアジャイルな高解像度モード/高速モードのコンパスのように、未来への道を導くものとして活用することができます。
QW: 現在のAIのガバナンスについてお聞かせください。今後数年でどのような改善が行われるのでしょうか？
HK: AIに限らず、テクノロジー全般にはライフサイクルがあるように思います。
1) 各関係者が独自の方針とガイドラインを設定する。
2) 各関係者が独自のガバナンスを設定する。
3) ガバナンスの標準化が行われ、リスクが共通に認識、考慮されるようになる。
4) 標準的なガバナンスに基づく知識の共有と教育の発展と成長。
現在のホットトピックは2) と3) ですが、4) に先駆けて、AIから生じる社会問題の解決に向けた人材育成を目的とした「AIアカデミー」などの活用も重要です。国、企業、大学レベルでそのためのアカデミーの整備が加速しています。
現在、大きな課題のひとつは、国、地域、ガバナンスセクターと民間の間にいかにWin-Winの関係を築くかということです。
AIシ
ステムをエコシステムと捉え、ガバナンスの枠組みやガバナンスレベル、また組織から社会への積極的なクオリティ推進の重要性について、国際的な対話を深めることが重要です。

QW: 現在、欧州委員会でAI法案が準備されています。AIの専門家として、これがクオリティの業務にどのような影響を与えるとお考えですか？
HK: AI法案は、EUレベルでは初めての法的枠組みです。
その目的は、AIシステムのリスクをレベル分けし、法的制約や技術的なチェックを明確にすることであり、利用する側の信頼を獲得し、欧州全域でAIシステムの導入を促進することです。
リスクの判断基準や分類の基準は、法制化の過程で抽象化されているので、品質マネジメントシステム、AIエコシステム、AIを展開する社会システムなど、実際のAI関連システムにどう適用できるのか、具現化はこれからの課題です。
しかし、そのような判断の公正さをどのように担保するか、どのように適切に判断するかを、欧州全体で統一的に検討するのは専門家の責任です。
品質やリスクマネジメントの一環として、クオリティプロフェッショナルはQMS AI や法規制に関する専門スキルを身につけ、AI システムの具体的な側面や組織のマネジメントシステムへ円滑に導入する方法を理解することが求められています。
そのためには、AI法案で規制される可能性のあるカテゴリーを正確に理解する必要があります。
AI 法案では、AIがAI 利用者のプライバシー、身体の安全、権利を侵害しないよう、AI ソリューションのマネジメントについて記述しています。後者に関する2つの例としては、AIソリューションを利用して通信事業者の5Gネットワークを最適化する場合、あるいは通信ネットワークを介してAIソリューションを自動車のセキュリティシステムに接続する場合に、AIソリューションがユーザーの身元、年齢、あるいは人種などをAIソリューション会社に開示しないようにすることが考えられます。
つまり、1人ひとりが心身と権利の自由を最大限発揮可能な世界、その対価として恩恵を受けることができる社会をどのように創り出せるかという指針をクオリティプロフェッショナルに提供することが課題であると言えるかもしれません。
クオリティプロフェッショナルや監査員は、従来のソフトウェア品質管理の枠組みに囚われることなく、AIの特性を理解し、品質管理に取り組まなければなりません。
クオリティプロフェッシ
ョナルや監査員は、AIの品質管理における課題とリスクを理解し、AIに対する理解の深化やAIの発展に合わせて、常に課題とリスクを見直していく必要があるのです。

QW: なぜヨーロッパ諸国はAIに対して慎重なアプローチをとり、倫理的な枠組みを導入していると思われますか？
HK: 欧州の社会では、映画「ターミネーター」のように、人工物が人間を乗り越えていくことへの恐怖心が強いです。
日本では、人工物 (機械) はドラえもん (下図のマンガのキャラクター) のようなものだと思われており、人間にやさしいというイメージで捉えられています。
EUでは、人々がAI を管理する枠組みを定義したいという強い願望があると思います。
しかし、人間の意思決定を超える、マイクロ秒、ナノ秒というスピードで意思決定を行うAI に対して、現実的に人間がAIシステムのライフサイクルにどのように、どの段階で関わることができるのかという議論があります。
倫理的な枠組みはますます重要になってきています。
EUは多文化であり、その文化的、歴史的背景から、理不尽なものは受け入れがたい印象があり、社会全体として、数値化されていないリスクには慎重になっているのではないでしょうか。
また、
プロセ
スアプローチも重要です。
プロセスアプローチとは、活動を一貫性のあるシステムとして機能する、相互に関連するプロセスとして理解し、マネジメントすることで、一貫性のある予測可能な結果をより効果的かつ効率的に達成できるというものです。社会システムにおける複雑な問題や創発的なリスクは、プロセスアプローチなしには解決できな
いと考えています。
欧州におけるAI 規制に係る動きの根底には、AIが心身に介入することで、「我思う、ゆえに我あり」の状態が崩

QUALITY.ORG | 23

Photos: iStock.com/3alexd/BlackJack3D/ Nicescene

ARTIFICIAL INTELLIGENCE

ARTIFICIAL INTELLIGENCE

Photos: iStock.com/Ipopba/gorodenkoff/3alexd

AI は赤ちゃんという表現が一番しっくりきますね。
AI は育てていかなければならないし、育て方次第で方向性も変わってくるのです。
「AIは危険だから使わない」というのは、社会の発展を阻害することになると思います。
「みんなでつくっていきましょう！
」だと思っています。

れるのではないかという危惧もあるかもしれません。つまり、最悪の場合、人権をないがしろにしてはならないという意識そのものが人類から消し去られてしまうかもしれないという懸念です。

QW: AIがプライバシー、偏見、不平等、安全及び安心をめぐる問題を引き起こしていると、なぜ考えられるのでしょうか？
HK: すべての人がAI の創造とその活用に関われるわけではありません。AI 創造のプロセスやプロダクトを使えば、私たちが望むものを容易に手に入れやすい。
その結果、AI は、それを創造し活用できる人の意識や無意識のエゴを拡張してしまった結果であるのかもしれません。
ICTの進歩は、大量の情報の収集と利用を可能にしており、例
えばメタバースなどでは情報の収集方法も変わってきています。マルチエージェント化AI が進むと、ナノ秒単位で影響が伝播していきます。
これまで使われてきたような人による監視だけでは、管理上の限界があります。
また、
AI が「教師データ」を取得する際に、そのデータに偏見や不平等に関する情報や考え方が反映されていれば、AI は偏見や不平等を学習してしまうのです。
使用する学習データに偏りがあっても、バックエンドの処理でこの問題を解決する方法がほとんどないことが懸念の理由として挙げられます。
QW: クオリティプロフェッショナルや監査員は、この問題をマネジメントするために、すでにある規格や法令をどのように利用することができますか？
HK: AIを組み込んだシステム、製品、サービスが置かれ、利用される環境を把握した上で、AIを組み込んだシステムが環境に作用する場合のリスク評価が必要です。設計した製品やサービスが生み出す「だろう」と想定した効果と、「実際に」生み出された効果の両方が、人間の身体、精神、権利を侵害するものでないかどうかを確認することでマネジメントします。
監査の観点では、マネジメントシステムを監査するというISOの考え方も重要ですが、AI (組み込み) システムそのものを監査する能力も必要です。

24 | QUALITY WORLD | AUTUMN 2022

QW: 品質や監査におけるAIの活用について、日本ではどのような考え方があるのでしょうか。AIをめぐるリスクはどのように制御され、それにはどのようなメリットがあるのでしょうか？
HK: 監査の分野では、各種文書や規程、管理ログなどの文字データをテキストデータ化 (紙や画像で保存する場合は光学的文字認識などでテキストデータ化) して、精度基準を満たしているかを分類したり、会計監査では数字の計算をチェックしたりするシステムの例もありますね。

“AI は赤ちゃんという表現が一番AI は育てていかしっくりきますね。

なければならないし、育て方次第で方向性も変わってくるのです”

ARTIFICIAL INTELLIGENCE“一部の分野では、AI技術の進化するスピードに法規制が追いついていません”
監査結果の真正性は、ブロックチェーンを用いて保証されます。
また、契約書の監査にも利用されており、AIを利用して矛盾点をチェックすることも可能です。
機械学習をはじめとするAI技術は、その進化とともに普及を続け、既存の産業構造を破壊、変革し、新たな産業を創出しようとしています。
しかし、品質の把握、評価、説明やマネジメントといった品質保証技術の確立はまだ十分には進んでおらず、AIシステムの質が社会に与える影響も懸念されています (bit.
ly/3AM6D0p)。
国立研究開発法人産業技術総合研究所 (産総研) などのチームは、AIを搭載した製品に求められる安全性や性能の基準、開発時にチェックすべき項目を定めた「Machine Learning Quality
Management Guideline 機械学習品質マネジメントガイドライン」（ (bit.ly/3RDO2Ky) を発表しました。
このガイドラインでは、品質を「安全性」「性能」「公平性 / 透明性」と定義し、AIを組み込んだ製品においてそれぞれをどの程度重視するかによって、製品の設計から動作試験までの各段階で必要な作業や注意事項をチェックリストとして示しています。
日本の国内大手自動車会社が、人口2,000人の実験都市を開発し、AIやロボットを使ってその有効性を検証し、その見返りとして利益を上げています。
また、本稿に協力いただいた
Community of Deep Learning Evangelists (CDLE シードル) の企業実務担当者が合格したAI関連の資格試験を主催する一般
社団法人日本ディープラーニング協会も、AIについて倫理を含めて議論を行える人を社会に増やすことでリスクをマネジメントしようとしています。
一部の分野では、AI技術の進化するスピードに法規制が追いついておらず、まだまだ個々の企業や団体の自主規制に頼っている印象があります。すでに取り組みが進んでいる欧米などのノウハウを取り入れることも重要ですが、日本独自の文化や商習慣も多く、日本に合わせた基準作りが必要です。
それに合わせて法令や規制を変える必要があり、法令や規制を提案、可決する人たちの教育も必要です。

QW: クオリティプロフェッショナルは、刻々と変化するAIの発展を受け入れるために、どのような準備をすればよいのでしょうか？
HK: AIは、デジタルトランスフォーメーションの基盤となる先進技術です。
新しいビジネス、経験、技術、挑戦してみないとわからない課題があり、私たちはそれに対応しなければなりません。
デジタルトランスフォーメーションやAI時代の品質保証では、既存の品質 / プロジェクトマネジメントの想定範囲を超えることに取り組まなければなりません。
人命を含むリスクを管理し、モラル的な問題を引き起こさないようしなければならないという新たな課題があります。
また、
新
しいセキュリティリスクを回避し、仮説検証を用いて、それらのリスクをマネジメントすることも重要です。
つまり、クオリティプロフェッショナルは、問題が発生する前にどのようなリスクが潜んでいるかを提言し、本質的な解決策を準備しておく必要があるのです。
また、法令や基準を理解するだけでなく、リスクの本質を理解した上で、リスクに備えることも必要です。AIシステムは、デジタル難民やデジタル弱者を生み出してはならないのです。

謝辞: アドバイスをいただき、回答の幅と深さを広げてくださったCDLEの専門家である三浦敦子さん、町田耕一さん、友安昌幸さん、矢野伸一さん、森孝夫さん、小関有香さん、Lindsay Frost博士に深謝します。
また、CDLEのコアメンバーとして議論の場を設けてくださった為安圭介さん、海野紗瑶さんにも感謝申し上げます。

QUALITY.ORG | 25