連載

第３回

AI と安全工学－実社会での AI の活用－
横浜国立大学杉本

1．はじめに准教授

千佳 Chika Sugimoto

るようになった非接触式の体温測定装置がある。こうした装置は、AI 技術を活用して画像

近年 AI の活用が急速に進み、身近なところに映る顔を認識して額部を検出し、得られたに AI 技術を搭載した製品やサービスが増え表面温度分布データの中から額の皮膚温度をている。例えば、スマホのロック解除のため表示している（図1）。その他にも、AI にはに用いられる顔認証システムがある。機械学

音声認識技術、音声合成技術、画像処理技術、習を導入した Apple の Face ID は、TrueDepth

文字認識技術、自然言語処理技術、情報検索カメラにより何千以上もの目に見えない赤外技術などの様々な技術があり（表1）、機能線ドットを顔に投射し、それを赤外線カメラに応じた AI が活用されている。このように、で撮影、顔の凸凹などの深度情報を取得して近年では意識せずに AI 技術が搭載されたシ顔の3D モデルを構築し、登録済みの顔のデーステムを利用していることが多い。

1）

タと照合する 。スマホにはニューラルエン

一方で、日本の企業における AI 導入状況

ジンが搭載され、今年になりマスク着用でのは、中国・米国・欧州主要国を下回っている。

顔認証にも対応している。スマホのセキュリ情報処理推進機構（IPA）が公開した「DX 白

ティ対策は個人情報を保護する上で非常に重書2021」2） によると、日本企業の AI 技術の要である。Face ID の誤認証率はおよそ 100

活用状況は20.5％で、米国企業の44.2％と比万分の1といわれており、暗号化やプライバ較し半分以下となっている。前年の調査結果

シー保護のための対策が取られている。こうした顔認証技術の研究開発は長い間行われて

図1

非接触式体温測定装置

きた。顔認証では、カメラで取得される画像の中から人間の顔がどこにあるかを検出し、瞳中心、鼻翼、口端など目、鼻、口の特徴点の位置や顔領域の位置や大きさを求め、それらをもとに事前に登録した画像データと照合36.4℃して本人かどうかを識別する。近年では高度な深層学習の導入により、認証精度と検索速度を大幅に向上させている。顔認証は入退室管理や決済など様々な用途で用いられており、セキュリティ対策において AI は重要な技術となっている。その他の例としては、コロナ禍において店舗の入り口などに設置されSE 206 March 2022 27

表1

AI 技術の活用例

AI 技術

活用例

音声認識

AI スピーカー、Pepper、ポケトーク（通訳機）

音声合成

AI スピーカー、Pepper、ボーカロイド

物体検知

自動運転車、ドローン、Pepper、監視モニタ

顔認識

Face ID、AI カメラ、顔認証カメラ、Pepper

文字認識

AI-OCR、Google 翻訳

自然言語処理AI スピーカー、Google 翻訳、Pepper、Watson

情報検索

チャットボット、全文検索システム、AI スピーカー、Pepper

4.2％と比較すると約5倍に増加し、AI の利用

援、ゲノム医療、医薬品開発、見守り・介護

は急速に拡大しているといえるが、AI 人材の支援など、保健医療分野では政府が中心とな不足が深刻化し導入課題となっている。また、り AI の本格導入に向けた検討が進められてい全くの AI 未導入企業の割合が米国では7％でる。とりわけ、AI を活用した医用画像解析・あるのに対し、日本では33％と高くなってい診断支援の研究開発は早くから行われておる。米国は AI を積極的に活用し、データド

り、内視鏡画像解析 AI3）や COVID-19肺炎画

リブンな経営により意思決定の改善やより良像解析プログラム4） などの AI 技術を利用しい顧客体験の創出を行い、製品やサービスのた医療機器プログラムが実用化されている。

革新や業務効率の向上を進め、AI 投資からリ

COVID-19肺炎患者の胸部 CT 画像には、淡いターンを得ている。これに対し、日本では金すりガラス影・網状影・浸潤影などが特徴的

融・保険業、製造業などの一部の産業分野でに見られるとの報告がある5）。コロナ禍では

AI 導入が進められ、業務の効率化や省人化、医療の逼迫が深刻化し、感染有無を確認する生産性の向上、新たな製品やサービスの創出ために効率的な検査や画像診断を支援するソの一躍を担っているが、いまだ限定的である。

リューションが求められた。このため、世界DX（デジタルトランスフォーメーション）推中で短期間に COVID-19肺炎画像解析 AI が開進の旗が振られる昨今の状況の中で、それを発された（図2）。画像認識は AI が得意とする支える技術として AI が期待される。

ところであり、検査や治療において取得されそこで、第3回目の本稿では、様々な分野た CT や MRI などの大量の画像データを学習での AI 技術の活用について述べ、その中でさせることで、専門医と同等以上の判定精度の安全工学の役割に言及する。

をもつ AI が開発されている。これらの AI が2．医療分野での AI 活用搭載されたコンピュータ支援診断システムが医師の読影作業の効率化や診断の質の向上をサポートする。このように、蓄積されてきた

28

高齢化や医療費増大が進む日本の医療にお診断画像や生体信号データ、健康診断の数値、いて、業務の効率化や医師への支援は急務で学術論文や症例データ報告などの医療データあり、AI 活用が期待される分野である。画像を AI 技術を活用して解析し、高い性能を持診断支援、手術支援ロボット、診断・治療支つ診断・治療支援システムを実用化しようと

図2

COVID-19 肺炎画像解析 AI

COVID-19 確信度 : 高

深層学習モデル
影検出
学習データ ： 数千症例する取り組みが進められている。一方で、医精度を向上させることができることから、AI療は命を扱うものであり、AI による診断ミス活用に適している。一方で、人とロボットがが命の危険に直結することがあることから、共存して働く場合には人の安全性確保が重要

導入には十分な検証と正しい理解が求められであり、AI の振る舞いを人間がコントローる。また、医療データはプライバシー性が高ルできるようにし、人間と協調した作業環境いため慎重な取り扱いが必要であり、AI 診断を構築することが必要である。

結果の利用には倫理的問題をはらむケースがあることにも留意する必要がある。

3．産業分野での AI 活用

また、交通分野では自動運転技術で AI が大きな役割を担っている。自動運転では、車自体が道路上の車線や信号、周辺車両や歩行者等の移動体、運転に影響を及ぼす障害物などの周辺環境を正確かつ瞬時に認識すること

生産現場では自動化に伴いロボットの導入が必要である。この重要な認知プロセスにおが進められているが、AI を搭載したロボット

いて AI が利用されている。車が走行する環の導入も進んでいる。近年は産業用ロボット

境は、道路環境、人間環境、自然環境の組みが部品等の対象物を認識し掴んで移動させる合わせにおいて無限のパターンがある。車やピッキング作業や不良品等の選別作業を担う人間だけではなく犬や猫が急に飛び出すことようになっているが、そのロボットの眼としもあれば、信号機や車の故障、大きな地震がて AI の画像認識能力が活用されている。ま来て道路に影響が出ることもあり得る。また、た、移動を伴うピッキング作業においてロ

霧や雪で視界や道路状況が悪くなることもあ

ボットが工場内で最適な移動動線をリアルタる。医療分野と同様に、自動運転でのエラーイム制御するのにも強化学習による AI が活

は事故につながり人命を危険にさらしかねな用される。計算機性能が向上し非常に高速ない。よって、自動運転車の導入は自動運転レ処理能力を持つことから、人間を上回る作業ベルを設定して段階的に進められており、導効率を達成できる。人手不足により選別や診入により起こり得るリスクや課題への十分な断に熟練が必要な作業の人材確保が難しくな対策が必要とされている。

る中、知能化したロボットは有用な代替手段

また、情報化社会においてはセキュリティとなる。こうした現場では同じような作業を対策が非常に重要になっている。いずれのシ反復して行うため、成功と失敗の評価を与えステムでも、不正アクセスにより情報が危険て強化学習により繰り返し学習させることでにさらされたり、誤作動を招いたりする可能SE 206 March 2022 29

性がある。様々なシステムがインターネット持った設計がなされるべきであるが、実用化に接続される中、AI 導入により人手によるの観点からは効率の低下やコストの上昇は出作業を無くし自動化した場合でも、システム来るだけ抑えることが求められる。自動運転やサーバーの平常状態を AI に学習させてお車のようにシステムエラーが起きた時のリスき、常に状態を分析して平常状態とは異なるクが高いものは、常に安全性を確保するため異常をリアルタイムに検知し、即座に対応でにフェールセーフ機能が設けられるだろう。

きるようにしておくことが必要である。不正AI の活用を進めていくためには、AI のリスアクセスやサイバー攻撃は後を絶たないこと

クや課題を整理し社会実装における基準を設から、フィッシング詐欺などの不正な手口をけることが必要であり、こうした基準作りに早期に発見する不正検知のための AI 導入も安全工学の果たす役割は大きい。

進んでいる。

4．安全工学の役割

5．まとめ
近年の AI 技術の進歩は著しいが、実用的実社会への AI の導入が進むにつれ、AI 技には AI はデータが豊富な限定された分野で術を用いたシステムやサービスの安全性検証の機能にとどまっている。しかし、データ共の必要性が高まり、今後安全工学でも AI の有やデータのオープン化が進む中で、これまアルゴリズムで動作する機器などの安全性をで入手できなかったデータを活用できるよう評価するケースが増えるだろう。また、近年になり、さらに幅広い分野において AI 導入はバーチャルの世界も広がっており、大きなが進むことが期待される。こうした動きを後注目を集めるメタバースにも多くの AI 技術押しするためにも、安全工学が AI に関するが活用されている。

安全の指針や基準を策定し、評価できるよう大量のデータを学習して構築される AI 搭な仕組みを作っていくことが望まれる。

載システムは、過去から現在までに蓄積されたノウハウを反映し高い性能を持つと期待される。一方で、そのデータに偏りがあり、使用する環境においてタスクについての十分な学習ができていなければ、適切な結果を得ることはできない可能性がある。また、安全検査や性能評価は従来そのサービスやシステムが使用される想定条件下で行われる。実際の製品開発では安全率に対してある程度の余裕をもって設計されるが、近年の自然現象による災害や人為的な要因を含む事故例を見る

参考文献 1） Apple：先進の Face ID テクノロジーについて，2021．
https://support.apple.com/ja-jp/HT208108
2）（独）情報処理推進機構：DX 白書2021エグゼクティブサマ
リー，14，2021. https://www.ipa.go.jp/ikc/publish/dx_hakusho.html
3） 国立研究開発法人科学技術振興機構：内視鏡 AI 診断支援
医療機器ソフトウェア , 2021．https://www.jst.go.jp/pr/announce/20210112/pdf/20210112.pdf
4）（独）医薬品医療機器総合機構：COVID-19肺炎画像解析プ
ログラム FS-AI693型，承認番号：30300BZX00145000，2021.
5） S. Simpson et al.,“Radiological Society of North America
Expert Consensus Document on Reporting Chest CTFindings Related to COVID-19：Endorsed by the Societyof Thoracic Radiology，the American College of Radiology，and RSNA”，Radiology：Cardiothoracic Imaging，Vol.2，
Number 2，2020.と、想定をはるかに超える事象が起こっており、不確実性が高まっている。こうした中で、AI の評価においてどこまで安全率を見るかは難しい問題である。人命に関わるものに対して安全率は大きめに取られ、十分に余裕を30

すぎもと

ち か 

生体計測工学、知覚情報処理、アフェクティブ・コンピューティ
ングなどの研究分野において、生体・行動・環境情報の認識とその応用に関する研究に従事。東京大学大学院新領域創成科学研究科助教を経て、2010年から横浜国立大学大学院工学研究院准教授。

表2

用語説明

説明
1．機械学習AI を支える技術の1つ。コンピューターがデータから反復的に学習し、そこに潜むパターンを見つけ出すこと。

2．TrueDepth カメラ

フロントカメラとその近くに配置されている赤外線カメラ、近接センサ、環境センサ、ドットプロジェクターなどのセンサ群の総称。機械学習をする超高性能なニューラルエンジンの働きにより、高度なトラッキング機能を持つ。

3．セキュリティ対策

不正アクセス、サイバー攻撃、ウイルス感染、個人情報の漏えいなどを防ぐためのセキュリティ脅威に対する対策。

4．データドリブン

収集・蓄積されたデータを分析し、その結果に基づいて様々な課題に対して判断・意思決定を行うこと。

5．デジタルトランスフォー 進化したデジタル技術を浸透させることで人々の生活をより良いものへとメーション（DX）変革することで、既存の価値観や枠組みを根底から覆すような革新的なイノベーションをもたらすもの。
6．手術支援ロボット

低侵襲技術を用いて複雑な手術を可能とするため、コンピューター機能を備えたインタフェースを介在させ、精密な操作やアクセスが困難な場所でのアプローチを可能とする安全な手技を支援するロボット。代表例が「daVinci（ダビンチ）」。

7．ゲノム医療タンパク質の設計図である遺伝子を網羅的に調べ、遺伝子変異を明らかにすることにより、一人一人の体質や病状に合わせてより効率的・効果的に治療などを行う医療。

8．内視鏡

口または鼻、肛門から先端にカメラのついた細い柔軟なチューブ（ビデオスコープ）を挿入し、先端に組み込まれた小型撮像素子からの映像を直接見ながら、食道・胃・十二指腸などの消化器官内部の検査や治療・処置を行うための医療機器。

9．C T（ComputedTomography）

体の周囲から X 線をあてて、体の中の吸収率の違いをコンピューターで処理し体の断面を画像化する技術。

10．MRI（Magnetic
強い磁石と電磁波を使って強力な磁場が発生しているトンネル状の装置のResonance Imaging） 中で、FM ラジオで用いられている周波数の電波を体にあて、体の内部の断面をさまざまな方向から画像化する技術。
11．読影

レントゲンや CT、MRI、超音波などの検査によって得られた画像から病変や異常所見を読み、診断を下すこと。

12．ピッキング作業

伝票やリストなどに従って、保管されている必要な品物を集める（ピックアップする）作業のこと。

13．サイバー攻撃

PC やスマホなどの情報端末、サーバーや Web サイトなどのコンピューターシステムに対し、ネットワーク経由で情報の改ざんや漏えい、データの搾取、システムの破壊などを行うこと。

14．アルゴリズム

ある特定の問題を解いたり課題を解決したりするための処理手順や計算方法。

15．フィッシング詐欺

インターネットのユーザから経済的価値がある情報を奪うために行われる詐欺行為。

16．メタバース

コンピュータやコンピュータネットワークの中に構築された、現実世界とは異なる3次元の仮想空間やそこでのサービスのこと。

SE 206 March 2022 31