連載

第１回

AI と安全工学－ AI の歴史と軌跡－

横浜国立大学杉本

1．はじめに准教授

千佳 Chika Sugimoto

り、道路やトンネル、橋や線路などの異常検知や異常予測、製品の製造における品質検査

人工知能（AI）という言葉はすでに社会に1）※1による不良品チェックや製造工程での機械な（EC）、どの異常・故障検知、金融取引での不正検知

製造業、金融、医療など、多くの産業分野でなどに応用されている。自動車産業では安全AI が実際に活用されている。IoT（Internetな自動車部品のデザイン設計にも AI が活用of Things）の進展とともに多種多様なデーされるなど、AI 技術の導入が進んでいる。

タの取得・蓄積が可能になり、データの共有世界的な開発競争が行われている自動運転技や活用が進む中で AI の重要性が増している。

術では、AI は脳の役割を果たす根幹技術とこうした動きは様々な産業に広がっており、して、安全確保に重要であることは広く知ら多方面の領域にわたって安全の実現を目指すれている。

浸透し 、エレクトリックコマース

安全工学の分野でも、AI の重要性は高いと

安全工学の対象範囲は宇宙開発から身近な生活領域まで幅広く多岐にわたる。これまで考えられる。
では、AI をいかに活用すればよいのか。

積み重ねてきたデータの蓄積や経験値がある

AI は画像認識による異常検知・予知保全や、と考えられるが、安全工学での安全性の調査・大量データに基づく異常値検出が得意であ改善には、データの取得と分析・評価が重要る。まさに安全工学に必要とされる技術であといえる（図1）。自然環境や人工環境を考

図1

データに基づく異常検知・安全性評価

時系列データ
正常データ

異常データ

SE 204 September 2021 27

慮して多様な対象を多面的に分析するためも、1964年から1966年にかけてマサチューに、AI が有用と考えられる。では、未知のセッツ工科大学のジョセフ・ワイゼンバウム

ことや想定外のことが起こり得る中で、AIによって開発された自然言語処理プログラムはどのような役割を果たすことができるのだ「ELIZA」は有名である。しかし、この時代ろうか。の AI は、コンピュータによる「推論」や「探第1回目の本稿では、AI 技術について具体索」の技術により、明確なルールが存在する的に説明する前に、AI 活用が近年飛躍的に問題に対してのみ高い性能を発揮するもので進展するようになった背景を解説する。

あった。現実社会の複雑な問題を解くことがなお、関連する用語については表1としてまとめて最後に示す。

2．AI の歴史できないという限界が見えると研究開発は失速し、1974年頃を境に AI は冬の時代に入る。
この後、第2次 AI ブームが起こることになるのは1980年代初頭になり、実世界の問題を解く実用的ツールとして多くのエキス

28

AI の歴史の中で、AI ブームとその後に続パートシステム※2が登場したことによる。エ

く冬の時代が繰り返され、現在はまさに第3キスパートシステムは専門家の持つ知識を取次 AI ブームの中にあるとされる1）。AI の概り込み、その知識に基づき推論を行う専門家

念を考えるとき、イギリスの数学者アラン・のように判断するコンピュータシステムであチューリングが1950年に出した著書「計算る。図2に示すように、アーキテクチャ※3はする機械と人間」に遡る。アラン・チューリ

推論エンジン ※4と知識ベース ※5から構成さングは、コンピュータの概念を初めて理論化れ、推論エンジンが知識の集合である知識した科学者であり、映画「イミテーション・ベースを使って推論を行う。ブームより前のゲーム／エニグマと天才数学者の秘密」で描

1970年代初めにスタンフォード大学で開発かれたように、ドイツの暗号機「エニグマ」された、細菌感染を診断して適した抗生物質を解読したことで有名である。その著書の中を推奨する「Mycin」が広く知られている。

で「機械は思考できるのか」という問いを唱

Mycin は優れた性能を示したにもかかわらえ、「機械」や「知能」といった言葉の意味ず、医療現場では実際に利用されなかった。

を定義して考える代わりに、「機械が人間的この要因は現代の AI の問題にも通ずるものであるかどうか」を判定するためにチューリであり、医療においてコンピュータ診断を利ングテストを考案した。このテストの具体的用することへの倫理・法律面の整備ができてな方法の説明は割愛するが、注目を集めたいなかったことや、技術に対する専門家や社2014年の疑惑の合格をはじめ、チューリン会の受容性が低かったことにある。一方で、グテストについては様々な議論がなされ、AI企業業務などに利用されるエキスパートシスの発展に大きく寄与してきたと言われる。まテムは多数開発され、広く商用利用された。

た、1956年に開催されたダートマス会議で、安全工学分野でも、火災原因調査のための出アメリカの計算機科学者であるジョン・マッ

火判定エキスパートシステム2）や工場防災診

カーシーが「人間のように考える機械」を断エキスパートシステム3）などが開発されて「Artificial Intelligence」と定義し、AI に関すいる。安全工学では、事故や災害の分析、リる 研 究 が 活 発 化 し て い く。 こ れ に よ り、スクの調査・診断などにおいて、専門家の長1960年代に第1次 AI ブームが起こる。中で年にわたる経験値を知識として蓄積し活用し図2

エキスパートシステムのアーキテクチャ概略

推論エンジン

知識

知識ベース
専門家

ユーザー
インタフェース

入力

出力

ユーザーており、まさにエキスパートシステムが有用身近なシステムとして現在も導入されてな分野といえる。このため、対象領域に応じいる。て専門家のノウハウを知識ベースに格納する

次のブームである第3次 AI ブームに至ることでシステムを構築し利用してきた。つままでには、大きな技術発展が二つあった。一り、AI が活用されてきたといえる。しかし、

つは機械学習の実用化であり、もう一つはお気づきのとおり、知識を言語化し明示的にディープラーニング※7の登場である。第2次

表現して知識ベースを作成するのは大変な作

AI ブームにおいて大きなネックとなってい業である。また、専門家が持つ知識には「暗た知識の獲得を、大量のデータを基に学習に黙知」が多くあり、全てを言語化することはよりコンピュータ自身ができるようになった

難しい。コンピュータは人間と異なり、知識ことがブレークスルーとなる。さらに、ディーを与えられずに一般常識を理解することはでプラーニングにより知識を定義する要素を人きない。また、必要な情報を自ら収集・蓄積手でコンピュータに与えることなしに、学習し、知識を学習により獲得することができなデータから自ら特徴量を抽出し、認識や判断かった。このため、人が手動で常識レベルのの精度を飛躍的に向上させることが可能に膨大な知識をコンピュータに記述しなければなった。こうして、IoT によるビッグデータならなかった。
また、知識が膨大になるとルーと AI の技術革新が、第4次産業革命のコア

ル同士の矛盾や一貫性の欠如が生じ、当時のと呼ばれるに至る。

コンピュータはこうした矛盾や例外処理に対冬の時代が明けて現在に続くブームが来る応できなかった。よって、知識を特定領域にまでには、多くの研究開発がなされてきた。

限定して活用する必要があったのである。こ1997年に IBM のチェス専用コンピュータのような限界が明らかになり、ブームは終息「ディープブルー」がチェスの世界王者に勝し AI 研究は再び冬の時代に入る。しかし、利した際は、コンピュータサイエンスの歴史エキスパートシステム自体はその後2000年に残る「世紀の対決」と言われ脚光を浴びた。

代になりビジネス分野で広く利用されるようさらに、2016年には囲碁プログラムの「アになり、レコメンドシステム※6などの我々にルファ碁」が世界トップレベルのプロ棋士にSE 204 September 2021 29

初勝利した。囲碁はコンピュータが人間に打AI の分類の仕方の一つに、「汎用型 AI」とち勝つことが最も難しい競技と考えられてき「特化型 AI」がある。人間のように広範な課たため、世界的な注目を集め、AI の能力と題を処理できるかどうかという視点で分類さ有用性を広く世に知らしめた。一方、アカデれている。汎用型 AI は人間と同じように様々

ミックでは2006年にトロント大学のジェフな課題を処理可能な AI である。既に示した

リー・ヒントンが深い層を持つニューラルように、レイ・カーツワイル博士はその著書※8、すなわち「ディープラーニで2029年にこの汎用型 AI が誕生すると述べング」の実用方法を提案する4）。2012年にた5）。一方、特化型 AI は限定領域の課題にはジェフリー・ヒントンらが世界的な画像認特化して自動的に学習、処理を行う AI であ識 コ ン ペ テ ィ シ ョ ン ILSVRC（ImageNetる。画像認識技術などが代表例であり、現在

Large Scale Visual Recognition Challenge）実用化されている AI はこの特化型である。

でディープラーニングである深い畳み込み

これに対し、アメリカの哲学者ジョン・サー

ニューラルネットワークを用いて圧勝したこ

ルは、人間の意識や知性を持つかどうかといとが有名だ。そして以降 AI は日進月歩であう観点から、「強い AI」と「弱い AI」というり、現在も世界中で AI 研究が進められ新た分類を提唱した6）。強い AI とは、人間のよな AI 技術が生み出されている。

うな自意識を備え、あらゆる認知能力を必要ネットワーク

3．今後の AIとする作業も可能な AI を指す。一方、弱いAI は人間の知性の一部のみを代替し、特定のタスクだけを処理する AI を指す。シンギュ

アメリカの未来学者で AI 研究の権威であラリティではこうした強い AI が登場し、予るレイ・カーツワイルは、2029年に AI が人測不可能な変化が起こることになるのだろう

間並みの知能を備え、2045年に技術的特異か。我々はこうした事態を念頭に置きながら点、すなわちシンギュラリティ※9が来ると提様々な立場から考え、変化に柔軟に対応でき唱している5）。この問題は2045年問題とよるよう備えていくことが必要であろう。

ばれ、AI が自ら人間より賢い知能を生み出し人類の知能を超えることによって起こるだ

4．まとめ

ろう様々な問題を指す。シンギュラリティが30来る・来ないの議論は別にしても、AI は我々

AI は今、ビジネスでの活用や様々な分野の暮らしを大きく変化させる可能性を持つ。

への導入が進められている段階にある。身近

こういった状況の中で、人間はどのようになところで AI が活用されるにつれ、利便性AI を扱い活用していけばよいのだろうか。

や効率性を享受する一方、人間の仕事や役割唯一の解を導きだすことは難しいが、単に拒を取って代わられることや技術の信頼性に対絶したり訳もなく恐れたりすることなく、AIする危惧が生まれる。AI によってもたらさを正しく理解し対応していくことが必要といれる結果に対する工学の立場からの安全確保

えよう。新たな技術が社会に実装されるとき、とリスク対応は、まさに安全工学の研究対象制度が追い付かず倫理および法律面の整備がといえる。社会の安全・安心を確保するためできていないことがある。AI についても判に、AI を活用したシステムの評価を進める

断とその責任、倫理的基準を引き続き議論しとともに、安全工学としての AI の活用方法ていくことが必要である。

を確立していくなど、安全工学が担う役割は

表1

用語説明

№

用語説明
ネットワークを介して電子的に契約や決済などエレクトリックコマース
1を行う取引形態のことで、インターネット上で（E コマース、EC）商品やサービスを売買することの総称
特定分野の専門家の知識をデータ化し、専門家
2 エキスパートシステム のように推論や判断をできるようにしたコンピュータシステム
3 アーキテクチャコンピュータシステムの論理的構造や設計思想
知識ベースの知識を利用し推論を実行し答えを4 推論エンジン
導き出す仕組み知識を組織化しコンピュータで検索・利用でき
5 知識ベースる形式にしたデータベース
利用者の興味のありそうなモノやサービスを推
6 レコメンドシステム
薦するシステム
ニューラルネットワークを多層に結合し、表現・
7 ディープラーニング
学習能力を高めた機械学習手法
人間の脳内にある神経細胞のネットワーク構造
8 ニューラルネットワーク を模して数理モデルで表現したもので、機械学習手法の一つ
AI が人類の知能を超える転換点、または、それ9 シンギュラリティにより世界に大きな変化がもたらされるという概念大きいといえる。

参考文献 1） 総務省：人工知能（AI）の現状と未来，平成28年版情報通信白書第1部，232，2016．https://www.soumu.go.jp/
johotsusintokei/whitepaper/ja/h28/pdf/n4200000.pdf
2） 山瀬敏郎：出火判定のためのエキスパートシステム その1エ キ ス パ ー ト シ ス テ ム の 概 要， 季 刊 消 防 防 災 の 科 学，
No.017，46-50，1989．https://www.isad.or.jp/pdf/
information_provision/information_provision/no17/46p.
pdf3） 小暮英夫，他：工場防災診断エキスパートシステム，日立
評論，70（11），1166-1170，1988．https://www.
hitachihyoron.com/jp/pdf/1988/11/1988_11_15.pdf
4） G. E. Hinton and R. Salakhutdinov：Reducing thedimensionality of data with neural networks, Science,313, 5786, 504-507, 2006.
5） R. Kurzweil：The Singularity Is Near：When Humans
Transcend Biology, Viking, 2005.
6） J. Searle：Minds, brains, and programs, Behavioral andBrain Sciences, 3（3）, 417-424, 1980.

すぎもとちか 

生体計測工学、知覚情報処理、アフェクティブ・コンピューティ
ングなどの研究分野において、生体・行動・環境情報の認識とその応用に関する研究に従事。東京大学大学院新領域創成科学研究科助教を経て、2010年から横浜国立大学大学院工学研究院准教授。

SE 204 September 2021 31