2021 年 2 月
JDLA 事務局「AI ガバナンスとその評価」研究会
第7回開催報告
1. はじめに日本ディープラーニング協会では、人工知能（以下 AI）や Deep Learning（以下 DL）に関連する国内外の政策動向についての知見を深め、議論する場としてテーマごとに研究会を設置している。本研究会「AI ガバナンスとその評価」は、多様なアクターによる管理・評価の体制の在り方を「ガバナンス」と定義し、どのようなガバナンスの形がありうるのか調査し、信頼される AI の構築の一助とする研究会を 2020 年 7 月から立ち上げ、1 年間の検討を行う。
研究会第７回(2020 年 12 月 10 日)では、AI ガバナンスに向けた事故調査・第三者委員会というテーマのもと、国土交通省鉄道局技術企画課 山岸裕之氏、小川優氏、及び岩田法律事務所 本村健氏より話題提供をいただいた。
本レポートは、話題提供の内容と研究会参加者のディスカッションを再構成して作成したものである。
2. 無人で自動運転を行う鉄軌道の事故防止に関する検討状況
第一部では、山岸裕之氏より「無人で自動運転を行う鉄軌道の事故防止に関する検討」と題して話題提供いただいた。
横浜シーサイドライン1が管理する自動運転列車の逆走事故について
横浜シーサイドラインが運営する「金沢シーサイドライン2」では、無人の自動運転列車が運行されている。令和元年 6 月 1 日、同社の自動運転車が終点駅での折り返し時に本来進むべき方向とは逆の方向に走行した結果、車止めと呼ばれる線路終端部に衝突・停止する事故が発生した。当該事故を受け、「運輸安全委員会」と「無人で自動運転を行う鉄軌道の事故防止に関する検討会」（以下事故防止検討会）の 2 つの組織があり、「運輸安全委員会」が事故原因の調査を、「事故防止検討会」が同種事故の防止や再発防止策の検討を主体的に行っている。
事故防止検討会は、有識者・研究者・無人の自動運転を行う鉄軌道事業者によって構成され、令和元年 6 月 14 日に設立された。事故防止検討委会は、これまで計 3 回開催

1

https://www.seasideline.co.jp/company/company_profile/2

神奈川県横浜市磯子区の新杉田駅と同市金沢区の金沢八景駅の区間を結ぶ鉄道路線である。

1

され、事故原因について関係者間で情報共有がなされ、同様の事故の再発防止対策の3検討が行われた（図 1 参照）。同年 7 月 19 日には、中間とりまとめ結果として、当該事故の推定原因の確認及び事故の再発防止策について、事故防止検討会から以下の事項が報告された。
✓

当該事故の推定原因について
事故防止検討会は、運輸安全委員会及び横浜シーサイドラインから調査状
況の説明を受け、断線による逆走との推定原因を確認した。またこの原因事象に対して、他事業者においても同様に安全性の検証を行った。
その結果、他事業者においては、断線が発生した場合でも列車は走行しないシステムとなっていることを、事故防止検討会は確認している。

✓

横浜シーサイドラインにおける再発防止策について
事故防止検討会によって確認された再発防止策は、以下の通り。
➢

モーター制御装置に進行方向を伝える司令線が断線等により無加圧となった場合に、列車が出発しないようにするとともに地上側の自動列車運転装置（ATO）で断線等を検知できるように回路を変更する。

➢

自動運転のソフトの変更を含むもので、モーター制御について力行制御の仕組みについてソフトを変更する。

➢

自動列車制御装置（ATS）について回路断線等により無加圧となった場合に、非常ブレーキが動作するようソフトを変更する。

➢

停止位置後方修正リレーの誤作動による逆走のリスクを解消するため、当該リレーを撤去し手動で位置修正する。

事故防止検討会は、「公益財団法人鉄道総合技術所による調査の結果、有効との評価が得られたこと」及び「他事業所において既に同様の対策を講じているなど実績のある対策であること」の 2 つの観点から、上述の再発防止対策が当該事故の再発防止に有効であることを判断している。なお、横浜シーサイドラインでは、これらの再発防止対策を適切に講じた上で、安全確認を行った後、自動運転再開の可否が判断されることになっており、令和元年 7 月 19 日の事故防止検討会で再発防止対策を確認したことによって改修工事を行い、令和元年 8 月 31 日に自動運転の再開をしている4。

32020 年 12 月 10 日現在

4

株式会社横浜シーサイドライン「株式会社横浜シーサイドライン記者発表資料」（令和元年 8 月 27 日）

2図１ 横浜シーサイドライン逆走事故の調査・再発防止策の検討プロセス概要5

運輸安全委員会
②

①

調査状況共

事故調

検討会

⑤横浜シーサイドライン

再発防止策

④

有 効性

③

再発防止策

対応確認

鉄道総合技術所
運転再開

3. 鉄道における自動運転技術検討会
第二部では、小川優氏より「鉄道における自動運転技術検討会 令和元年度とりまとめ」と題して話題提供いただいた。
鉄道における自動運転技術の検討状況について
現在、日本では人口減少社会を迎えており、鉄道事業の運転士や保守作業員等の確保や養成が困難な状況となっている。特に地方鉄道においては、係員の不足が深刻な問題となっており、鉄道事業の維持等の面から、運転士の乗務の必要がない自動運転の導入が求められている。自動運転を導入する上で課題になってくるのは、自動運転の形態である。従来の自動運転は、自動運転を前提に建設された新交通システムで実現されている。例えば、高架構造にすることによって、その構造上、人等が容易に路線内に立ち入ることが不可能になっている。しかし今後自動運転を普及するには、既存の鉄道路線を自動運転化していくことになるが、一般的な路線6の構造や立地条件では、安全・安定輸送の観点から自動運転の導入が困難となっている。特に地方の鉄道路線については、

5

脚注 2、国土交通省運輸安全委員会「鉄道人身傷害事故調査の経過報告について」（令和 2 年 2 月 27日）及び発表内容から作成。
6

本研究会で言及している「一般的な路線」とは、(1)地平（非高架構造）、(2)踏切あり、(3)ホームドアなし等の路線を指している。

3

自動運転の導入のために大規模な設備投資を行うことが困難であり、一般的な路線で自動運転を行う際の技術的要件の検討が必要となっている。
上述の課題や背景から、「鉄道における自動運転技術検討会」（以下自動運転検討会）が発足し、平成 30 年 12 月 3 日に開催された第 1 回検討会を皮切りに、過去６回開催されている。自動運転検討会では、一般的な路線を対象とした上で、都市鉄道・地方鉄道と大別し、鉄道分野における生産性革命にも資する自動運転の導入について、安全性や利便性の維持向上を図るための技術的要件7を検討している。
都市鉄道における自動運転のモデルケース検討
都市鉄道における自動運転のモデルケースの検討にあたり、モデルケースの前提条件として、線区の条件や自動運転レベルの条件を定めている（図 2 参照）。
図 2 自動運転レベル8の条件

7

自動運転検討会では、センサ技術や、ICT、無線を利用した列車制御技術等、最新技術を利活用することを検討している。
8「鉄道における自動運転技術検討会 令和元年度とりまとめ」（令和 2 年 7 月 3 日）より抜粋

自動運転は、その段階が IEC によって自動化レベルとして定義されている。自動化レベル「GoA1」は非自動運転、「GoA2」は半自動運転、「GoA3」は添乗員付き自動運転、「GoA4」が自動運転となっている。また IEC 及び JIS では定義されていないものの、緊急停止操作等を行う係員付き自動運転は「GoA2.5」に分類される。

4

線区の条件として、複線且つ自動列車制御装置(ATC)9、自動列車運転装置(ATO)10を利用し、可動式ホーム機や踏切道 (1 種)、トンネル・橋梁がある線区としている。また自動化レベルについては、前提条件の段階的な引き上げによる自動運転の実現を検討（先頭車両の運転台に係員が乗務する段階(GoA2.5)を経て、最終的には添乗員付き自動運転(DTO11)の実現(GoA3)もしくは添乗員なしの自動運転の実現(GoA4)を前提として検討）している。
GoA3 もしくは GoA4 に向けた現時点での主な検討結果としては、先頭車両の運転台に係員が添乗しないため、線路上の支障物に対しては、以下のようにとりまとめられた。
✓

ホーム・踏切部以外について、駅間の防護柵を強化することによって人や、自動車、積荷等の支障物が線路内に侵入することを防ぐこと✓

車両に設置したセンサ等により、列車前方の支障物を検知して対応すること✓

踏切部について、自動車からの視認性向上や遮断桿の異常検知、障害物検知装置、支障報知のための押しボタン、異常発生時の列車停止機能といった対応を行うこと✓

ホーム部について、線路側ホーム橋の可動式ホーム柵、線路側以外のホーム端からの転落防止策、車両・ホーム間への転落防止装置を設置することによって支障物を防ぎ、安全を確保すること

今後の課題として、以下の事項に対してさらなる検討を行う方針となっている。
✓

高さや構造等の防護柵に求められる要件✓

検知が必要な支障物の大きさ、検知距離等の列車前方支障物検知装置に求められる要件

9✓

異常検知後の踏切部での取り扱いや必要な機能✓

脱線や上下線間の列車衝突への対応方法✓

ホーム上や社内での火災発生時などの対応方法✓

避難誘導の方法✓

司令員と添乗係員との役割・業務の分担✓

添乗係員に求められる資質といった要件 等ATC（Automatic Train Control：自動列車制御装置）とは、地上からの信号や速度情報を連続的に列車上に送信し、車上側で常に列車速度を照査して自動的にブレーキを動作させる、制限速度以下になるとブレーキを緩めるといった機能により高い安全性を担保する装置のことである。
10ATO（Automatic Train Operation：自動列車運転装置）とは、列車の発車や加速、減速、定位置停止制御等を自動的に行う装置のことである。
11DTO Driverless Train Operation の略

5地方鉄道における自動運転のモデルケース検討
都市鉄道におけるモデルケースと同様、地方鉄道におけるモデルケースにおいても前提条件が定められている。線区の条件として、単線且つ(ATS)や ATO を利用し、可動式ホーム柵がなく、1 種・3 種・4 種に分類される踏切道やトンネル、橋梁がある線区としている。また自動化レベルについては、先頭車両の運転台に係員が乗務し、緊急時に緊急停止操作や避難誘導を行う GoA2.5 の実現を検討している。
GoA2.5 に向けた主な検討結果としてはシステム要件と線路上の支障物への対応の 2点となっている。システム要件については以下のようにとりまとめられた。
✓パターン式 ATS に加えて、ATO に保安機能を付加して高機能化することで、システム全体の安全性を確保すること✓

最高速度や制限速度を超えないよう、ATO による制御を行うこと

また線路上の支障物については、以下の対応をしていくこととなった。
✓

線路上の支障物を発見した場合、GoA2.5 係が緊急停止操作ボタンを操作し、緊急停止を行うこと✓

列車脱線などの列車の停止を必要とする障害が発生した場合、GoA2.5 係員が信号炎管・列車防護無線などを使用し、関係の列車を速やかに停止させること

他にも事故や災害が発生した場合に GoA2.5 係員が対応して乗客の避難誘導を行う
ことも対応として必要になることが想定されている。
今後の課題として、以下の事項に対してさらなる検討を行う方針となっている。
✓GoA2.5 係員が行う作業について、運転免許の要否や指令の活用等の詳細✓

トンネル内や橋梁上等、避難誘導に支障がある地点で停止した場合において、列車を安全な場所に低速で移動させる機能✓

駅出発時等、最初の ATS 地上子を通過するまでに制御情報を入手できないシステムの場合において、制御情報を受信するまでの間のシステムによる安全担保方法

4. 企業不祥事における第三者委員会
第三部では、本村健氏より「第三者委員会（不祥事調査）の実務と課題」と題して話題提供いただいた。
第三者委員会12の概要

12

本研究会で言及している「第三者委員会」とは、依頼者を含む当事者と従来関わりのない中立・独立の立場から事象に対する調査を行うことで根本原因を見出し、依頼者の組織での再発防止策を含む改善策

6

日本における第三者委員会は、現時点では日本弁護士連合会（以下日弁連）のガイドライン上には存在しているものの、指示等に法的強制力があるものではなく、法律上の根拠も存在していない。しかしながら、企業によっては会計不正やデータ改ざん、品質偽証といった不祥事が発生した場合に第三者委員会が立ち上げられ、再発防止策を策定するというプラクティスが存在している。また第三者委員会は、外部調査委員会や特別調査委員会といった名称で組成されることもある。日弁連のガイドラインにおいては「調査を実施し、事実認定を行い、これを評価して原因を分析する」委員会であると位置づけられており、法的責任判定・追及委員会や経営諮問委員会とは区別されている。
不祥事・不正発覚時の対応の流れについて
第三者委員会は、内部通報や外部通報によって不祥事や不正が発覚した際に、初動対応として組成される。また初動対応時には、弁護士や会計士等によって調査チームが組成され、調査計画が策定される。同時に書類やデータといった証拠保全が行われるのも初動対応のタイミングである。
調査計画が策定された後、実態調査が行われ、関係者へのヒアリング、電子データの分析（デジタルフォレンジック）、会計情報の分析、関連証憑の確認が行われ、損害額や修正額、関与者、影響といった事実関係の確定がなされる。
実態調査の後、原因分析や再発防止策の策定といった分析が行われ、経営者交代等の関係者への懲罰、内部統制の再構築、ガバナンス体制の強化、役員従業員教育等の再発防止策が策定される。
図 3 不祥事・不正発覚時の対応の流れ13
1. 初動対応

2. 実態調査・調査チームの組成

・事実調査

・調査計画の策定- ヒアリング、証憑確認

・証拠保全(書類・データ等)- 電子データ等の分析
・事実関係の確定

・第三者委員会の設置

3. 分析

4. 問題解決

・原因分析

・関係者への懲罰・再発防止策の策定

・内部統制やガバナンス体制の再構築・強化・役員、従業員への教育等を提示するという役割を果たすことを求められている存在のことを指している。
13

本研究会公開資料より作成

7上述の対応プロセスと並行して、株主や取引先、関係会社、規制当局、捜査機関、監査法人等の利害関係者の対応も行われるが、プロセス全体は短期間で行われ、第三者委員会が策定する再発防止が完了した後に、事業の経営は「有事」のリスク管理から「平時」のリスク管理に戻り、正常な事業活動に復旧することが可能になる。
第三者委員会の課題
第三者委員会の実務面において、独立性の問題は重要な観点である。まず第三者委員会における独立性は、形式的独立性と実質的独立性に大分される。
✓

形式的独立性の問題とは、「独立性・中立性を有する委員とはどのような委員であるか」、また「委員の選任権限はどこにあるのか」というものである。独立性・中立性を有する委員をどのように選任するかという、委員資格の問題がある。

✓

実質的独立性の問題とは、どのように独立性を確保した調査を達成するかという調査内容の公平性や客観性、中立性の問題が存在する。具体的には調査を担保するためには契約書にどのような事項を記載すべきか、報告書を事前に開示し、反論の機会を与えるべきか、調査結果や調査手法について第三者委員会はどこまで説明義務を負うのかという問題である。

また、第三者委員会の調査に求められる「独立性の問題」の他に、「調査報告書の公表と弁護士依頼者間秘匿特権の放棄問題」、「調査において作成、収集された関連資料の非共有問題」、「関係者への責任追及」、「社外役員の役割」といった様々な問題が存在する。これらについては今後検討すべき課題となっている。
5. 質疑応答での論点
第 7 回研究会では AI と事故調査・第三者委員会について議論が行われた。話題提供を踏まえて以下のような質疑応答が行われた。
➢

無人化技術の進展によっておこる変容・新観点✓

無人化技術が進展してシステムが複雑になった場合、従来の事業者や自治体、専門家等の参画する人間の変容をはじめとして、従来の組織運営の方法から運営方法が変容していく事はあり得る。

✓

現時点では AI を利用した自動運転までは論点が到達していないため、ディープラーニングを支障物検知に利用したケース等について、責任分界点の検討が今後必要である。

➢

横浜シーサイドラインの事故がなぜ防げなかったのか✓

横浜シーサイドラインの事故が防げなかった理由として、設計思想が有人運
8

転の際の設計思想のままになっていた結果、他事業者では出来ていた事故を防ぐための対応が出来ていなかったことが原因と考えられる。
➢

事故防止対策を起因とする新たな問題✓

AI の場合、事故原因に特化した対策の結果、Overfitting が起きてしまい、更なる問題が起こってしまう可能性がある。

➢

自動運転の安全性の評価✓

鉄道の自動運転について、従来の一般的な路線と同等以上の安全性確保の必要がある。

➢第三者委員会の対象となる不正の範囲✓

組織的な不正やハラスメントであれば、広範に第三者委員会の対象となる。AI
関連であれば、AI を利用しての組織的なハラスメント等が発生した場合は、第三者委員会の対象となる。

✓AI の問題を検知できなかったあるいはリリースを止めなかった結果として問題が発生した場合、開発組織全体や AI を利用している事業者に第三者委員会の調査が適用される可能性がある。

✓

AI 同士による談合等、責任の所在が不明な場合、第三者委員会でなければ解明できないという事が考えられる。

➢

第三者委員会の調査手法と AI の利用ケース✓

内部通報に関しても通報だけではなく、モニタリング等でデータを集めることによってエビデンスになる。将来的に AI を利用するケースとして、調査等の予防的な観点での利用や、監視にならない程度の AI による情報の蓄積や取得によって社員や従業員、顧客のプライバシーの観点が関わってくるようになるのではないかと考えられる。

✓

不正調査時に従業員のメールレビューに AI を用いるようになった場合、業務時間中のメールについては、労働契約上メール確認が可能な建付けとなっているため、従来の人による確認と同様、予防的統制及び発見的統制の一環として、AI を用いた確認を行っても問題にはならない。ただし、個人携帯についてはプライバシーの問題になるため、本人の了解を書面でもらったうえでメールレビューを行う必要がある。

➢第三者委員会への協力のインセンティブ✓

調査協力へのインセンティブとして、第三者委員会内でガイドライン上許容される範囲の軽減等を行う事は可能だが、刑事罰については警察や検察の権限であるため、調査協力目的でインセンティブを提供する事は制限される。

次回以降も引き続き、本研究会を通じて、日本国内外の AI ガバナンスに係る検討を続ける。
9

（文責：巻口歩翔）＜第 7 回開催概要＞
日時 ： 12 月 10 日（木）16:00-18:00（Zoom 開催）
内容 ： 話題提供：「無人で自動運転を行う鉄軌道の事故防止に関する検討」
山岸裕之氏（国土交通省鉄道局技術企画課）
話題提供：「鉄道における自動運転技術の検討」
小川優氏（国土交通省鉄道局技術企画課）
話題提供：「第三者委員会（不祥事調査）の実務と課題」
本村健氏（岩田合同法律事務所）
質疑応答・ディスカッション

10