KDDI 総合研究所 R&A | 2016 年 11 月号

運転支援から自動運転へ-Tesla事故から考える「ヒトとクルマの本来の関係」KDDI 総合研究所 特別研究員

小林雅一▼記事のポイント◉サマリー
米Tesla Motorsの半自動運転機能「Autopilot」が今年5月に引き起こしたドライバー死亡事故は、世界的に進む自動運転技術の開発に再検討を迫っている。欧米の自動車メーカーの中には、Tesla Autopilotのような「半自動運転」からGoogleが目指しているような「完全自動運転」へと、開発の軸足を移す企業も出てきた。
本レポートではTesla Autopilotによる事故の状況を検証し、運転支援機能から自動運転車へ至る道のりと、そこにおける「ドライバー（人）とクルマの本来の関係」を考察する。

◉主な登場人物
Tesla Motors
BMWVolvo

テスラ

Model S Google

ボルボ

Daimler（Mercedes-Benz）

フォルクスワーゲン
イズ LTCM

日産自動車

Bosch

グーグル
ボッシュ

General Motors（GM）

Ford Motor

ダイムラー（メルセデス・ベンツ）
Delphiデルフィ

Thomas Bayes

フォード

Volkswagen
トーマス・ベLong Term Capital Management◉キーワードAutopilot

オートパイロットControl） 自動追尾機能
Distribution

正規分布

Deep Learning

半自動運転

Bayes Theorem
Gaussian

Fat Tail

限定的な自動運転

ベイズ定理

完全自動運転Kalman Filiter

ファットテール

ACS（Adaptive Cruise

カルマン・フィルター

Man in the Loop

NormalMan out of the Loop

ディープラーニング◉地域
米国、欧州、日本

KDDI Research, Inc.

1/14

KDDI 総合研究所 R&A | 2016 年 11 月号

From Drive Assist to Autonomous Driving:Thoughts on the future relationship between humans and cars
based on an analysis of the fatal Tesla Autopilot accident
Masakazu Kobayashi
Research Fellow, KDDI Research Inc.

AbstractAutopilot, Tesla Motors' semi-autonomous driving system caused a fatal accident in Florida inMay, 2016.

Potentially, this could be a major blow to the reputation of the company as well as to thefuture of autonomous driving.

Google and major auto-manufacturers all over the world, which haverecently been spending vast sums of money on the development of this revolutionary technology, arenow being forced to reconsider their development plans.

Some companies are now considering

shifting their focus from semi-autonomous driving, such as Tesla's, to full autonomous driving such asthe one Google has been developing for many years.
This report examines the Tesla's accident, and, based on this analysis, considers the path toautonomous driving and the future of the relationship between humans and automobiles.

Key Players
Tesla Motors

Model S

GoogleDaimler（Mercedes-Benz） Volkswagen

General Motors （ GM ）NissanBoschDelphi

Ford Motor

BMW

Volvo

Thomas Bayes

LTCM(LongTerm Capital Management)

Keywords
Autopilot
Distribution

ACS （ Adaptive Cruise Control ）Gaussian

Fat Tail

Man in the Loop

Bayes Theorem Kalman Filiter
Man out of the Loop

NormalDeep LearningRegions
US Europe Japan

KDDI Research, Inc.

2/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-１

Tesla Autopilotによる死亡事故の波紋
今年5月に米Tesla Motors製の電気自動車「Model S」が引き起こした死亡事故が波紋を呼んでいる。同車種には「Autopilot」と呼ばれる（限定的）自動運転機能が搭載されており、事故を起こしたドライバーは高速道路を走行中に、この機能を利用していたからだ。事故の具体的な様子は、「3.死亡事故の現場検証」において詳しく説明するが、要するに自動運転中のModel Sは対向車線から左折してきた大型トレーラーと衝突。これがドライバーの死亡へとつながった。
ここ数年、Googleや日米欧など世界各国の自動車メーカーは自動運転車の開発に注力し、一般道などで極めて長距離に及ぶ試験走行を重ねてきた。その過程で「自動運転時の接触事故」のような軽度のアクシデントは時折報告されたが、ドライバーや同乗者の死亡、あるいは重傷といった重大な事故はこれまで一度も起きたことはなかった。
このため順調に開発が進めば、今後、段階的に自動運転技術が自動車に導入され、2020年頃には完全な自動運転、ないしはそれに近い機能が実用化されるとの見方が強まっていた。そうした中で起きた今回の死亡事故は、これまでの楽観的な観測に深刻な陰を落とし、自動運転の実用化に関する各社の将来計画に少なからぬ影響を与えたと見られている。
たとえば米General Motors（GM）は、今年（2016年）の秋に製品化する予定だった（限定的）自動運転車の発売を来年まで延期した模様だ。今回のTeslaによる死亡事故を受けて、自動運転機能の安全性を今以上に高めてから市場に投入する意図と見られる。
また米Ford Motorは「（Autopilotのような限定的な自動運転機能ではなく）ドライバーの要らない完全な自動運転機能を2021年までに実用化する。当初は一般消費者向けに発売するのではなく、（米Uberのような）配車サービス事業者（ride-hailingservice）などに提供する」との計画を明らかにした。
一方、独BMWはTesla車の事故後、「今後とも自動運転技術を開発する方向性に変わりはないが、その製品化は2021年より前になることはない。そして、その技術はTesla Model Sに搭載された自動運転技術（Autopilot）とは大幅に異なるものになる」との見解を発表した。
またスウェーデンのVolvoも同事故を受け、「（TeslaのAutopilotのような）限定的自動運転ではなく、（Googleが開発を進めているような）完全な自動運転技術を開発する」との方針を表明した。
いずれのケースでも、自動運転技術に関する、各社のこれまでの計画や開発方針が相当の見直しを迫られていることが伝わってくる。

KDDI Research, Inc.

3/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-２

Autopilotとは何か？
今回の事故は何故、それほど大きなインパクトをもたらしたのか？それを考える上で、そもそもTesla Autopilot、つまり「限定的な自動運転（半自動運転）」とはどんな機能なのか。そして、それによって引き起こされた今回の事故とは、具体的にどんなものであったのか。これらを知っておく必要があるだろう。
Teslaが2015年10月にリリースしたAutopilotは、その使用環境を高速道路（freeway、highway）に限った「限定的な自動運転機能」である。この機能は基本的にTesla ModelSに搭載されている基本ソフト（車載OS）の、「version 7」へのアップデートによってクルマに搭載される。つまり無線インターネット経由で、（車載OSの一部として）自動運転機能をダウンロードすることによって実現される。
Model Sには元々、「ビデオカメラ」や「ミリ波レーダー」、さらには「超音波センサー」など各種センサーが装備されている。Model SにダウンロードされたAutopilotは、これらのセンサーから入った外界情報を、ある種のAI（人工知能）で処理することによって自動運転を行う。
前述の通り、Autopilotは基本的に高速道での利用を想定した限定的な自動運転機能だ。高速道では、「交差点における信号待ち」あるいは「周囲のクルマや歩行者らとの駆け引き」など一般道における複雑な運転が必要とされないため、初期段階の自動運転を試すには理想的な環境と考えられたからだ。
Autopilotで出来ることは、ハンドル、そしてアクセルやブレーキなどペダル類からドライバーが手足を離しての自動運転である（後述するが、厳密には「完全な手放し運転」ではなく、ハンドルに軽く手を添えておくことが求められる）。この状態において、クルマ（Model S）は高速道の車線をキープしたまま、前方を走る車両を追尾する。また（渋滞時などでは）前方の車両が停車すれば、Autopilot（Model S）も自動ブレーキで停車する。さらに、停車していた前方の車両が再び発進すれば、Autopilotもそれを追って発進する。
これらの点から見て、少なくとも現時点のAutopilotは「高度なACS（AdaptiveCruise Control：自動追尾機能）」の一種と見る向きもある。ただ、それ以上の機能も用意されている。Autopilotでは、ドライバーが方向指示器を傾けて右か左の車線を指示すれば、それに従って自動的に車線変更する。その際、各種センサーで自分の周りに他のクルマがいないことを確認している。仮に他のクルマがいた場合には、そのクルマをやり過ごしてから車線変更する。これは従来のACS以上の機能と見ることができる。
以上のようなAutopilotはオプション機能として提供されるため、これを使いたいドライバーは、2500ドル（日本では31万3000円）の追加料金を支払う必要がある。

KDDI Research, Inc.

4/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-

ただしTeslaは現在のAutopilotをベータ版（試作版）と位置付けている。つまり、それがリリースされた後も、Teslaはドライバー（ユーザー）による実際の使用データを（無線インターネット経由で）吸い上げ、これをサーバーで解析することにより、Autopilotを継続的に改良していく方針である。
また、Teslaはドライバーに対し「Autopilotを使用する際には、両手をハンドルに軽くかけておくように」と釘を刺している。つまり「ドライバーが両手を完全にハンドルから離して、自らの命をクルマに預けることができるほど安全ではない」という意味である。
ところが実際のドライバーはTeslaの指示通りにAutopilotを使用しているわけではない。中には完全にハンドルから手を離して、車中で「ビデオゲーム」など運転以外の操作に気を取られるドライバーも少なくない。また「高速道に限定」という使用条件も無視して、一般道でAutopilotを使用するドライバーもいる。
そうした中、ソフトウエアのバグが原因で、Autopilotによる自動運転中に「クルマ（Model S）が勝手に本来の進路を逸れる」といった事象が報告された。他にも死傷事故 すれすれのト ラブルが 発生し、それ を車内か らビデオ撮影 した様子 がYouTubeに投稿されるなどして、Autopilotのリリース直後から、その危険性を指摘する声が数多く聞かれるようになった 1。
一方、Teslaは予め、Autopilotを「ドライバー支援機能の一種」と位置付け、「運転の主体はあくまでドライバーである」とした上で、「仮に、これによる事故が発生しても、その責任は自動車メーカー（Tesla）ではなく、ドライバーの側にある」と断っていた。とは言え、メーカー側が危険な状況を放置しておけるはずもなく、前述のようなソフトウエアのバグは発見されてから間もなくTeslaによって修正された。

３

死亡事故の現場検証以上のような状況を背景に、今回の死亡事故は2016年5月7日、米フロリダ州を縦貫する州間高速道「US-27A」で発生した。この高速道を南東の方向へと自動走行中のModel S（図表1ではV02と表記）に対し、対向車線を走行中の大型トレーラー（図表1ではV01）が分岐道「NE 140th Court」へと入るために急左折。この大型トレー
ラーの（進行方向における）右側面に、Model Sが突っ込んで行く形となった。

1

KDDI Research, Inc.

http://gendai.ismedia.jp/articles/premium01/46058

5/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-【図表１】死亡事故の様子（出典）Credit: Florida Highway Patrol

大型トレーラーは車高がかなり高いので、車体の底面と路面との間に相当のスペース（隙間）が生じる。このため（自動運転中の）Model Sはトレーラーの（進行方向）右側面に衝突するというより、むしろその隙間に突入していく形となった。それまで65mph（時速105km）で走行していたModel Sは、その勢いによってトレーラー下の隙間をくぐり抜け、トレーラーの（進行方向）左側面から表に抜け出した。
その際、Model Sの天井はトレーラーの底面と激しく擦れ合って引き剥がされ、そのショックでModel Sの進路は大きく右方向に逸れた。そして高速道のフェンスを突き抜け、さらに直進して、その前方にある電柱（Power Pole）に激突。これによってModel Sの車体は大破し、そのドライバーは死亡した。
以上の経緯から明らかなように、Model Sに搭載されたAutopilot（半自動運転機能）は、急左折して前方に立ちふさがったトレーラーを認識できず、結果的にこれに向かって突っ込んで行った。この事故について米運輸省が調査を進めているが、その詳細な調査結果はまだ報告されていない。一方、Tesla側では事故直後に「トレーラーの白色の車体と、その背景にある快晴の空の青さをAutopilotが区別出来ず、結果的にトレーラーを障害物として認識できなかったのではないか」との見方を示した1。
1“Self-Driving Tesla was Involved in Fatal Crash, U.S. says” The New York Times,(http://www.nytimes.com/2016/07/01/business/self-driving-tesla-fatal-crash-investigation.html)

KDDI Research, Inc.

6/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-

しかし、その後Teslaは「（事故時に）Autopilotは正常に動作していたが、自動ブレーキが作動せずに事故へと結びついた」とする新たな見解を示した1。しかし一般ユーザーから見れば、自動ブレーキもAutopilot（自動運転機能）の一環であり、両者を敢えて区別するTeslaの見解に対する違和感も禁じ得ない。

4 公道での走行テスト
Teslaに対する世間からの風当たりは、既に事故前から強まっていた。たとえば2016年1月、米カリフォルニア州の車両局（Department of Motor Vehicle:DMV）が発表した調査結果がある。
同調査に際して、DMVは自動運転技術を開発中の複数企業に対し、走行テストのデータ提出を求めた。対象となるのは、2016年1月から遡って過去14か月間にカリフォルニア州の公道で実施された自動運転車の走行テストだ2。
データを提出したのは、Google、Daimler（Mercedes-Benz）、Volkswagen、日産自動車、Bosch、Delphi、そしてTesla Motorsなど。もちろん各社はカリフォルニア州以外でも走行テストを実施しているはずだが、自動運転の公道テストを行う上で最も環境が整備されているのは同州。従って今回のデータは、やはり各社の開発・テスト状況をかなりの程度まで反映していると見ていいだろう。
提出されたデータを見ると、まず自動運転の走行テストの総距離では、Googleが圧倒的に他を引き離している（図表2上）。もちろん本格的な自動運転の開発を始めたのはGoogleが最初だから、同社がトップに位置することは当然だ。が、ここ数年、日本やドイツをはじめ世界中のメーカーも自動運転に参入し、それをアピールしてきた。それを考え併せると、最近に至るまで、これだけの開きがあるのはやや驚きである。

1“Tesla Faults Brakes, but Not Autopilots, in Fatal Crash,” The New York Times(http://www.nytimes.com/2016/07/30/business/tesla-faults-teslas-brakes-but-notautopilot-in-fatal-crash.html)
2” These charts show who’s lapping whom in the race to perfect the driverlesscar”, The Washington Post
(https://www.washingtonpost.com/news/the-switch/wp/2016/01/15/how-googlesdriverless-car-stacks-up-against-the-competition/)

KDDI Research, Inc.

7/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-【図表２】自動運転のテスト走行距離（上）と単位距離当たりの人間介入回数（下）（出典）" These charts show who's lapping whom in the race to perfect thedriverless car", The Washington Post

KDDI Research, Inc.

8/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-

次に自動運転のテスト走行中、何等かのトラブルや複雑な道路状況などから、乗車中の人間が自動運転に介入して、手動運転に切り替えざるを得なかった回数を走行距離で割り算した値を示したのが図表2下である。
改めて言うまでもなく、人による介入回数が少なければ少ないほど、自動運転技術の完成度が高いことを意味する。このグラフを見ても、やはりGoogleが他を圧倒的に引き離して好成績を収めているのが分かる。
そうした中で、気になるのはTesla が提出したデータである。これを見ると公道上でのテスト走行の総距離、そして人による介入回数のいずれもゼロである。つまりTesla は（少なくともカリフォルニア州では）公道上でのテスト走行を全くしていないことになる。
これについて米Washington Postは、「Tesla は恐らく、（Autopilotをリリースした後で）ユーザーを実験台（guinea pig）にして、公道テストを実施しているのではないか」と見ている。
Teslaはまた、Autopilotを「あくまでもドライバー支援機能の一種」と位置付けているが、Autopilotを事実上の自動運転機能としてユーザーに売り込んでおり、米国の消費者団体などからTeslaへの非難が高まっている。
こうした世論の高まりを受け、米運輸省は（Autopilotのような）半自動運転に関する何らかの規制を検討し始めたと見られているが、その具体案はまだ提示されていない。また、これに先立ち米連邦議会上院は、TeslaのCEO（最高経営責任者）であるElon Musk氏宛てに、Autopilot技術の安全性について説明を求める書簡を送付した。

5 確率的なＡＩによる状況判断
このAutopilotのような「限定的な自動運転（半自動運転）」、あるいはGoogleが開発を進める「完全な自動運転」のいずれでも、「確率的な状況判断」の仕組みを採用しているという点において、これら技術の原理は基本的に同じと見てよい。
たとえばクルマ（自動運転車）の周りにいる移動体（他のクルマ、歩行者、あるいは何らかの障害物など）の居場所を特定するために使われる技術は「カルマン・フィルター（Kalman Filter）」と呼ばれる。
カルマン・フィルターは（確率的な事象を扱う上で一般に用いられる）正規分布曲線をベースに、これから起きることを予想したり状況判断をしている。しかし、現実世界の事象はこの正規分布から微妙にずれることが経験的に知られている。
そうしたズレは、特に正規分布曲線の両端（テール）の部分で顕著だ。つまり釣鐘型の正規分布曲線ではテール部分の確率がほぼゼロに近いが、現実世界ではその辺りの確率がゼロよりも十分大きい。これをファットテールという。つまり正規分布上はほぼ起こり得ないことが、現実世界では（それほど頻繁にではないが）あるKDDI Research, Inc.

9/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-程度の確率で起きるのである。1
今回のTesla事故の場合、このファットテールに該当するのが高速道US-27Aの異常な構造である。図表1をもう一度見直すと、事故が起きた地点では（立体交差ではなく）同一平面上でＴ字路をなしている。常識的に考えて、こうした構造の高速道路は余りにも危険で、あり得ないはずだが、この事故を起こした地点の道路構造を見る限り、本当に存在するのである。
ところが自動運転車に搭載されているカルマン・フィルターは正規分布に基づいて予測や状況判断をしているので、そうした想定外の事態には対応できない。今回は偶々、テスラのオートパイロットがその罠にはまったが、一般的に現在の自動運転車は同じくカルマン・フィルターを搭載している以上、こうしたトラブルに見舞われることは（ある程度の確率で）免れ得ない。

6制御の環に人間を組み込むか？
この問題に対し、自動運転車を開発するメーカー側はどう対応すればいいのか？
一つは、Teslaあるいは世界各国の自動車メーカーのように、「自動運転はあくまで運転支援機能の一種」と位置付け、「運転の主導権はあくまでドライバー（人間）側にある」と予め断って提供することである。
この場合、（少なくとも当面は）自動運転は高速道など限定的な環境下でのみ利用可能となり、しかもドライバーは自動運転時にもハンドルに軽く手をかけ、何か非常事態（これが前述の「ファットテール」に該当する）が発生したときには自動運転から制御権を取り返して、ドライバー（人間）がクルマを運転しなければならない。
こうしたスタイルは、専門家の間で「Man in the Loop（制御の環の中に、人間を残しておく）」と呼ばれる。ただ、これは私達一般ユーザーの立場から見ると、正直、本末転倒という印象を受ける。つまり「ドライバーが常にハンドルに軽く手をかけ、周囲への警戒を怠らず、何らかの非常事態にはすぐに対応できるような態勢を整えておかねばならない」としたら、そもそも一体何のための自動運転なのか？むしろ、そうした対応の難しい非常事態（ファットテール）にこそ、（本来であれば人間による運転よりも安全とされる）自動運転がドライバーに代わって適切に対応してくれる。これこそ自動運転本来の目的ではなかったのか？
また、前節では、「カルマン・フィルターのような確率的AIではファットテール（非1ファットテールは「理論と現実との微妙だが、極めて重大なズレ」を指す用語だ。
私達の生きる世界で起きる確率的な事象を表現するためには、一般に（前述の）正規分布曲線が使われる事が多い。
「理論（正規分布曲線）と現実（ファットテール曲線）とのズレ」がしばしば問題となるのは世界的な金融市場である。金融工学は正規分布曲線を理論的な礎にして構築されているが、前述の通り現実世界はファットテール曲線に従っている。両者のズレが、周期的に発生する世界的な金融恐慌の原因となっている。

KDDI Research, Inc.

10/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-常事態）に対応できない」と強調してきたが、逆に「人間ならファットテールに対応できる」という保証があるわけでもない。たとえばTesla Model Sが遭遇した図1のような事態（つまり高速道を巡航運転中に、対向車線のトレーラーが急左折して、こちらの車線に入って来て、目の前に立ち塞がるといった事態）に、人間のドライバーが適切に対応できたかどうかは怪しい。つまり、たとえModel Sのドライバーが（Teslaの定めた使用規則に従って）Autopilot使用中に「ハンドルに軽く手をかけ、周囲へ の警戒を怠ら なかった 」としても、 今回のよ うな非常事態 において は（Autopilot同様）、事故を起こしていた可能性は十分ある。
結局、平常時の容易な運転は自動運転（機械、AI）に任せ、非常事態（ファットテール）における困難な運転は人（ドライバー）に任せるようでは、自動運転の存在意義が著しく失われるばかりか、むしろ危険であると言わざるを得ない。
一方、これと対照的なアプローチは、Googleが開発を進めてきた「完全自動運転」である。同社が2015年にお披露目したテントウムシ型の小型自動運転車（試作機）
では、ハンドルもアクセル／ブレーキ・ペダルも排除され、搭乗者（ユーザー）はクルマの制御権を完全に奪われた。こうしたスタイルは専門家の間で「Man out ofthe Loop（制御の環の中に、人間を組み込まない）」と呼ばれている。
今から振り返ると意外な印象を受けるかもしれないが、Googleが2010年頃、本格的に自動運転技術の開発に着手した当初は、むしろ現在のTesla（や、他の自動車メーカー）のように、「Man in the Loop」のアプローチを検討していた。ところが、その後、Googleが実際にそうした（半）自動運転車にドライバー（人間）を試乗させ、運転席に取り付けたビデオカメラから、その運転の様子を撮影・観察したところ、ドライバーはありとあらゆる想定外の行為に耽ったという。
つまり（予め定められた「自動運転中でもハンドルに軽く手をかけて周囲への注意を怠らない」といったルールを無視し）、運転席でスマホやビデオゲームで遊んだり、果ては居眠りをするといったケースが多発した。
これを見たGoogleは「Man in the Loop」、つまり「中途半端に人間（ドライバー）に頼ること」はむしろ危険と判断し、「Man out of the Loop」、つまり人間を制御の環から外して、機械（クルマ）に全ての制御権を移譲するスタイルへと切り替えたのである。
しかし、このやり方には前述のファットテール問題がつきまとう。つまり（カルマン・フィルターのように）確率的な現代AIでは、正規分布曲線からずれたファットテール部分に該当する異常事態には対応できないということだ。この問題に対してGoogleが当面とった対策は、「正規分布曲線の中央μから標準偏差n個分（nσ：nの値は推定5、または6程度）より外側の領域に可動域を絞り込む」というアプロー
チである（この場合の「可動域」とは、単なる位置座標における移動範囲を意味するのではなく、そうした位置座標も含めて、クルマが取り得る選択肢の全種類を変数化（座標化）した概念空間における可動域を指す）。
ここまで外側に行くと、たとえ（正規分布からずれた）ファットテール曲線とは言っても、テール部分の確率が十分に減衰しているので、自動運転車は異常事態にKDDI Research, Inc.

11/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-

巻き込まれずに済む。これは、より平易な言葉で言い直すと、Googleの自動運転車は「極端な安全策をとる」ということである。
だが、このやり方では致命的な事故は免れるかもしれないが、現実的な道路事情に適応できない事が、その後のテスト走行の過程で分かってきた。たとえばGoogleの自動運転車は高速道路を走行中に、周囲を走るクルマの流れに乗って走ることができない。つまりドライバー（人間）が運転する通常のクルマでは、速度制限を多少オーバーしても、周囲の流れに合わせて柔軟に速度を上げ下げするのに対し、Googleの自動運転車は極端な安全策をとって速度制限を遵守するので、周囲のクルマのスムーズな走行をむしろ妨げてしまう。
あるいは交差点における信号待ちのような状況では、たとえ信号が緑になっても、対向車線から左折するクルマが全部いなくなるまで自動運転車は停車して待ち続けるので、何時まで経っても動かないことがある。結果、自動運転車の背後には他のクルマの長い待ち行列ができて、彼らからクラクション（horn）を鳴らされる、という事態に陥ってしまう。

7

ヒトとクルマの本来の関係を探る
以上を総合的に考えると、Man in the LoopとMan out of the loopのどちらが正解と言えるだろうか？たとえば、（繰り返しになるが）Tesla Autopilotは事実上の「半」自動運転機能である。敢えて「半」自動と断る理由は、ドライバーがクルマに運転を丸投げして、車内で（たとえばスマートフォンをいじるなど）何でも好きなことができるわけではないからだ。つまり完全な自動運転ではない。
前述のように、Teslaはユーザー（ドライバー）に対し、たとえAutopilot機能を使用中でも両手を軽くハンドルにかけるか、ハンドルの間近に浮かしておくことを要求している。つまりMan in the Loopだ。
なぜ、このような仕様になっているかというと、それはAutopilotが「天候」や「道路の状況」などによって自動運転できなくなる事があるからだ。たとえば「雨」や「霧」などで視界が遮られたり、高速道の車線を分ける白線がかすれて不明瞭な場
合などには、Autopilotはドライバーに対し「自動運転ができなくなりました。貴方（人間）が運転してください」という意味の警告（ビープ音）を発する。
これに従ってドライバーが、それまで軽く手をかけていたハンドルをぎゅっと握りしめると、その瞬間にクルマの制御権は人（ドライバー）に移行し、あとは従来のクルマと同様、人が運転する形になる。逆にドライバーが警告を無視して、そのまま自動運転を続けようとすると、クルマは自動的に側道へと向かい、そこで強制的に停車してしまう。
以上のような機能は、たとえば長く単調な運転が続く高速道での「居眠り運転」対策などに効果的と見られている。ただ、この種の半自動運転は、本来完全であるべき自動運転へと向かう中途段階、つまり「未完成の自動運転」と見るべきであろKDDI Research, Inc.

12/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-う。
何故なら、それはユーザー（ドライバー）に多大な負荷を強いることになるからだ。つまり「高速道なら（自動運転が）出来るが、一般道では駄目」「晴れなら出来るが、雨や霧の日は駄目」「道路コンディションが良ければ出来るが、悪いときは駄目」
・・・これではユーザー（ドライバー）が混乱してしまう。
前述のように、実はTeslaだけでなく、日本や欧米の主要メーカーの中には、当初は高速道など限定的な使用環境における半自動運転から実用化に入ると宣言している会社が多い。その主な理由としては、最初から完全な自動運転を実現するのは技術的ハードルが高過ぎるということがある。
しかし何より優先されるべきは、そうした業界側の事情ではなくドライバー（ユーザー）を守る安全性だ。この点について、「半」自動運転のように中途半端な仕様にすると、今回のTesla Autopilotが引き起こしたような事故に結び付く恐れが十分ある。実際、それを危惧したからこそ、FordやVolvoなど一部メーカーは「最初から完全な自動運転の製品化を目指す」方向へと方針を転換したと見ることができる。
もちろん運転好きのドライバーは多数いるはずだから、自動運転と手動運転の両モードを用意することは必要だろう。そして、どれほどクルマの運転が好きな人でも、ときには疲労や体調不良などから運転をしたくないときがあるはずだ。
その場合には、たとえばボタン一つ押すだけで、あるいは声でクルマに命令するだけで「完全な」自動運転に切り替わる。それ以降は、ドライバー（ユーザー）が後部シートに移動して、そこで横になって熟睡してしまっても、クルマが無事に目的地まで送り届けてくれる（もちろん雨が降ろうと、嵐が来ようと、あるいは、どんな道でもお構いなしにだ）。
本来必要とされているのは、こうした「完璧な」自動運転機能のはずだ。技術的にこれを実現する鍵は、自動運転車が各種センサーを使って外界を認識する際の、認識精度の向上である。たとえば、既に独Audiをはじめ各社が、外界の認識能力に秀でた人工知能である「Deep Learning（ディープラーニング）」を自動運転車に搭載すべく研究開発を進めている。
Deep Learningの研究開発が今後とも順調に進み、位置推定の誤差σを極小化することができれば、たとえメーカー各社が安全策をとって標準偏差n個分（nσ）の外側に自動運転車の可動域を絞ったとしても、σ自体が極端に小さいので、逆に可動域は十分大きくなる。つまり前述のGoogle自動運転車が陥ったような「現実的な道路・交通状況に適応できない」という事態は回避できる。このレベルにまで、DeepLearningをはじめ各種の要素技術が達してから、メーカー側は自動運転車を製品化すべきだが、これはもちろん筆者の個人的見解に過ぎない。真っ先に死亡事故を起こした
Tesla Autopilotを、言わば他山の石と位置付け、そこから「本当に安全で必要とされる自動運転とは、どんな仕様であるべきか」を、自動車メーカーは再検討すべきではないか。

KDDI Research, Inc.

13/14

運転支援から自動運転へ –Tesla 事故から考える「ヒトとクルマの本来の関係」-【執筆者プロフィール】
氏 名：小林 雅一 （こばやし まさかず）
所 属：KDDI総研
専門：メディア・IT・コンテンツ産業の調査研究
経 歴：東京大学大学院理学系研究科を終了後、雑誌記者などを経てアメリカに留学。
ボストン大学でマスコミ論を専攻し、ニューヨークで新聞社勤務。慶應義塾大学メディア・コミュニケーション研究所などで教鞭をとった後、現職。
主な著書：『クラウドからAIへ アップル、グーグル、フェイスブックの次なる主戦場』（朝日新書）『日本企業復活へのHTML5戦略』（光文社）『スマートフォンのすすめ―手のひらのクラウドで未来を生きる』（ぱる出版）『ウェブ進化 最終形 「HTML5」が世界を変える』（朝日新書）『モバイル・コンピューティング』（PHP研究所）『社員監視時代』（光文社ペーパーバックス）『欧米メディア・知日派の日本論』（光文社ペーパーバックス）ほか多数。

KDDI Research, Inc.

14/14