翻訳: ロドニー・ブルックスの福島第一原発訪問記

この記事は、MIT人工知能研究所の元所長ロドニー・ブルックス氏のブログ記事 ["[FoR&AI] Domo Arigato Mr. Roboto"](https://rodneybrooks.com/forai-domo-arigato-mr-roboto/) の翻訳です。

ドモアリガト、ミスター・ロボット
-----
2011年3月11日金曜日は、日本にとって最悪の日だった。現地時間午後2時46分、日本の東北地方牡鹿半島の東の沖合72kmでマグニチュード9.1の地震が発生した。巨大な津波が発生し、波高は最大で42.5メートル (133フィート) に達した。地震発生から数分後、津波は東京の432キロ (300マイル) 北にある宮古市を襲った。何百キロもの沿岸地域が壊滅し、死者はほぼ1万6000人、行方不明者は2500人以上に上った。３つの県の何百もの建築物が、全壊し、半壊し、あるいは深刻な被害を受けた。

その後の1週間、事態は更に悪化した。日本は、その年3月と4月に起きたことによって永遠に変わってしまった。

2014年4月25日午前8時少し前、私は東京の上野駅でアメリカから来たロボット研究者の小グループと会った。それは悲しい集まりであったが、しかし、その日感じることになる眼も覚めるような感情を、私は未だ認識していなかった。

技術者として、私にはかなりの「サイエンスフィクション」の日とでも言うべき時の記憶がある。ほとんどは心地良く、エキサイティングなものだ。私にとってのサイエンスフィクションの日とは、ほとんどの人々がこれまで映画を通してしか見たことのない種類の経験を実際に得たことである。 たとえば、1997年7月4日、私はJPL (カリフォルニア州パサデーナのジェット推進研究所) に居て、パスファインダーミッションの軟着陸直後、火星表面から送られてきたライブ画像を見ていた。その少し後のその日の午後、あたたかな歓迎とともに、ロボットローバーのソジャーナは火星の大地に展開された。地球からの最初のモバイル大使であった。NASAの管理者であるダン・ゴールティンは、最初の「速く、安く、優れた」ミッション達成について、JPLの技術者全員を祝福した。そのフレーズは、1989年に私とアニータ・フリンが共著した論文のタイトル「速く、安く、制御不能: 太陽系へのロボット侵攻 (Fast, Cheap, and Out of Control: A Robot Invasion of the Solar System)[^a]」の改変版だったのだ。論文で我々が提案したアイデアは、当時開発中であった巨大な探査機を使うのではなく、小型のローバーを惑星探査、特に火星の探査に使用するというものであった。1997年に火星に着陸したローバーは、当時MITを卒業したばかりのコリン・アングルと、私が同年1989年にその開始を援助したJPLのプロジェクトからの派生物だったのだ。着陸の日は、偉大なサイエンスフィクションの日であった。そしてそれはほぼ17年後、私が経験しようとしていたこととと関連していたのだ。

けれども本当に、2014年の4月25日は、私にとって2つのサイエンスフィクションの日が1つになった日だった。両方ともディストピア的だった。

上野駅に集合したグループはジル・プラットに率いられていた。ジルは1990年代後半に私がMITの人工知能研究所の所長を勤めていた際の教員であった。当時彼はAI研の「レッグ・ラボラトリー」のリーダーであり、歩いたり走ったりできるロボットの製造に取り組んでいた。2014年当時、彼はDARPA、米国国防省の一部である国防高等研究計画局 [the Defense Advanced Research Projects Agency] のプログラムマネージャーであり、DARPAロボットチャレンジを率いていた。翌年に開かれる予定の最終戦は、ロボットが災害現場で支援を行う手法を改善するものであった。我々ロボティクス研究者は、日米共同のロボティクスワークショップに参加するため、その週日本に滞在していたのである。ワークショップは、東京で行なわれた安倍首相とオバマ大統領の日米首脳会談のサテライトイベントとして開催された。

その金曜日の朝、我々はいわき市行きの高速電車に乗った。そこから50分間ミニバスに乗り「J-ビレッジ」に到着した。そこで、ものごとが少しシュールになり始めた。Jリーグは日本のプロサッカーリーグであるが、J-ビレッジは地震と津波が起こるまではJリーグの中心的なトレーニング施設であり、複数のサッカーコート、生活拠点、ジム、水泳プール、そして巨大な管理棟を備えていた。その当時、3面のサッカーコートは自動車で埋まっていた。廃炉作業員のための通勤駐車場となっていたのである。北から来たトラックやミニバスは放射線量をスキャンされ、北へと向かうあらゆる車両はサッカー施設のセキュリティゲートを通らなければならなかった。J-ビレッジは、そのとき、福島第一原子力発電所から放出された放射能を取り扱うオペレーションの指揮所となっていた。津波が原発を襲った時、最終的には6つの反応炉のうちの3つがメルトダウンを起こしたのだ。J-ビレッジは、原発の周囲20キロメートル半径に定められた立入禁止ゾーン境界線のほど近くに位置しており、福島第一原発の所有者であるTEPCO、東京電力によって運営されていた。また、立入禁止区域内では大きな被害を出すことなく原発が停止されていた。

メインビルの中の壁には、3メートルもの高さがある日本人スター選手の写真が飾られていた。しかし、すべてがあり合わせで一時しのぎのように見えた。我々は東京電力の重役たちと会い、津波後の第一原発の事故に対する最初の謝罪を受けた。その日の間に我々はもっと謝罪を受けることになる。明らかにこれはあらゆる訪問者に向けた儀式であり、誰も何らかの謝罪を受けなければならないとは感じていなかった。前日の日本政府の大臣との会合の時と同じく、私は特別に感謝表明のために選出された。それはやや気恥ずかしいものだったのだが。

デヴィッド・ミラーとラジャブ・デサイに率いられていたJPLの小型ローバープログラムを、コリン・アングルと私が支援した後、我々は太陽系の他の星へ早急にロボットを送りたいと考えるようになった。そこで、コリンの友人であり、私がMITで大学院生向けカウンセラーを勤めたヘレン・グレイナーを迎え、宇宙探査ロボット企業を設立した。その会社は元々はISロボティクスという名前だった。2002年の書籍[^book]で、この会社の初期の冒険物語と、エドワーズ空軍基地で弾道ミサイル防衛組織 (BMDO、一般には「スターウォーズ」として知られていた) の月ミッションの将来の搭載品として我々のローバーが試験を受けたこと、それがNASAに引き継がれパスファインダーミッションにソジャーナローバーが追加されたことについて書いた。2001年までには我々の会社はiRobotと改称され、同年9月11日の朝にはニューヨークのグラウンド・ゼロへ向けてロボットを送るように連絡を受けた。ロボットは閉じ込められている負傷した生存者を探すために、近辺の避難済み建物を捜索したのである。そこから生まれたパックボットは、アフガニスタンとイラクで放射性環境から核物質を捜索するために数千台も配備され、また路肩爆弾を処理するために数万台も配備された。2011年までには、我々は戦時の厳しい環境下での何千台ものロボットオペレーションを約10年ほど経験していた。

津波から1週間後の2011年3月18日、当時私は未だiRobot社の取締役であり、もしかするとiRobot社のロボットは福島で役に立つかもしれないと言われたのだ。我々は急いで6台のロボットを寄付として日本へ送った。また、ロボットの返却に関してはまったく考えていなかった--我々はロボットたちが片道切符の旅路に赴くことを知っていた。ひとたび原子炉建屋にロボットが入ったら、帰って来られないほどに放射能汚染されてしまうだろうから。東京電力の職員をトレーニングするための人員を送り、そして彼らは原子炉が完全停止するよりも前に即座にロボットを配備したのだった。

最古の原子炉は40年以上稼動しており、他の原子炉も同一の設計を踏襲していた。いずれにもデジタル監視装置は設置されていなかったため、原子炉が加熱し爆発して高レベル放射能を排出した際にも、原子炉建屋の内部で何が起きているのかを知る方法はなかった。iRobot社が送った4台の小型ロボット、パックボット510は、重量18kg (40ポンド) で1本の長いアームを備え、ドアを開けて進んだり、画像を送信することができた。時々、ロボットはペアで動作する場合もあった。中間のロボットをWifiリレーとして用い、もう1台のロボットが人間のオペレーターから遠く離れたときにも信号を受信可能とするためである。ロボットはアナログのダイアルの画像を送信可能であるため、オペレータはシステムの圧力計を読み取ることもできる。またロボットは配管が破損していないかを確認するために画像を送ることもできる。そして、ロボットは放射能レベルを測定し送信できる。その年の後半、[東北大学教授] 田所諭氏は、パックボットが対応不能である瓦礫の山や急な階段を登れるロボットを送ったのだが、「もしもパックボットが無かったら、原子炉の冷温停止はかなり遅れていただろう。」と述べている[^Tadokoro]。2台の大きな兄弟、そのどちらも710モデルは、重量157kg (346ポンド) 、100kg (220ポンド) の運搬能力があり、工業用の清掃マシン、瓦礫の移動、他の特殊用途ロボットが現場にアクセスできるようにフェンスを切断するなどの用途に使われていた。

日本は一貫して助力に感謝している。我々の技術がこのような悲惨な状況で役立つことができ、嬉しく思う。

2014年、J-ビレッジで訪問者向けのブリーフィングを受けた後、我々には線量計が配布され、また放射粒子を捉える使い捨て防護服を着用した。そして、外気循環が封印され高度に整備されたミニバスに乗り込み、陸前浜街道を北へ向かって進んだ。最初のいくつかの村は、荒れてはいるもののよく保たれているように見えた。その時までには、住宅所有者は1日数時間だけ立入禁止区域への立ち入りが許可されていたからである。更にその区域を進むと、すべてが放棄されたように見え始めた。福島第一原発が遠くに見えたところで、高速道路を降りて富岡町に向かった。海岸にほど近い駅は津波で洗い流されており、ただプラットホームだけが残っていた。便器が未だ下水管の上で自立していた。ほとんどの家は1階にダメージを受けており、ミニバスで通りかかったときには人々の家財がまだ屋内に残っているのが見えた。ある時には道の真ん中でひっくり返った屋根を避けて走らなければならなかった。津波の3年後であったが、富岡町の時間は津波直後のように凍りついていた。 これがその日最初のサイエンスフィクション的体験であった。世界のすべてが終末モノのハリウッド映画のセットのようにも見えた。けれども、実際にそこは終末的な場所なのだった。

高速道路に戻り、我々は福島第一原発へ向かって更に北へと進み、そこで2番目のサイエンスフィクション体験をすることになる。そこではおよそ6000人の人々が働いており、津波による発電所の被害を清掃していた。ある1日に現場に居る人の数はそれよりもはるかに少ない。放射線への継続的暴露は許可されていないからだ。我々は4つの原子炉よりも高い丘の上にある何棟かの建物に入ったが、そこも津波により直接的な被害を受けていた。すべての建物には仮設空調用パイプがあったが、緊急用の一時的設備のようにも見え、内部に居た人全員が我々と同じような軽量防護服を着用していた。屋外に居る人はそれよりもはるかに強固な防護服を着ており、フィルタ付きの呼吸マスクも含まれている。建物を出入りするたびに、精密なセキュリティゲートを通過する必要があった。そこでは身体に何らかの放射性のガレキが付着していないかをチェックするために機械の中に入るのだ。最終的に、我々はコントロールセンターに入った。ほんの数個のテーブルとその上のラップトップしかなかったが、そこからiRobot社のロボットが操作されていた。

# ロボット

福島第一原発の停止にはロボットが必須であった。今後30年以上続く廃炉作業にもロボットが必要となるだろう。iRobot社が送ったロボットはオペレーターによって制御される。オペレーターは、ロボットから返送される画像を閲覧し、ロボットがどこへ行くべきか、ガレキの山を登るべきか否かを判断し、またロボットが特定のドアを開く方法を詳細に指示するのである。以下の3枚の連続画像では、パックポット510のペアが、巨大なロータリーハンドルを使って初めてドアを開け、ドアを押し、そして先に進むのが写されている。

<img src="http://rodneybrooks.com/wp-content/uploads/2017/08/fuku4j.jpg" width="432">
<img src="http://rodneybrooks.com/wp-content/uploads/2017/08/fuku5j.jpg" width="432">
<img src="http://rodneybrooks.com/wp-content/uploads/2017/08/fuku6j.jpg" width="432">

(これらはオペレータのコンソール画面の写真である。呼吸用機器付きの防護服を着たオペレータの顔が画面に反射しているのが分かるかもしれない。) 以下の写真には、510モデルが安全に乗り越えられる比較的軽い瓦礫に遭遇したことが写されている。

<img src="http://rodneybrooks.com/wp-content/uploads/2017/08/fuku1j.jpg" width="432">

以下の写真では、710モデルが移動と放射性物質の吸引のためにセットアップされている。

<img src="http://rodneybrooks.com/wp-content/uploads/2017/08/fuku2j.jpg" width="432">

けれども、我々が福島へ送ったロボットは単なる遠隔操作マシーンではない。ロボットたちは Aware2.0 として知られる人工知能 (AI) ベースのオペレーティングシステムを搭載していた。このOSにより、ロボットは地図を作成し、最適な経路を計画し、斜面で転倒しても自力で体勢を立て直し、もしも人間のオペレーターとの通信が途絶えた場合には来た道を引き返すことができたのだ。これは、魅力的な先進的AIのようには聞こえないかもしれない。そして実際のところ、企業のラボが見せる凄いビデオや、丹念に作成された、ただ可能性の限界を示すためのアカデミックな研究室によるデモと比較すれば決して先進的とは言えない。けれども、シンプルで魅力のないことが、リアルな、乱雑な、実環境で使われるロボットに現在搭載可能なAIの本質なのである。

ちょっと待ってくれ！ この数年間にプレスリリースで見たすばらしいロボットはどうなのだ？ アルバート・アインシュタインのように見えるロボット、あるいはアメリカ中の科学博物館でショーをしているヒューマノイドロボットは？ あるいは、アメリカ大統領が日本を訪問したとき登場したロボットは？[^4] 読者はこれらのロボットを見たことがあるだろう。ヒューマノイドと同じように、多少奇妙に見える曲がった膝であるものの2本の脚で歩き、観客に向かって暗いガラス製のバイザーの後ろから会話し、時おり人々とインタラクトするようにも見え、人々から物を受け取り、それらを手で持ち、お喋りをする、など。それらのロボットは何なのか？ すべてニセモノだ！ ニセモノという意味は、実際には自律的ではないのにそうであるかのように提示されているからだ。ロボットは通常、ステージ外に居る6人程度のエンジニアチームに操作されている。そして、ステージ上にあるすべてのものは正確に、ミリメートル単位で配置されている。私はそのようなロボットが登場する前のステージに登壇したことが何度もあるが、その際にはいかなる設備にも、たとえば階段などの近くを通ったり、手を触れたりしないように警告を受けるのだ。そんなことをしたとすると、ロボットは転び、そして転んだときにも何が起きたかに気付かないだろう。

企業のマーケティング担当者はロボットを過剰に売り込んでおり、現在のロボットの本当の能力について多くの人を混乱させている。企業のマーケティング用ロボットは、福島ではまったく助けにならないだろう。

それらのロボットはリアルではない[^5]。

現実は厳しい。

# 現実

自動運転車を含むロボティクスは、人工知能 (AI) が乱雑な自然の世界と衝突する場所である。これまでのところ自然界が勝利を収めており、おそらくある程度の期間はそうであり続けるだろう。

我々はテクノロジーが100%の信頼性を持つと期待するようになった。自動車は毎朝エンジンがかかり、アクセルを踏めば前進するだろうと期待する。我々が乗る飛行機は、安全に離陸し着陸するだろうと期待する。経験を通して、遅延を我慢するとしても。インターネットは、スマートフォンにウェブページを提供してくれると期待する。我々は、冷蔵庫と電子レンジが毎日機能して、食事を食べ、生きながらえることができると期待している。

AIも100%の信頼性を提供すると期待されるようになったのは、AIに欠けている部分を自然に埋め合わせる人間の認知機能によって、多くのAIの実用的アプリケーションが仲介されているからだ。我々人間は小さな子供や高齢者に対していつもこのような仲介をしている。我々は、自分たちよりも少ない知能に対して適応するよう作られている。AIテクノロジーのほとんども我々よりはるかに知能が少ないため、我々は適応できる。

乱雑な自然界とロボットをインタラクトさせるという要求は、そのフリーパスをキャンセルする。自然界は通常、人間ではなくロボットと関わっているということを考慮しないため、自然界は適応することはない。私の考えでは、AIとロボティクスについて一般に信じられていることと、今後数十年の間の現実との間にはミスマッチが存在する。

過去40年間、私は人工知能 (また、より一般的にはコンピュータ科学) の研究グループの一員として、スタンフォード大学とMITで、学生として、ポスドク、教員 (どちらの大学でも) あるいは、最近では名誉教授として過ごしてきた。私が共同で創業した企業、iRobot社とRethink Robotics社 (そうだ、私はかつてシリコンバレーのAIソフトウェア企業の共同創業者とコンサルタントを8年間勤めた--その会社は最終的には廃業したが、次に私はロボティクスのベンチャーキャピタルも共同で創業した、などなど…) を通して、5つの異なる領域で働くロボットの多数に関わってきた--ごく少数の惑星探査ロボット、家庭で床掃除をする1000万台ものロボット、偵察や即席起爆装置処理をする数千台もの軍事用ロボット、世界中の工場内で人と隣り合って働く数千台ものロボット、そしてマニュピレーションの実験のために使われる全世界の研究室にある数百台もの実験用ロボットである。私が共同創業してきた企業は、これまでのところ、他の誰よりも多くのロボットに、多くのアプリケーション領域にAIを投入してきたと言っても過言ではないと思う。

これらのロボットは、すべてある程度のレベルのAIを備えている。けれども、一般のメディアが信じているような、またたくさんの予言者が警告しているような、AIとロボットによる緊急の危険にはわずかなりとも近付いていない。

私にはここに断絶があるように見える。

現在、我々はAIバブルの中にいると私は信じている。バブルは破裂しないかもしれないが、確実に、そう遠くない未来に収縮するだろうとも信じている。このバブルの存在により、あらゆる種類の人々にとって、短期的にAIとロボティクスについて信じられることを知るのは困難になっている。ある種の人々にとって、AIとロボティクスを取り巻く疑問は単なる知的好奇心の対象に過ぎない。別の人にとっては、自身の職業の見通しがわずか数年の間にどう変化するかについての本当の問題である。企業幹部、政府および軍の指導的立場に居る人たちにとって、AIに関する本当の約束と危険を理解することは緊張に満ちた時間である。ニュースのヘッドラインで我々が読むもののほとんど、また物理学者や天文学者を含む見当違いの善意の学者たちの意見は、私が信じるところでは完全に的を外している。

ハリウッド的なAIとロボットがどの程度の速さで実際に実現するかという議論において、私は自分自身を理性の声と見なしたいと思う。私は、AIがどれほどパワフルであるのかを理解しておらず、超知能 (それが何であれ) へ向かう行進がどれほどの速度であるのかを理解していない、年老いた分からず屋だと見られてしまうかもしれないと懸念している。私は、自動運転車が道路上で見られるようになるまでの期間についてさえ懐疑的である[^6]。そして、何度も「あなたはただ理解していないのだ」と私は言われている。

加えて、AIがすぐにどれほどパワフルになるかについて恐怖を煽っていると見なす人々に、私は批判的である。特に、我々人類は今すぐにAIに対する対応策を講じなければならないと主張されるときには。福島第一原発の周辺で私が見たことを考えると、専門家ではない人たちが簡単に理解できないテクノロジーに感じる一般的な恐怖は理解できる。けれども、本当の恐怖と想像上の恐怖でしかないものを区別してほしいと思う。

直近数年内にロボットが直面することになるという倫理的な判断に関する議論には、私は更に批判的である。確かに、アルゴリズムの動作という観点では、ロボットを配備するにあたって我々人類が多くの倫理的な判断に直面するだろうことは確かだ。けれどもそれは、ロボット自身がその場で倫理的な判断を下すことからは、遠く、遠く離れている。この先数十年には、慈悲深いAIも悪意あるAIも存在しない。これらの語に対して、AIシステムはいかなる内的な理解もしていないのだから。これは研究者の夢であり、研究目標として考える人々を批判するつもりはない。私が批判しているのは、この研究がすぐにでも実現すると考える人々、また作成が許されるAIの種類についての「規制」を議論する人々、あるいはさらに想像上の落とし穴に対する解決策を研究するような人々である。そうではなく、実際には、AIも含むテクノロジーを悪意ある目的のために使用する人々について懸念しなければならない。さらに、AIも含むテクノロジーを慈悲深い目的のために使用するよう奨励しなければならない。この観点では、AIも他のテクノロジーと変わらず、根本的な差異を生み出すところまで近付いているわけではない。

なぜ私はAIの進歩に関する議論の中で外れ値だと見なされてしまうのだろうか？ 学術界と産業界の研究所の研究者たちとの関わりのなかで、またAIを使用している良く知られた企業のC [Chief] レベルの役員との議論のなかで共通認識を得られ、また私の立場にもだいたい同意を得られた。そのことに私は勇気付けられている。このブログの読者と共有したいのは、AIとロボティクスの実用化において我々が今どこに居るのかという私の見積りの根拠、そしてなぜそれが今でも困難なのかである; ここに私が投稿する予定のいくつかのエッセイで、これらの主張を詳しく説明したいと思う。

もしかすると、今後の私のエッセイを読んだ後でも、読者は私のことを老いた分からず屋だと結論付けるかもしれない。あるいは、もしかすると現実主義者だと言うかもしれない。今後数ヶ月のうちに、これらの話題について長いエッセイを投稿するつもりである。エッセイを読んだ人は、私がAIの議論の領域のどこに位置するかを自分自身で判断できるだろう。

同時に、我々がAIとロボティクスに取り組んできた期間はたった数十年でしかない。既にAIは我々の生活に対して実際に影響を与え初めている。AIとロボティクス分野で、もっとたくさんのことが実現されるだろう。何がハイプで何がリアルであるのかを見分けられる人には、巨大なチャンスがあるはずだ。

残されたクリティカルな問題に集中し、またどの研究が最大のインパクトを与えるかを優先順位付けできる研究者たちには、巨大なチャンスがある。

AIとロボティクス分野で起業したいと望む人々、何が実用的で何がマーケットから熱狂的に受け入れられる物と一致するかを理解している人々にも、巨大なチャンスがある。将来数十年のうちに、この領域で多数の巨大な成功した会社が立ち上がってくると予期しなければなるまい。

偉大なことに挑戦したいと望む者たち、歴史に名を残す科学的貢献を成し遂げたいと願う人々には、未だ我々には理解の及ばない深淵なる問題が多数残されており、更に数人のエイダ・ラブレス、アラン・チューリング、アルバート・アインシュタインやマリー・キュリーが功績を残せるだけの空きがたっぷりと残っている。[^1]

# 傲慢と謙遜

1988年から4年間、私はパトリック・ヘンリー・ウィンストン教授と一緒に初級人工知能(AI)講座を教えていた。講座番号は、当時も今も6.034である。彼は今でもその講座を教えているが、内容には磨きがかかり続けており、現在オンライン[^7]であらゆる人が利用可能である。

当時、パトリックは初回の講義の始めにある話を語っていた。イリノイ州のピオリアで育ったパトリックは、ある時ペットのアライグマを飼っていた。他のアライグマと同じく、パトリックのアライグマも非常に器用であり、檻の中に閉じ込めておくことは難しかったという。アライグマは賢いので、本当にしっかりと鍵を掛けておかなければ扉を開ける方法を見つけてしまうのだ。パトリックは、アライグマがどれほど知的であるかを話して教室を湧かせたのだった。そして、無表情でオチを言う。「しかし、私はアライグマが自分自身のコピーを作れるほど賢いと考えたことはない。」

これは謙虚さへの忠告だった。当時も、今と同じく、途方もない約束があった。人工知能を取り巻く誇大広告とでも言えるだろう。そしてこれはパトリックによる注意書きなのだった。我々はすぐに (何かしらの指標で) 人間と同じ程度に賢い機械を構築できると考えてしまうかもしれないが、けれども、もしかすると我々はコンピュータを持った器用なアライグマ以上の存在ではないかもしれないのだ。

当時、AIは一般メディアで扱われる用語ではなく、IBMはわざわざコンピュータは思考できず人間だけが思考できると述べていた。そして、多くのコンピュータサイエンス学科でAIは適切な科目と見なされていなかった。パトリックの発言から、我々は自分自身の傲慢さに圧倒されているのではないかと考えたのだ。パトリックの考えを拡張して、超知能エイリアン (生物的であれそれ以外であれ) が高軌道から、あるいはもっと遠くから我々を観察していると想像してほしい。我々が動物園の動物を見るように、エイリアンたちが我々を見下ろしていると想像してみよう。エイリアンたちは我々の賢さに驚くものの、その限界は明らかである。「MITの小さなAIラボに居るヤツらを見てごらん。彼らはすぐに自分と同じくらい賢いものを作れるだろうと考えているが、コンピュータの力を使っても、それがどれほど複雑なのかも、彼らの小さな脳についても、何も分かっていないのだ (あぁ、ひどく間違っている！) そこへは決して到達できないだろう。私たちは人間に事実を伝えるべきだろうか、それとも、人間の小さな希望を打ち砕くのは不親切なことだろうか？ それらの人間たちは、知能の機能を理解することも開発することも絶対にできないのだと。」

それでも、今日、パトリック・ウィンストンの忠告は我々人間にとってタイムリーな警告である。我々の能力の限界について多少の謙虚さが必要とされている。AIと機械学習(ML)に対する謙虚さは、極めて供給が足りていない。一部のAI研究者、ベンチャーキャピタリスト(VC) および一部のテクノロジー産業のリーダーからの傲慢さは、高速で膨れ上がっている。しばしば、メディアは人々の注目を集める物語を作るため、傲慢さを増幅させようとすることさえある。


[^a]: 原注1 “Fast, Cheap and Out of Control: A Robot Invasion of the Solar System”, Rodney A. Brooks and Anita M. Flynn, <i>Journal of the British Interplanetary Society</i>, 42(10)478–485, October 1989.

[^book]: 原注2 <i>Flesh and Machines</i>, Rodney A. Brooks, Pantheon, New York, 2002.

[^Tadokoro]: 原注3 “<i>The Day After Fukushima</i>”, Danielle DeLatte, Space Safety Magazine, (7)7–9, Spring 2013.

[^4]: 原注4 2014年の安倍首相とオバマ大統領の首脳会談の間に、いつも通り、日本の自動車メーカーが作ったヒューマノイドロボットが登場し、大統領とインタラクトした。ロボットはサッカーボールをオバマ大統領に向かって蹴り、大統領はボールを蹴り返し、大きな賞賛を受けた。そのあと、オバマ大統領は日本の人々に向けて、そのロボットは自律的なのかそれとも舞台裏から遠隔操作されているのかと、それほど無邪気ではなく質問をした。それは教養のある知的好奇心の強い大統領 [らしい態度] だった。

[^5]: 原注5 福島第一原発の災害からの影響を受け、アメリカ国防高等研究計画局 (DARPA) は災害環境下で動作するロボットのコンペを企画した; 日本のロボティクス研究者とDARPAが大きく交流したのは初めてのことであった。コンペは2011年暮れから始まり、2015年6月5, 6日に最終戦が開催された。ロボットは半自律的で、意図的に信頼性と品質を低下させられた通信回線を使って人間のオペレータと通信する。この短い[ビデオ](https://www.youtube.com/watch?v=8P9geWwi9e0) は準優勝したチームに注目しているが、一部他のチームも写っている。このビデオを見れば2015年の最先端ロボットの概要を良く理解できるだろう。コンペ中の大失敗を抜粋したビデオは[このリンク](https://www.youtube.com/watch?v=g0TaYhjpOfo)を見てほしい。私は会場にいて、これらすべてが起こるのをリアルタイムで目撃した–それはまるでペンキが乾くのを見物するようなものであった。常時、ロボットが何か行動するまで10分から20分のインターバルがあり、その間はまったく何も起こらず、ロボットはただ立って凍りついているだけなのだ。これが、研究者チームとの部分的な通信があったとしても、乱雑な環境でロボットができることの現実である。

[^6]: 原注6 私は自動運転車について2つのブログ記事を書いた。[最初の記事](https://rodneybrooks.com/unexpected-consequences-of-self-driving-cars/)では、市街地エリアでそのような車両が歩行者とインタラクトする必要がある場合のこと、その場合に解決する必要があるたくさんの問題について書いた。[2番目の記事](https://rodneybrooks.com/edge-cases-for-self-driving-cars/)では、ブロックされた道路、一時的な駐車禁止、警察からの指示など、市街地で我々ドライバーが直面するさまざまな異常事態について語った。3番目の記事で、自動運転車がどのように都市の性質を変化させていくのかを語ろうと考えている。私は、自動運転車がこれらの問題を解決不可能であるとは思わないし、実際のところ、今日生きている多数の人々の生涯のうちに、自動運転が車の走行のデフォルトとなるだろうと信じている。けれども、学者、専門家や企業などの楽観的な予測は、的を外していると考えている。実際、現実はしのび込んできている。今月初め、フォードの新CEOは、2021年までに商用自動運転車を発売するという目標は達成不可能であると[述べた](http://fortune.com/2017/08/18/ford-hackett-2021-autonomous-vehicles/)。新たな期日は示されなかった。

[^7]: 原注7 [オンライン](http://www.artificialbrain.xyz/artificial-intelligence-complete-lectures-01-23/)で、講義番号6.034の講義は24件発見できる。特に、ニューラルネットワークとディープニューラルネットワークに関する12aと12bの講義を薦めたい。–必要な前提知識は、多変数微分の基礎だけである。2017年初めに、このパラグラフよりも少しだけ長い紹介文を[投稿](https://rodneybrooks.com/patrick-winston-explains-deep-learning/)している。

[^1]: 訳注1 ["There is plenty of room ～"](https://ja.wikipedia.org/wiki/%E3%82%BC%E3%82%A2%E3%83%BC%E3%82%BA%E3%83%BB%E3%83%97%E3%83%AC%E3%83%B3%E3%83%86%E3%82%A3%E3%83%BB%E3%82%AA%E3%83%96%E3%83%BB%E3%83%AB%E3%83%BC%E3%83%A0%E3%83%BB%E3%82%A2%E3%83%83%E3%83%88%E3%83%BB%E3%82%B6%E3%83%BB%E3%83%9C%E3%83%88%E3%83%A0) というフレーズはファインマンがナノテクノロジーを提唱した講義に由来する。