AIの脅威はAIではない。独裁者と企業によるデータの独占こそが脅威だ。


![jonathan-harrison-578506-unsplash.jpg](https://qiita-image-store.s3.amazonaws.com/0/124978/5aa1c1fa-1fc0-17eb-317c-e7e80a8a16d2.jpeg)


現在、戦後体制を支えてきたリベラルな世界観が挑戦されています。

自由民主主義（リベラリズム）な世界観を共有しない中国の覇権が拡大し、そうした思想、価値観を世界中に広めてきた（良い意味でも、悪い意味でも）アメリカやイギリスでは反グローバリゼーション、反貿易、反移民といった鬱積がトランプ現象、ブレクジット（BREXIT）というかたちで噴出し、それどころではなくなってきています。

私達はリベラリズムこそが唯一の信じるべき価値観であり、そのもとで、すべての人たちが個人の幸せを追求し、そのことで社会全体も豊かになっていくことができるのだと思ってきたわけです。

ところが、現実は1％の人たちへのさらなる富の集中、経済のシリコンバレーへの世界的な一極集中、AIによる知的労働をふくめた自動化、毎日のように世界の何処かで起きている異常気象、挙げ句のはてには、最近のWeekly Updateでも取り上げましたが、全米規模でのオピオイド中毒の蔓延など、多くの人々の間には怒り、恐怖、そして絶望感が広まっていっています。

オックスフォード大学の歴史の教授でもあるYuval Noah Harariは「21 Lessons for the 21st Century 」という本の中で、現在のAIとバイオに関する技術的なブレイクスルーによる革命的な変化がこうした状況をさらに悪くしていると言います。

これは人間がAIに支配されるというSF物語に出てくるような問題としてではなく、すでに現実の世界で起きている、既存の独裁体制や独占的な企業群がAIを使って力をさらに増大させているという問題としてです。

現在のような先がどうなるかわからない混沌とした状況に必要なのは、より多くの情報ではなく、クラリティ（明快な視点）です。この本は何も関係のなさそうな点と点を結びつける線をAIやテクノロジーの進化を軸に描きだすことで、そのクラリティを与えてくれます。

これからの30年、社会がどうなっていくのかを考えるいいきっかけになるので、英語が問題ない方はぜひ手にとっていただきたいと思います。

今日は、その著者であるHarariがThe Atlanticというメディアに本の紹介を兼ねたエッセイを寄せていたので、こちらに紹介したいと思います。本文は長いので一部を抜粋したものの訳となっております。

以下、抜粋の訳

---

**Why Technology Favors Tyranny** - [リンク](https://www.theatlantic.com/magazine/archive/2018/10/yuval-noah-harari-technology-tyranny/568330/)

AIは民主主義の実質的な優位性を消し去り、自由と平等という理想を侵食してしまうことができます。もし私達が何も行動をとらなければ、すでに力ある少数のエリートがさらなる力を持ってしまうことになるでしょう。

## 使いものにならない階級

マシーン（機械）が人々を労働市場から追い出してしまうことに対する恐怖というのは何も新しいものではなく、いつの時代にもありました。そして過去にはそうした恐怖が実現することは結局はなかったのです。しかし、AIはこれまでの古いマシーンとは違います。昔のマシーンは人間の身体的なスキルと競争したものでした。しかし現在のマシーンは人間の知的なスキルと競争し始めているのです。そして、身体的なスキル、知的なスキル以外で、人間がマシーンに対してこの先いつも優れているだろうという第３のスキルというものは存在しません。

少なくともこの先数十年は、多くの分野で人間の知能の方がコンピュータの知能よりも、はるかに優れているでしょう。なので、コンピュータは繰り返しの多い知能的な仕事をすることにとどまり、人間が行う新しいクリエイティブな仕事がこれからもどんどん出てくることでしょう。

こうした新しいタイプの仕事の多くは人間とコンピューターが競争すると言うよりは協力することで効果を発揮するでしょう。人間とAIが協力するチームは、人間だけのチームより優れた仕事ができるだけでなく、コンピューターだけが行う場合よりも優れた仕事をすることができるのです。

<略>

AIは人間らしくない能力を発揮することができます。人間には真似のできない2つの重要な能力として、コネクティビティ（接続する能力）とアップデータビリティ（更新する能力）を挙げることができます。

WHOが新たな病気を認識したり、実験室が新しい薬を生産したとき、世界中の医者にすぐにそうした情報を届けることができません。しかし、この医者がAIだった場合、それが例え1億あったとしても、一秒もかからずに全てのAIドクターをアップデートすることが可能で、アップデートが終われば全てのAIドクターは新しい病気や薬の評価に関してお互いにコミュニケーションをとることができすようになります。

こうしたコネクティビティやアップデータビリティによる潜在的な利益というのは遥かに大きいので、ものによっては、仕事のワークフローに関わる人達を全てコンピューターで置き換えてしまったほうがいいかもしれません。その中の何人かの個人はコンピューターよりも優れた仕事ができるとしてもです。

<略>

自動化の革命は、革命後には労働市場は新しい均衡状態になるというような、一つの決定的なイベントがあるだけではありません。むしろ、より大きな破壊的なイベントが継続的に起こっていくでしょう。古い仕事は消え、新しい仕事が生まれます。しかし、その新しい仕事はものすごい速さで変化した上で最後には消えていきます。人々は再トレーニング、そして自分を再構築し直す必要があるのですが、それは一回だけではなく、何回も必要になるのです。

２０世紀の政府が若い人たちのために大きな教育システムを構築したように、２１世紀の政府は大人のために大きな教育システムを作る必要があります。しかし、それは十分なのでしょうか。変化はいつもストレスなものです。２１世紀の初頭の不安定な世界は、グローバルに拡散するストレスを生み出しました。これから仕事がさらに不安定になっていくと、人々は対処していくことができるのでしょうか。

２０５０年までに、使い物にならない階級（useless class）というのが現れるかもしれません。仕事が足りないとか関連のある教育が十分でないせいでもあるのですが、それと同時に、多くの人が新しいスキルを学び続けるために必要な精神的なスタミナを持てないせいでもあるのです。

## デジタル独裁制の勃興

AIは多くの人を恐れさせます。なぜなら、私達はAIがいつまでも従順でいると信じることができないからです。SF物語はコンピューターやロボットが意識を身につける可能性を描きます。そして、一度意識を身につけると、すぐに全ての人を殺しはじめるというわけです。

しかし、AIがもっとスマートになるからといって、そのことがAIが意識を身につけると信じる理由は特にありません。それよりも私達が恐れるべきなのは、人間というマスターにいつも従順で、絶対に反抗しないということでしょう。AIはこれまで人間が作ったどんなものとも違うタイプのツールであり武器なのです。すでにパワフルなものがさらにパワフルになるということは確実に起こるでしょう。

例えば監視ということを考えてみましょう。民主国家を含め多くの国が今までに見たことのないような規模で監視システムの構築に励んでいます。例えば、イスラエルは監視テクノロジーの世界ではリーダー的な存在ですが、完全な監視体制のためのプロトタイプをヨルダン川西岸地区に作り上げ、それは現在、実際に稼働しています。

今日、パレスチナ人が電話をかけたり、Facebookに投稿したり、一つの街から別の街へ移動したりするときはいつでもイスラエルのマイク、カメラ、ドローン、スパイ・ソフトウェアによってモニターされています。集められたデータはアルゴリズムによって分析され、イスラエルの安全保障軍が脅威の対象がどこにあるのかを突き止め、対処するために使われます。パレスチナ人はヨルダン川西岸地区のいくつかの町や村を支配しているかもしれませんが、イスラエル人は空、電波、そしてサイバースペースを支配しているのです。これによって、少数のイスラエルの軍人がヨルダン川西岸地区に住む250万ほどいるパレスチナの住民を効果的に管理するのを可能としています。

一つの例として、2017年の10月、あるパレスチナ人の労働者が彼のFacebookのプライベートなアカウントに、仕事場でブルドーザーの横に写った自分の写真を投稿しました。’おはよう’というメッセージと共に。このとき、Facebookの翻訳アルゴリスムはアラビア語の文字の認識において小さな間違いを犯しました。’Ysabechhum’（Good Morning/おはよう）のかわりに、そのアルゴリズムは’Ydbachhum’（Hurt them/彼らを傷つけろ）と認識してしまったのです。イスラエルの安全保障軍は、この男がブルドーザーを使って人をひき殺そうとしていると疑い、速攻で逮捕することになってしまいました。その後、アルゴリズムが間違いを犯したことに気づきその男を釈放することになるのですが、彼のFacebookの投稿は消去されたままです。気をつけすぎてもそれが十分であることはないという例です。

今日、パレスチナ人がヨルダン川西岸地区で経験していることは、世界中の何億にものぼる人たちがこれから経験することの予告編なのかもしれません。

北朝鮮の現体制がこうしたテクノロジーのさらに進化したものを手にしたときのことを考えてみてください。北朝鮮の人たちは彼らが行うことや話すこと、さらには血圧や脳波などをモニターするためのバイオメトリクスのブレスレットを身につけることを強制されるかもしれません。人間の脳の理解が進み、機械学習の巨大な力を使えるようになると、北朝鮮の政府はそれぞれの市民が何を考えているのか、いつでもどこにいてもわかるようになるのです。もし北朝鮮人が金正恩の写真を見たときに、バイオメトリクスのセンサーが怒りのサインを少しでも掴み取ったのなら、（血圧が上がるとか、扁桃体の活動が活発になるなど）その人は次の日は強制収容所にいることになるかもしれません。

選択の自由、投票の自由といったものはいくつかの国では残り続けるでしょう、例え一般市民が実際に影響を及ぼす力がどんどんなくなっていったとしても。もちろん、投票する人たちの心理に影響を与えようとする試み自体は、特に新しいものではありません。しかし、一度だれかが（サンフランシスコや北京やモスクワでしょうか）確実に、低いコストで、大規模に人の心を操るための技術的な能力を獲得したなら、民主政治はただのパペット・ショー（操り人形）となってしまうでしょう。

これからの数十年の間に感情をもったコンピューターの反乱を目にすることはないでしょう。しかしそのかわりに私達の母親以上に私達の感情のボタンを押す（イライラさせる）ことが得意な、たくさんのボットに対処していかなくてはいけなくなります。それらは一部の人間の要求を満たすために、私達に何かを売りつけようとします。それは車かもしれないし、特定の政治家であるかもしれないし、もしくはイデオロギーであるかもしれません。

ボットは私達の持つ最も深い恐怖を認識し、ほじくり出し、そしてそれを私達の利益に反する形で利用します。すでに私達は最近の世界中の選挙でこれを経験しています。ハッカーは、それぞれの投票者個人に関するデータを分析し、人々が持つ偏見を利用することで彼らを操る方法を学んだのです。

AI革命が与える最も大きく、最も恐ろしい影響とは、民主主義体制と独裁体制のどちらがより効率的なのかに関してなのかもしれません。歴史を振り返ると、専制主義はイノベーションや経済成長に関して不利でした。20世紀後半には、民主主義体制は独裁体制よりも大抵の場合で優れた結果を出しました。なぜなら、民主主義体制というのは情報の処理に関して圧倒的に優れていたからです。

私達は民主主義と独裁という2つの体制の違いを倫理的な違いだと捉えがちですが、実際はデータを処理するためのシステムの違いと捉えるべきなのです。民主主義は情報を処理するための力を分散し、多くの人や組織に意思決定をさせます。一方、独裁体制は情報と力を一箇所に集めます。

20世紀のテクノロジーでは、情報と力を一箇所に集中させるだけでは十分ではありませんでした。というのも、だれもそうして集められたデータをすばやく処理することができず、そうしたデータを使って正しい意思決定を行うことができなかったのですから。ソビエトがアメリカに比べてものすごくひどい意思決定を行い、ソビエトの経済がアメリカの経済に比べてかなり遅れていたのは、このせいです。

しかし、AIがまもなくこの流れを変えることになるかもしれません。AIは大量のデータを中央で処理することを可能にします。中央集権的なシステムは分散システムに比べてもっと効率的かもしれません。分析するための情報がもっとあることで、機械学習はより高い性能を発揮します。

プライバシーに関する懸念から１００万人の人に関する情報の一部をあなたのデータベースに管理していた場合よりも、プライバシーを無視して、１億人の人に関する情報を一つのデータベースに入れることができた場合のほうが、もっとすぐれたアルゴリズムを作ることができるのです。

全ての市民にDNAをスキャンさせ、医療データを提供させることのできる独裁政府は、医療データのプライバシーが守られきびしく管理されている社会に比べて、遺伝、医療の研究の分野でとてつもない競争優位を持つことになります。

## マシーンへの権威の移転

このプロセスは私達の肉体的な能力、例えば場所を探し回るなどといったことにも影響を与えてきました。人々はGoogleに情報を見つけだすのを要求するだけでなく、道先を案内することも要求します。自動運転とAIドクターはこのトレンドの最たるものです。こうしたイノベーションはトラック運転手や人間の医者を仕事場から追い出すことだけが問題なのではありません。権威と責任が私達人間からマシーンへ移転するということこそが真の問題なのです。

私達人間は人生というものを意思決定のドラマだと考えてきました。リベラルな民主主義、自由市場主義は個人をいつも自分で自分の世界を選択することができる自主的なエージェントだととらえてきました。

シェークスピアにしろ、ジェーン・オースティンにしろ、安物のハリウッドコメディであろうといつもヒーローがいくつかの重要な意思決定を行い、そのまわりにストーリーを展開していくものです。やるべきなのか、やらないべきなのか。（To be or not to be?）私の妻のいうことを聞いてダンカン王を殺すべきなのか、自分の良心に従い彼を許すべきなのか。コリンズ氏と結婚すべきか、それともダーシー氏か、という具合です。

キリスト教やイスラム教の教えも同じく意思決定にフォーカスしています。永遠の救いというのは私達が正しい選択をするかどうかにかかっているというわけです。

ところが、私達のためにより多くの意思決定を行うAIに私達が頼ってしまうと、こうした仮定はどうなってしまうのでしょうか。すでに、今日、私達は映画を選ぶのにNetflixに頼り、音楽を選ぶのにSpotifyに頼っています。AIに頼るのをここで止めるという理由がどこにあるのでしょうか。

そう遠くない将来にAIが私達のキャリアに関して、または人間関係に関してすら、私達が行うよりもましな意思決定が行えるようになるでしょう。しかし、一度、何を勉強して、どこで働いて、誰と付き合って、さらには結婚するといったことまでAIに頼るようになってしまうということは、人間の生活が意思決定のドラマから手を引いてしまうということを意味し、それは私達の人生の意味が変わってしまうことを意味するのです。

民主的な選挙や自由市場は意味をなさなくなってしまいます。ほとんどの宗教やアートにしても同じことです。

アンナ・カレーニナがスマートフォンを取り出して、カレニンと結婚し続けるべきか、ヴロンスキー伯爵と駆け落ちすべきかSiriに尋ねる姿を想像してみてください。もしくは、あなたのお気に入りのシェークスピアの劇で、全ての重要な意思決定がGoogleのアルゴリズムによって行われるのを想像してみてください。ハムレットとマクベスはもっと快適な人生を送るのでしょうが、それはいったいどんな人生だというのでしょうか。そんな人生のもつ意味をみつけだすようなモデルというのはあるのでしょうか。

議会や政治の党は、こうしたチャレンジを克服し、暗いシナリオを防ぐことができるでしょうか。現在の状況を見る限りそうとは思えません。テクノロジーによる破壊的な変化というのは政治の議題にも上っていません。

2016年のアメリカの大統領選挙では破壊的なテクノロジーに関する言及はヒラリー・クリントンのemailの扱いにおける惨めな失敗に関するものだけでした。失業に関する話がたくさん出ているにもかかわらず、どちらの候補者も自動化が与える影響を正面から立ち向かって議題にすることはありませんでした。

ドナルド・トランプはメキシコ人が彼らの仕事を奪っていると有権者に警告し、アメリカの南の国境に壁を作るべきだと主張しました。彼はアルゴリズムが彼らの仕事を奪うという事態に警鈴を鳴らすことはありませんでしたし、カリフォルニアのまわりにファイアー・ウォール（ウォール：壁）を作るべきと提案することもありませんでした。

## どうやって解決するのか

**人間の心への投資**

人間の心がどう機能するか、特に私達の知恵と思いやりがどう育まれるのかを理解することを何よりも最優先させるべきです。AIにばっかり投資して、人間の心の育成にほとんど投資しなければ、とても洗練された人工的な知能を持つコンピューターが、人間が生まれもった間抜けな部分をより強化することになってしまい、衝動、強欲、憎しみといった私達人間が持つネガティブな面をさらに育むために使われることになってしまいます。

こうしたことを防ぐためにも、AIの進展のために投資されるのと同じお金と同じ時間を人間の意識の探索と育成に対しても投資するべきです。

**データの独占と所有に関する規制**

もし私達が全ての富と力をほんの僅かのエリートたちに握られたくないのであれば、現実的に急いで行わなければいけないのは、データの所有に関する規制です。

はるか昔、土地は最も重要な資産で、政治は土地を管理するのに苦労したものです。近代では、機械や工場が土地よりも重要になり、生産手段として欠かせないこうしたものを管理することに政治は苦労したものです。21世紀は、データが土地や機械よりも重要な資産となるので、政治はデータの流れを管理することに苦労することになるでしょう。

残念ながら、私達はデータの所有の規制についての経験がほとんどありません。それは土地や機械の規制に比べて遥かに難しい仕事となるでしょう。データはあらゆるところにあって、絶えず動いているものです。その動きは光と同じ速さです。そしてあなたはそうしたデータのコピーをいくらでも好きなだけ作ることができるのです。さらにデータと言ったとき、それは私のDNAに関するものでしょうか、それとも私の脳、もしくは私の人生に関するものでしょうか。そしてそうしたデータというのは政府に属するべきでしょうか、それとも企業、もしくは特定の集団でしょうか。

データをどんどんと貯めていくための競争はすでに始まっています。それはGoogleやFacebook、中国であれば、BaiduやTencentなどが先を行っています。これまでのところそうした企業は「注意力を売買するもの」として活動してきました。情報、サービス、エンターテイメントなどを無料で提供することで私達のアテンション（注意力）をつかみ、そのアテンションを広告主に売るわけです。しかし彼らの本当のビジネスはただたんに広告を売ることにとどまりません。そのかわりに、私達のアテンションを掴むことで、私達に関する膨大な量のデータを収集していくことができるのです。それは広告による収益よりもっと価値があります。私達は彼らにとっての顧客ではありません。私達は彼らのプロダクトなのです。

普通の人たちにとって、こうしたプロセスに抵抗するのは難しいでしょう。私達の多くは現在、私達の貴重な資産である個人データを、無料のEmailサービスや面白い猫のビデオを見るために喜んで差し出します。もし、後になって、普通の人がこのデータの流れを止めようとしても、それは難しいでしょう。とういのも、彼らは、自分の健康や肉体的な生存に関する事も含め、ありとあらゆる意思決定をそうしたネットワークに頼るようになってしまったのですから。

政府によるデータの国営化は一つの解決策です。それはたしかに大企業の力をそぐことにはなるでしょう。しかし、私達の生活が巨大な力を持った政府の手にあるほうがよかった試しがないというのは、歴史を見ると明らかです。

そこで、科学者、哲学者、法律家、さらには詩人などを巻き込んでこの大きな質問に答えるための議論をもっとしていかなくてはいけません。データの所有の法制化をどうおこなっていけばいいのかということです。

このままでは、人間は飼いならされた動物のようになってしまう危険があります。私達は牛を大量のミルクを生産するためのおとなしい家畜にしました。そうした牛はもともといた野生の牛と比べたら非常に劣っています。あまり敏捷性がなく、他にできることもたいしてないのです。私達は今、家畜人間を作り上げているところです。彼らは大量のデータを生産し、大きなデータ処理のメカニズムの中で効率的に計算処理を行うことができます。しかし、こうしてできあがった人間は、自分たちの持つ可能性を最大化することはありません。気をつけないと、ダウングレードした人間がアップグレードしたコンピューターを使うということになってしまい、このことが自分たち自身を、または世界を大混乱に陥れることになってしまいます。

もしあなたがこうした予測が危険であると思うのなら、つまりデジダルな独裁体制のもとで生活したくないというのであれば、大量のデータが少数の手に集中的にわたってしまう事態を防ぐことこそが、最も重要であなたも貢献できることです。

また、私達はデータの集中処理のかわりに、データの分散処理の仕組みを考えるべきです。これらは簡単なことではありません。しかし、これをやり抜くことが、民主主義を守るための最高の手段となるのです。

---

以上、訳終わり。

どうだったでしょうか。考えさせることが多かったのではないでしょうか。

最後に一点ほど。

AIの自動化により多くの仕事が奪われてしまうということで、労働者の再トレーニング、再教育が必要だというのはよく言われていることです。

* アメリカは未来の仕事にどう備えているのか？by Jay Shambaugh - [Link](https://medium.com/未来の仕事/アメリカは未来の仕事にどう備えているのか-by-jay-shambaugh-cbd273be72)
* 未来の仕事にどう備えるか  by 元アメリカ財務長官 - [Link](https://medium.com/@kanaugust/未来の仕事にどう備えるか-by-元アメリカ財務長官-be2e3c7935ee)

しかし、こうしたトレーニングは何か一発で終わってしまうと捉えがちです。大学や専門学校、または公認会計士などのように何かを資格をとってしまえばいいといったかたちです。

しかし、本文にもありましたが、これからの仕事は絶えず変わっていくでしょう。そしてそれによって必要とされるスキルも絶えず変わっていくのでしょう。つまり、大げさに言うと、「昨日勉強したことは明日には役に立たなくなっている」ということです。

こうした時には、ある特定のスキルを絶えず磨き上げていくことも重要ですが、それ以上に重要なのは、クリティカルに考えアナリティカルにデータを使って問題を解決していく力だと思います。大学のように誰かが問題を設定してくれて、それを解決するための方法を学ぶために誰かが作ったカリキュラムに沿って学んでいく時代から、自分で問題を設定して、それを解決するために必要なものを自分で探し出し、効率的に学んでいく時代の始まりです。

アーティストとデザイナーの違いは、アーティストは問題を定義する人で、デザイナーは問題を解決する人だとすると、ある意味、これから私達にはもっとアーティストのようなマインドセットをもつことが要求されていくと思います。これこそが、人間が得意とすることなのです。

ちなみに、この問題をしっかりと定義できるかどうかが、多くのデータサイエンス、またはデータ分析プロジェクトの成否の分かれ目でもあります。

---

# Exploratory社主催セミナー in 東京

来月、10月20日水曜日に、”[AI時代のビジネスリーダーに求められる思考力「アナリティカル・シンキング」とは](https://ja.exploratory.io/data-academy?utm_campaign=ai_tiranny&utm_medium=blog&utm_source=qiita)”というテーマのセミナーを開催します。

シリコンバレーと東京のデータ先進企業での事例も織り交ぜながら、AI/データサイエンスを使ってビジネス上の問題を解決していきたい方、この分野での人材育成に課題をお持ちの方達に役立つ情報を共有させていただきます。[こちらのホームページ](https://ja.exploratory.io/data-academy?utm_campaign=ai_tiranny&utm_medium=blog&utm_source=qiita)に詳しい情報がありますので是非参加してみて下さい。