集中管理型AIから分散管理型AIへ
From Centralized AI to Decentralized AI

東京大学大学院情報理工学系研究科ソーシャル ICT 研究センター教授

橋田浩一

1986 年より 2001 年まで電子技術総合研究所。その間 1988 年から 1992 年まで（財）新世代コンピュータ技術開発機構に出向、2001 年から 2013 年まで産業技術総合研究所。2013 年から現職。専門は自然言語処理、認知科学、サービス科学など。日本認知科学会会長、言語処理学会会長等を歴任。

1 監視する AI

240

取った女の子は自分が妊娠していることを他人に知らせるつもりがないでしょうし、男の子の方も自分がうっか

ア メ リ カ の GAFA（Google、Apple、Facebook、り高いジャケットを買ってしまいそうなくらいそわそわAmazon）や中国の BAT（百度 Baidu、阿里巴巴集団していることを誰かに明かそうとは思っていないでしょAlibaba、騰訊 Tencent）などの巨大なテクノロジーうが、事業者がそういうことを知って消費者の行動に介企業が利用者からパーソナルデータ（PD）を無料で集入するのが監視資本主義です。

めてターゲティング広告等に使って儲けていると批判さ購買だけでなく選挙での投票などの行動も介入の対象れています（これは Apple には当てはまりませんが）。になります。2016 年 6 月にイギリスの国民投票で事業者がそのように PD を収集し分析することによりEU 離脱（ブレグジット）が決まり、11 月にアメリカ

集中管理型 AI（centralized AI; CAI）で消費者の行動の大統領選挙でトランプが当選しましたが、いずれの勝を予測し誘導するような経済システムをズボフ

者も選挙コンサルティング会社のケンブリッジ・アナリ（Zuboff, 2019）は監視資本主義と呼びます。

ティカ（CA）を使っていました。大統領選挙に対する監視資本主義においては、消費者がしばしば意図せずロシアによる介入への CA の関与をアメリカ議会が調べに提供した PD を事業者が活用して消費者の行動に介ていることが 2018 年 5 月に報道されたことに端を発入します。購買の履歴や SNS の投稿などのデータを分して、CA は不正に取得した有権者の PD を使って投票析することによって、本人も気付いてないかも知れない行動を操ったとして激しく非難され、2018 年に解散

いろいろなことが間接的にわかるからです。たとえばアしました。PD の不正な取得というのは、Facebook とメリカのスーパーマーケットの Target は、無香料の石連携するアプリが Facebook の「友達 API」を使って鹸とかカルシウムやマグネシウムのサプリメントなど利用者の友達の情報も集めていたということですが、こ25 種類ほどの商品の購買データから女性が妊娠していれはそんな API を提供していた Facebook の落度も大る確率を計算したり予定日を推測したりするアルゴリズきいですね。Facebook もそう思ったのか、この API にムを開発し、それによってある女性が妊娠していると判よるデータ収集は 2015 年以降できなくなっています。

断してベビー服やベビーベッドのクーポン券を送ったと

一方、CA は PD の分析によって有権者を多数のグルーころ、彼女の父親が「うちの娘はまだ高校生なのに妊娠プに分け、各グループに適したメッセージを送ることにを勧めてるのか ?」と言ってどなり込んで来たそうです

よって投票を操作したとされています。その方法はあま（Duhigg, 2012）。土曜日のデートを控えて金曜日にり効果がないと考える人も多いようですが、たとえ現在そわそわしている男の子に高価なジャケットを売り付け得られるデータを現在の技術で処理して大した効果がなるというようなこともできそうです。クーポン券を受けいとしても、近い将来得られるデータを近い将来の技術

で処理したら効果が大きいことは十分にあり得ます。まずに子供に介入・干渉するように、強い立場の者が弱いた、SNS が普及したせいで極端な意見が広まりやすく立場の者のためとして本人の意思を問わずに介入・干渉なっているのだとしたら、意見の伝播を操作して世論にすることをパターナリズムと言います。上記のように国影響を与えることができそうです。

家が個人の行動に介入するのは典型的なパターナリズムですね。大屋（2019）が指摘するように、習近平の戦集中管理に基づく AI による個人適応（パーソナライゼー

略はその点でマルクス主義でも毛沢東思想でもなくレーション）です。この個人適応は、商品・サービスの提供ニン主義です。知的に成長した労働者が資本家による搾を各個人に適応させるだけではなく、個人の行動を操作取に対して革命を起こすというのがマルクスの描いたシすることを含みます。そのために PD を使うのですが、ナリオだったようですが、労働者が自ずと成長すること多くの場合、各個人は自分のどんな PD がどうやってはないと悟ったレーニンは、エリートが労働者を先導し取得されどう処理されて自分にどんな介入や操作がなさて革命を成就すべきだという「前衛理論」を主張したわ

れているのかよくわかりません。個人が自律的に意思決けです。それは、農民大衆の意見に正統性の根拠を求め定し行動するという民主主義の前提が脅かされるわけでる毛沢東思想とも異なります。また、スターリン主義です。

はなくレーニン主義であるのは、暴力によるあからさま監視資本主義の本来の目的は金儲けですから、個人の自由に基づく民主主義を CAI が脅かすと言っても、そな強権政治ではなくて、デジタル技術によって洗練されたソフトな介入を行なうということでしょう。

れが権威主義政治に直結したりするわけではありませしかし、レーニン主義によって中央集権的な体制を確ん。しかし、監視資本主義によって育まれた CAI を権立し維持するには集中管理 AI によるソフトな介入だけ威主義的な統治に利用することは可能であり、それはすでは足りない場合もあります。チベットやウイグルや香で に 中 国 な ど で 行 な わ れ て い ま す。 ハ イ ル マ ン

港はソフトに介入するだけでなく暴力的に弾圧せざるを（Heilmann, 2016）は最近の中国の統治体制をデジタ得ないわけです。たとえば、中国の正式な国家統計であル・レーニン主義（digital Leninism）と呼んでいまる「中国統計年鑑」（国家統計局，2021）によれば、

すが、これは、集中管理型のデジタル技術によって社会2017 年から 2019 年にかけて、中国の他の地域では主義をアップグレードしているという意味です。

少数民族の人口がだいたい微増しているのに対し、新疆たとえば Alibaba の芝麻（ジーマ）信用は、購買やウイグル自治区だけ少数民族の人口が 1,654 万人からSNS での発言や職業や交友関係などの PD に基づいて1,490 万人に約 10% も減っており、何か尋常でない各個人を点数で評価するシステムです。その点数が高いことが起こっているようです（平野，2021）。産児制限とローンの金利が安くなったりホテルのデポジットが免なんかでは人口が 2 年で 10% も減るはずがありません。

除されたりする一方で、点数が低いと高い買い物ができヒトラーはユダヤ人を絶滅させようとしましたが、それなくなったりします。芝麻信用を含む 8 つの民間の信と同じようなことが行なわれているのかも知れません。

用サービスは中国人民銀行の支援の下で 2015 年に始ターゲティング広告で自分に合った商品やサービスがまったのですが、その支援は 2017 年に打ち切られま

簡単にわかるとしたらそれ自体は良いことでしょうし、した。それらのサービスがあまりにもうまく行って影響

信用スコアも人々のモラルを高めて社会の効率を良くし力が強まったため、その力がさらに強まるのを中国政府ている面が確かにありますから一概に悪いとは言えないが好ましく思っていないということでしょう。一方、中でしょう。しかしどう考えても虐殺や弾圧はいけません。

国政府が運用する「社会信用システム」は国家のシステ

そして、監視資本主義で使われている CAI が、そのよムですからその有効範囲はもっと広く、たとえば点数がうな蛮行のための監視だけでなく蛮行の隠蔽や正当化に悪いと飛行機に乗れなかったりします。交通違反を犯すも活用されています。さらに、権威主義国家のみならずと街頭ビジョンで晒しものになったりすることもあるよテロリストや悪徳企業による虐殺や搾取に使われる恐れうです。もあります。

父親が子供のために良かれと思って本人の意思によらこのように CAI にはさまざまなリスクがあります。

YEAR BOOK 2O21 241

3

特許情報の高度な情報処理技術

以上のように監視資本主義の技術的な基盤は PD の

ほぼあらゆる技術が使いようによっては弊害を生むわけのは、他者より本人の方が多くの PD を取得できるかですが、CAI が他の技術よりやっかいなのは、そのリスらです。たとえば Google は大量の PD を集めていまクを管理し弊害を防ごうという合意が成り立たないことすが、そのために Chrome ブラウザや Google 検索やです。公害などはどの国にとっても望ましくないので各YouTube や Google マップやポケモン GO や Google

国内での合意に基づいて法律などが整備されることによアナリティクスなどいろいろなサービスを駆使していまり減ってきました。また、世界規模の核戦争や温暖化にす。Google アナリティクスは Web サイトの利用状況

は勝者がなく、全人類が甚大な損害を被るので、それらを分析するツールで、日本の自治体なども含むいろいろを回避するために世界全体が協力し合うことが可能と考な機関の Web サイトが無料で使っていますが、そのよえられます。しかし、グローバル企業や国家による CAI

うな Web サイトへのアクセスの履歴は（Chrome 以外の活用には勝者があるので、そのリスクを共同で管理すのブラウザでアクセスしても）Google に送られます。

ることについて世界中の企業や国々が合意することはあ

しかし、そもそも PD は本人に由来するものですから、り得ません。

Google が取得するよりも本人が取得する方が技術的に個人に介入しその行動を操作する CAI は巨大な利益簡単で倫理的・法律的にも適正です。本人の情報端末やや権力を生みますが、操作される人々は意思決定の自由センサから PD を取得して本人の手もとで保管すればを失っているかも知れません。それどころか弾圧された良いわけです。さらに、たとえ GAFA や BAT でもひり虐殺されたりする人々も現にいます。そのようなこと

とつの企業が取得できる PD はいくらいろいろあるとが世界中に広がるのは何としても防がなければならない言っても範囲がかなり限られます。たとえば、Amazonと思いますが、それは可能でしょうか ?

ショッピングアプリでの購買のデータは Google にはわかりません。楽天でハチミツを買って Amazon でオ

2 懐に入る AI
集中管理型 AI（CAI）は企業や国家などの機関が運用し、個人に介入します。CAI が人権を侵す恐れが大きい

ムツを買ったら、ハチミツを買ったことを Amazon は知らず、オムツを買ったことを楽天は知りません。セン
サデータなどを暗号化してクラウドに保存したら他者にはその内容がわかりません。のは、このように AI の運用者と介入の対象が異なるかさらに、利用者本人の行動支援が PAIA の主要な役割らです。したがって、その恐れを低減させるには運用者ですが、そこではほとんどの場合 PD を他者に開示しと介入対象を一致させる必要があります。介入の対象はないので、PD を安心してフル活用できます。CAI によ

いずれにせよ個人なので、運用者と介入対象が一致する

るサービスでは PD を CAI の運用者に開示しなければということは、個人が運用する AI が本人に介入するといならないので、たとえば恥ずかしくて他人に言えない黒うことです。つまり、個人に属する AI（パーソナル AI エー

歴史みたいな PD は使いにくいわけですが、PAIA によジェント ; PAIA）が本人に介入するということです。

る行動支援にはそんな制限がありません。他者に明かせ

PAIA は利用者本人にとっても AI の提供者にとってない機微な PD は価値が高いことが多いので、CAI よも価値が大きいはずです。つまり、本人にとってより大りも PAIA による行動支援の方がその点でも価値が高いきな価値を生み、したがって市場メカニズムにより、事と考えられます。下図のように、PAIA は利用者本人の業 者 に も CAI よ り 大 き な 収 益 を も た ら す で し ょ う。

誕生前から死後にわたる広い意味での人生において、本PAIA が CAI よりも付加価値が高いのは、CAI よりも人の多様な PD を駆使して本人を支援し、また本人の多くの PD をフル活用して利用者本人に介入できるか行動変容を促してその人生をより良いものにするためのらです。CAI はいくつかの点で個人のことを本人よりも行動の最適化を図ることになるでしょう。

良く理解するでしょうが、PAIA の方が CAI よりもはるかに良く本人のことを理解し、したがって本人の行動に深く介入できるはずです。
PAIA が CAI よりも多くの PD を使うことができる

242

本人に集約された PD をフル活用し、その PD を原則として他者に開示せずプライバシーを守りながら本人を支援することによって、PAIA は CAI よりも個人の行動に深くキメ細かく介入することができます。一般に、置き換えることはできそうだということです。
しかし、さらに少し考えてみると、PAIA が CAI よ個人サービス（個人が提供者または受容者として直接関りも個人の行動に深くキメ細かく介入できるということ与するサービス）の価値が高まりますから、PAIA によは、人間の自律性を侵すリスクも PAIA の方が大きいとる支援は最も価値の高い個人サービスと言えるでしょいうことです。PAIA は利用者本人の PD をフル活用しう。その価値は基本的にはサービス受容者本人にとってて本人に介入しますから、本人にとって最高のサービスの価値ですが、それが高ければ、市場メカニズムによりを提供できるだけでなく、本人に対して最悪の害をなすPAIA を開発・提供する企業の収益も大きいはずです。

こともできるわけです。多くの技術がそうであるようにPAIA の方が CAI よりも儲かることに気付けば、企CAI も PAIA も両刃の剣であり、実は PAIA の方が鋭業は CAI による監視資本主義的な事業から PAIA によ利な両刃の剣なのです。PAIA のメリットを損なわないる事業に移行するでしょう。たとえば Amazon はこれような、しかし厳格なガバナンスが必要です。

まで自社のクラウドの中で CAI による推薦の計算を行なった結果を利用者に示して購買を促してきたわけです

参考文献

が、その代わりに Amazon が商品のカタログを作り、Charles Duhigg（2012）How Companies Learn

利用者の PAIA がそのカタログをダウンロードして利用

Your Secrets. The New York Times Magazine.

者端末の中でマッチングを行なった結果を利用者に示

h t t p s : / / w w w . n y t i m e s . c o m / 2 012 / 0 2 /19 /す、ということになります。CAI を動かすための情報シ

magazine/shopping-habits.html

ステムと PAIA を動かすための情報システムはかなり異なるので、その移行は容易ではありませんが、移行によって Amazon の事業は大幅に拡大するでしょう。
企業が CAI から PAIA に移行しても、非民主的な政治体制を指向する国々が CAI を捨てて PAIA を採用す

国家统计局（2021）中国统计年鉴 . http://www.
stats.gov.cn/tjsj/ndsj/
Sebastian Heilmann（2016）Leninism
Upgraded: Xi Jinping’s Authoritarian Innovations.
China Economic Quarterly, 20（4）15‐22

ることはあまり期待できません。しかしそのような国々

平野 聡（2021）これぞ動かぬ証拠〝新疆ジェノサ

は、中国、ロシア、北朝鮮、ミャンマー、ベネズエラなイド〟示した中国統計年鍳．https://wedge.ismedia.

どせいぜい十数か国です。多くの発展途上国にとって民jp/articles/-/21994

主主義か権威主義かよりも経済の方がはるかに重要です
から、CAI より PAIA の方が儲かるとなれば、わざわ
ざ権威主義を選ぶ理由はないですね。

大屋 雄裕（2019）個人信用スコアの社会的意義 .
情報通信政策研究，2（2）, 15-26.
Shoshana Zuboff（2019）The Age of Surveillance

したがって、CAI が人権や民主主義を脅かす弊害はCapitalism: The Fight for a Human Future at the

PAIA の普及によって最小限に止めることができると考New Frontier of Power. New York: PublicAffairs.

えられます。CAI を使わないようにしようという国際的ISBN 9781610395694. OCLC 1049577294.

な合意は成り立ちませんが、もっと付加価値が高く民主（邦訳 : 野中 香方子（2021）監視資本主義 : 人類の未主義と相性が良いと期待される PAIA によって CAI を来を賭けた闘い . 東洋経済新聞社）

YEAR BOOK 2O21 243

3

特許情報の高度な情報処理技術

サービス受容者本人の行動に深く介入することによって