アルゴリズム化社会における技術の道徳と自由について

Tommaso Barbetta（トマゾ・バルベッタ）
東京大学大学院学際情報学府（イタリア）

本文の作成に使用したワープロソフトには今月から新たな機能がついている。入力したテキストを即時に読み取り、作成中の内容に関する論文やウェブサイト等を自動的に勧めてくれる機能である。私がキーボードで文字を打っている間にページの右の欄に、関連した様々なコンテンツが自動的に表示される。この機能の基盤となっているのは人工知能である。機械学習によって人工知能はネットで検索した言葉や書いた文章を解析し、その解析から得た知識を活かし、私のスタイルに適切だと判断したものを提案するのだ。公開されたばかりで、まだ未熟なソフトウェアであるにも関わらず、すでに細かいアドバイスができるのだ。本文自体も人工知能が提供してくれた情報を参考し書かれたものであるため、人間と人工知能の共同制作だといえるかもしれない。ソフトウェアを開発したチームの言葉でいえば、「まるで研究者、アナリストやデザイナーがすぐそばにいるようだ」。しかし、私のそばには誰もいないのだ。
近年に情報技術の普及や進歩により、人間の生活はアルゴリズムから切り離して考えられなくなっている。アルゴリズムや人工知能は様々な形で我々の日常生活に浸透し、我々の行動や意志に膨大な影響を与えている。歩んでいる道、食べているもの、聴いている音楽、読んでいるニュース、なんらかの形でこのような行為は全てアルゴリズムによって媒介されているのだ。
情報技術の浸透によって我々の生活が変貌していることが明らかであるが、具体的にどのように変わっているか、または 10 年や 20 年後に技術の更なる発展により人間の暮らしがどのようなものになるかは、まだ十分検討されていない問題である。そして、技術と接触した人間の道徳判断や行動は技術と接触していない人間とどのように異なるのか。これは現代社会において見逃してはならない問いである。本文はアルゴリズムを中
心に人間の意志を媒介する技術を道徳の観点から考察する。
少し大雑把に分ければ、「技術についての議論を巡った「常識的な」アプローチは二つある」(Verbeek 2011)。一つ目は技術を人間疎外を生むものとして捉えるアプローチである。二つ目は科学技術をただの中立的なツールとして理解するアプローチだ。極端にいえば、一つ目のアプローチを用いた思想家たちによると、技術が発展する中で元々自由だった人々は機械やシステムによって自由を奪われつつある。このような捉え方は現代社会の技術に対する恐怖感がよく反映されている一方で、機能や役割を問わず異なる人工物を全て疎外として同じ「技術」という抽象的な概念でまとめてしまいがちである。実在の技術の具体的な特徴や技術の多様性を無視してしまうことがこのアプローチの限界である。
上述したスタンスと異なり、二つ目のアプローチは自由主義思想から発生するため、個人の自由を前提とする。このアプローチによれば、技術は透明な道具に過ぎないため、その使い方や価値は自由な人間の意志によって決定されるのだ。全米ライフル協会の標語でいえば、「銃が人を殺すのではなく、人が人を殺すのだ」。良い技術と悪い技術など存在しない。悪いのは人間のほうである。
前述したように人間の自由意志はこの道具主義的な考え方の前提である。しかし、人間は実際どれほど自由で自律的な意志を持っているのか。人間の意志が完全に自律的ではないことは昔から数多くの哲学者や心理学者によって論じられている。特にフッサールが「志向性」の概念を導入して以降、哲学において意識が超越的で自律的な存在である前提が批判されるようになる。フッサールによると、意識は超越的な主観によるものではなく、必ず「客観的な」対象をもった「何かの意識」である。主観的な意識とその意識の客観的な対象は常に相互構築的な関係になっているのだ。
我々の行動や判断が常に情報技術によって媒介されている現在でこそこのような疑問をまた検討することには大きな意味がある。パソコンやスマートフォンはもちろん、街角の自動販売機、駅の改札機、コンビニのレジ、自動車のエンジン等のようなものもアルゴリズムを通して機能する。我々はアルゴリズムを用いた機械に囲まれているのだ。
この現象は 70 年代の後半から始まり、ユビキタスコンピューティングとも名付けられる。
日常生活の中で私たちが何も考えずに利用している機械は単純に受動的な存在ではない。
そのハードウェアやソフトウェアには必ずなんらかの意図がある。開発者やデザイナーは中立的なものを作ろうとするのではなく、目的を持った上で機械を設計するのだ。市場にて競争する企業の目的は利益を上昇させることである。我々が日常的に接触する多くの機械やアルゴリズムはその目的を果たすために設計されている。例えば、テレビ業界では視聴者人数と一人当たりの視聴時間が重視されている。視聴時間が長ければ長いほど、広告料による利益が大きくなる。従って、放送局の目的は「面白い番組」の製作を通じ、できるだけ数多くの人にできるだけ長い時間視聴してもらうことである。同じくウェブサイトやオンラインゲームにもユーザーの使用時間を収益化するような制度がある。Facebook のようなウェブサイトの利益は人々のアクセス頻度や使用時間によるものだ。放送メディアがある地域の住民たちに同じ番組しか提供できない一方で、ウェブサイトやオンラインソフトウェアは個人の性格や好みに適合したコンテンツを表示できるのだ。どのコンテンツをみせるかを決定するのは人ではなく、アルゴリズムである。
Facebook のようなウェブサイトを利用するたびに、私たちがいつ、どこで、何を見ているかは、アルゴリズムにより認識され、データ化される。私のスマートフォンは購入
以降、私が何時に何処にいたか、またはどの道を歩きどの店に入ったかを全て確認し、自動的に記録している。そして、インターネットを通じて私の日常生活から得た情報を他の人々の情報と合わせ、膨大なデータベースを成立させるのだ。そこにはユーザーの年齢や性別といった基本情報から好みの音楽や本まで記録されている。これらはいわゆるビッグデータと呼ばれている。ビッグデータは人間に「理解ができないほど大きい」（Weinberger 2012）情報量である。人間にはビッグデータが理解不能かもしれないが、コンピューターならどれほど膨大な情報量であっても分析は可能である。アルゴリズム
がビッグデータを統計解析し、専門家にも検討の付かない判断をするのだ。
大きくなりつつあるビッグデータを解析すれば、人々の行動を予想できるようになる。
ビッグデータ分析から、どの人が何に反応するかを理解できる。多くの IT 企業にとってビッグデータこそが最も貴重な資産になっているのはこのためである。しかし、人の行動が予想できると、その行動をコントロールできるようにもなる。ビッグデータをもとにしたマーケティング戦略を通じ、巨大な実験室にいるように企業は消費者に効果的な刺激を与え、有益な行動をさせるのだ。例えば、テレビ業界の話に戻れば、ビッグデー
タを使えば、どのようなコンテンツ、どの音楽、どのライト、どの芸人やどの台詞等によって視聴時間が長くなるかが明らかになる。今後の人気番組に必要とされるのは天才的なプロデューサーの発想ではなく、人工知能の提供したデータとなるのだろう。SF のような話にみえるかもしれないが、ストリーミング配信技術を利用するネットテレビは既にビッグデータ分析による番組製作を行っているのだ。
道徳的な問題はアルゴリズムを利用する技術自体にあるわけではない。人の命が救えるアルゴリズムもあるのだ。例えば、自動運転の台頭により交通事故のリスクが減少し、交通がしやすい環境になるだろう。問題は利益のために人の行動をコントロールするように設計されたアルゴリズムである。情報技術や行動科学の発展につれ、マーケティングが日常生活に浸透し、利益等のために我々の意志をコントロールしていく。ジル・ドゥルーズがこの状態を「管理社会」と名付けた （Deleuze 1992）。
道徳とは「どう生きていけばいいか？」という問いを検討する分野であれば、人間の行動を媒介するアルゴリズムも道徳の対象としてみるべきであろう。本文と同じように、情報技術の活躍によりこれからの社会は人間と人工知能の共同制作になっていくだろう。
モラルや自由に関わるため、新たな技術やアルゴリズムを開発する時点で道徳の観点も意識しなければならない。技術の道徳化こそが現代社会の大きな課題である。

Deleuze, Gill. (1992) “Postscript on the Societies of Control. Gilles Deleuze.”

October, Vol. 59., pp. 3-7

Verbeek, Peter-Paul (2011) Moralizing Technology: Understanding and Designing theMorality of Things

Weinberger, David. (2012) Too Big to Know: Rethinking Knowledge Now That the Facts

Aren't the Facts, Experts Are Everywhere, and the Smartest Person in the Room Is
the Room.