社会情報学

第８巻２号

2019

研究

予測アルゴリズムに基づく与信管理の功罪―ライフチャ
ンスへの影響とその対策の有効性の検討を中心に―
The merits and demerits of credit risk management based on
prediction algorithms: Focusing on the impact on life opportunities
and the effectiveness of countermeasures
キーワード：
予測アルゴリズム，ビッグデータ，ライフチャンス，プロファイリング
keyword：

Prediction Algorithms, Big data, Life Opportunities, Profiling

首都大学東京堀

内進之介

Tokyo Metropolitan University Shinnosuke HORIUCHI

要

約
ビッグデータを解析する情報処理技術の高度化を背景に，評価対象の動向を合理的な精度で予測する

アルゴリズムの開発が進んでいる。金融分野では，FinanceとTechnologyを融合させた〈FinTech〉と総称される企業やサービスが，この技術によって顧客の与信管理を自動化したことで，多くの人びとが金融サービスにアクセス可能になった。治安維持や司法の現場でもビッグデータを解析し，将来，誰が被害者や加害者となる蓋然性が高いかを評価する予測アルゴリズムの導入が進んでおり，犯罪予測や予測的ポリシングが常態化しつつある。予測アルゴリズムは多くの恩恵をもたらしているが，他方では，さまざまな人間活動や決定がビッグデータを基にした予測によって影響を受け始めており，自由な活動
や決定を委縮させる可能性が増している。
そこで，本稿では〈ビッグデータによる予測〉の実態を，特に与信管理との関係を中心にケーススタ
ディとして考察する。この考察では，まず個人のライフチャンスへの影響について，いくつかの事例を原稿受付：2019年３月５日
掲載決定：2019年６月17日

169

予測アルゴリズムに基づく与信管理の功罪―ライフチャンスへの影響とその対策の有効性の検討を中心に―

堀内進之介

取り上げ，それらに共通すると思われる諸問題を整理・検討する。その上で，それら諸問題に関する個
人的および社会的な対策にはどのような課題があるかを明らかにする。そして最後に，諸問題の是正には既存の対策に加え，特に何が検討されるべきか，その論点を提示する。
Abstract
Along with the advance of information processing technology for analyzing big data,
development of algorithms for predicting future behaviors of evaluated subjects with reasonableprecision is accelerating. With this technology, companies and services collectively called“FinTech,” which integrate finance and technology, have been automating credit risk management
for customers, thereby enabling access to financial services for many people. Predictive algorithms
for analyzing big data are being introduced into the scenes of public order-maintenance andjustice; predictive algorithm-based evaluation of who is likely to become a victim or a perpetrator
in the future, as well as crime prediction and predictive policing are gradually becoming anormality. While big data-based predictive algorithms have provided a number of benefits, on theother hand, they have also started to impact various human activities and decisions, and thepossibility of diminution of free activities and free decisions is growing.
Therefore, this paper considers the actual situation of prediction that is based on big data, as acase study, especially in relation to credit risk management. Through that consideration, I would
like to clarify: firstly, what is the impact of information technology supporting credit risk
management on an individual’s life opportunities; secondly, what kinds of measures have beentaken against such impact; and thirdly, whether such measures have come to be effective.

170社会情報学

１

第８巻２号

2019

始めている」と指摘している。

はじめに

そこで，本稿では〈ビッグデータによる予測〉

2000年代の初頭には，情報技術の飛躍的な高の実態を，特に与信管理との関係を中心にケース度化と普及の中で，私たち個々人は生身の身体をスタディとして考察する。この考察では，まず個喪失し，行動・購買・閲覧などの履歴情報の集合

人のライフチャンス（2）への影響について，いくつ体，すなわちパーソナルデータ（以下，PDという）かの事例を取り上げ，それらに関連する諸問題をとして把握され，管理されるようになるとの見通

整理・検討する。その上で，それら諸問題に関すし（Deleuze 1992, Lyon 2001）は，すでに現実る個人的および社会的な対策にはどのような課題的なものであった。

があるかを明らかにする。そして最後に，諸問題

この現実は，
悲観的に評価されただけではなく，
その後の10年足らずの間に肯定的にも語られるの是正には既存の対策に加え，特に何が検討されるべきか，その論点を提示する。

ようになった。事実，2011年に世界経済フォー
ラムがまとめたレポートでは，公的機関や民間組

1.1

考察の目的と関心について

織のデータベースに集積された「PDは新しい石考察を始める前に，補助線を引く意味で，本稿

油，つまり21世紀の価値ある石油」であると述の目的と関心について述べておきたい。本稿は，

べ ら れ て い る（World Economic Forum 2011:

与信管理との関係を中心に〈ビッグデータによる

5）。そして，さらに10年近くが経過した現在，予測〉が惹起しうる諸問題に対して，後述する既PDは，政治，経済，文化など多方面での利用が存の個人的および社会的な対策には，どのような模索されており，それらを分析対象とする技術や課題があるかを明らかにし，何が検討されるべきサービスは，日常の生活環境を構成する必須の要かを論じることを目的としている。換言すれば，素になりつつある。

既存の対策の有効性を判断することが目指されてこの間の情報技術の高度化によって，たとえばいる。しかしながら，ここに言う有効性の判断は，近年のレコメンデーションシステム開発に見られ既存の対策がどの程度生じた問題を範疇に収める

る通り，PDは，諸個人の選好を把握するのみな

ことに成功しているか，あるいは生じた問題にどらず，プロファイリング を通じて——改正個人

れほど対処しうるかといったことを直接考察する

情報保護法における要配慮個人情報に該当すことによって為されるのではない。つまり，既存る——私秘的な事柄を含めた状態や履歴を推知しの対策の，生じた問題それ自体に対する対処能力

うる資源として，マーケティングや与信管理のたを吟味するのではない。各国の対策の有効性が，めに活用されるに至っている（堀内 2018，山問題それ自体に対する対処能力の意味で理解され本 2016）。

る場合には，その吟味は，具体的な制度だけでな

（1）

4

4

4

4

4

4

4

4

4

4

このような近年の動向は，Richards and Kingく，国ごとの法文化や慣習など制度的背景も考慮（2014: 393）によれば，産業革命に匹敵するイに入れた分析が必要であろう。けれども，そのよ

ンパクトを有し，それゆえに〈ビッグデータ革命〉

うな分析によっても把握しがたい問題がある。本と呼びうるものであるという。そして，彼らは，

稿は，この問題に照準する。では，その問題とは

この革命の下で「デート，ショッピング，医療，

何か。

投票行動，法執行，テロ対策，サイバーセキュリ

第二節での指摘を先取りすれば，それは，〈ビッティを含む，ありとあらゆる人間活動および決定

グデータによる予測〉が惹起しうる諸問題の中にが，ビッグデータによる予測によって影響を受けは，問題に巻き込まれる当人ですら，問題が生じ

171

予測アルゴリズムに基づく与信管理の功罪―ライフチャンスへの影響とその対策の有効性の検討を中心に―

堀内進之介ていることを容易には把握できないものがあるとの人格（以下，ペルソナという）を，つまりPDいうことである。与信において，〈ビッグデータ

を分析対象として評価が為されるのである。

による予測〉
やその運用が不当な評価を下しても，ところで，後者の意味での与信管理は，前者よ当人がその評価が不当であるという事実を知り得

りもはるかに難度が高いものであった。
というのも，

ない場合には，いくら既存の対策が生じた問題そWeb上の行為者は，ときに実際の年齢や性別，選れ自体に対する対処能力を持ち得ていても，その好などを偽り，オフラインとは異なるWeb上のア

恩恵に与ろうとする動機そのものが生じ得ない。

イデンティティを構築して，複数のペルソナを使本稿が，次節での考察を通じて，既存の対策が抱い分けるからである（Kendall 1998，森尾 2009）。

える課題として指摘するのは，この点である。

しかし，近年，①PDの集積としてのビッグデー

それゆえ，本稿の関心は，既存の対策の対処能

タと，②プロファイリングなどの高度な情報処理力を吟味するよりも，〈ビッグデータによる予測〉技術や，評価対象の動向を予測するアルゴリズム

によって，人びとが実生活において，どのようなの開発（以下，これらを与信管理技術という）に選択肢や機会を得られ，あるいは奪われているのよって，ペルソナに対する与信管理も合理的な精かを考察するということにある。こうした目的と度で行えるようになってきた。後述するように，関心に基づき，第二節では，〈ビッグデータによ2008年以降の金融分野での〈FinTech〉の台頭は，る予測〉による正と負の影響を考察し，とりわけ与信管理技術が実現したものである。そして現在，負の影響の中心部分，つまり負の影響は，問題の与信管理技術は，Joh（2014: 37）が「警察によ

把握自体が容易ではないことを確認する。
そして，る捜査に次の劇的変化をもたらしうるものであ

第三節では，既存の個人的な対策と，社会的な対る」と論じるように，商取引にとどまらず，他分策が——事例として取り上げるニューヨーク市議

野にも大きな影響を与え始めている。そこで，次会が可決した条例を除いて——負の影響の中心部

節では，与信管理技術が個人のライフチャンスに分に対して有効なものとなっていないことを論与える影響について，特に金融と治安維持をケー

じ，一つの参照されるべきモデルとして，上記のススタディとして検討する。

条例が十分に機能するためには，さらに何が検討されるべきかを論じる。

2.1

金融分野における与信管理技術

与信管理技術の急速な普及によって，金融分野

２

では産業構造の変革が進んでいる。「金融業は，

ライフチャンスへの影響

もともと情報サービス産業の性格を持ち，IT と与信管理は，一般的には，商取引において取引の親和性が高い分野である」（淵田 2015: 8）が，可否や取引の規模を考える際に，取引先の与信状

ICT媒体の普及や与信管理技術の開発によって，況を評価することを意味する。しかし，Web利用

金融業界では，FinanceとTechnologyを融合させの拡大を背景に，いまではWebサービスの供与者

た〈FinTech〉と総称される企業やサービスが，（3）

や利用者自身の信頼性（trustworthiness） を評

近年，急速に台頭してきている。

価することも与信管理として見なしうる。とはい

たとえば，世界最大級の投資銀行Goldman Sachs

え，従来の商取引における与信管理と，Webに関社は，Digital Reasoning社が開発した自然言語

連するそれとは次の点で異なっている。
すなわち，処理技術によって，インサイダー取引などの不正前者では，基本的に実名の取引先を直接的に評価行為に当たる行動パタンを発見し，迅速に調査をするのに対して，後者では多くの場合，データ上開始できる仕組みを構築しつつ（八山 2017: 10），172社会情報学

第８巻２号

2019

機械学習機能を持つ取引アルゴリズムを用いた株によって，かつては容易にアクセスできなかった取引や通貨取引の自動化を進めている（Byrnes

事柄にも，多くの人びとが手軽にアクセスできる

2017: para.7-9）。米国の銀行最大手のJPMorgan

ようになってきた。しかし，この事実は裏を返せ

Chase社も，商業融資に関する契約内容を自動的ば，以前よりも遥かに広い範囲でかつ多くのデーに解釈・審査する情報処理システムを導入していタが，与信管理技術の評価対象になったというこるほか（Son 2017），顧客の過去の取引履歴などとでもある。そして現在，このような与信管理技を分析し，最適な商品やサービスを即座に提示す術は，行政分野においても，特に治安維持に関しるレコメンデーションシステムの運用を開始してて，積極的に活用され始めている（Joh 2014:

いる（Noonan 2017: para.2-3）。

42-55）。

このように既存の金融機関では与信管理技術の一般に，犯罪予測（crime prediction）ないし導入が進んでいるが，それは専ら日常業務の効率は予測的ポリシング（predictive policing）と呼化を目的としたものである。他方，新興の金融機

ばれるものがそれに当たる。これまでにも，たと関では，多くの場合，その導入は新規顧客の開拓

えばニューヨーク市警が導入した戦略管理システのために為される。たとえば，1994年にバージニム（CompStat）のように，過去の犯罪データをア州に設立されたCapital One社は，与信管理技

収集・分析することで，犯罪者の標的となる確率（4）術を用いた質の高いサービス を提供することの高い〈場所〉を特定する技術は存在した。しかで，現在，6500万以上の顧客口座を有する巨大なし，Johによると，近年では予測ポリシングは，金融機関に急成長を遂げている（八山 2017: 6）。

過去の犯罪データ以外のデータ，たとえば自動車

与信管理技術が個人のライフチャンスに与えるのナンバープレートを識別する監視カメラの履歴影響を検討する上で，〈FinTech〉が注目に値す

データなどを取り込むことで，「犯罪アナリスト

るのは，それによって，これまで金融サービスをには為し得ない仕方で，人・物・場所の関連性を利用できないか，あるいは利用を制限されていた明らかにする情報を生成し，警察がリアルタイム〈金融マイノリティ（the unbanked）〉と呼びうにそうした情報にアクセスすることを可能にしてる人びとも，金融サービスを積極的に利用できるいる」（Joh 2014: 49）。

ようになったということである。李（2015）によ実際，シカゴ警察では与信管理技術を用いて，れば，世界最大の人口を擁し，激しい経済格差の将来，犯罪者や被害者となる蓋然性の高い人びと

ある中国でも，中国最大手の電子商取引企業アリをリスト（Heat List）にまとめ，その人びとに対ババ・グループを筆頭に〈FinTech〉が登場した

して，犯罪リスクを警告したり，職業訓練や住宅

ことで，低所得者層や若年層などの金融マイノリ供給などの社会的サービスについて告知したりす

ティが金融サービスを利用できるようになり，そる活動を行っている（Gorner 2013，山本 2015:の結果，中国ではWeb上の第三者決済や投資理

325-326）。また，ある報道によれば，特定の人

財商品の取扱額が，近年，激増しているという。

物が重罪を犯す可能性を，性別，目や肌の色，交

資金調達や資産運用を必要としながらも，その機通違反や軽犯罪を犯した回数，刺青の有無といっ会に恵まれなかった人びとからすれば，与信管理た個人情報を分析対象としつつ，合理的な精度を技術は多くの便益をもたらすものだと言えよう。

もって予測するアルゴリズムが，すでに開発されているという（Robertson 2013: para.4）
。この種

2.2

治安維持に関わる与信管理技術の〈人〉を対象とする予測的ポリシングは，飛行〈FinTech〉の事例が示す通り，与信管理技術

機への搭乗者管理に用いる“No Fly List”（Zarsky173

予測アルゴリズムに基づく与信管理の功罪―ライフチャンスへの影響とその対策の有効性の検討を中心に―

堀内進之介

2013: 1515）や，居住者の市民権管理のためのう。しかしながら，これらのメリットのために，“No Citizenship List”，移民の労働資格管理を

与信管理技術を手放しに評価できるかと言えば，行う“No Work List”および選挙権管理を効率

けっしてそうではない。以下で論じるように，事化する“No Vote List”の作成などでも活用が指例からは与信管理技術には，少なくとも〈運用に摘されている（Hu 2016: 1763-1770）。

おける問題〉と〈既存の差別的慣行に起因する問

さらに，この技術は，司法の現場でも活用が始題〉という，二種類の負の影響が生じていること（5）

まっている。アメリカの一部の州 では，再犯予が伺え，それらはライフチャンスに深刻な影響を（6）測システム（COMPAS） が，刑事裁判中の被告与える可能性がある。しかるに，以下ではこれら人に関する犯罪歴，雇用状況，教育レベル，家族の問題を検討する。

の犯罪歴，信条を含む130以上の情報を分析し，再犯リスクを10段階で評価している。そして，

2.3.1

その評価結果は，裁判官が判決の参考として用い

与信管理技術の運用における問題

クレジットカードの信用格付けシステム（creditている。

scoring systems）をはじめとして，与信管理技

これらの事例が示す通り，治安維持に関わる与術を用いた評価システムでは，通常，統計上の中

信管理技術は，分析対象となるデータが増加し，央値や平均スコアが何であるか，どのようなアル

情報処理技術も高度化したことで——米国が入国

ゴリズムが用いられているかは，信用調査機関等管理に導入した“Automated Targeting System-

によって秘匿されている。そのため，評価対象者

Persons: ATS-P”（Zarsky 2013: 1515）や「顔認は，評価を上げる／下げる行動とはどのようなも証技術」のように——犯罪歴のある人物や不審なのかを知ることができないのである。このことが，行動をする人物を集団の中に発見するために活用

次のような問題を惹起している。

されるのみならず，犯罪とは縁がないと思われる

Marwick（2014: 5）によれば，日々の摂取カ

人びとの中で，あるいは刑事裁判中の被告人の中ロリーや睡眠時間を記録するアプリが収集したで，将来，誰が犯罪者や被害者という形で犯罪にPDは，アプリ利用者にとっては健康管理のため関与する可能性があるのかを予測するためにも，であっても，そのPDが保険会社の評価システム活用され始めているのである。

によって利用される時には，アプリ利用者に知らされないまま，健康保険料が引き上げられる原因

2.3

与信管理技術のライフチャンスへの影響の一つになることがあるという。同様に，Citron

このような与信管理技術の利用状況を踏まえて，

and Pasquale（2014: 5）は，たとえばジェネリッ

以下では，それが個人のライフチャンスにどのよ

ク薬品を購入するといった経済的な節約の努力

うな正ないし負の影響を与えうるかを検討する。

が，信用調査機関の評価システムによって財政難

金融分野では，
与信管理技術を核とする〈FinTech〉と誤って評価される場合には，理由を知らされなの台頭によって，低所得者や若年層を含む多様な

いまま，ローンの金利が上昇する可能性があると人びとが，各種の金融サービスを手軽に利用でき指摘している。

るようになってきている。治安維持でも，与信管

これらの問題が生じる原因としては，先述の通理技術によって犯罪発生率や検挙率が向上したほり，評価対象者が評価を上げる／下げる行動とはか，事前の注意喚起が為される等，与信管理技術

どのようなものかを知り得ないこと，つまり評価が個人のライフチャンスに与えるメリットは大きシステムが不透明であることが挙げられる。評価いと言える。これらは概して正の影響だと言えよ

システムの不透明性により，たとえ誤った評価が174社会情報学

第８巻２号

2019

為されていても，評価対象者がその事実を容易に就労形態をリスクと見なし，
渡り労働者（migratory

は把握し得ず，したがって，それをただす機会もworker）や低賃金労働者の信用スコアを低く見積

容易には持ち得ない状況が生まれているのである。

もる傾向がある。それゆえ，不安定な就労を強い問題の所在を把握し得ず，ただす機会を得難いられる人びとの大多数が人種的マイノリティであ

状況はこれだけではない。評価システムが複数存る場合，信用格付けシステムや運用者に差別的な在する場合にも，同様の問題が生じている。たと意図が無くても，結果的に，これらの人びとに差えば，米国消費者連盟（CFA）および全米信用報

別的効果をもたらすことになるのである（Citron

告協会（NCRA）が，50万件を超える消費者のand Pasquale 2014: 13-14）。

信用スコアを調査した結果によれば，消費者の同様の問題は，上述のATS-Pや顔認証技術でも生29％がある信用調査機関と別の信用調査機関とじている。Garvieら（2016: Findings & Scorecard,の間で少なくとも50ポイントも異なる信用スコ

RACIAL BIAS）が行った調査によれば，米国国アを有し，４％は100ポイントの開きがあった。

土安全保障省（DHS）が入国管理に用いている

そして，金融機関は，複数の信用調査機関による顔認証システムは，逮捕率の人種格差が反映され異なった信用スコアがある場合，リスク回避のたたことで，黒人を要注意人物として評価する確率

めに消費者に最も不利な信用スコアを採用する傾が高くなっていたのである。さらに悪いことに，向があったと指摘している（Carter et al 2006:

顔認証システムの予測アルゴリズムは，いったん41）。消費者に不利な評価結果を意図的に選択し，要注意人物として黒人を評価すると，その人物がそれを基に高い金利を設定していた点で，そうし無実であっても，要注意人物として評価されたとた金融機関は，公正・公平を大きく損なうものでいう事実自体を学習し，上述の黒人に対する差別ある。しかし，評価システムの不透明性と同様に，的効果を助長する〈負のスパイラル〉を生じさせ消費者が独力でその事実をつかみ，異議申し立てる可能性もあったという（7）。

することは，問題の所在を知り得ぬゆえに，ほと

これらの事例からは，与信管理が与信管理技術

んど不可能だと思われる。

に基づくようになるにつれ，既存の差別的効果がこうした事例に見られる問題は，評価結果を採助長されたり，あるいは，たった一度の失敗によっ用する上での，運用者側の恣意性に起因するものて，その後の個人のライフチャンスに深刻な影響だと言える。不透明性や恣意性に起因するこれらが生じたりする可能性が，現実味を帯びてきていの問題は，何れも評価対象者とは無関連の，評価ることが伺える。それゆえ，Havard（2011: 260-

システムの〈運用上の問題〉である。

275）は，こうした事情を踏まえて，信用格付けなどに用いられる予測アルゴリズムは，既存の差

2.3.2

既存の差別的慣行に起因する問題

別的な慣行を排除するというよりも，それらを意

与信管理技術に関わる問題は，信用調査機関や識されない仕方で体系化しつつ，正当化さえしう

金融機関による恣意的な運用に起因するもののほ

るものであると指摘している。

かに，運用者の意図とは無関係に生じる問題もあ

上記の問題は，〈既存の差別的慣行に起因するる。そうした問題は，
評価システムが依拠するデー問題〉だということができるが，この問題もまたタに既存の差別的慣行が反映されることによって〈運用上の問題〉と同じく，評価対象者には，問生じている。その意味では，この問題は，評価対題の所在を容易にはつかめず，解決の糸口を見出象者と独立したものではなく，関連した問題であすのが困難な問題だと言えよう。

る。たとえば，信用格付けシステムは，不安定な

175

予測アルゴリズムに基づく与信管理の功罪―ライフチャンスへの影響とその対策の有効性の検討を中心に―

３

堀内進之介

ロッパや米国における社会的な対策とを事例に，現状の対策とその課題についての検討

有効性についての検討を進めることにしたい。

与信管理技術が惹起しうるこれらの問題（以下，与信問題という）に対して，目下，どのような対

3.1

個人的な対策とその課題策が取られており，それらはどの程度有効なのだ

中国では，当局主導の〈社会信用システム〉のろうか。この点を検討するに当たり，ここでも，導入が進行中である（国务院：2014）。これに先いくつかの事例を取り上げてみたい。その際，本駆けて，アリババ・グループ傘下にある芝麻信用

稿が注目するのは，法的な整備が進められているなどの民間企業が，信用格付けシステムをサービ

場合，すなわち，社会的な対策が講じられている

スとして展開しており，そうしたサービスはすで

場合と，それが不完全な場合，個人的な対策を必に生活インフラの一部になっている。当局は，民要とする場合での違いである。以下で検討する論

間企業の実績を取り込む可能性が高く（9），そのた点を先取りして詳述すれば，ここに言う社会的なめ社会信用システムが惹起しうる問題は，芝麻信

対策とは，①与信管理技術によって問題が生じた

用などの民間企業が展開する信用格付けシステム

場合，個人が法的に問題を解決するための諸権利をめぐる問題と，基本的には同様になると考えらの付与および，それらの権利に基づく異議申し立れる。それゆえ，ここでは，芝麻信用が展開するてを踏まえ問題を調査し，必要とあれば制裁を課

信用格付けシステムをめぐる問題を取り上げる。

す枠組みと，②個人の異議申し立てを必ずしも必芝麻信用は，第三者決済と電子マネー（Alipay）

要とせずに，第三者が与信管理技術によるPDのの運営が主たる業務で，信用格付けシステムはそ処理を監査する枠組みの二つを意味している。

うした業務に付随するサービスの一つである。芝

前者①に関しては，先ごろ施行されたEUデータ

麻信用では，信用格付けを含むサービスを「信用保護規則，いわゆるGDPR（European Parliament

生活」と呼ぶ（芝麻信用 2015）。信用生活では，

and Council 2016）を取り上げ，後者②に関して

アリババ・グループが運営するECプラットフォー

は，2017年にニューヨーク市議会が可決した市当ムを通じて収集されたPDや金融貸出情報などを

局による差別的なアルゴリズムの使用を禁止する

基に，予測アルゴリズムが①年齢や学歴や職業な条例（The New York City Council 2017）を取どの属性（身份特质），②支払いの能力（履约能力），り上げる。理由の第一は，これらには与信管理技③クレジットカードの返済履歴をふくむ信用履歴術の弊害に対処するという明確な目的があること， （信用历史），④SNSなどでの交流関係（人脈関係），
第二は，上記の通り，GDPRとニューヨーク市の⑤趣味嗜好や生活での行動（行为偏好）の５つの条例では，方法論に大きな違いがあることによる。

要素を評価し，個人の社会的な信用度（芝麻分）

また，ここに言う個人的な対策とは，上記の社を350点から950点の範囲で得点化する。そして会的な対策の恩恵に与ることなしに，人びとが個「芝麻分の得点が高いほど，ユーザーはより効率別に試みている実践を意味する。こうした実践に的でより良いサービスをうることができる」仕組

関しては，中国の事例を取り上げる。その理由は，みになっている（芝麻信用 2015）。実際，信用中国では，信用格付けシステムの国家単位での導生活では高得点者は多くの特典を享受できる（10）。

入が進んでいる反面，社会的な対策が不十分（8）でしかし，他方で，たとえば入院によって公共料金あるために，人びとは個別に対策を模索しているの支払に行けず，支払期限を一時的に超過してしからである。

まうなど，故意でなくとも過失の累積により得点

以下では，中国での個人的な対策の現状と，ヨーを失うと，ライフチャンスは大きく制限されるこ

176

社会情報学

第８巻２号

2019

とになる（Josh and Wong 2016）。さらに，信を超えた社会的な対策が不可欠であると言えよう。

用生活では，評価の項目に交友関係が含まれてお

それでは，社会的な対策は，どのようなものであり，評価基準も不透明であることから，仮に低得るべきだろうか。Citron and Pasquale（2014: 26-

点者との交友が評価対象に影響すると臆断される

27）は，それは，与信管理技術それ自体や運用なら，低得点者は社会的な排除の対象となる可能

面での透明性を確保する〈技術的なデュープロセ

性がある。それゆえ，中国では，得点の向上がすス（technological due process）〉の確立，すなでに死活問題になっている。実際，中国では，得

わち，私たちの誰もが自分自身に関するすべての点を上げるための攻略法がSNS上で盛んに情報交

データにアクセスでき，理想的には与信管理技術

換され，支払期日の厳守は言うに及ばず，本人のそれ自体も公的な検閲に開かれうる手続の整備で信条や価値観に関わりなく積極的に寄付を行うなあるべきだと論じている。確かに，第二節で見た

ど，高得点につながると噂される活動が手当たり事例からすれば，不当な評価に異議申し立てする

次第に試されており，PDを意図的に上書きして，にも，問題の所在を知らねばならず，そのために高得点を得られるペルソナを構築することが個人

は，評価の手続きが可視化されている必要がある的な対策として実践されているのである（山谷剛ように思われる。

史 2015）。

しかしながら，Citronらの提案にも，いくつか

しかしながら，このような対策は，評価対象者の看過できない問題がある。一つ目は，中国の現を品行方正にして「社会全体の誠実性と信用度を状が示唆する問題である。現在の中国で，仮に与向上させる」（国务院 2014: para.1）という，当信管理技術の詳細が公開されれば，どのようなこ

局の統治目的には適っても，与信問題の根本的なとが起きるだろうか。噂に過ぎない情報であって解決に寄与しないことは明らかである。
なぜなら，もそれに基づき試行錯誤をしていることからすれ

中国で個人的な対策として試みられているのは，ば，与信管理技術の詳細を公開することは，高得

4

4

4

4

4

既存の評価システムや評価体制を前提とした，高点を目指してペルソナを上書きする個人的な対策

得点をうるための不確かな実践でしかないからでに拍車をかけ，却って〈逆適応〉を加速させる事ある。そうした実践は，運用者側の恣意性に起因態を招くことが予想される。

する〈運用上の問題〉や〈既存の差別的慣行に起二つ目は，より普遍的な問題である。それは，因する問題〉を何ら解決するものではない。その技術的なデュープロセスにより，誰もが自分自身意味で，このような形での攻略法の探求は，むしに関するデータにアクセスできるようになったとろ Winnerが〈逆適応〉と呼ぶ過程，すなわち「技しても，個人単位で，データやアルゴリズムに問術的手段に適合するように，物事が作り変えられ題がないかを常に監査するのは負担が大きく，能ていく」過程でしかないだろう（Winner 1986

力の面でも現実的ではないということである（11）。

= 2000: 279）。

以上の点に鑑みれば，与信問題に関しては，手中国の事例を鑑みるにしても，あるいは既存の続きの透明性を〈どのように〉確保するかだけで評価システムや評価体制の改革・善用を求める何なく，それを〈誰に〉与えるかも重要な論点であらかの個人的な働きかけを試みるにしても，上述

ると言え，社会的な対策を実効性のあるものにすしたように，
与信問題はそもそも評価対象者には，る上で，看過できない論点であると思われる。

問題の所在ですら容易にはつかめない問題である
故に，個人的な対策には限界があり，根本解決に

3.2

は寄与しがたいと思われる。その意味では，個人

社会的な対策とその課題

先ごろヨーロッパで施行されたGDPRも，先述

177

予測アルゴリズムに基づく与信管理の功罪―ライフチャンスへの影響とその対策の有効性の検討を中心に―

堀内進之介の論点に関しては同様の問題を抱えている。それる社会的な対策には，少なくとも二つの問題があはどういうことか。GDPRは，私たちをデータ主ると言える。一つは，問題が生じているか否かさ

体（Data Subject）と規定した上で，「自動処理

え容易に把握できない場合には，個人が異議申し（12）のみに基づいて重要な決定を下されない権利」

立てをする機会や動機を持ち得ない故に，この社や「いつでもPDの処理に異議を申し立てる権利」

会的な対策が法的に諸問題を解決しうるほどに整を認め，データ主体の基本的権利と自由を保護す備されていたとしても，有効に機能し得ない可能る考えを打ち出している（European Parliament性があるということである。もう一つは，個人がand Council 2016: Article 21-21）。PDの取得に異議申し立てできる機会や動機を持ち得るよう際して，個人の明示的な同意を必要とすることや，に，与信管理技術に対する技術的なデュープロセ

それを撤回しうるデータ主体の権利（Rights ofスを導入しても，個人がデータやアルゴリズムに

the data subject）が明確にされていることも特問題がないかを監査し続けるのは，負担の面でも，徴の一つであろう。

能力の面でも現実的ではないということである。

このようなGDPRが仮に中国でも適用されれこれらの点を踏まえ，データ主体としての基本

ば，信用格付けシステムによってライフチャンス

的権利や基本的人権を擁護する観点に立つならを制限された人びとは，その苦境を覆しうる大きば，私たち個々人の権利侵害や尊厳毀損の自覚のな可能性を手に入れることになるだろう。その意

有無にかかわらず —— つまりデータ主体の親告

味では，GDPRは有効な対策たり得ているように（Complaint）に基づき不正なPDの処理が調査見える。しかしながら，ライフチャンスが制限さされる仕組みではない形で——与信問題に対処可れるのではなく，むしろ拡大したと感じている人

能な社会的な対策を講じる必要があると言えるのびと，すなわち高得点者に関してはどうであろう。

ではなかろうか。

彼ら／彼女らにしても，データ主体としての権利

そのような社会的な対策，つまりデータ主体のや人格の尊厳が損なわれる可能性は同様である。

親告を必ずしも必要としない形での対策に関して

しかし，そのような高得点者が，信用格付けシス

は，どのようなものが考えられるだろうか。それ

テムに異議申し立てを行う蓋然性はいかほどであを考えるには，米国での試みが一つの参照点になろう。報道によれば，信用生活がリリースされてるだろう。

から数か月以内のうちに，高得点であることはス

ニューヨーク市議会は，2017年12月に市当局

テータスシンボルになったという（Botsman 2017:

による差別的なアルゴリズムの使用を禁止する米

para.15）。こうした実情に鑑みれば，高得点者が国初の条例を可決した。この条例では，タスク

異議申し立ての主体となる蓋然性はけっして高くフォースが予測アルゴリズムの公平性や妥当性をないように思われる。さらに，優遇される高得点精査することが規定されている（The New York者にとっても，不当な扱いを受ける低得点者にCity Council 2017）。条例の原案では，技術的なとっても，評価システムの不透明性や，その運用

デュープロセスの一環として，監査対象となった上の恣意性などにより，異議申し立て自体が得点

与信管理技術のソフトウェアコードを一般公開すの低下につながる可能性が残る場合には，GDPRることが含まれていたが，法執行機関や企業の反が規定する異議申し立ての権利も机上の空論にな対もあり，タスクフォースを設置する案へと変更りかねない。

された（Zima 2018: para.14）。この変更は，行以上を要するに，与信問題に対しては，GDPR

政や企業の思惑を反映する妥協の産物であるが，のような個人的な異議申し立てを法的に可能にす

結果的に，個人的な負担を軽減するのにも貢献し178

社会情報学

第８巻２号

2019

ている。すなわち，与信管理技術の運用者でも，警察部門が監視能力を拡大する新技術を導入する

利用者でもなく，機密保持義務を有する第三者機

前に，一般市民がそれを承認するか否かを判断で関が分析対象のビッグデータやプログラムコード

きるように，新技術の詳細を明らかにする積極的などを精査し，問題があれば是正を勧告する仕組な役割を，地方自治体は果たすべきだと論じている。

みは，評価システムの機密を開示したくない行政

しかし，こうした主張には，与信管理技術の目

や企業の運用者と，監査の負担に耐え切れない利的を損なうとの理由で，批判が寄せられている。

用者の双方に配慮しながら，前者の国家安全保障

予測の仕方が明らかになれば，予測が回避され，に関する機密情報や知的財産権を保護しつつ，後問題行動が維持ないし助長される可能性があるか者の利益をも保護するものとして，評価できるよらである（Harcourt 2007）。実際には，予測アうに思われる。繰り返せば，この仕組みは，評価

ルゴリズムは学習しながら常に更新されていく動システムの透明性を〈どのように〉確保するかと的モデルであるから，予測回避は容易ではないが，いう論点と，それを〈誰に〉与えるかという論点

それでも中国で〈逆適応〉が生じているように，の双方に貢献するものだと考えられる。

試行錯誤がされる可能性はある。むしろ透明性の確保，つまり民主的アプローチがより深刻な問題

3.3 〈どのように〉，そして〈誰に〉という視座となるのは，それが与信問題を助長する場合であ

このように，与信問題に対する，上記の第三者る。予測アルゴリズムは相関関係を求めるに過ぎ

機関を中心とする仕組みを高く評価する意義，そないが，透明性の確保によりその内実を知った一して後述する，この仕組みに対する追加的な論点

般市民は，誤って因果関係として理解し，偏見をの意味を，若干ながら先行研究との関係でも確認

科学の名の下に強化することが懸念されるのであしておきたい。その際，中心となるのは，やはりる（Zarsky 2013: 1560-1563）。
これらの指摘は，透明性を〈誰に〉与えるかと透明性を〈誰に〉与えるかという視座である。
これまでにも述べたように，
与信問題の焦点は，いう視座の重要性を示している。期待に反して，不当な扱いを受ける当人ですら，その事実を容易

与信管理技術の内実を，一般市民に開示したり，に把握できないということである。それ故，既存共同構築したりしようとする民主的な試みは，負の対策の対処能力を強化する以上に，与信管理技

荷が高いだけでなく，ときに有害になる可能性が術の透明性をどのように確保するかも議論されてある。しかるに，与信問題それ自体は広く理解さきた。そして同時に，与信問題を生じかねない予れるとしても，与信管理技術の理解や取り扱いは

測アルゴリズムが秘匿されているのは，「民主的

高度な専門知を要すると言える。この点において，なプロセスからあまりにも遠く離れている」（CitronZarsky（2013）の示唆は重要である。彼は，民2007: 1312）として，その恩恵や弊害を被る評

主的アプローチに基づく透明性の確保は逆説を招

価対象者に，予測アルゴリズムは原則的に開かれく可能性があること，因果関係を特定する試みはるべきであるとも主張されてきた。例えばCitron

避けられるべきこと，さらに，予測アルゴリズムの（2007: 1312）は，予測アルゴリズムの原則的開発は，監査可能性に照らして人間が理解可能なな公開はもちろん，公聴会の開催やオープンソー

レベルに留めるように義務付けられるべきであるこ

スコードの使用を義務付けるなど，一般市民がそとを論じているからである（Zarsky 2013: 1566）。

の構築に参加できるようにする民主的アプローチ

ニューヨーク市のタスクフォースは妥協の産物も模索すべきだと述べている。透明性と説明責任でありながら，しかし，これら先行研究に照らしの確保については，Joh（2014: 41）も同様に，ても，とりわけ透明性を〈誰に〉与えるかという179

予測アルゴリズムに基づく与信管理の功罪―ライフチャンスへの影響とその対策の有効性の検討を中心に―

視座において，民主的アプローチの困難を回避し

堀内進之介

れる。

ている点で，一定程度評価できることが分かるだ
ろう。ただし，この第三者機関による監査の仕組
みが，〈どのように〉に関して一層の実効性を持ち，かつ首尾よく機能するには，さらに次の二点を考

４

おわりに

本稿では，与信管理技術の功罪について，特に慮することが不可欠であろう。

金融と治安維持に関する具体事例を取り上げながその第一は，第三者機関が技術や法の専門家だら，与信問題とその対応策の有効性を検討してきけではなく，倫理，政策，社会問題などに精通した。検討を通じて，与信管理技術は，個人のライた専門家も含んだものになることである。なぜな

フチャンスを拡大する可能性がある反面，評価シら，既存の差別的な慣行に起因するような，評価

ステムの不透明性や運用者側の恣意性によって，システムの運用者の意図に還元されない問題に対評価対象者が不当に評価される場合があること，処するには，運用者の信頼性（trustworthiness）

そして，評価システムが既存の差別的慣行を反映

や技術作動面での信頼性（reliability）だけではしたデータに依拠している場合があるほか，そのなく，評価システムのベースとなる情報の信頼性

データに基づく評価を評価システムが更に学習し（credibility）
を評価することも必須だからである。

てしまうことで，差別を助長する可能性があるこ

その第二は，コストと強制力に関わることであとなど，ライフチャンスを制限する可能性もあるる。第三者機関に原則限るとはいえ，透明性をもことを示した。そして，その可能性に対する現状

たらすには，与信管理技術の開発と活用実態に関の対策には，いくつかの課題があることを論じた。

する広範な調査が必要になり，そのコストは社会

すなわち，個人的な対応は，〈逆適応〉につなが負うものとして相当な額になる可能性がある。

がる可能性があるほか，監査や異議申し立てにか

しかるに，その軽減のためには，行政機関や民間

かわる個人的な負担の大きさに鑑みれば，必ずし企業に与信管理技術の開発や活用を明らかにするも有効とは言えないことを示した。そのため，個義務を負わせうる——上述のタスクフォースには人的な異議申し立てを法的に可能にする社会的なそれがない——何らかの法的な整備を進めること対策としてのGDPRも，個人的な負担の大きさにが必要である。そして，第三者機関の設置も費用関して同様の問題を抱えていること，そして，何を要することから，その負担を意義あるものにすより問題が生じているか否かさえ容易には把握しるには，実効性と妥当性を重視しつつ，第三者機得ない与信問題に対しては，データ主体の権利を

関による是正要求は，勧告に留まらず法的な強制

実際に行使しうる可能性が制限される故に，この力を持つべきであるように思われる。

ような社会的な対策は，必ずしも有効なものとは与信問題に対しては，与信管理技術を一般市民なり得ないことを論じた（13）。それゆえ，本稿では，に開示するという意味での民主的アプローチの困

こうした点に鑑み，与信管理技術から個人のライ難が多少なりとも論じられる限りは，〈どのよう

フチャンスを守り，なおかつ私たちの権利や尊厳に〉以上に，〈誰に〉という視座も含めた対策がを擁護するには，与信問題に対処する法的な強制講じられる必要がある。ニューヨーク市の事例の力を持つ第三者機関が必要であること，そして，

ように妥協的かつ偶発的に現れた事例にも学びつ

与信管理技術の開発や活用の申告を義務付ける法

つ，上記で示唆したような追加的な論点を吟味し律の整備も必要であることを示した。

ながら，より一層計画的に，第三者機関による監このような社会的な対策は，当然，日本にも必査と是正の仕組みが講じられていくことが期待さ要なものである。けれども，日本では，それ以上180社会情報学

第８巻２号

2019

の，あるいは以外の対応も必要になると思われる。

（２）本稿では，「社会構造によって付与される

それはどうしてか。日本では，改正個人情報保護

個人の発展のための可能性」を意味するも法が与信問題に対応するための法律であると言えのとする（Dahrendorf 1979）。

るが，個人情報保護委員会が「推知情報にとどま（３）本稿における信頼性に関する三つの区別

る場合は，要配慮個人情報には該当しない」（個（trustworthiness, credibility, reliability）

人情報保護委員会 2018: Q3-9）との見解を示しは，加藤ほか（2006）を参照したものでているために，仮に，与信管理技術が要配慮個人ある。

情報を推知し，
それに基づいて当人を評価しても，（４）報道によれば，Capital One社は，与信管実害が及ばないか，あるいは実害を認識し異議申理技術によって顧客ごとの債務不履行に陥仕立てしない限りは，評価対象者が保護されないるリスクを割り出し，そのリスクに見合っ状況が続いているからである。与信管理技術が高た金利及び使用限度額を設定したクレジッ

度化を遂げる中で，推知情報と確定情報とを区別

トカードサービスを提供することで，新規することは，いやまデータ主体としての権利や人顧客を増やしつつも，業界平均より60～

格の尊厳の保護にとって，深刻な問題を孕むこと75％高い不良債権額の抹消に成功していは明らかである。日本では，この点の是正も焦眉る（Tech Industry 2002: Numericalの課題であると言えよう。

analytics systems）。

与信管理技術が個人のライフチャンスにもたら（５）2016年時点で，「COMPAS」の評価結果をすメリットを失うことなく，そのデメリットを抑刑事判決の際に活用している州は，アリゾ制していくには，与信管理技術の動向を注意深く

ナ州，コロラド州，デラウェア州，ケンタッ

見定めながら，その実態に見合う社会的な対策を

キー州，ルイジアナ州，オクラホマ州，バー

構築していくことが不可欠である。それには，推

ジニア州，ワシントン州，ウィスコンシン

知情報と確定情報とを区別するというような，情州である（Angwin et al. 2016）。

報それ自体の信頼性（credibility）に関するこれ（６）Northpointe社が構築したシステムで，正式名までの常識を見直すことや，仕様通りに作動する称は「Correctional Offender Management

こ と の み を 重 視 す る， 技 術 そ れ 自 体 の 信 頼 性Profiling for Alternative Sanctions」である。

（reliability）に関する姿勢を問い直すことも，（７）山本龍彦は，「負のスパイラル」に陥り，必要不可欠だと言えよう。

社会的・経済的に排除され続ける者たちが現われ，その者たちによるバーチャルスラ

注

ムが形成される可能性を指摘している（山本 2016: 40-41）。

（１）プロファイリングとは，「自然人について個
人のある側面を評価するため，特に自然人（８）2017年６月１日に，中国では「中华人民の仕事の実績，経済状況，健康，個人の嗜好，共和国网络安全法」が施行された。この法

関心，信頼，行動，所在または移動に関す律では，第22条で，個人情報はサービスる側面を分析または予測するための，PDのの提供者がユーザーから取得の同意を得て利用から成るPDのあらゆる形態の自動処収集することを定めている。しかし，第理」のことである（European Parliament

28条では，インターネット事業者は中国

and Council 2016: Article 4 Definitions

当局（公安機関および国家安全機関）に対（4））。

し，技術的なサポートを含む協力を与える

181

予測アルゴリズムに基づく与信管理の功罪―ライフチャンスへの影響とその対策の有効性の検討を中心に―

堀内進之介

よう定められており，第30条では，イン定を行うアルゴリズムの処理の段階で与信

ターネット上の安全のために，入手した情問題は生じうる。この可能性を踏まえて，報を運用する旨が定められているなど，解GDPRはこの権利に加えて，「いつでもPD

釈次第では，中国当局がPDや予測アルゴの処理に異議を申し立てる権利」を定めてリズムなどを接収しうる余地が残されていいるのである。この点については，高木る。また，本稿が検討の対象としている予（2017: 92），堀内（2018: 32）を参照さ

測管理技術が惹起しうる諸問題についてれたい。
（13）堀内進之介（2018: 33）は，人間の認知は，この法律では具体的な対策は講じられていない（中国人民代表大会 2016）。

と意志力に関する体系的な脆弱性の観点か（９）当局が，2018年に信用調査機関としてのら，個人的な対応を前提とするGDPRの問題点を指摘している。

許可書を正式に交付したのは，新設された
百 行 征 信 用 の み で あ る（中 国 人 民 銀 行
2018）。百行征信用は，当局の直接的な指参考文献

導下にある業界団体と信用調査業務のパイ

Angwin, J., Larson, J., Mattu, S., and Kirchner,

ロット展開を許可された民間企業８社が株

L., 2016, “Machine bias,” ProPublica, May

主で，業界団体が筆頭株主であるため，当23, 2016, <https://www.propublica.org/

局が信用調査機関としての主導権を掌握し

article/machine-bias-risk-assessments-in-

たと言える。

criminal-sentencing>, accessed 2019-02-24.

（10）中国では，公共サービスも含めサービス

Botsman, R., 2017, “Big data meets Bigの大半にはデポジット（事前預託）が必要

Brother as China moves to rate its citizens,”である。しかし，芝麻分の得点が高いとそ

WIRED, October 21, 2017, <https://www.

れが免除されるほか，ビザの取得や金融商

wired.co.uk/article/chinese-government-

品の金利などでも優遇される（芝麻信用social-credit-score-privacy-invasion>,

2015）
。

accessed 2019-02-24.

（11）監査を個人に任せることが有効でないの

Byrnes, N., 2017, “As Goldman Embraces

は，次のことからも明らかである。Solove

Automation, Even the Masters of theand Hartzog（2014: 667）によれば，消Universe Are Threatened,” MIT Technology

費者の多くは，PDの取得や利用を行う旨

Review, February 7, 2017, <https://www.

が書かれた「プライバシー・ポリシー」がtechnologyreview.com/>, accessed 2019-02-ある場合でも，単に読んでいないか十分に24.
Carter, C., E. Renuart, M. Saunders, C.C. Wu,

は理解していないのである。
（12）この権利は，プロファイリング自体を規

2006, “The Credit Card Market and

制するものではない。この権利において問Regulation: In Need of Repair, “NORTH

題視されているのは，個人を評価する段階

CAROLINA BANKING INSTITUTE , 10（1）:で評価を自動化して処理（決定）すること

23-56.

であって，推定を行う際のアルゴリズムにCitron, D.K., & Pasquale, F., 2014, “The基づく処理それ自体ではない。個人の評価

Scored Society: Due Process For Automatedが自動処理であるか否かにかかわらず，推Predictions”, Washington Law Review , 89:１

182

社会情報学

-33.

第８巻２号

2019

八山幸司，2017，「米国のフィンテックにおける————, 2007, “Technological due process.”

人工知能の活用（フィンテックAI）の現状と

Washington Law Review , 85: 1249-1313.

課題」『JETRO』：１-25.

中国人民代表大会，2016，“中华人民共和国网络安全

Harcourt, B.E., 2007, Against Prediction:

法，”<http://www.npc.gov.cn/npc/xinwen/

Profiling, Policing, and Punishing in an

2016-11/07/content_2001605.htm>, accessed

Actuarial Age , University of Chicago Press.

2019-02-24.

Havard, C.J., 2011, “On The Take: The Black中国人民銀行，2018，“设立经营个人征信业务的

Box of Credit Scoring and Mortgage

机构许可信息公示表，”<http://www.pbc.gov.cn/

Discrimination,” Boston University Publicrmyh/105208/3485339/index.html>, accessedInterest Law Journal , 20（2）: 241-287.

2019-02-24.

堀内進之介，2018，「情報技術をめぐる今日的課

Dahrendorf, R, 1979, Lebenschancen: Anläufe

題―PDおよびプロファイリングを中心に」『情zur sozialen und politischen Theorie ,報文化学会誌』25（1）: 27-34.
Hu, M., 2016, “Big Data Blacklisting,” Florida

Frankfurt a.M.: Suhrkamp.（＝吉田博司・田Law Review , 67（5）: 1735-1809.

中康夫・加藤秀治郎訳，1982，『ライフ・チャンス―「新しい自由主義」の政治社会学』創世記）．

Joh, Elizabeth E., 2014, “Policing by Numbers:

Deleues, G., 1992, Postscript on the Societies

Big Data and the Fourth Amendment,”of Control , MIT Press, 59: 3-7.

Washington Law Review , 89（1）: 35-68.

淵田康之，2015，「金融の破壊的イノベーション

Josh, C., and G. Wong, 2016, “China’s NewとFinTech」『野 村 資 本 市 場 ク ォ ー タ リ ー』

Tool for Social Control: A Credit Rating for2015 Summer: 5-20.

Everything,” The Wall Street Journal,

Garvie, C., A. Bedoya, J. Frankle, 2016, “THE

November 28, 2016, <https://www.wsj.com/

PERPETUAL LINE-UP: UNREGULATED

articles/chinas-new-tool-for-social-control-a-

POLICE FACE RECOGNITION IN AMERICA,”

credit-rating-for-everything-1480351590>,

The Georgetown Law Center for Privacy &accessed 2019-02-24.

Technology, <https://www.perpetuallineup.

加藤義清・黒崎禎夫・江本浩，2006，「情報コンorg/>, accessed 2019-02-24.

テンツの信頼性とその評価技術」『人工知能学

European Parliament and Council, 2016,

会研究会資料』SIG-SWO-A602-01: １-10.

“General Data Protection Regulation,”

Kendall, L., 1998, “Meaning and Identity in<https://gdpr-info.eu/art-4-gdpr/>, accessed‘Cyberspace’: The Performance of Gender,”2019-02-24.

Class, and Race Online. Symbolic Interaction ,Gorner, J., 2013, “Chicago police use‘heat list’21（2）: 129-153.

as strategy to prevent violence,” Chicago

個人情報保護委員会，2018，「『個人情報の保護

Tribune, August 21, 2013, <http://articles.

に関する法律についてのガイドライン』及び『個chicagotribune.com/2013-08-21/news/ct-

人データの漏えい等の事案が発生した場合等の

met-heat-list-20130821_1_chicago-police-

対応について』に関するQ&A」，<https://www.

commander-andrew-papachristos-heat-list>,

ppc.go.jp/files/PDf/180720_APPI_QA.PDf>,

accessed 2019-02-24.

accessed 2019-02-24.

183

予測アルゴリズムに基づく与信管理の功罪―ライフチャンスへの影響とその対策の有効性の検討を中心に―

堀内進之介< h t t ps: //w w w. b l o o m b e rg .co m /n e w s/> ,国务院，2014，“国务院关于印发社会信用体系建accessed 2019-02-24.

设规划纲要（2014-2020年）的通知，”<http://www.gov.cn/zhengce/content/2014-06/27/

高木浩光，2017，「個人情報保護から個人データ

content_8913.htm>, accessed 2019-02-24.

保護へ―民間部門と公的部門の規定統合に向けた検討（2）」『情報法制研究』２：75-99.

李立栄，
2015，
「急成長する中国のコンシューマー向けインターネットファイナンス」『野村資本

Tech Industry, 2002, “The return of artificial

市場クォータリー』2015 Summer: 82-106.

intelligence,” Tech Industry, June 28, 2002,

Lyon, D., 2001, Surveillance Society:<https://www.cnet.com/news/the-return-of-

Monitoring Everyday Life , Buckingham:

artificial-intelligence/>, accessed 2019-02-24.
The New York City Council, 2017, “A Local

Open University Press.

Law in relation to automated decision

森尾博昭，2009，「インターネットにおけるアイ

systems used by agencies”.

デンティティ―社会心理学的視点から」『人工

Winner, L., 1986, The Whale And the Reactor:

知能学会誌』24（4）：535-543.
Noonan, L., 2017, “JPMorgan Chase in push

A Search for Limits in an Age of Highto mine customer data,” Financial Times,

Technology , Chicago: University of Chicago

January 30, 2017, <https://www.ft.com/

Press.（＝吉岡斉・若松征男訳，2000，『鯨とcontent/1eaf6436-e4a2-11e6-9645-c9357

原子炉―技術の限界を求めて』紀伊国屋書店）．

a75844a>, accessed 2019-02-24.

World Economic Forum, “Personal data: theMarwick, A.E. 2014, “How Your Data Are

emergence of a New Asset Class”.

Being Deeply Mined,” N.Y. REV. BOOKS,

山谷剛史，2015，“中国の社会信用スコア「芝麻January 9, 2014, <http://www.tiara.org/wp-

信用」で高得点を狙うネットユーザー，”ZDNetcontent/uploads/2018/05/Marwick-How-

Japan, 2015 年 12 月 15 日，<https://japan.

Yo u r - D a t a - A r e - B e i n g - D e e p l y - M i n e d .

zdnet.com/article/35074894/>, accessedpdf>,accessed 2019-02-24.

2019-02-24.

Richards, N.M. and J.H. King, 2014, “Big Data

山本龍彦，2015，「予測的ポリシングと憲法：警Ethics,” Wake Forest Law Review , 49（2）:

察によるビッグデータ利用とデータマイニン
グ」『慶應法学』31：321-345.

393-432.
Robertson, J., 2013, “How Big Data Could————，2016，「ビッグデータ社会とプロファ

Help Identify the Next Felon―Or Blame theイリング」『論究ジュリスト』18（2017）： 34-

Wrong Guy,” August 15, 2013, <https://www.

44.
芝麻信用，2015，<https://www.xin.xin/#/detail/1-2>,

bloomberg.com/news/>, accessed 2019-02-

accessed 2019-02-24.

24.
Solove, D.J. and W. Hartzog, 2014, “The FTC

Zarsky, T.Z., 2013, “Transparent Predictions,”

and the New Common Law of Privacy,”

University of Illinois Law Review , 4: 1503-

Columbia Law Review , 114: 583-676.

1569.

Son, H, 2017, “JPMorgan Software Does inZima, E., 2018, “Could New York City’s AI

Seconds What Took Lawyers 360,000

Transparency Bill Be a Model for the

Hours,” Bloomberg, February 28, 2017,

C o u n t r y ? , ” G o v e r n m e n t Te c h n o l o g y,184

社会情報学

第８巻２号

2019

JANUARY 4, 2018, <http://www.govtech.

Transparency-Bill-Be-a-Model-for-the-c o m / p o l i c y / C o u l d - N e w -Yo r k - C i t y s - A I -Country.htm>, accessed 2019-02-24.

185