社会信用システム
社会信用システム(しゃかいしんようシステム)とは、中華人民共和国政府が構想する全国的な評価システム開発のイニシアティブ。所得やキャリアなど社会的ステータスに関する政府のデータに基づいて全国民をランキング化し、インターネットや現実での行動に対して「ソーシャルクレジット」という偏差値でスコアリング(採点)することだと報じられている 。それは管理社会・監視社会のツールとして機能し、人工知能(AI)によるビッグデータの分析を使用する 。加えて中国市場での企業活動も評価することを意味する。
社会信用システムは、中華人民共和国の「トップレベルデザイン」(頂層設計)アプローチの一例である。「中央全面深化改革領導小組」の活動によって調整された。中華人民共和国国務院が発行した全体的な「社会信用システム構築の計画概要 (2014–2020)」によれば、社会信用システムは以下の4つの分野に焦点を当てるとされている:「公務の誠実」(政務誠信)、「商業の誠実」(商務誠信)、「社会誠実」(社会誠信)及び「司法の信頼性」(司法公信)。メディア報道ではそのため一般市民の評価(「社会誠実」に該当する)について主に焦点をあてていた。しかしながら、中国政府の計画ではそれを超えて、中国の全企業の活動向けの信用スコア計画も盛り込まれていた。
中国政府は、2020年までに社会信用システムの基本構造を実装することを目指している。それまでにシステムが構想通りに機能するかどうかは不明であるが、中国政府は社会信用システムの実装を早めた結果、2014年に主要計画が発表されて以降数々の制作文書と計画が発表されることになった。もし社会信用システムが構想通りに実装されれば、個人と企業の両方の行動を制御する新しい方法を構成することになる。
西洋の報道機関の主要メディアがしばしば言及する主な概要は2014年6月14日に、国務院が出した「社会信用システム構築の計画概要 (2014–2020)についての国務院通知」である。オックスフォード大学比較メディア法および政策プログラムの博士研究員ロジェ・クリーマーズは文書の翻訳を投稿した。
計画の概要によれば、イニシアティブの目的は「社会内での誠実さと信頼性の水準の意識を向上させること」である。社会信用システムは「社会主義市場経済」の完遂(完善社会主義市場経済体制)及び社会統治を革新・強化(加強和創新社会治理)するための重要な手段として提示されている 。これは中国政府が経済を規制する重要な手段と国民の行動をコントロールする統治のツールの両方としてみていることを示唆している。
とりわけ、社会信用システムは中国市場の信頼性の欠如問題に対する答えを提供することを意図している。考案者は不正行為、食品の安全問題、偽造品などの問題を解消するのに役立つと主張した。
2015年、8社が信用システムの試験を開始するライセンスを得た。選ばれた企業はアリババグループのアント・フィナンシャル、ソフトウェア開発企業のテンセントと他の6社である 。民間企業が運用する評価システムは実験段階を始めるために芝麻信用などのデータを使った。
2017年は民間企業にライセンスは与えられなかった。
2018、包括的な全国規模の社会信用システムは存在していないが、複数の公的機関および私的機関がこのシステムを試している。そのようなプログラムの1つは、顔認識システムを使用して政府の記録を閲覧し、それに応じてユーザーを評価する「Honest Shanghai」アプリを通じて、上海で実装されている。一部報道では評価は中国国民のオンライン上での行動から収集した情報を利用しているかもしれないと述べている。
2018年3月、ロイターは社会信用評価が低い市民や企業に対する制限が、2018年5月1日に有効になると報じた。
2018年10月、京滬高速鉄道の車内で「切符を買わずに乗車した者、公共場所で喫煙した者は所定の規律により処罰される。その行動は個人信用システムに記録される」と英語でアナウンスされている様子が報じられ、外国人もシステムの対象になっている可能性を懸念する声もあがった。
中国政府の「実装計画」では社会信用システムは2020年までに完全に実装される予定となっている。システムが一旦実装されれば、市民の個人的行動に基づいて賞罰を管理することになる。航空機や高速鉄道の利用禁止、私立学校からの排除、インターネット回線速度の低下、名声の高い仕事からの排除、ホテルからの排除、ウェブサイトやメディアでの個人情報公開などの様々な処罰がある。
犬の排泄物の道路への放置やQRコード付きの首輪を装着させない散歩などスコアを落とす迷惑行為があった場合、飼い主は犬を取り上げられる可能性がある。
ブラックリストに登録された個人の人物写真がビルや駅などの建物のデジタル・サイネージや映画館で映画が始まる前のスクリーン画面に表示される。
歩行者が横断歩道で信号無視を行うと警告音を発し、AIが顔認証による違反者の特定で信用スコアに反映させてSNSに注意するテキストメッセージを送信して街頭ビジョンに個人情報と証拠映像が表示される。
2018年末までに高速鉄道旅行で550万人、航空機で1750万人がブラックリストに掲載されていることを理由に搭乗を拒否された。交通違反、薬物所持、罰金滞納、税金未納などだけでなく、SNSでの政府に批判的な言動も移動の制限を受ける違法案件と認定されている。有名人のファンによる空港での追っかけはスコアを下げて一定期間航空券の購入も不可能になる可能性がある。
社会信用システム用の都市レベルのパイロットには信仰を放棄させるために、法輪功や地方召会など特定の信仰を持つ者を抑圧することや、公共での祈り、ラマダン中の断食や他のイスラム教の慣習を行うウイグル族の報告などの当局の宗教的慣習の制限に協力した個人への報奨などが含まれている。
河北省の裁判所は500メートル以内の「借金踏み倒し者のマップ」を示すアプリをリリースし、借金を返済できる個人を報告するようユーザーに促している。裁判所の広報担当者は「我々の判決を執行し、社会的に信頼できる環境を形成するための手段の一部である」と述べた。
子供の両親のスコアが特定の閾値未満であった場合、彼らの子供は地域のトップスクールから排除される可能性がある。
ボランティアからごみの処理まで細部にわたる格付けは面子を重んじる市民の自尊感情を利用しており、個人の私的スコアは社会及びカップルプラットフォームにおいて「品行方正」であることを示す社会的シンボルとして用いられている。例えば、中国最大のマッチメイキングサービスの「Baihe」はユーザーが彼ら自身のスコアを公表できるようにしている。
新型コロナウイルス感染症の流行に伴い、中国では多くの地方自治体が「健康コード」(健康码)を社会信用システムに組み込むようになった。健康コードはスマートフォン経由で市民の健康状態と位置を監視および追跡し、健康状態によって移動やサービスの利用などが制限されるため、中国では「健康コードなしでは生きられない」と言われている。
高スコアであればローンを組みやすくなり、求職活動も容易になる他、デポジットを要さず、公的機関や医療機関で優待されるなど様々な特典や報酬がある。同様に低スコアまたは低スコアの個人の関係者にはインターネット回線の速度低下、特定の仕事、ローン、ビザへのアクセスが拒否されるなどのネガティブな結果がすぐに生じる。
企業における社会信用システムは、市場規制メカニズムとして機能することを意図されている。その目標は、企業が「自己拘束」(企業自我約束)を実施するビッグデータによって推進される、自己強制的な規制体制を確立することである。 基本的な考え方は、機能的な信用システムの導入で、評価の低下を避けるために、企業は政府の方針と規制を遵守するというものである。
現在想定されているように、良評価の企業は良好な信用状態、より低い税率、更なる投資機会などの便益を享受することができる。悪評価の企業は、新規融資が不利な条件になったり、税金の上昇、投資の制限、公的資金プロジェクトに参加しづらくなるなどの状況に直面する可能性がある。
政府の計画では、企業活動のリアルタイムの監視も想定している。その場合、事業の一部においての違反が、ほぼ即座に評価の低下につながる可能性がある。しかし、これが実際に起こるかどうかは、この種の監視に必要な技術の可用性だけでなく、システムの将来の実装にも依存する。
2017年3月時点で、中国市場で137の商業信用報告企業が活動している 。社会信用システムの開発の一部として、中国政府はサードパーティの中国の信用格付けシステムの進捗を監視している 。2015年には中国人民銀行が国民に信用情報を付与する試験版を開発するため、芝麻信用を運営するアリババのアント・フィナンシャルサービスを含む8社を選んだ。芝麻信用の評価システムは、アメリカ合衆国のFICO評価とドイツのSchufaを、大まかにモデル化したものである。しかしながら、中国政府は利益相反と競合のプラットフォームへのデータ共有に消極的になることへの懸念から、2017年にはライセンスが付与されることはなかった。
民間企業は、省級行政区で社会信用システムの基本インフラを整備する契約を、省政府と結んだ。
中国企業と中国市場で活動する外国企業を区別しておらず、外国企業の中国での活動も同様に、このシステムの対象になる可能性が高まっている。
社会信用システムは、中国本土に限定されるため、香港とマカオには適用されないとされたが、2019年7月5日に『粤港澳大湾区建設に関する3カ年行動計画(2018年~2020年)』が発表され、中国広東省当局が計画推進を主導することになった。行動計画によると、当局は3年以内にこの3つの地域で中国本土で利用されている「社会信用評価」の制度とシステムを全面的に構築するとした。
2019年9月、イタリアのオンラインメディアであるBitter Winterによると、香港の学校である聖安當女書院では、教員に対する反抗的な態度、携帯電話の提出拒否、宿題や授業の怠慢などで減点を重ねると教育機会を奪う社会信用システムに類似したシステムを試験的に実施している。
本システムは数多くの論争を呼んでいる。特に注目すべきは企業と同様に個人にどのように適用されるかということである。既に人々は社会規範を侵害したとして様々な罰則に直面している。このシステムで「低スコア」の900万人が国内航空券の購入を禁止されている。準備段階である一方で、このシステムは人々とその子供を特定の学校に通わせるのを禁止するために用いられたり、低スコアの人々はホテルを借りたりクレジットカードの使用を妨げられ、就職できないようにブラックリストに入れられる。このシステムは彼らのインターネットの習慣(オンラインゲームでのチートやマナー違反、ゲーム依存症は個人のスコアを減少させる)、ショッピング習慣や他の個人的かつ幅広いコミュニティに影響を与えない全く無害な行動への評価にも用いられる。このプログラムの批判は中国国外で広まり、ヒューマン・ライツ・ウォッチはこのシステムを「ぞっとする」もので恣意的な悪用に満ちていると表現した。Vision Timesはこのシステムを「集団懲戒のマシーン」と呼んだ。
欧州連合(EU)ではAIで人々をスコアリングする制度は社会階層間の格差を固定化することに繋がるとする懸念が起きており、2018年5月からAIの分析のみによる雇用や融資での差別を認めないEU一般データ保護規則(GDPR)が施行された。
2018年、ニュー・エコノミクス財団は中国の市民スコアとイギリスの評価システムを比較した。これらは市民のクレジットスコア、電話の使い方、家賃の支払いなどのデータを用いて、求人応募のフィルタリングや社会サービスのアクセスの決定、広告提供の決定などを行うことも含む。
AIによる成績評価で合格したはずの人間が入学許可を取り消され政治問題になったり、アルゴリズムによるビザ申請が差別的なものと批判されたり安易なAIの分析の行政における使用により多くの問題・批判が生じた。
2018年2月、ハンデルスブラット・グローバルはドイツが中国に匹敵するシステムへと「眠ったまま歩いている」と報じた。クレジットや健康保険へのアクセスを決定するために全国的な信用評価システム「Schufa」や地理位置情報、健康記録のデータを用いている。
アウグスト・ピノチェト政権の初期以降、商業情報ディレクトリ(DICOM)は国の経済生活の中で特に注目を集めている。DICOMスコアが低い人々は住居を見つけたり新事業を始めたり融資を受けたりするのが難しくなる。また本来のシステム利用方法ではないが、雇用者が選考プロセスの一環としてスコアを確認する傾向にあるため求職活動にも影響する。近年、低スコアの人々への負の影響を軽減するため医療アクセスの決定にDICOMスコアを利用することを禁ずるなどいくつかの法的措置が取られている。