Pri

プライバシー
インターナショナル
ジャパン（PIJ）
国民背番号問題検討
市民ネットワーク
Citizens Network Against
National ID Numbers（CNN）

International J
cy

PIJ

an

No .

va

ap

CNN 106
ニューズ

2021/7/10 発行

TMPr
ivacy NGO

季刊発行
年４回刊

■巻 頭 言 ■ポスト・マイナンバーパンデミック

憲法、人権を護れてはじめてデジタル化はゆるされるショックドクトリン政治をすすめる菅政権
は、「自助」、「行政改革」を旗頭に、過激なデジタル化を叫ぶ。デジタル化は、使い方を誤れば、人権をむしばむ。にもかかわらず、この政権の看板であるデジタル改革関連法のなかに〝人権〟、〝プライバシー〟の文字が見当たらない。まさに、デジタル監視法である。コロナ禍、
緊急時に便乗した人権ゼロの「デジタル国家総動員体制」の確立を狙っているからだ。
菅政権のデジタル化政策は、人権などまったく眼中にない中国習政権のデジタル国家主義、ハイテク監視国家、市場社会主義のイメージと重なる。
いや、それ以上悪いかもしれない。そもそも自国内で人権を粗末に扱う菅政権は、中国やミャン
マーなどの人権状況を非難できるわけがない。
「パンデミック」という言葉が流行っている。
「パンデミック」の「パン」は〝すべて〟、「デミア」
は〝人々〟が元々の意味。まさに、菅政権は「マイナンバーパンデミック（背番号感染爆発）」を引き起こすウイルスのような存在にみえてくる。
菅首相は 21 年 3 月 31 日の衆院内閣委員会で、
マイナンバー制度に関連するこれまでの国費支出
が 8,800 億円に上ると説明した。かたや、アメリカはコロナワクチン開発に 1 兆円。菅政権は、ムダな IT 公共工事に血税を注ぐのをやめようとしない。「背番号が先か、ワクチンが先か」は、あえて問うまでもないことだ。マインバーカード◆ 主な記事 ◆・巻頭言～ポスト ・ マイナンバーパンデミック・EU の包括的 AI 規制始動
・自治体による LINE の危険な使われ方
・国民投票法改正と SNS 規制 ・ 言論の自由
・少年の実名報道禁止緩和とプライバシー

http://www.pij-web.net/

保有が 3 月末時点で全国民の 28％を超え、申請
も 4,500 万件弱で 36％超えた。
「マイナンバー
パンデミック」には大貢献したと誇る。ところが、これで国民が受けられるデジタル行政サービスなどほとんどない。
〝デジタル監視〟だけが進む。
まさに、菅政権の〝デジタル国家総動員体制つくり〟優先の愚策で、国民のいのちやくらしが危機に瀕している。コロナパンデミック対策ファース
トだろうに！！
マイナンバーパンデミックを流行らせる菅政権のデジタル監視法案に多くの市民団体が積極的に抵抗した。だが、原案がほぼ無傷で通ってしまった。デジタルデバイド（情報技術格差）の御仁揃
いの既存の野党依存では闘えないのは明らかだ。
ところが、市民団体は、彼らに頼ろうとする。シングルイシューの「My 国党」（マイナンバーから国民を護る党）を立ち上げよう！国や地方で闘える独自の議員を誕生させよう！といった動きはない。あらたなチャレンジができないのは残念だ。
わが国の市民団体は、概して英語に弱く外圧を利用した効果的なグローバルなキャンペーンができていない。この島国の〝デジタル収容所列島化〟の危機を外部に発信できていない。ミャンマーの市民団体は、国際語である英語で世界に発信できる。あちらの方が闘い方は上手だ。
菅政権のデジタル国民総動員体制つくりは、超危険である。M システムとか、スーパーシティ構
想とか、人権をむしばむ提案が目白押しだ。市民
組織は、シングルイシューの政党つくりも含め、
ポスト・マイナンバーパンデミックでの賢明な闘い方が問われている。
２０２１年 7 月１０日

PIJ 代表 石 村 耕 治
1

CNNニューズ No.106

EU の包括的 AI 規制始動

2021 年 4 月 21 日、EU の包括的 AI システム規制始動

EU の顔認証情報利用禁止を含む AI（人工知能）規制案を読む
EU のプライバシー侵害 AI パンデミック対策ワクチン
人権が護られてはじめて AI 開発・利用はゆるされる
大学名誉教授））
石 村 耕 治 （ PIJ 代表 ・ 白鷗大学名誉教授≪内容目次≫●は じめに～人権が護られてはじめて AI 開発・利用はゆるされる◆ GDPR と AI 規制規則との関係◆ひと目でわかる EU での AI 規制の経緯◆ひと目でわかる EU の AI 規制の仕組み

三者
（6）小括
（7）限界事例
３ AI システム市販後規制、情報共有、市場監視（1）プロバイダー／開発者の市販後モニタリグン
グ義務（2）事故および稼働過誤情報の共有■第１部 EU の包括的 AI 規制の枠組み◆ひと目でわかる AI 規制法の枠組み◆「人間が主役の AI」に向けて EU とアメリカが競争◆なぜ EU は包括的な AI 規制を実施するのか～ EU は、人間が主役の AI 開発・利用の拠点になる！

■第２部 EU の AI 規制規則案を深読みする～危ないAIは、
逃げられない、逃がさない！！

2◆ AI 規則（案）の執行体制◆行動規範に基づく倫理的・自発的協力◆ AI システム規制のガバナンスの仕組み
１ 欧州 AI 委員会／ AI ボードの創設
2 各加盟国の AI システム規制機関◆ AI システム規制違反への罰則
１ AI 規制規則違反に対する制裁
2 EU の機関・エージェンシー・団体による AI
規制規則違反◆ EU の AI 規制規則案のポイント解説◆４分類の AI 規制規則の仕組み◆透明性確保：AI システム利用事実の告知義務◆「禁止される AI 実務」と「高リスク AI システム」■第 ３部 わが国での危ない AI システム利用実態～ EU の AI 規制からわが国の AI 利用ケースを検証する１ 禁止される AI 実務／ブラックリスト掲載 AIシステム
２ 高 リスク AI システムへの「ゆりかごから墓場まで方式」規制とは（1）高 リスク AI システムのプロバイダー／開発者に対する規制（2）高リスク AI システムのユーザーに対する規制（3）高リスク AI システムの輸入者に対する規制（4）高リスク AI システムの販売者に対する規制（5）高リスク AI システムのプロバイダー／開発者となるユーザー、輸入者、販売者および第◆マイナンバーパンデミックを流行らす菅政権～人 権ゼロのデジタル収容所列島化を目指す
菅政権◆顔 認証式マイナカード使用オンライン保険資
格確認システム～人 権を蝕む顔認証情報のマイナンバー管理
制度の裏口導入◆インドの生体認証式 ID カードから厚労省の悪巧みを読み解く◆危 ない QR コード・顔認証情報使用のマイナ
カードのスマホ申請© 2021 PIJ

CNNニューズ No.106

EU の包括的 AI 規制始動

◆問われる東京渋谷区での NINE 依存で顔認証
データの利用◆子どもの学習成績をマイナバーで AI 国家管理～問われる人格権のポイント評価●は じめに～人権が護られてはじめて AI 開発・利用はゆるされる●むすびにかえて【添付資料】●もっと知りたい EU の統治機構と法制度
アルゴリズムを入れたとする。逆に、②「疑わしければ、納税者の利益に」のアルゴリズムを入れたとする。①と②では、納税者の同じ申告データ

人 工 知 能（AI=Artificial Intelligence） が、を入れても、判定結果に大きな違いが出てくるか

目覚ましい発展をとげている。これまで人間にしもしれない。納税者や税の専門職も、「私はデジかできなかった知的な決定を、AI は、情報処理手

タル大嫌い。紙（文書）で何が悪いんだ。AI な順（ ア ル ゴ リ ズ ム ／ algorithm） と デ ー タ（bigんていらない！」と言ってはいられない。「どんdata）を準備すれば、機械的に遂行できるようにとこい AI ！」でないと、AI の奴隷にされてしました。こうした知的な決定を人間の介在なしに行ううかもしれないからだ。AI システムに入れるアことを、「自動決定（ADM=automated decision

ルゴリズムについて、課税庁から独立した機関にmaking）」、通称で「ADM」と呼ぶ。自動運転自よる適正な審査がいる。また、市民・納税者・専動車が、赤信号を認識して運転を停止することが適

門職によるチェックも欠かせない 2。将来的には、例である。視覚認識（visual cognition）仕様の医AI システムに入れるアルゴリズムの適否を争う療機器がガン細胞を探知・発見するのも ADM の訴訟も多発するに違いない 3。

利用例である。このように、AI システムや ADM

これは、ユーザーである政府が、プロバイダー

プログラムは、官民にわたりさまざまな分野で活用である IT 企業に依頼し開発して AI システムを税が広がっている。市場調査、商業サービス、金融サー

務行政サービスに利用するケースである。

ビス、健康医療サービス、政府行政サービス、公共
サービスなど多岐にわたる。

そもそも、野放図に AI システムや ADM プロ
グラムを利用してはならない分野もある。AI シ

今 日、 先 端 技術の１つである AI システムやステムまたは ADM プログラムを、公的機関や民ADM プログラムは市民生活に数えきれなくらい

間機関が無差別な人の監視や選別に使うケースでのメリットをもたらしている。

ある。憲法が保障する移動の自由や言論／表現のその一方で、AI システムや ADM プログラムに入れるアルゴリズムやデータに偏り（偏頗／バイアス／ algorithmic bias）があると、不透明で想定外の結果が出たりする 1。
例えば、課税庁が、AI 税務調査対象者選定シ
ステムに、①「疑わしければ課税庁の利益に」の

1

自由、思想／信条の自由のような市民的自由や人権の侵害につながるからである。
今年 1 月、アメリカのスタンフォード大学の
AI 研究機関は、顔認証 AI が、SNS の顔写真から政治性向を読み取れる、との研究成果を発表した 4。その確率は 70％を超えるという。


See,Kristin N. Johnson,〝Automating the Risk of Bias,〟87 Geo.Wash.L.Rev.1214(2019);Felix Mormann,〝Beyond

Algorithms: Toward a Normative Theory of Automated Regulation,〟62 B.C.L.Rev.1(2021); Peter K.Yu,〝The
Algorithmic Divide and Equality in the Age of Artificial Intelligence,〟72 Fla.L. Rev.331(2020)2See,Steven Toscher, Daniel Kellerman,〝The Impact of Big Data on IRS Civil and Criminal Tax

Enforcement,〟2-AUG L.A.Law.14 (2019);See,Michael A.Chichester Jr.,Jaclyn R.Giffen,〝Recruiting in
the Robot Age,98-JUN Mich.B.J.34 (2019)3

Kimberly A.Houser & Debra Sanders,〝The Use of Big Data Analytics by the IRS: Efficient Solutionsor the End of Privacy As We knows It?〟9 Vand.J.Ent.& Tech.L.817 (2017)4
S ee,Michal Kosinsk,〝Facial recognition technology can expose political orientation fromnaturalistic facial images,〟Scientific Reports (Jan., 2021)
Facial_recognition_technology_can_expose_political.pdf ; Facial recognition technology can predicta person’s political orientation with 72% accuracy Facial recognition technology can predict a
person's political orientation with 72% accuracy (psypost.org)

2021.7.10

3

CNNニューズ No.106

EU の包括的 AI 規制始動

AI システをかける〟

ム や ADM必要がある。

プログラム

EU（

欧

の利用が禁

州連合）の

止または厳

欧 州 委 員

正な規制が会 （ E U

必要とされ

ropeanる分野としては、雇用（採用・勤務評定・契約更Commission） は、 去 る（21 年 ）4 月 21 日

新・解雇・昇給など）や教育があげられる。こうに、AI（人工知能）規制をねらいとする規則案した分野での評価に、人種・性別・性的指向など（Proposed Regulation on AI ／以下「AI 規制

でバイアスのかかったアルゴリズムをインプット

規則案」または「規則案」）を公表した 5。AI 規

して自動決定（ADM）プログラムを使えば、当然、制規則案の正式名称は、「人工知能に関する統一

不公正な結果が導き出されるからである。加えて、ルールを定めかつ一定の法律を改正するためのクッキー（cookies）などを使ったターゲティン

規 則（Regulation laying down harmonized

グ広告も問われている。自動的に賭博サイトやわ

rules on artificial intelligence and amending

いせつ画像の有料サイトへ誘導するなど悪質なもcertAIn legislative acts）」である。タイトル Iのも少なくない。EU では、こうした人権をむしから XII、前文＋ 85 条と 9 つの別表からなる。

ばむ、あるいは人の意思や行動を操作する AI や

通 称 で は、EU「AI 法（Artificial Intelligence

ADM の利用を禁止する方向である。

Act）」とも呼ばれる。

最近では、ネット上に流通する有害情報・社会的法益侵害情報、不当投稿・ツイートを自動選◆ GDPR と AI 規制規則との関係

別・削除（モデレート）する AI システムも、議論のあるところである。使い方を誤れば、言論／

EU は、 す で に、 ヨ ー ロ ッ パ 地 域 の 個 人

表現の自由をむしばみ、国家や政府に都合の悪い

情 報 保 護 法 と も い え る「 一 般 デ ー タ 保 護 規

SNS（ソーシャルメディア）への言論・投稿・ツ則（GDPR=General Data Protection

イートを削除（モデレート）するのが当り前の中Regulation）」を採択している。GDPR は、官民国型のデジタル監視国家主義とも結びつく。

双方が規制対象の法律である。EU は、GDPR を、

このように、民主的な価値観に基づく AI シス
テムの使い分け、人間によるコントロールをどう2016 年 5 月 24 日 に 発 効 さ せ、2018 年 5 月
25 日から施行している 6。

するかは、デジタル化時代の重い課題である。まGDPR は、データ保護に関する〝一般法〟であた、こうしたコントロールを誰が行うか、政府？

る 7。これに対して、2021 年 4 月 21 日に公表

あるいは民間？を、決めなければならない。つまされた AI 規制規則案は、AI に規制対象を絞ったり、政府規制（法規制）か、自主規制（行動規範〝特別法〟である。したがって、AI 規制規則案が／行動指針による倫理規制）か、または双方の併成立・施行され、双方がぶつかる場合には、AI

用規制か、の問題もある。AI システム規制手法

規制については特別法である AI 規制規則が優先の基本問題に加え、規制の適用範囲（EU 域外へ

する。

の適用）
、透明化を含む法適合性評価やその基準、

EU は、2020 年に、『AI 白書（White Paper

情報開示、規制違反に対する罰則なども重い課題

on Artificial Intelligence）』8 を公表している 9。

である。いずれにしろ、〝都市計画がないのに EU

この AI 白書は、今回の AI 規制規則案は、〝GDPR

域内に次々と家が建つ無法状態に急いでストップの AI 版〟を発布するための草案ともいえる。

5

R egulation laying down harmonized rules on artificial intelligence and amending certAIn

legislative acts Europe fit for the Digital Age:Artificial Intelligence(europa.eu)
6
GDPR の邦文での分析について、詳しくは、www.pij-web.net/cnn/CNN-94.pdf

7


CNN ニューズ 94 号参照 http://www.pij-web.net/cnn/CNN-94.pdf

なお、わが国の個人情報保護委員会による仮邦訳が公表されている。gdpr-provisions-ja.pdf (ppc.go.jp)

4© 2021 PIJ

CNNニューズ No.106

EU の包括的 AI 規制始動
❶ 一般データ保護規則（GDPR）【図表１】 AI 規制規則案公表までの主な経緯

年月

主な出来事

2018 年
4月

欧州委員会が、EU の AI 戦略を各機関に 伝 達（Communication Artificial
Intelligence for EU rope）」 ≪ EU
は「人間が主役の AI ルール」を定め、
AI 投資・開発・利用を促進し、米中などと競争し、世界の AI 市場を主導する。≫

2018 年
6月

AI 専 門 家 グ ル ー プ（AI HLEG=
High-Level Expert Group on AI）
設置≪ AI 倫理ガイドライン草案の検討≫

2019 年4月

AI HLEG が「 信 頼 で き る AI の
た め の 倫 理 ガ イ ド ラ イ ン（Ethics
guidelines for trustworthy AI）」
を策定・公表≪❶ AI 倫理原則、❷原則遵守の 7 つの要件、❸チェック
リスト≫

2020 年
2月

欧州委員会が「AI 白書（White Paperon Artificial Intelligence）」と「AI・IoT・ロボットに関する安全・賠償責
任 レ ポ ー ト（Report on the safety
and liability implications of AI, theInternet of Things and robotics）」を公表。公開諮問（パブコメ）を実施。

2020 年10 月

欧 州 議 会 が、AI 関 連 の 3 文 書［ ❶AI・ロボット・関連技術の倫理枠組
み（Framework of ethical aspectsof AI, robotics and related
technologies）、❷ AI 民事責任体制
Civil liability regime for AI］、 ❸AI 知的財産（Intellectual property
rights for the development of AI
technologies］を採択

2021 年 4 月

欧州委員会が、21 日に、AI 規制規則案を公表

データ保護の一般法❷ AI 規制規則（案）

データ保護の特別法一般法である GDPR22 条では、次のように規定して、個人（データ主体）に対し、ADM プロ
グラム（AI システム）においてもっぱら自動決定の対象とされない権利を保障する。

第 22 条 プロファイリングを含む個人に対する自動化された意思決定
1 データ主体は、当該データ主体に関する法的効
果を発生させる、または、当該データ主体に対して同様の重大な影響を及ぼすプロファイリ
ングを含むもっぱら自動化された取扱いに基づいた決定の対象とされない権利を有する。

すなわち、EU において、個人は、人の監視または人が関与しない形で自分のデータが自動処理の対象となることを拒否する権利を保障されている。このことから、例えば、信販事業者が、ローン審査をする場合に、オンラインのアルゴリズムとチャットボット【人工知能（AI）を活用した自動会話プログラム】のみで、消費者の信用格付けをしようとする場合、当該消費者は、これを拒否することができる。
加えて、GDPR13 条～ 15 条では、いかなる機関も、ADM プログラム（AI システム）で、個人の権益に影響を及ぼす決定をするアルゴリズムにデータを挿入する場合には、その処理に先立ち、本人にその旨を通知するように求められる。

◆ひと目でわかる EU での AI 規制の経緯
こうした性格を有する AI 規制規則案の公表にいたるまでの経緯は、おおまかに説明すると、 【図表１】 のとおりである。

◆ひと目でわかる EU の AI 規制の仕組み
こ の AI 規 制 規 則 案 で は、「AI シ ス テ ム（AIsystem）」に 4 段階に分けて規制を加える。分類
は、リスクベース方式（risk-based approach）、
つまり〝危険度〟順である。4 分類規制の基本的な仕組みは、わかりやすくいえば、次のとおりで
ある。

8


commission-white-paper-artificial-intelligence-feb2020_en.pdf (europa.eu)

9
わが国の経産省は、「AI 原則の実践の在り方に関する研究会」（旧 AI 社会実践アーキテクチャー検討会）を開

催し、EU など諸外国の法制の動きを含め、先端産業の健全な育成に向けて AI システム／ ADM プログラムに関する AI ガバナンスのあり方を探っている。本稿の執筆にあたっても参照した。

2021.7.10

5CNNニューズ No.106

EU の包括的 AI 規制始動施される。そして、③限定的リスク AI システム禁止された AI
① 1 第 1 分類の AI 規制
許可される AI
②第２分類の AI 規制（高リスク AI システム）③第３分類の AI 規制（限定的リスク AI システム）④第４分類の AI 規制（低リスク AI システム）政 府 規 制： 法 定
要件の充足＆事前の法適合性評価が許可条件には、政府規制と自主規制が適用になる。こうし

政府規制＋自主
規 制： 透 明 性 等の確保が許可条
件＋行動規範【図表 2】4 分類規制の基本的な仕組みをもう少し詳しく読む

倫理自主規制：行動 規 範・ 行 動 指針によるEU の AI 規制規則案では、②高リスク AI シス
テムに対する政府規制が中核になる。この分類にあてはまる AI システムに対してはライフサイクル（生涯工程）、つまり「ゆりかごから墓場まで方式（cradle-to-grave approach）」」で、さまざまな角度から縛りがかかる。

徹底した規制を実施し、市民の自由や人権保護を先行させるためである。
規制は、プロバイダー（IT 企業）、ユーザー（民間利用者や公的機関）、輸入者や販売者にまで及ぶ。高リスク AI システムの「プロバイダー」の義務を取り上げて、アバウトに説明すると、次のとおりである。

②高リスク AI システム規制におけるプロバイダーの義務
プロバイダーの AI
システム開発⇩事前の技術的パラメータと透明性のチェック⇩
法適合性評価・登録⇩
市販後のモニタリ
ング・事故等の当局への報告義務・リスク・マネジメント・システム確立
・高資質データの設定
・技術文書作成と記録保存
・品質管理システムの設定
・透明性と情報提供
・人間によるチェック・サイバー攻撃からの安全確保
・その他
・法適合性評価の実施
・生体認証情報利用の場合は第三者評価の実施
・EU 法適合性宣言書の発行
・EU 基準適合マーク「CEマーク」表示・EU の 高 リ ス ク AI シ ス
テムデータベースに登録

また、④低リスクの AI システムに対しては、政府規制ではなく、業界団体などが自主的に定めた倫理・行動規範・行動指針により自主規制が実6た４分類規制の基本的な仕組みをもう少し詳しく読んでみると、次のとおりである。

≪ 4 分類規制のあらまし≫【禁止された AI ①】①第 1 分 類 の AI 規 制：
制 禁 止 さ れ た AI 実 務（prohibited AI practices）（規則案 5 条）❶
人間の行動を操作し肉体的または精神的にむし
ばむ AI システムの利用、❷子どもや障害者を相手の搾取行為への AI システムの利用、❸ AIを使ったスコアリングシステム・社会信用ポイ
ント制（social scoring ／個人の行動や人格的特性などのデータに基づき、国家や企業が個人の信頼性などを格付けする AI システム）、❹公共空間での無差別な AI 顔認証監視カメラやラ
イブ遠隔顔認証 AI システムの利用。
【許可される AI ②・③・④】②第 2 分類の AI 規制対象：高リスク AI システム
（High-risk AI systems）（規則案 5 条）≪政府
規制：法定要件の充足と事前（ex-ante）の法適合性評価が許可条件≫（a）規 制対象 AI 製品の安全基準（規則案別表第 2）：産業機械、医療機器など、法により第三者認証対象となるもの。
(b) 特定分野の AI システム
（規則案別表第 3）例：
❶運輸のような重要な社会インフラへの AI
システムの利用、❷ AI 手術支援ロボットシ
ステム、❸具体的な事実に対する法の適用のような司法行政などへの AI システムの利用など。
③第 3 分類の AI 規制対象：限定的リスク AI シス
テム（limited risk AI systems）( 規則案 52 条 )≪政府規制：透明性等の確保が許可条件＋自主規制≫ 企業による消費者との対話（chatbots）の解析などへの AI システム利用など。
④第 4 分類の AI 規制対象：低（極小）リスク AI
システム（minimal risk AI systems）（規則案
69 条）≪原則として自主規制／行動規範による倫理規制≫ AI システムを利用したビデオゲー
ム、e メール・スパム・フィルターなど。
≪規制方法のあらまし≫★こ れら 4 分類の AI システムのうち、規制の中核となるのは、②「高リスク AI システム」。高
リスク AI システムについては、ライフタイム
プロセス（生涯工程）、つまり「ゆりかごから
墓 場 ま で 方 式（cradle-to-grave approach）」
で、徹底的に政府規制を実施。
★政府規制は、原則として各加盟国の権限ある当局などが実施。EU の AI 規制の統括組織として、© 2021 PIJ

EU の包括的 AI 規制始動
欧州 AI 委員会／ AI ボードを新設。EU 共通の
AI システムデータベースを新設し危険な AI を集中監視。
★③ 限定的リスク AI システムについては、プロバイダーが透明性確保などの政府規制に加え、行動規範（Codes of conduct）行動指針による自主規制（倫理・自主規制）。
★④ 低リスク AI システムについては、行動規範（Codes of conduct）行動指針による自主規制（倫理・自主規制）が基本。
★リ スクある AI システムには、加盟国の権限ある当局や業界団体から当事者に自主的な是正をとるように指導を実施。
★A
 I 規制規則違反には罰則。AI システム禁止またはコンプライアンス違反など、その種類や程度に応じて、最大で 3,000 万ユーロ（おおよそ 39 億円）か、企業には世界の売上高の最大 6％か、どちらか高い方の過料（規則案 71 条）。また、EUのさまざまな機関やエージェンシー、団体などがAI 規制規則に違反した場合には、欧州データ保護監督官（EDPS=EU ropean Data Protection
Supervisor）が過料を科す（第 72 条）。

① 第 1 分 類 の AI 規 制 は、「 厳 禁 さ れ る AI 実
務（expressly prohibited AI practices）」であり、官民の業務に AI システム（ADM プログラム）
を利用してはならない分野である。AI 規制規則
案は、公共空間での無差別な AI 顔認証監視カメ
ラやライブ遠隔顔認証 AI システムの利用、スコ
アリングシステム・社会信用ポイント制などを限定列挙している（規則案 タイトル II、5 条）10。
②第 2 分類の AI 規制対象は、「高リスク AI シ
ステム（High-risk AI systems）」である（規則案 タイトル III、6 条以下）。高リスク AI システ
ムについては原則として利用を解禁する。しかし、その法適合性については市販前またはサービス開
始前（ex ante ）の評価、その後のモニターなど
厳しいコンプライアンス義務が課される。
③第 3 分類の AI 規制対象は、「限定的リスク
AI シ ス テ ム（limited risk AI systems）」 で ある。限定的リスク AI システムについては、AI 使
用 に あ た り 情 報 処 理 手 順 の 開 示（Algorithmictransparency）などの透明性確保義務が課される。
④第 4 分類の AI 規制対象は、「低（極小）リスク AI システム（minimal risk AI systems）」である。低リスク AI システムについては、人権に影

10

CNNニューズ No.106

響が少ないとみて、原則として規制の対象から外している [ 前記【図表 2】参照 ]。代わりに、欧州委
員会（EU ropean Commission）などが、AI シ
ステムの個々の IT 企業（プロバイダー／開発者）、
その業界団体または双方に対して行動規範（Codesof Conduct）を定めるように奨励し、自発的協力を求める仕組みになっている（規則案 69 条）。
これら 4 分類の AI システムのうち、規則案で中核となるのは、②「高リスク AI システム」である。
高リスク AI システムについて、規則案では、いわゆる「ゆりかごから墓場まで方式（cradle-to-grave
approach）」で、徹底的に政府規制を実施する。
なお、AI 規制規則違反には、各加盟国の権限ある当局が、AI システム禁止またはコンプライア
ンス違反など、その種類や程度に応じて、最大で3,000 万ユーロ（おおよそ 39 億円）か、企業には世界の売上高の最大 6％か、どちらか高い方の過料を科す（AI 規制規則案タイトル X 第 71 条）。
また、EU のさまざまな機関やエージェンシー、団体などが AI 規制規則に違反した場合には、欧州 デ ー タ 保 護 監 督 官（EDPS=EU ropean Data
Protection Supervisor）が過料を科す（第 72 条）。
EU の AI 規制規則案は、
EU 域内にいるユーザーを対象に AI システムの販売や AI システムのサービスを提供する IT 企業（プロバイダー／開発者）、とりわけ中小事業者、起業家（startups）に大きな影響が及ぶ。加えて、UE 域外に拠点を置き、EU 市場でビジネスを展開する外国 IT 企業にも多大な影響を及ぼす。EU の AI 規制規則案は、EU
域外にも適用があるからである。
わが国では、法や倫理による縛りなくプライバ
シー／個人情報を糧に、AI システムを使って調理し、利益をあげようとする IT 企業がばっこしている。また、開発された AI システムを使って日常的に人権侵害を繰り返す官民のユーザーも多い。こうした西欧型の民主的な価値観、市民的な自由や人権を後回しにし、利益をむさぼるわが国の IT 企業は、
いずれ EU 市場ではビジネスができなくなる。
本稿第 1 部では、EU の包括的な AI 規制規則
案の枠組みと包括的な規制を必要としたわけを探る。第 2 部では、EU の包括的な AI 規制を深読みする。そして、第 3 部では、EU の基準を参考にわが国での人権をむしばむ AI システムの利用
ケースを点検してみたい。

AI 規制規則案 6 条では、
「高リスク AI システム（High-risk AI systems）について具体的に定義していない。

しかし、規則 6 条 2 項関係別表第 3 において具体例を掲げている。後記【図表 5】参照。

2021.7.10

7EU の包括的 AI 規制始動

■第１部

EU の包括的 AI 規制の枠組み

EU の新たな AI 規制規則案は、EU 域内での野放図な AI 利用に包括的な規制を加えることが狙いである。加盟国政府や IT 企業（プロバイダー／開発者）やユーザー（官民の機関）などに対して、
AI 技術の利用や提供にあたっては、欧州の民主主義的な価値観、EU 市民の自由や人権を護るよ
うに求める。
この規則が正式に通れば、AI システム、とりわけ個別の同意のない顔認証情報システムが人権をむしばむ利用につながらないように、法と倫理の双方の面から厳しい規制がかかる。

◆ひと目でわかる AI 規制法の枠組み
EU の欧州委員会（EC）は、4 月 21 日に AI
規制規則案を公表した。タイトル I から XII、
前文＋ 85 条と 9 つの別表からなる。法と倫理双方の面から多様な規制が盛られている。その目次を邦訳（仮訳）してみると、次のとおりである。

【図表 3】AI 規制規則案の目次（仮訳）

前文
タイトル I通則［General provisions］
第 1 条 趣旨［Subject matter］
第 2 条 適用範囲［Scope］
第 3 条 定義［Definitions］
第4条 付
 則第１への修正［Amendments toAnnex I］
タイトル II
禁 止 さ れ た AI 実 務［Prohibited artificial
intelligence practices］
第5条
タイトル III
高リスク AI システム［High-risk AI system］
チ ャ プ タ ー １ 高 リ ス ク AI シ ス テ ム の 分 類［Classification of AI systems as high-risk］
第 6 条 高 リ ス ク AI シ ス テ ム の 分 類 ル ー ル［Classification rules of AI systems as highrisk］
第 7 条 付 則 第 3 へ の 修 正［Amendments toAnnex III］
チ ャ プ タ ー ２ 高 リ ス ク AI シ ス テ ム の 要 件［Requirements for AI systems as high-risk］

8

CNNニューズ No.106
第 8 条 要件へのコンプライアンス［Compliancewith the requirements］
第 9 条 リスク・マネジメント・システム［Riskmanagement system］
第 10 条 データとデータガバナンス［Data anddata governance］
第 11 条 技術文書［Technical documen- tation］
第 12 条 記録保存［Record-keeping］
第 13 条 ユーザーへの透明性確保と情報提供［Transparency and provision of information
to users］
第 14 条 人によるチェック［Human ove- rsight］
第 15 条 正確性、堅固性およびサイバーセキュ
リティ［Accuracy,robustness and cybersecurity］
チ ャ プ タ ー 3 高 リ ス ク AI シ ス テ ム の プ ロ
バイダーやユーザーその他の当事者の義務［Obligations of providers and users of highrisk AI systems and other parties］
第 16 条 高リスク AI システムのプロバイダー
義 務［Obligations of providers of high-risk
AI systems］
第 17 条 品 質 管 理 シ ス テ ム［Quality management systems］
第 18 条 技 術 資 料 作 成 義 務［Obligations todraw up technical documentation］
第 19 条 法適合性評価［Conformity assessment］
第 20 条 自 動 作 成 ロ グ［Automatically generated logs］
第 21 条 是正行為［Corrective actions］
第 22 条 情報通知義務［Duty of information］
第 23 条 権限ある当局への協力［Cooperation
with competent authorities］
第 24 条 製 品 製 造 者 の 義 務［Obligations of
product manufacturers］
第 25 条 授権代理人［Authorised representatives］
第 26 条 輸入者の義務［Obligations of importers］
第 27 条 販売者の義務［Obligations of distributors］
第 28 条 販売者、輸入者、ユーザーその他第三者の義務［Obligations of disributors, importers,
users or any other third-party］
第 29 条 高リスク AI システムのユーザーの義務［Obligations of users of high-risk AI systems］
チャプター 4 認定当局と認定団体［Notifying
authorities and notified bodies］
第 30 条 認定当局［Notifying authorities］
第 31 条 法 適 合 性 評 価 団 体 へ の 認 定 申 請［Application of a conformity assessment
body for notification］
第 32 条 認定手続［Notification procedure］
第 33 条 認定団体［Notified bodies］
第 34 条 認 定 団 体 の 子 団 体 お よ び 下 請 け［Subsidiaries and subcontracting by notified
bodies］© 2021 PIJ

EU の包括的 AI 規制始動
第 35 条 本規則に基づく確認番号と指定された
認 定 団 体［Identification numbers and lists
of notified bodies designated under thisRegulation］
第 36 条 認定の変更［Changes to notifications］
第 37 条 認定団体の適格性にかかる不服申立て［Challenge to the competence of notified
bodies］
第 38 条 認定団体との調整［Coordination of
notified bodies］
第 39 条 第 三 国 の 法 適 合 性 評 価 団 体［Conformity assessment of third countries］
チャプター 5 基準、法適合性評価、証明書、登録［Standards, conformity assessment, certificates, registration］
第 40 条 調和した基準［HarmonAIsed standards］
第 41 条 共通仕様書［Common specification］
第 42 条 一 定 の 要 件 へ の 適 合 性 の 推 定［Presumption of conformity with certAIn
requirements］
第 43 条 法適合性評価［Conformity assessment］
第 44 条 証明書［Certificates］
第 45 条 認 定 団 体 の 決 定 に 対 す る 不 服 申 立て［Appeal agAInst decisions of notified
bodies］
第 46 条 認 定 団 体 の 通 知 義 務［Information
obligations of notified bodies］
第 47 条 法適合性評価手続の逸脱［Derogationfrom conformity assessment procedure］
第 48 条 EU 法適合性宣言書［EU declarationof conformity］
第 49 条 法適合性の EU 基準適合マーク（CEmarking of conformity）
第 50 条 文書保存（Document retention）
第 51 条 登録［Registration］
タイトル IV
一定のシステムへの透明性確保義務［Transparency obligation for certAIn AI
systems］
第 52 条 一定の AI システムへの透明性確保義務［Transparency obligation for certAIn AI
systems］
タイトル V
技術革新支援措置［Measures in support ofinnovations］
第 53 条 サンドボックス AI 規制［AI regulatory
sandboxes］
第 54 条 公益用の AI システム開発のために多くの個人データを処理にかかるサンドボック
ス AI 規 制［Further processing of personal
data for developing certAIn AI systems

2021.7.10

CNNニューズ No.106
in the public interest in the AI regulatory
sandboxes］
第 55 条 小規模プロバイダーやユーザーのための 措 置［Measures for small-scale providers
and users］
タイトル VI
ガバナンス［Governance］
チャプター 1 欧州 AI 委員会／ AI ボード［EUropean artificial intelligence board］
第 56 条 欧 州 AI 委 員 会 ／ AI ボ ー ド の 創
設［Establishment of EU ropean artificial
intelligence board］
第 57 条 AI ボードの構成［Structure of the Board］
第 58 条 AI ボードの業務［Tasks of the Board］
チャプター 2 加盟国の権限ある当局［National
competent authorities］
第 59 条 加 盟 国 の 権 限 あ る 当 局 の 指 定［Designation of national competent authorities］
タイトル VII
スタンドアロン高リスク AI システム用 EU デー
タ ベ ー ス［EU database systems for standalone high-risk systems］
第 60 条 スタンドアロン高リスク AI システム
用 EU デ ー タ ベ ー ス［EU database systems
for stand-alone high-risk systems］
タイトル VIII
市 販 後 の モ ニ タ リ ン グ、 情 報 共 有、 市 場 監
視［Post-market monitoring, information
sharing, market surveillance］
チャプター 1 市販後モニタリング
第 61 条 高リスク AI システムに対するプロバ
イダーのモニタリングおよび市販後モニタリング
計 画［Post-market monitoring by providers
and post-market monitoring plan for highrisk AI systems］
チャプター 2 事故および稼働過誤情報の共有
第 62 条 重 大 な 事 故 や 製 造 過 誤 の 報 告［Reporting of serious incidents and of
malfunctioning］
チャプター 3 執行［Enforcement］
第 63 条 EU 市場における AI システムの市場
監 視 と コ ン ト ー ル［Market surveillance andcontrol of AI systems in thEU nion market］
第 64 条 データや文書へのアクセス［Accessto data and documentation］
第 65 条 加盟国レベルでのリスクのある AI シ
ステムへの対応手続［Procedures for dealing
with AI systems presenting a risk at national
level］
第 66 条 EU 安全手続［Union safeguard pro-9

CNNニューズ No.106

EU の包括的 AI 規制始動
cedure］
第 67 条 リ ス ク あ る 基 準 適 合 AI シ ス テ ム［Compliant AI system which present a risk］
第 68 条 正式なコンプライアンス違反［Formal
non-compliance］
タイトル IX
行動規範［Codes of conduct］
第 69 条 行動規範［Codes of conduct］◆「 人間が主役の AI」に向けて EU とアメリ
カが競争
AI 規制規則案は、AI 利用について、アクセルとブレーキを装備する法制といえる。すなわち、
EU の IT 企業（プロバイダー／開発者）が高い
倫理観を持って AI ビジネスを展開できるように
アクセルを踏む。その一方で、デジタル監視国家の中国やプライバシー保護基準が甘いアメリカやタイトル X守 秘 お よ び 罰 則［Confidentiality and penalties］
第 70 条 守秘［Confidentiality］
第 71 条 罰則［Penalties］
第 72 条 UN の機関、エージェンシーや団体に対 す る 過 料［Administrative fines on Union
institutions, agencies and bodies］
タイトル XI
権 限 の 委 任 と 小 委 員 会 手 続［Delegation of
power and committee procedure］
第 73 条 委任行使［Exercise of the delegation］
第 74 条 小委員会［Committee procedure］

日本などの IT 企業（プロバイダー／開発者）のEU での AI ビジネス展開にブレーキをかけるのが狙いである。言い換えると、EU は、「人間が主役」の観点から AI 利用の適正化、健全な発展をはかるためのグローバルなルールつくりを先導する。これにより、人権ファーストで高い倫理観を持ったヨーロッパ IT 企業（プロバイダー／開発者）の競争力強化、AI 世界市場への参入を目指している。
生体認証情報の法規制については、すでにアメリカ・イリノイ州生体認証情報プライバシー法（BIPA）CNN-99.pdf (pij-web.net) やカリフォ
ルニア州消費者プライバシー法（CCPA）CNN-

タイトル XII
最終規定［Final provisions］≪以下、略、邦訳省略≫

98〔完成版〕.indd (pij-web.net) などの法制がある。これらの法制では、規制対象は、原則として民間機関での生体認証情報の利用に限定している。また、とりわけ AI 技術を組み合わせた生体欧州委員会は、2020 年に、『AI 白書（White
Paper on Artificial Intelligence）』 を 公 表 したことについてはすでにふれた。この白書は、欧州委員会（EC）やそのアドバイザーが AI と人権のあり方について、数年にわたる検討結果を公表したものである。今回公表した AI 規制規則案
は、この白書をベースに練り上げられ、正式な規則を制定するためのたたき台となる原案（draft
regulation）である。
この AI 規制規則案で、とりわけ注目を浴びたのは、顔認証技術利用の法規制である。公共空間
での無差別な AI 顔認証監視カメラの利用やライブ遠隔顔認証 AI システムの利用を原則禁止としている。例外的に認められるとしても、誘拐犯やテロ対策など他者の人身保護が優先する場合に限られる。

認証情報の利用に焦点を合わせた立法でもない。
バイデン政権誕生後、連邦レベルでの AI 政策
論議が活発になってきている。2021 年 3 月 12日、第 117 回連邦議会下院監視と改革委員会の
国家安全保障省委員会（U.S. House Committee
on Oversight and Reform Subcommittee
on National Security）とサイバー・革新的技
術・情報システムに関する軍事小委員会（U.S.
House Armed Services Subcommittee
on Cyber, Innovative Technologies, andInformation Systems）とが、人工知能国家安全保障委員会 2021 年報告 (2021 Final Reportof the National Security Commission on
Artificial Intelligence) に関する合同公聴会を開催した。
この公聴会では、小委員会委員長や長老議員、
人工知能国家安全保障委員会（NSCAI）委員長、証人から、AI 技術革新が急であることから、人

11

10


https://www.nscAI.gov/wp-content/uploads/2021/03/Full-Report-Digital-1.pdf© 2021 PIJ

CNNニューズ No.106

EU の包括的 AI 規制始動

材を集約して研究開発を積極的に推進すべきであの原則利用禁止に加え、高リスク AI システム規るとの主張が目立った。とりわけ、中国やロシア制に傾斜した包括策だ。しかも、民間機関のみなとの軍拡競争に打ち勝つために AI の研究を強力らず政府機関も含め民官双方に適用される。世界に推進すべきである声が強かった。国家安全保障、の主要国・地域では初めてのものである。

軍事問題を専門とする小委員会の公聴会であったのが響いたのであろう。

アメリカのバイデン政権、ホワイトハウス国
家安全保障アドバイザーを務めるジェイク・サしかし、同時に、この公聴会で証言した議員

リ バ ン 氏（White House National Securityや証人からは、AI 技術の誤用、市民的自由や人

Adviser Jake Sullivan） は、4 月 22 日 に、権侵害を防止するために、テクノデモクラシー

SNS ツイッターで、EU の新 AI 政策に歓迎の意（techno-democracy）の構築も重視すべきであを表した 13。しかし、EU の AI 政策は、アメリるとの意見も相次いだ。その結果、AI 技術の開発・カが想定する AI 政策と大きな隔たりがある。EU

利用にあたっては、民主的な価値観、透明性、強の「高リスク」の概念や法適合性評価の基準など、力な監視、説明責任、法令遵守を求めるためのガ〝規制の哲学（regulatory philosophies）〟はさ

バナンスの確立が必須である旨のコンセンサスがまざまな点で異なる。EU とアメリカとの間では、得られた。加えて、アメリカが主導して価値観をGDPR の域外適用や巨大デジタルプラットフォー

同じくする諸国とテクノデモクラシーの輪を一段

マー GAFA の個人情報取扱いなどをめぐり、以と広げる必要があることも確認された

12。

民主党主導のアメリカ連邦議会での AI 技術の開発・利用の民主的コントロールについての今後

前から大きな問題を抱えている。AI 規制規則案の取扱いをめぐり、
大西洋両岸協力（trans-Atlantic
corporation）の今後が注目される。

の動きには、目が離せない。しかし、アメリカ議会での動きは、いまだ机上の空論の域を出ない。
中身の具体的検討はこれからだ。

◆なぜ EU は包括的な AI 規制を実施するのか～ EU は、人間が主役の AI 開発・利用の拠点になる！
AI の 利 用 は 世 界 で 急 拡 大 し て い る。AI 関 連の調査・コンサルティング企業である IDC は、
2021 年 2 月に、世界 AI 市場に関する調査結果を発表した 14。2021 年の世界 AI 市場は、ソフ
トウエア・ハードウエア・サービスを含め 35 兆円規模、2024 年には 59 兆円規模になると予測（public use）
アメリカのバイデン政権は、中国型のデジタル
監視国家体制を痛烈に批判し、〝人権尊重を重視
する AI 技術の開発・利用、テクノデモクラシーを確立する〟政策を明確にすることで、EU と競争する姿勢を強めている。

する。AI システムがとめどもなく広く社会に浸透する様子が伺える。AI が、人類の未来を明るくするとばかり、
脚光を浴びる。しかし、
AI には「光と影」
がある。AI の人権面での危うさも次第にはっきりしてきている。そのなかには、既存の法令で対処するのが難しい課題も少なくない。
EU が AI 規制に踏み切る理由はさまざまある。

これに対して、今般の EU の AI 規制規則案は、その１つに、EU が慣れ親しんできた民主国家観

軍事バランスなどを抜きにした人権ファーストのに対峙するデジタル監視国家観、スマートシティ

具体的な実施策である。重みが違う。内容も、生ないしウーブンシティなどと名うったデータ監視

涯不変の究極のプライバシーである生体認証情報

都市構想で人格権を軽視するうねり、中国化への

12

13
14


https://oversight.house.gov/news/press-releases/oversight-and-armed-services-subcommittees-held-

joint-hearing-on-the-final
https://twitter.com/JakeSullivan46/status/1384970668341669891?s=20

IDC（International Data Corporation）は、IT や AI など関する調査・分析・コンサルティングを手掛けるグロー

バルな企業。 IDC Forecasts Improved Growth for Global AI Market in 2021

2021.7.10

11

CNNニューズ No.106

EU の包括的 AI 規制始動

懸念がある。中国は、すべての一般市民はもちろ

今 回 の AIんのこと、少数民族、ウイグルのジェノサイド（民規制の狙い

族浄化策）に AI 顔認証監視カメラ網（天網）なは、AI がどをフル活用し、国際的批判を浴びている。加EU の重視す

えて、AI を利用した社会スコアリングシステム

る自由や民主（social scoring ／個人の行動や人格的特性など

主義、人権とに基づき、国家が個人の信頼性などを格付けする

いったヨー

社会信用ポイント制。以下「社会信用ポイント制」

ライエン欧州委員会委員長（public use）

ロッパが共有ともいう。）の活用を広げている。社会信用ポイ

してきた価値

ント制は、国家が国民の行動を監視し餞別する統観を損なう事態を避けることにある。人が AI に治ツールとして、市場社会主義モデル、人権ゼロ

コントロールされるのではなく、人が AI をコンのデジタル監視国家つくりに一役買っている。

トロールする、すなわち「人間が主役」の原点に

こうした中国スタイルの個人情報を無制限に収立ち返ることにある。

集・分析し、市民を監視・追跡・選別する社会はEU 欧 州 委 員 会（EU ropean Commission）

EU ではゆるされない。ヨーロッパで共有されてのブレトン（Thierry Breton）コミッショナー

きた民主的な価値観とぶつかるからである。市民はいう。
「AI は手段であり、目標ではない（AI isの自由や人権を尊重する政治体制とは相いれず、

a means, but not an end）」と。

EU としては絶対に容認できない。EU が、AI 規
制を急いでいる究極の理由である。

また、欧州委員会（EU ropean Commission）のデジタル時代への欧州適合担当委員のマルグ今回の AI 規制規則案は、世界の個人情報保護

レーテ・ベステアー（Margrethe Vestager）上

法制に大きな影響を及ぼした一般データ保護規則

級 副 委 員 長（Executive Vice-President for a（GDPR）の AI 版草案ともいえる。GDPR と同

EU rope fit for the Digital Age）は言明する。

様に、EU でビジネスを展開する IT 企業に対して「EU 市民の安全と基本的人権が、AI によって脅は、EU 域外にあっても適用になる。このことから、

かされれば、我々のルールは介入する」と。

やりたい放題、野放図な生体認証情報技術ビジネ

ち な み に、EU の 主 要 立 法 と し て は、
「規則スを展開してきたグローバルな IT 企業（プロバ（regulation）」と「指令（Directive）」がある。「規イダー／開発者）への影響も極めて大きい。アメ則」は、加盟国の国内法に優先して、加盟国の政リカや日本の名だたる IT 企業（プロバイダー／

府や企業、個人に直接適用される。すなわち、加開発者）も例外でない。EU 市場で AI ビジネス

盟国の政府等を直接法的に拘束する。このため、を展開したい IT 企業（プロバイダー／開発者）は、加盟国の国内立法は不要である。一方、「指令」

自国でのビジネスモラル、人権に対する姿勢も問は異なる。付加価値税指令（VAT directive）のわれかねない。

ように、個々の加盟国に効力を及ぼすには、加盟

EU は、AI には「光と影」があることを熟知している。この AI 規制規則案を通じて、人権ファー
ストで倫理観ある AI 開発・利用を主導する意気込みを世界に向けてアナウンスした。

国の国内立法が必要である［添付資料【図表 E】
参照］。
AI 規制規則案（AI 規制法案）は今後、EU の閣僚理事会（EU ropean Council）と欧州議会

EU の欧州委員会（EU ropean Commission）（EU ropean Parliament）で審議される。議論は、行政執行機関である。AI 規制は、この委員を活発化させ、細部にわたり中身の検討を充実さ

会の初の女性委員長を務めるウルズラ・フォン・

せなければならない。これと並行して、公開諮問

デ ア・ ラ イ エ ン（President Ursula von der（public consultation ／パブコメ）手続をとり、Leyen）（ 任 期 2019 年 12 月 １ 日 ～ 2014 年

広く各界から意見を聴取しなければならない。幅10 月 31 日）が、精力的に進める最重要政策の

広い合意のもとで成立するまでにはかなりの時間１つである。

を要する。

15


付加価値税の共通システムに関する 2006 年 11 月 28 日付理事会指令 2006 ／ 112 ／ EC（VAT 指令）（Council

Directive 2006 ／ 112 ／ EC of 28 November 2006 on the common system of value added tax）

12

© 2021 PIJ

CNNニューズ No.106

EU の包括的 AI 規制始動

■第２部 EU の AI 規制規則案を深読みする～危 ない AI は、逃げられない、逃がさない！！

に対して、EU の AI 規制規則は域外適用（extraterritorial application）になる。
AI 規制規則は、とりわけ国境のないネット／
デジタル環境に適用になる。このため、例えば、

EU は、今回の AI システム規制規則案を通して、ユーザーである EU の民間機関や政府機関と AI

AI や ADM に対し、法と倫理の双方の面から包技術のプロバイダーである IT 企業とがオンライ

括的な規制に着手した。「危ない AI は、絶対に逃ンで結ばれているとする。この場合にも、IT 企

げられない、逃がさない。」をモットーに、法と業が地理的に EU 域外に所在していても、この規

企業倫理（行動規範）の 2 つのツールを使い分け

則は適用になる。すなわち、AI システム規制は、規制を実施する。とりわけ、高リスク AI システ

状況に応じて、EU への販売者（distributor）まムについては、EU の AI の法規制を遵守しないと、

たは輸入者 (importer) にあたる者にも適用にな

EU 域内からは完全に排除される。また、組織内る（規則案 26 条、27 条）。これら規制対象者は、対応の不備などを含むコンプライアンス違反に対AI 規制規則上のガバナンスおよびコンプライア

しては、その程度に応じて厳しい制裁（過料）がンスが厳しく問われる。

課される。現行法制のもとで問題なく流通している AI 製品やサービスであっても、あらたな AI 規
制秩序が確立されれば、決して安穏としてはいられない。以下に、EU の AI 規則規制案のポイン（２）定義
規制の対象となる「AI システム」は、次のよ
うに定義される ( 規則案 3 条１号 )。

トを深読みしてみる。
【図表 5】「AI システム」の定義◆ EU の AI 規制規則案のポイント解説（１）AI 規制規則適用の範囲
AI 規制規則の適用対象は、次のとおりである（AI 規制規則案 2 条）。
【図表 4】AI 規制規則の適用対象① AI システムを市場に出すまたはサービス提供
する IT 企業、つまりプロバイダー（provider）／開発者 (developer)。プロバイダー／開発者
は、EU 域内または第三国に所在しているかど
うかは問わない 。
② EU 域 内 に 所 在 す る AI サ ー ビ ス の ユ ー ザ ー（user）③製 造された AI システムが EU 域内で使用される場合には、第三国に所在する AI システムのプロバイダー／開発者およびユーザー。具体的 に は、 販 売 者（distributor） お よ び 輸 入 者（importer）。

①「人工知能システム（AI system）」とは（規則案 3 条 1 号）
 本規則案第 3 条 1 号関係別表（Annex）第１に掲げた 1 つ以上の「AI 技術（techniques）
および手法（approaches）」により開発され、かつ、一連の与えられた人間が定義した目的、コンテンツ、予測、勧告または相互に状況に影響を与える決定をすることができるソフトウエ
アである。
（規則案 3 条）。
②「AI 技術および手法」とは（規則案 3 条 1 号
関係別表第 1）ⓐ各 種 機 械 学 習 手 法（machine learning
approaches）ⓑ各 種ロジック・知識ベース手法（logic- andknowledge-based approaches）ⓒ各種統計的手法（statistical approaches）（３）欧州委員会の AI 規制の考え方
欧 州 委 員 会（EU ropean Commission） の AI
規制の考え方や理由は、AI 規制規則（AI 規制法案）の解説メモ（Explanatory Memorandum）

例えば、AI システムがわが国で開発され、EU域内のユーザーに提供されるとする。

に目を通せばわかる。要約すれば、次のとおりである。

この場合は、わが国のプロバイダー／開発者

16
ただし、AI 規制規則案は、一定の場合には適用除外となる。例えば、もっぱら軍事目的で開発されかつ利用される AI システムには、適用除外となる（２条３項）。また、第三国の公的機関、EU または加盟国と締結した法執行または司法共助のために国際条約に基づいて関連当局または機関が AI システムを利用する場合には、適用除外となる（２条４項）。

2021.7.10

13

EU の包括的 AI 規制始動
AI（人工知能）または AI システムは、多くの利点を持っている。その一方で、この新たなテクノロ
ジーは、ヨーロッパの価値観や基本的人権、民主主義の原則、オープンな社会の展開にとり危険な面も多々みられる。とりわけ、公共空間における生体認
証情報の収集やその他大衆監視技術としての AI 利
用は、自由でオープンなヨーロッパ社会にとり大きな脅威になっている。このままでは、EU 市民の生存に深く介入し、その危険度も格段に高まる。
EU における AI に対する認識の高まり、幅広い
コ ン セ ン サ ス を 得 て、 欧 州 委 員 会（EU ropean
Commission）は、EU 域内で AI は野放しにするのは、自由や人権、民主主義の原則にとり脅威になるとの結論にいたった。そこで、人間不在の AI シ
ステムに対して、その作り方や使い方の危険度に応じて、注意深く歯止め策を講じ、法と法以外の規範（倫理）双方の面から包括的な規制を加えることにした。

新たな AI 規制規則は、リスクベース・アプロー
チ（risk-based approach）に基づき、AI シス
テムに包括的規制をかけようとするものである。
EU が、AI システムの信頼性を確かなものにする
ための新たなグローバルなルールをつくる。そして、EU はそれを広めていくフロントランナーとして挑戦しようとするものである。いわば、「プ
ライバシー／人格権をむしばむ AI パンデミック」にストップをかけるための画期的な〝ワクチン〟とみてよい。

◆４分類の AI 規制規則の仕組み
法規制は、具体的な AI システムの開発・利用
方法を、そのリスク度に応じて、次のように 4 段
階に分類して実施される。その内容をもう少し深
読みすると、次のとおりである。
【図表 6】4 段階に分類した AI システム規制の仕組み①禁 止 さ れ る AI 実 務（expressly prohibited
AI practices）（規則案 5 条）❶
人間の自由意思に基づく行動を操作する AI システム❷ス コアリング／社会信用ポイント制（個人の行動や人格的特性などに基づき、公共機関やその代理機関が個人の信頼性などを格付けする）AI システム❸公 共空間にいる個人を監視するために顔認証情報を利用する AI システム
❹リアルタイムの遠隔顔認証 AI システム

14

CNNニューズ No.106②高 リ ス ク な AI シ ス テ ム（high-risk AI systems）（規則案 6 条以下）
❶運輸のような重要インフラへの AI システムの利用：市民の生命や健康を危険に陥れかねないことが理由❷
試験の評価のような教育・職業訓練への AI シ
ステムの利用：教育や職業訓練コースを受けられるかどうかは応募者の生命にかかわることが理由❸
手術支援ロボットのような AI システムを利用した製品：人の生命や健康を危険に陥れかねないことが理由❹
採 用の際の履歴書の診断のような雇用や労務管理などへの AI システムの利用：人権がかかわることが理由❺融 資などの際の信用スコアリング（クレジットスコア）への AI システムの利用：必要不可欠な
公的および私的サービスにかかわることが理由➏
証拠の信頼性評価のような法執行への AI シス
テムの利用：人権がかかわることが理由❼
旅 券等の信ぴょう性の証明のような移民・亡命・国境管理への AI システムの利用：人権がかかわることが理由❽
具 体的な事実に対する法の適用のような司法行政などへの AI システムの利用：法の適正手
続にかかわることが理由➔「ゆりかごから墓場まで方式（cradle-to-grave
approach）」による徹底的な規制。AI システムの法適合性について事前チェックの義務化、EUが設置・管理する AI システムデータベースへの登録。プロバイダーへの各種ガバナンス確立の義
務化、ユーザーが負う義務の明確化など（29 条）。
③限定的リスクの AI システム（limited risk AI
systems）❶
企 業が消費者との対話（chatbots）の解析などに AI システムを利用している場合など。この場
合、原則として消費者はその事実を事前に知らされる権利を有する 17。
➔A I システム利用の際の情報開示（Algorithmictransparency）の義務化（規則案 13 条、
52 条）などの規制はある。しかし、原則は、欧州委員会（EU ropean Commission）などが、AI シ
ステムの個々のプロバイダー／開発者、その業界団体または双方に対して行動規範（Codes ofConduct）を定めるように奨励し、自発的協力を求める仕組みになっている（規則案 69 条）。
④低（極小）リスク AI システム（minimal risk
AI systems）
上記①・②・③にあてはまらない利用。例えば、
AI システムを利用したビデオゲーム、e メール・スパム・フィルターの利用など。大部分の AI シス
テムの利用は、この分類にあてはまる。AI 規制規則案では、この分類にあてはまる AI システムを、© 2021 PIJ

EU の包括的 AI 規制始動
EU 市民の権利や安全には大きな影響を及ぼさな
いとの理由で、法規制の対象から除外している。
代 わ り に、 欧 州 委 員 会（EU ropean Commission） などが、AI システムの個々のプロバイ
ダー／開発者、その業界団体または双方に対して行動規範（Codes of Conduct）を定めるように奨励し、自発的協力を求める仕組みになっている（規則案 69 条）。

◆透明性確保：AI システム利用事実の告知義務
EU の AI 規制規則案では、AI システムの透明性を確保するために、一定の場合に、プロバイダー
やユーザーに対し受任義務を課している。例えば、
AI システムのユーザー（公的機関や民間機関）は、個人（natural persons ／自然人）が AI システ
ムを利用していることをしっかりと認識できないと思われる場合、利用の事実を当該個人に告知しなければならない、と規定する（規則案 タイトル
IV 52 条）。
この透明性確保措置により、個人は、その利用状況などから明らかに AI システムが利用されていると理解できる場合を除き、AI システムが利用されていることの告知を受けることができる。
ただし、法執行目的での AI システム利用の場合は別である。
また、オーディオ（音声）やビデオ（映像）、イメー
ジ（画像）制作に、AI システムを使った人物画
像合成の技術、いわゆる「ディープフェイク（deepfakes）」が利用する場合、ユーザーは、そのコンテントを人工的にまたは操作して制作することを

CNNニューズ No.106
だし、利用状況や利用関係からその目的が明らかにわかる場合を除く。この義務は、犯罪行為の摘発、防止、捜査および起訴するために法律により認められている AI システムには課さないものとする。ただし、こうした AI システムが、公衆に対し犯罪行為を報告するように利用される場合は除く。
②感 情認識システム（emotion recognition system）、
生体分類システム（biometric categorization system）のユーザーは、その対象となる自然人（個人）に対し、当該システムが作動していることを告知す
るものとする。この義務は、犯罪行為の摘発、防止、捜査および起訴するために法律により認められている生体分類に使用される AI システムには課さないものとする。
③画 像（イメージ）、音声（オーディオ）または映像（ビデオ）のコンテントを作製または操作する
AI システムで、現存する人、物、場所その他の実体または出来事を合成できる、または、本物または実在の人物を不正に合成で（「ディープフェイク（deep fakes）」）できるものがある。この種の AI システムのユーザーは、そのコンテントが合成または操作されていることを開示しなければならない。
 ただし、この種の AI システムが、犯罪行為の摘発、防止、捜査および起訴するために法律により認められている場合、または EU の基本権章典（Charter of Fundamental Rights of the EU ）で保障された表現の自由権や芸術・科学の自由権の行使に必要な場合には、第三者の権利や自由の保護を適切にすれば、その限りではない。
④前記①、②および③は、本規則のタイトル III【高リスク AI システム】に規定された要件や義務にはその効力は及ばないものとする。

開示しなければならない 18。
AI 規制規則案タイトル IV は、「透明性確保義務（transparency obligations for certAIn AI◆「禁 止される AI 実務」と「高リスク AI システム」

systems）」の表題で、次のように規定する。
以上のように、今回の AI 規制規則案タイトル①プロバイダーは、自然人（個人）と相互のやり取りをすることを目的とする AI システムの設計や開発にあたっては、当該自然人がそうした目的を知ることができるようにしなければならない。たIII では、AI システムを 4 つに分類して法規制を加える。これらのうち、わかりにくい規制内容について、以下にもう少し深読みしてみる。

17
ただし、刑事訴追の対象となる刑事犯罪などが関係する場合は除く（規則案 52 条 1 項）。

18


わが国でも、アスリートの盗撮画像や映像、女優や特定個人の画像や映像を AI 技術の１つであるデープフェ

イク【デープラーニング（深層学習）＋フェイク（偽物）】を使って加工したニセ画像を各種サイトで頒布する行為が社会問題となっている。テレビ番組などで放映された画像を基にしたニセ画像については、法執行当局が著作権違反で摘発している。デープフェイク／人物画像合成技術の規制については、芸術作品の作成にも使用されている。このことから、この種の AI 技術の規制は、憲法が保障する表現の自由の視角からも問題になる。

2021.7.10

15

CNNニューズ No.106

EU の包括的 AI 規制始動

１

 止される AI 実務／ブラックリスト掲載 AI
禁システム

AI システムに対してはライフサイクル（生涯工程）、つまり「ゆりかごから墓場まで方式」で、さまざまな角度から縛りがかかる。徹底した規制

許 容 さ れ な い リ ス ク（unacceptable risk）
段階にある厳しく①禁止される AI 実務、つまを実施し、市民の自由や人権保護を先行させるためである。

り俗にいう「ブラックリスト掲載 AI システム
（blacklisted AI system）」とは、市民の人権や生存、安全に明確な脅威を与えると考えられる
AI システムを指す（規則案タイトル II 5 条）
。具
体的には、次のような例があげられる。

❶ユーザーの自由意思を巧みにコントロールし、人間の行動を操作するために利用される AI システ
ムがあげられる。具体的には、ゲームや玩具の音声機能で子どもに危険な行動を促すような AI シ
ステムの利用は厳禁される。長距離トラック運転
者に長時間運転させるために非可聴域の周波数を探し出すための AI システムの利用は厳禁される。
アルゴリズムを使ってギャンブル依存症の人をその種の広告サイトに誘導する有害な AI システムなども厳禁される。
❷政 府が AI を用いて個人データを分析して格付けする「スコアリング（social scoring）」／「社会信用ポイント制」があげられる。すなわち、政府が、
AI システムを利用して個人の行動や人格的特性などに基づき、国家が個人の信頼性などを格付けすることは厳禁される。
❸公共空間にいる個人を監視するために顔認証情報を利用する AI システム（ただし、誘拐やテロなど人身保護の場合で裁判所の令状その他の独立した機関の判定に基づくときなどは除く。
）があげられる。具体的には、公道上で無差別に顔認証情報により個人を識別する AI 監視カメラシステムなどがあげられ、厳禁される。
❹リアル遠隔顔認証 AI システム

コラム

AI 規制規則の立ち位置

A

I 規制規則は、AI システムに適用される規則である。AI システムは、機械や玩具、エレベーター、装置、医療機器などさ
まざまな製品に採用されている。また、AI シス
テムは、航空機、自動車、鉄道の安全などの部品として採用されている。こうした製品などに対しては、それぞれの安全性を確保するなどの目的で定められている既存の製品安全基準に関する EU 規則が適用になる。
それぞれの製品などに適用される製品安全基
準関係 EU 規則は、〝一般法〟にあたる。一方、
AI 規制規則は、〝特別法〟にあたる。AI システ
ムに関して双方の規則が重なる場合も想定される。こうした場合には、原則として〝特別法〟である AI 規制規則が優先して適用になる。

「高リスク AI システム」については、本規則案
タイトル III・チャプター 2 で一般要件を定める。
そのうえで、同タイトル・チャプター 3 以下で、適用対象者別に一般要件のうちのどれが、どのように適用になるかを定める。
【図表 7】AI 規制の仕方≪高リスク AI システム法適合性：一般要件≫
第8条 要
 件へのコンプライアンス［Compliancewith the requirements］
第9条 リ スク・マネジメント・システム［Riskmanagement system］
第 10 条 デ ータとデータガバナンス［Data anddata governance］
第 11 条 技術文書［Technical documentation］≪対象者≫

中国での AI 監視カメラ展示会 （public use）

２

遠隔 AI 監視カメラでの顔認証 （public use）

 リスク AI システムへの「ゆりかごから墓高場まで方式」規制とは（１）プロバイダー／開発者の場合（２）ユーザーの場合（３）輸入者の場合（４）販売者の場合（５）その他

AI 規制規則案の中核となるのが、②高リスク

紙幅が限られることから、≪高リスク AI シス

AI システム（high-risk AI systems）に対する

テム法適合性：一般要件≫に関する詳しい説明を規制である（6 条以下）。この分類にあてはまる

省き、適用対象別に、一般要件とその他の要件が16© 2021 PIJ

EU の包括的 AI 規制始動

どのように適用になるのかを、やさしく説明する。
（１）高リスク AI システムのプロバイダー／開発者に対する規制
高リスク AI システム（high-risk AI systems）のプロバイダー／開発者は、次のような規制を受ける（規則案タイトル III、チャプター 3）。
【図表 8】プロバイダー／開発者に対する規制の仕組み

①技術的パラメータ［外部からいれる値］と透明性❶
リスク・マネジメント・システム
 プロバイダー／開発者は、リスク・マネジ
メント・システムを確立、実施、文書化し、かつ維持しなければならない。この場合においては、AI システムの予見できるリスクの確認や市場に出した後のモニター制度のような手法を含む。リスク・マネジメント・システ
ムにおいては、各種リスクは、できるだけ AI
システムの設計および開発段階で削減または最小化できるようにしなければならない ( 規則案 16 条 b 号による 9 条の準用 )。
❷
高資質データの設定
 高リスク AI システムは、的確で誤りがなく、完全な高資質データを設定したうえで、訓練、有効性、試行しなければならない。この要件は、
適切なデータガバナンスおよびデータマネジ
メントを通じて充足しなければならない ( 規則案 17 条による 10 条の準用 )。
❸
技術文書作成と記録保存
 高リスク AI システムの設計は、出てきた結果を追跡しかつ実証できるようにしなければならない。このことから、プロバイダー／開発者は、AI システムが AI 規制規則案を遵守しているかどうかどうかを点検できるように、技術文書（technical documentation）を作成したうえ保存しなければならない ( 規則案18 条による 11 条・12 条の準用 )。
❹
品質管理システム プロバイダー／開発者は、資質管理システ
ム（quality management system） を 設 定するように義務づけられる。とりわけ、定期的な規制遵守状況、AI システムの設計に対するシステマティックレビュー、技術スタンダー
ドおよび報告制度に関する戦略が求められる。
❺透明性とユーザーに対する情報提供 高リスク AI システムについて、ユーザーは、どのように結果を導き出すことができるのかを理解し、かつコントロールできなければならない。この点について、プロバイダー／開発者は、文書や説明書を準備しなければならない ( 規則案 13 条 )。

2021.7.10

CNNニューズ No.106❺
透明性とユーザーに対する情報提供 高リスク AI システムについて、ユーザーは、どのように結果を導き出すことができるのかを理解し、かつコントロールできなければならない。この点について、プロバイダー／開発者は、文書や説明書を準備しなければならない ( 規則案13 条 )。
➏
人間によるチェック 高リスク AI システムは、権限ある自然人による効率的な方法でチェック（oversee）できるように設計されていなければならない。この要件は、高リスク AI システムの利用による健康、安全および基本的人権へのリスクを防止するまたは最小化することが狙いである ( 規則案 14 条 )。
❼シ ステムの堅固性、正確性、サイバー攻撃からの安全性 高リスク AI システムは、悪意ある第三者による攻撃や介入に対応できるように、高水準のシステムの堅固性、正確性、サイバー攻撃
か ら の 安 全 性（robustness, accuracy andcybersecurity）を確保できるものでなければならない（規則案 15 条）。
❽授権代理人の指定
 プロバイダー／開発者は、EU の域外に所在する場合、有効な書面の形で授権代理人（当該プロバイダー／開発者からの委任を受け EU
域内に所在する自然人または法人）を指定しなければならない（規則案 25 条）。
②法適合性および登録手続❶法適合性評価  プ ロ バ イ ダ ー ／ 開 発 者 は、 高 リ ス ク AI シ
ス テ ム が AI 規 制 規 則 案 の 要 件 を 充 足 し て いる旨を示すための法適合性評価（conformity
assessment）を実施しなければならない（規則案 19 条）。プロバイダー／開発者は、AI システ
ムに相当の変更を加える場合には、あらたな法
適合性評価を実施しなければならない。高リス
ク AI システムは、これを遠隔生体認証（remotebiometric identification） お よ び 公 共 イ ン フ
ラ 網（public infrastructure networks） と して利用しようとする場合、第三者遵法評価を受けるものとする。政府機関が発行した証明書は、最大で 5 年間有効とする。遠隔生体認証
および公共インフラ網高リスク以外の AI シス
テムについて、プロバイダー／開発者は、自主的な評価を選択し、EU 法適合性宣言書（EUdeclaration of conformity）を発行することができる。プロバイダー／開発者は、適切な形で継続的に宣言書を更新しなければならない（規則案 48 条）。
❷ EU 基準適合マーク（CE marking）
  プロバイダー／開発者は、AI システムを EU

17

CNNニューズ No.106

EU の包括的 AI 規制始動
域内で自由に作動させるためには、EU 基準適合マーク（CE marking）を見えるところに張り付け、その AI システムが規則を遵守している
旨を示さなければならない（規則案 49 条）。
❸登録  AI システムを市場に出すまたはサービスを提供するに先立ち、プロバイダー／開発者は、その AI システムをあらたに設置する旨を、一般に公開されている EU が設ける高リスク AI システ
ムデータベース（EU Database of High-Risk
AI Systems）に登録（register）しなければならない（規則案 51 条・60 条）。
③モニタリング❶市販後モニタリング
 プロバイダー／開発者は、市販後モニタリン
グを実施し、AI システムの性能に関しユーザー等が提供したデータを収集、文書化および分析をしなければならない（規則案 61 条）。
❷報告義務
 プロバイダー／開発者は、AI システムに関する重大な事故または機能過誤に加え、重大な受任義務違反を該当する加盟国の権限ある当局に届け出なければならない（規則案 22 条・62 条）。

（２）高リスク AI システムのユーザーに対する規制
高リスク AI システム（high-risk AI systems）のユーザーは、おおまかにいえば、次のような規制を受ける（規則案 29 条）。
【図表 9】ユーザーの義務

高リスク AI システムに対するユーザーの義務❶
ユ ーザーは、高リスク AI システムを、プロバ
イダー／開発者が準備した説明書に基づいて利用し、入力データを管理し、装置の異常をモニターし、かつ、当該 AI システムが自動的に作成したログ（AI の利用状況やデータ通信など
履歴や情報）の記録を保存しなければならない。
❷
信 用機関（credit institutions）による高リス
ク AI システムの利用については、信用機関を規制する EU 指令（Directive 2013 ／ 36 ／EU ）のもとで負う義務の規定を準用する。
❸
高 リスク AI システムのユーザーは、情報を、
他 の EU 規 則（Regulation（EU ）2016 ／679 または Directive(EU )2016 ／ 680）のもとで求められるデータ保護影響評価（dataprotection impact assessment）を実施した
うえで利用するものとする。

（３）高リスク AI システムの輸入者に対する規制
高リスク AI システム（high-risk AI systems）の 輸 入 者（importer） は、 お お ま か に い え ば、
18

次のような規制を受ける（規則案 26 条）。
【図表 10】輸入者の義務

高リスク AI システムに対する輸入者の義務
輸入者は、高リスク AI システムが市場に出される前にプロバイダー／開発者が実施した法適合性評価手続を護り、準備した技術資料を保存しなければならない。

（４）高リスク AI システムの販売者に対する規制
高リスク AI システム（high-risk AI systems）の販売者（distributor）は、おおまかにいえば、次のような規制を受ける（規則案 27 条）。
【図表 11】販売者の義務

高リスク AI システムに対する販売者の義務
販売者は、高リスク AI システムに法定の EU
基準適合マーク（CE marking）を記し、利用のための法定資料や説明書が添付されていることを確認しなければならない。

（５）高リスク AI システムのプロバイダー／開発者となるユーザー、輸入者、販売者および第三者
高リスク AI システム（high-risk AI systems）のプロバイダー／開発者となるユーザー、輸入者、販売者および第三者は、次のような規制を受ける（規則案 28 条）。
【図表 12】対象者一般に対する義務

高リスク AI システムのプロバイダー／開発者となるユーザー、輸入者、販売者および第三者の義
務：いかなる当事者も、次の場合には、プロバイ
ダー／開発者とされ、受任義務を負う。❶高リス
ク AI システムを、商号や商標をつけて市場に出すまたはサービスを提供する場合、❷すでに市場に出しているまたはサービスを提供している高リ
スク AI システムの目的に変更を加える場合、または、❸高リスク AI システムに相当の変更を加える場合。これら❶・❷・❸いずれの場合においても、当初のプロバイダー／開発者は、AI 規制
規則案のもとでは、もはやプロバイダー／開発者とされない。

（6）小括
すでにふれたように、規則案では、「高リスク
AI システム」について、具体的に定義していない。しかし、以上のように、AI システムが高リ
スクとみなされれば、プロバイダー／開発者は広© 2021 PIJ

CNNニューズ No.106

EU の包括的 AI 規制始動

範な受任義務を負うことになる仕組みになってい必要になる。しかし、禁止か許可かの線引きはあいる。つまり、②高リスク AI システムについては、まいである。とりわけ、フランスのように EU 加

プロバイダー／開発者には、コンプライアンス

盟国の治安当局によっては、精度の高い遠隔生体認チェック、EU が集中管理するデータベースへの証 AI システムを幅広く利活用している。最終規則

登録とか、さまざまな法適合性要件が課される。
【図表 8】 ②高リスクが伴う❶～❽のような AI

策定までには、相当の難航が予想される。

システムについては、市場に出される前に、加３ AI システム市販後規制、情報共有、市場監視

盟国政府が指定する権限ある当局（competentauthorities） ま た は 欧 州 デ ー タ 保 護 管 理

EU の AI 規制規則案では、AI システムのライ

官（EDPS=EU ropean Data Protection

フサイクル（生涯の工程）規制を目指している。

Supervisor）による審査を受ける必要がある。

これまで、「AI システム稼働中の規制」に焦点をAI 規制規則案では、こうした審査のため、権限あてて、分析・紹介してきた。

ある当局または EDPS に対して、サンドボックス
AI 規制（AI regulatory sandboxes）

19

の仕組

みを構築するように求める（53 条以下）。
加えて、高リスク AI システムについては、すでにふれたように、プロバイダー／開発者は高度以下においては、「AI システム市販後規制」、
つ ま り「 市 販 後 モ ニ タ ー・ 情 報 共 有・ 市 場 監
視（Post-market monitoring, information
sharing, market surveillance） に つ い て ふ れる（AI 規則案タイトル VIII）。

の質の面での厳格な要件を充足する危機管理シス
テム（risk management system）を構築する
ように求められる（規則案 8 条、9 条）。

（１）プ ロバイダー／開発者の市販後モニタリグ
ング義務

一方、AI システムを使うユーザー側も、さまAI 規 制 規 則 案 は、 プ ロ バ イ ダ ー ／ 開 発 者

ざまな義務を負う。例えば、IT 企業、つまりプロに、AI 技 術 や 高 リ ス ク AI シ ス テ ム に 関 す る

バイダー／開発者が用意した説明書その他の情報

市 販 後 モ ニ タ リ ン グ・ シ ス テ ム（Post-market

を遵守したうえで AI システムを利用するように

monitoring system）を確立し、記録文書を残求められる。また、ユーザーは、個人データ保護

すように求める（規則案 61 条）。つまり、規則案

評価を実施しなければならない。

に基づいた仕様でデザインし、かつ実施するように、プロバイダーに求める。

（７） 限界事例
どちらの段階の規制にあたるのか、わかりにくい事例もある。例えば、遠隔生体認証 AI システ
ムは禁止、あるいは許容されても高リスクに分類され、厳格な規制に服するように求められる。いずれにしろ、法執行目的で、公共空間にいる個人
を無差別に監視するための顔認証情報 AI システ
ムやリアルタイムの遠隔顔認証 AI システムは、
EU では厳禁される。
これらは、例外的な利用は認められてはいるものの、きわめて限定的、かつ厳格な条件で認められる。
例えば、失踪した子どもの捜索、テロ防止、3 年以上の刑罰の対象となる重大犯罪の容疑者の特定などの目的での遠隔生体認証 AI システムを利用するケースなどである（規則案 52 条）。ただし、この【図表 13】プロバイダーの市販後モニタリング義務

プロバイダーによる市販後モニタリングおよび高リ
スク AI システムに対する市販後モニタリング計画❶プロバイダーは、AI 技術や高リスク AI システ
ムの性質に応じた方法で、市販後モニタリング・システムを確立し、文書で記録するものとする。
❷市 販後モニタリング・システムは、高リスク
AI システムの遂行についてその生涯の工程にわたり、ユーザーが提供したまたはその他の情報源を通して収集したデータを、積極的かつ組織的に収集、記録および分析するものとする。
❸市販後モニタリング・システムは、市販後モニタリング計画に基づくものとする。市販後モニタリング計画は、本規則付則ＩＶにいう技術文書の 1 部をなす。欧州委員会は、この計画を施工するための法令を定めるものとする。

場合、裁判所または独立した機関による承認などが19


サンドボックス AI 規制（AI regulatory sandboxes）とは、
外部システムへのアクセスを制限したセキュリティ

モデルを指す。語源は、「サンドボックス（sandbox ／砂場）」に由来し、子どもは砂場の中では遊んでいいが、砂場の外では遊んではならないという制限を課す意味で使われる。

2021.7.10

19

EU の包括的 AI 規制始動

（２）事故および稼働過誤情報の共有
高リスク AI システムのプロバイダーは、基本 的 人 権 を 保 障 す る EU 法 に 違 反 す る 重 大 な
事 故 や 稼 働 過 誤（serious incidents and of
malfunctioning）が発生した場合、15 日以内に、報告書（report）にして発生地を所管する加盟国の市場監視当局に通知する義務を負う（規則案62 条）。通知をうけた当局は、所定の手続を踏ん
だうえで、その加盟国で人権問題を所管する公的当局や団体に情報を提供する。
なお、欧州委員会は、本規則施行後 12 か月以内に、この手続に関するガイダンスを作成し、公表することになっている。

◆ AI 規則（案）の執行体制
AI 規制規則案の執行（enforcement）、すな
わち AI システムに関する市場監視・コンプライ
アンスについては、EU の製造物市場監視・コン
プライアンス規則（Regulation（EU）2019 ／1020）20 に基づいて行われる（規則案チャプター3）。
AI システムの市場監視やコンプライアンスについては、製品別、サービス利用別など、様々な角度から包括的に実施される。また、欧州委員会
や各加盟国の複数の機関が関与する形になっており、その仕組みは若干複雑である。その概要は、以下のとおりである。
【図表 14】
EU 市場での AI システムの監視とコントロー
ルのあらまし① EU 市場における AI システムの市場監視とコン
トロール❶
加盟国での執行 各 加 盟 国 の 監 督 当 局 は、 管 轄 す る 市 場 の監視活動の結果を定期的に欧州委員会（EUropean Commission）に報告しなければな

20

21

CNNニューズ No.106
らない。同時に、当該監督当局は、市場監視活動において、競争原則に関する EU 法の適用に関して潜在的に利害があると確認された
情報を、遅滞なく、欧州委員会および自国の競争当局に報告しなければならない。
❷
高リスク AI システムの監視 高リスク AI システムについては、機械、玩
具、エレベーターといったように製品別に、
AI 規制規則案別表 II に掲げる準拠規則に基づ
きそれぞれの市場監視当局が担当する。
❸
市販の AI システム
 市販の AI システムで、金融機関が使用するまたは金融機関にサービスを提供するものについては、金融機関の監督を担当する権限ある当局が、市場を監視する。
❹
法執行目的の AI システム
 法執行目的で使われる AI システムは、権限あるデータ保護監督当局、または、法執行・移民・難民を担当する当局の活動を監視する
各加盟国の権限ある当局が、市場を監視する。
❺E
 U 機関が利用する AI システム EU の機関、団体などが AI システムを利用する場合、欧州データ保護監察官（EDPA=EU
ropean Data Protection Supervisor）が、市場を監視する。
➏加盟国間の協力体制
 AI システムの監視にあたっては、加盟国が協力してその任にあたる。
②データや文書へのアクセス（開示）（規則案 64 条）❶
市 場監視当局のデータや資料へのアクセス権の保障
 市 場 監 視 当 局 は、 プ ロ バ イ ダ ー ／ 開 発 者の 研 修、 有 効 性、 試 行 に 関 す る デ ー タ セ ッ
ト に つ い て 完 全 な ア ク セ ス（ 開 示 ） を 求 め
る こ と が で き る。 開 示 の 対 象 に は、 リ モ ー
ト ア ク セ ス を 可 能 に す る API（application
programming interfaces）21 な ど の ツ ー ルも含む。
❷
ソースコード 22 のアクセス（開示） 高リスク AI システムの法適合性をチェックするに必要な場合に、市場監視当局は、ソーRegulation of 20 June 2019 on market surveillance and compliance products）EUR-Lex - 32019R1020 -EN - EUR-Lex (europa.eu)
API とは、アプリケーション、ソフトウエア、プログラムをつなぐこと。また、API を公開することとは、ソフトウエアに API という外部とやりとりする窓口を作り、外部アプリとコミュニケーションや連携ができる状態にすることを指す。
22

コンピュータへの指示やアルゴリズム（情報処理手順）のようにプログラムのもとになる文字列のこと。プログラム言語（プログラミング言語）であらわされる。ソース、ソース・プログラム、原始プログラムなどともいう。ソースコードは知的財産権上の保護の対象となり、重要な企業秘密となる。このため、市販されている一般的なパソコンソフトなどでソースコードが提供されることはほとんどない。ただ、一部のソフト
ウエアでは改良や修正、再頒布などを目的にオープンソース化されているものもある。

20© 2021 PIJ

EU の包括的 AI 規制始動
スコードのアクセス（開示）を求めることができる。
❸基本的人権保護のためのアクセス（開示） 高リスク AI システムの利用に関して、EU法が保障する基本的人権を保護するために、
監督または執行を担当する各加盟国の公的機関または当局は、自国の管轄権の範囲内で、
AI 規制規則案により作成されかつ保存されている資料へのアクセス（開示）を求めることができる。この場合、加盟国の公的機関または当局は、当該アクセス（開示）に関係する
加盟国にその旨を通知するものとする。
❹規制当局の公表
 AI 規制規則の施行から 3 か月以内に、各加盟国は、規制を実施する監督当局名などを一般
市民がアクセスできるウエブサイトに公表するものとする。各加盟国は、そのリストおよび更新した場合にはそのリストを欧州委員会や他のすべての加盟国に通知するものとする。
❺人権侵害が危惧される AI システムの検査要請
 加盟国の公的機関または当局は、基本的人権保護のために前記❸にいう資料にアクセスしたが、EU 法への違反があるかどうか定かではないとする。この場合には、市場監視当局に対して、理由を付して問題の高リスク AI シ
ステムを技術的検査するように求めることができる。市場監視当局は、求めがあってから合理的期間内に、公的機関または当局との密接な協力のもとに検査をする。
➏守秘義務
 加盟国の公的機関または当局は、前記❸の手続きにおいて入手した情報や資料について守秘義務を負う。
③各加盟国レベルでのリスクある AI システムへの対処手続（規則案 65 条）❶リスクある AI システム（AI system presenting
a risk）と何か リスクある AI システムとは、健康、安全および基本的人権の保護にリスクのある AI シス
テムを指す。
❷リスク評価と対応
 各加盟国の市場監視当局は、AI システムが前記❶にいうリスクある AI システムにあたるとの十分な理由があると考える場合、問題となった AI システムが、AI 規制規則案に規定されたすべての要件や義務を遵守しているかどうかの評価を実施しなければならない。人権保護に関するリスクがある場合、市場監視
当局は、その旨を公的機関または当局に通知

23

CNNニューズ No.106
しなければならない。オペレーター／管理運
営 者（operators）23 は、 市 場 監 視 当 局 お よび他の加盟国の公的機関または当局からの必要な協力に応じる。評価過程において、市場監視当局は、AI システムが本規則に規定された要件や義務を遵守していないと判断した場
合、遅滞なく当該 AI システムがコンプライア
ンスに必要な適切な是正措置をとるようにオ
ペレーター／管理運営者に求めるか、または、リスクの性質に応じて、合理的な期間内に、市場から AI システムを回収もしくはリコールするように求める。
❸コンプライアンス違反の通知
 市場監視当局は、コンプライアンス違反が、自国内にとどまらないと考える場合には、評価結果とオペレーター／管理運営者に取るよ
うに求めた措置を欧州委員会および他の加盟国に通知するものとする。
❹オペレーターによる是正措置の域内周知
 オペレーター／管理運営者は、問題の AI シ
ステムに対して取られたあらゆる適切な是正措置が EU 域内市場に行きわたるようにしなければならない。
❺市場監視当局のよる是正措置 AI システムのオペレーター／管理運営者
が、前記❷にいう期間内に十分な是正措置を取らなかった場合、市場監視当局は、その加盟国内市場でその AI システムの利用を禁止
または制限する、市場から AI システムを回収もしくはリコールのための適切な暫定措置（provisional measure）を講じることができる。こうした措置を講じた場合、市場監視当局は、欧州委員会または他の加盟国にその旨を通知する。
➏加盟国市場監視当局への情報提供 前記❺にいう情報には、手続を開始した加盟国の市場監視当局以外の加盟国の市場監視当局が問題視した法令違反の AI 監視システムの確認に必要な次のような詳細なデータを含むものとする。AI システムの出所、指摘されたコンプライアンス違反とリスクの特徴、加盟国がとった措置の性格や期間、関係するオ
ペレーター／管理運営者との議論など。
❼不同意の場合の通知
 手続を開始した加盟国の市場監視当局以外の加盟国の市場監視当局は、遅滞なく、欧州委員会および他の加盟国に、問題の AI システ
ムのコンプライアンス違反に対して取った措
置およびその他処分に関する情報、さらには、通知された加盟国の措置に同意しない場合に
オペレーター／運営管理者（operators）とは、プロバイダー（provider）ユーザー（user）、
授権代理人（authrised

representative)、輸入者（importer）、販売者（distributor）を総称する（規則案 3 条 8 号）。

2021.7.10

21

EU の包括的 AI 規制始動
はその反対を含め、通知するものとする。
❽経過期間後の自動承認
 前記❺のいう情報を受け取ってから 3 か月
以内に、加盟国が取った暫定措置に対して加盟国または欧州委員会から反対がない場合、その措置は、正式に認められたものとされる。
ただし、このことは、製造物市場監視・コン
プライアンス規則（Regulation（EU）2019／ 1020）18 条に基づき関係人であるオペレー
ター／管理運営者の手続上の権利行使を妨げるものではない。
❾加盟国による制裁措置
 すべての加盟国の市場監視当局は、遅滞なく、自国市場から問題の製品の回収のような適切な制裁措置をとることを認められる。
④ E
 U の安全手続（Union safeguard procedure）（規則案 66 条）❶市場監視当局に是正措置への異議・協議・評価
 前記③❺にいう通知を受け取ってから 3 か
月以内に、他の加盟国が取った措置に対する反対がある場合、または、欧州委員会が EU法に違反する措置であるとみた場合、欧州委
員会は、遅滞なく当該加盟国およびオペレー
ター／管理運営者と協議に入るものとし、かつ、その加盟国が取った措置を評価するものとする。評価の結果、欧州委員会が、前記③❺にいう通知から 9 か月内に、当該加盟国の措置が正当であるどうかを決定し、かつ、当該決定を関係加盟国に通知するものとする。
❷評価に伴う対応
 当該加盟国の措置が正当である場合、すべての加盟国は、違法な AI システムをその市場から回収するに必要な措置を取り、その後欧州委
員会に通知するものとする。当該加盟国の措置が正当ではないとされた場合には、関係する加盟国は当該措置を撤回するものとする。
❸統一基準・共通仕様違反の場合
 加 盟 国 の 措 置 が 正 当 で あ る と さ れ、 かつ、AI システムのコンプライアンス違反が本 規 則 40 条 お よ び 41 条 に い う 統 一 基 準（harmonAIsed standards） ま た は 共 通 仕様（common specifications）との不具合に起因する場合には、欧州委員会は、EU 規則
2012 年 1025 号（Regulation（EU）1025／ 2012）2411 条に基づく手続を適用するも
のとする。

24

22

CNNニューズ No.106
⑤リ スクある基準適合 AI システム（ComplAInt AI
System which present a risk）（規則案 67 条）❶ AI システムオペレーターによる対応
 前記③にいう評価により、加盟国の市場監視当局が、AI システムが本規則のコンプライ
アンスには順応しているものの、人の健康や安全、基本的人権、その他公益の保護の面でリスクがあると判断した場合、問題の AI シス
テムのオペレーター／管理運営者は、合理的期間内に、AI システムの市場からの回収またはリコールなどにより、リスクを除去するよ
うに求められる。
❷是正措置の周知
 プロバイダー／開発者またはオペレーター／管理運営者は、問題の AI システムに関して取られたすべての是正措置を、前記❶のもとで加盟国の市場監視当局が定めた期間内に、EU 市場のなかで利用できるようにしなければならない。
❸通知する情報 リスクある AI システムであると判断した
加盟国は、その旨をすみやかに欧州委員会および他の加盟国に通知するものとする。通知する情報には、詳細なあらゆるデータを含む。
とりわけ、問題ある AI システムを確認するに必要なデータ、AI システムの出所、サプライチェーン、リスクの特徴、加盟国が取った措
置や期間など。
❹欧州委員会による評価・対応
 欧州委員会は、遅滞なく、加盟国やオペレー
ター／管理運営者と協議に入り、加盟国が取った措置を評価するものする。評価結果に基づき、欧州委員会は、当該措置が正当化できるかどうか、そして、必要に応じて適切な措置を講じるものとする。
❺欧州委員会による周知
  欧州委員会は、決定をした場合、その決定を加盟国に周知する。
⑥正 式 な コ ン プ ラ イ ア ン ス 違 反（Formal noncompliance）（規則案 68 条）❶停止対象となるコンプライアンス違反
 加盟国の市場監視当局は、以下のような結論の１つにいたった場合には、当該プロバイダー／開発者に対して当該コンプライアンス違反の解消を求めるものとする。
ⓐ AI 規 制 規 則 案 49 条 の 法 適 合 性 に 関 す る
EU 基準適合マーク（CE marking）を違法に張り付けた場合ⓑ法 適合性に関する EU 基準適合マーク（CEmarking）を張り付けていない場合


EUR-Lex - 32012R1025 - EN - EUR-Lex (europa.eu)© 2021 PIJ

CNNニューズ No.106

EU の包括的 AI 規制始動
ⓒE
 U 法 適 合 性 宣 言 書（EU declaration ofconformity）が発行されていない場合ⓓE
 U 法 適 合 性 宣 言 書（EU declaration ofconformity）が正しく発行されていない場合ⓔ法適合性評価手続に関係する通知された団体の識別番号が張り付けられていない場合❷コンプライアンス違反への対応
 前記❶に掲げたコンプライアンス違反がある場
 合、関係加盟国は高リスク AI システムが市場に出回らないように、あらゆる適切な制限または禁止措置をとる、または当該 AI システムを市場からリコールまたは回収するものとする。

◆行動規範に基づく倫理的・自発的協力
AI 規制規則案では、大きく、①禁止された高リスク AI システムと②それ以外の許可される AI
システムとに分けて規制を実施する。
そして、後者②の許可される AI システムのうち、とりわけ高リスク AI システム以外の AI シス
テム【つまり、第 3 分類の AI 規制対象の限定的リスク AI システム＋第４分類の AI 規制対象の低（極小）リスク AI システム】については、「行動規範（Codes of Conduct）」【「行動指針」ともいう。】を定め、それを倫理的・自発的に遵守する形で実施する構図になっている。
AI 規制規則案によると、「行動規範」は、EU当局の後押しのもと、IT 企業、つまり AI システ
ムのプロバイダー／開発者、業界団体、または双方が、利害関係人などの参加を得て、自発的に作成することになっている。
以下に、AI システムに関する「行動規範」について、図説する。
【図表 15】AI システムに関する「行動規範」とは行動規範（Codes of conduct）（69 条）❶
欧州委員会と加盟国は、適正なコンプライアンスを確保することを狙いに行動規範を定め、高リスク AI システム以外の AI システムに対し自発的な適用を奨励しかつ支援する。
❷
欧 州 委 員 会 と 欧 州 AI 委 員 会（EU ropean
Artificial Intelligence Board）は、適正なコ
ンプライアンスを確保することを狙いに行動規範を定め、AI システムの設計や開発における環境の持続可能性、障害者のアクセス可能性、
利害関係人の参加および明確な目標を持つ開発チームの多様性、ならびに目標達成を測定するためのキーパフォーマンス・インディケータなどの面で AI システムに対して自発的な適用を奨励する。

2021.7.10❸
行動規範は、AI システムの個々のプロバイダー／開発者、その業界団体または双方が起草することができる。この場合、ユーザー、利害関係
人やこれらの者を代理する団体の参加を求める
ことができる。行動規範は、関連性などを考慮
して複数の AI システムを対象とすることができる。
❹欧 州委員会と欧州 AI 委員会は、行動規範の起草を奨励しかつ促進するために、特別の利害、
小規模プロバイダー／開発者のニーズや起業を考慮するものとする。

◆ AI システム規制のガバナンスの仕組み
AI システム規制を統括する機関として、EUに「 欧 州 AI 委 員 会（EU ropean Artificial
Intelligence Board）」が設けられる。しかし、AI ガバナンスは、第一次的には、各加盟国主導で行われる。効率的なワンストップ・ショップの仕 組 み（one-stop-shop mechanism） に な ってはいない。必ずしも AI システムのオペレーター／運営管理者（プロバイダー・ユーザー・授権代
理人、輸入者・販売者）にフレンドリーな仕組み
ではない、との声もある。最終規則に向けた今後の見直しが注目される。
１ 欧州 AI 委員会／ AI ボードの創設
AI 規制規則の執行を監督するために、あらたに AI 規制を専門に担当する「欧州 AI 委員会（EUropean Artificial Intelligence Board ／ AI 委
員会／ AI ボード）」が設けられる（規則５６条～
５８条）。欧州 AI 委員会（Board）は、各加盟国のデータ保護機関などと協力して新規則の統一的な執行を行う。また、欧州委員会に対して助言と支援を行う。
一方、各加盟国は、国レベルでの規則の遵守状
況を監督するために１人以上の権限ある担当官を任命するように求められる。これら担当官は、規則違反に対して過料その他の制裁を科すことができる。これらの制裁は、原則として各加盟国が科す。
【図表 16】欧州 AI 委員会／ AI ボードの創設

①欧州 AI 委員会の創設（規則案 56 条）❶欧州 AI 委員会（EU ropean Artificial Intelligence
Board ／以下「AI 委員会」、
｛AI ボード｝ともいう。
」）を創設する。
❷ AI 委員会は、次のことに関し欧州委員会に

23

CNNニューズ No.106

EU の包括的 AI 規制始動
助言し、かつ支援する。
ⓐ
本規則が適用になる事項に関して、加盟国の監督当局と欧州委員会が効率的な協力ができるようにすること。
ⓑ
今規則が適用になる事項に関して域内市場を横断する問題が生じた場合、欧州委員会、加盟国監督当局その他の権限ある当局がガイダンスや分析をする調整および支援を行うこと。
ⓒ
本規則の統一的な適用を確保するために加盟
国の監督当局と欧州委員会を支援すること。
② AI 委員会／ AI ボードの構成（規則案 57 条）❶A I 委員会／ AI ボードは、加盟国の監督当局（その長または高官が代表として参加）と欧州デー
タ保護監督官（EU ropean Data Protection
Board）で構成される。加盟国の他の当局は、問題がその当局と関連性がある場合には、会議への参加を求めるものとする。
❷A
 I 委員会／ AI ボードは、その委員の単純多数決で手続規則（rules of procedures）を、欧州委員会の同意を得たうえで、採択する。手続規則には、本規則 58 条に掲げた AI 委員会／
AI ボードの業務遂行に関するものも含む。AI
委員会／ AI ボードは、特別の問題を検証するために小委員会を立ち上げることができる。
❸A
 I 委員会／ AI ボードの議長は、欧州委員会
が務める。欧州委員会が、会議を招集し、かつ、
本規則や手続規則に基づき AI ボードの業務執行に関する議題を用意する。欧州委員会が、本規則に基づいて AI ボードの活動の事務および分析的な支援を行う。
❹A
 I 委員会／ AI ボードは、その会合に外部の専門家やオブザーバーの参加を求め、かつ、
その活動について知ってもらうために妥当な範囲内で利害関係を有する第三者との意見交換を行うことができる。欧州委員会は、AI 委
員会／ AI ボードと EU の諸機関やアドバイ
ザーグループなどとの間で意見交換の促進に務める。
③ AI 委員会／ AI ボードの業務（規則案 58 条）
AI 委員会／ AI ボードは、前記 56 条 2 項【①❷】に基づき欧州委員会に助言と支援を行う場合の留意事項は、次のとおりである。
ⓐ
加盟国間での専門性にたけた最良の実務慣行を収集しかつ分かち合うこと。
ⓑ
加 盟国間での統一的な行政実務慣行を推進すること。前記 53 条にいうサンドボックス
AI 規 制（AI regulatory sandboxes） 関 連
事項を含む。
ⓒ
本規則の施行関連事項への見解表明、勧告または投稿を公開すること。

24

2

各加盟国の AI システム規制機関
AI 規制規則案では、各加盟国は、国レベルでの規則の遵守状況を監督するために１人以上の権限ある担当管を任命するように求める（規則案59 条）。
【図表 17】各加盟国の AI システム規制組織①本 規 則 を 適 用 す る た め に、 各 加 盟 国 は、 国の 権 限 あ る 当 局（national competent authorities）を創設するまたは指定するものとする。加盟国の権限ある当局は、その活動や業務の客観性および不公平性を確保したうえで組織されるものとする。
②各加盟国は、国の権限ある当局のなかから国の監 督 当 局（national supervisory authority）
を指定するものとする。国の監督当局は、加盟国が組織上や行政上の理由で複数の当局を指 定 す る 場 合 を 除 き、 認 定 当 局（notifying
authority）および市場監視当局（market surveillance authority）として活動するものとする。
③加盟国は、指定をした場合、その旨を欧州委員会に通知するものとする。この場合において、複数の当局を指定したときには、その理由を記すものとする。
④加盟国は、国の権限ある当局に対し、本規則に定める業務に必要となる財源と人材を十分に供給するものとする。とくに、国の権限ある当局
は、高度の AI テクノロジー、データ、データ
計算、人権、健康や安全リスク、各種スタンダー
ドや法的基準に関し資質が高く専門性を有する
人員を恒常的に配置するものとする。
⑤加盟国は、国の権限ある当局の財源や人材の状況に関して十分な評価を行ったうえで欧州委員会に年次ベースの報告をするものとする。欧州委員会は、その情報を欧州 AI 委員会（Board）に渡し、審査に付し、必要に応じて勧告を行う
ものとする。
⑥欧州委員会は、各国の権限ある当局間での経験の交換を支援する。
⑦国の権限ある当局は、小規模プロバイダーのことも織り込んだうえで、本規則の執行に関しガ
イダンスやアドバイスを提供する。国の権限ある当局は、EU 法が適用になる AI システムに関するガイダンスやアドバイスをしようとする
場合には、EU 法に関する国の権限ある当局が適切な相談に乗るものとする。加盟国は、オペ
レーター／運営管理者が連絡を取りやすいように、１つの中央コンタクトポイントを設置するものとする。

© 2021 PIJ

EU の包括的 AI 規制始動

◆ AI システム規制違反への罰則
AI 規制規則違反については、AI システム禁止
またはコンプライアンス違反など、その種類や程度に応じて、各加盟国が、過料その他の制裁／罰則を科す仕組みになっている（AI 規制規則案タ
イトル X 第 71 条）。
また、EU のさまざまな機関やエージェンシー、団体などが AI 規制規則に違反した場合には、欧州データ保護監督官（EDPS=EU ropean Data
Protection Supervisor）が過料を科す仕組みになっている。
❶ AI 規制規則違反
加盟各国の規制当局❷ EU の 機 関・ エ ージ ェ ン シ ー・ 団 体
による AI 規制規則
違反
欧州データ保護監督官

１

AI 規制規則違反に対する制裁
AI 規制規則違反に対する制裁について、例をあげてわかりやすく説明すれば、次のとおりである。
各加盟国の権限ある当局は、禁止される AI 実
務、つまり俗にいう「ブラックリスト掲載 AI システム」（規則案タイトル II 5 条）を開発し市場に出した、またはサービスを提供した場合、最大で 3,000 万ユーロ（おおよそ 39 億円）か、企業には世界の売上高の最大６％か、どちらか高い方の過料を科す。
各加盟国の権限ある当局は、AI 規則規制に定める受任義務に違反する場合、最大で２,000 万
ユーロか、企業には世界の売上高の最大４％か、どちらか高い方の過料を科す。
各加盟国の権限ある当局は、不正確、不完全または虚偽の報告があった場合、最大で１,000 万
ユーロか、企業には世界の売上高の最大 2％か、どちらか高い方の過料を科す。
AI 規制規則案タイトル X 第 71 条は、「罰則（penalties）」の表題で、次のように規定する。
【図表 18】AI 規制規則違反に対する罰則①加盟国は、本規則に規定する文言や条件のコン
プライアンス（遵守）を求め、本規則違反に適用するための過料（administrative fines）を含む罰則にかんするツールを定め、かつ、適切で効果的な執行の必要なあらゆる措置を講じる

2021.7.10

CNNニューズ No.106
ものとする。罰則の規定にあたっては、効果的、均等かつ抑止力あるものでなければならない。
罰則を科すにあたっては、とりわけ小規模プロ
バイダーや起業者の利益および経済的支払能力を考慮するものとする。
②加 盟国は、ルールや措置およびそれらの修正を行った場合には速やかに欧州委員会に通知するものとする。
③下記のⓐまたはⓑに違反する場合、最大で 3,000
万ユーロか、違反者が会社の場合には前会計年度における世界の売上高の最大 6％か、いずれか高い方の過料を科す。
ⓐ第 5 条にいう禁止される AI 実務に違反する場合ⓑA
 I システムが第 10 条【データおよびデータ
ガバナンス】に違反する場合④本規則のもとでの要件や義務を負う AI システムで、5 条から 10 条のときを除くコンプライアン
ス違反の場合には、最大で 2,000 万ユーロか、違反者が会社の場合には前会計年度における世界の売上高の最大 4％か、いずれか高い方の過料を科す。
⑤通知を受けた団体（notified bodies）や加盟国の権限ある当局の求めに応じて提供した情報が不正確、不完全または虚偽的である場合、最大で 1,000 万ユーロか、違反者が会社の場合には前会計年度における世界の売上高の最大 2％か、いずれか高い方の過料を科す。
⑥個 々の事例において過料の額を決定する場合、特別な事態に関連するあらゆる状況を勘案し、かつ次のようなことに対し適切な配慮をするものとする。
ⓐ違反と結果の性格、重大さおよび期間ⓑ同 じオペレーター／運営管理者による同じ違反に対して、他の市場監視当局がすでに過料を科しているかどうかⓒ違 反をしたオペレーター／運営管理者の規模と市場占有率⑦各 加盟国は、自国内に設立された公的当局その他の団体に対して過料を課すことができるかど
うか、またはどの程度まで過料を科すかのルー
ルを定めることができる。
⑧他 の団体に対する過料に関するルールは、加盟国の法制度に従い、過料は権限ある裁判所によって課される形で適用することができる。加盟国
におけるこれらのルールの適用は、同等の効果を有するものとする。

2 E
 U の機関・エージェンシー・団体による AI
規制規則違反AI 規制規則違反は、EU のさまざまな機関やエー
ジェンシー、団体などが AI システムを利用する場
合にも起こりうる。こうした場合には、欧州データ
25

CNNニューズ No.106

EU の包括的 AI 規制始動

保護監督官（EDPS=EU ropean Data Protection
Supervisor）が、これら EU の諸機関などに過料を科す（AI 規制規則案タイトル X 第 72 条）。
制裁について、わかりやすく説明すれば、次の■第 ３部 わが国での危ない AI システム利用実態～ EU の AI 規制からわが国の AI 利用ケースを検証するとおりである。
【図表 19】
EU の機関による AI 規制規則違反に EDPS が科す過料の概要①欧 州 デ ー タ 保 護 監 督 官（EDPS=EU ropean
Data Protection Supervisor）は、本規則が適用になる EU の諸機関（institutions）、エー
ジェンシー（agencies）および団体（bodies）
に対して過料を科すことができる。過料を科すかどうかやどれだけの額の過料を科すかを決定する場合には、特別な事態に関連するあらゆる状況を勘案し、かつ次のようなことに対し適切な配慮をするものとする。
ⓐ違反と結果の性格、重大さおよび期間ⓑ
同じ問題に関係した EU の機関、エージェン
シーまたは団体に対して EDPS が以前に命じた措置の遵守を含む、違反の救済や違反の悪影響を和らげるための欧州データ保護監督官（EDPS）の協力ⓒE
 U の機関、エージェンシーまたは団体による同様の以前の違反②次のような違反には、最大で５０万ユーロの過料を科す。
ⓐ
第 5 条にいう禁止される AI 実務にかかるコ
ンプライアンス違反ⓑ
第 10 条に規定する要件の伴う AI システムにかかるコンプライアンス違反③本規則のもとで課される要件や義務を負う AI シ
ステム、ただし第 5 条から第 10 条の規定の適用があるものを除く、にかかるコンプライアン
ス違反には、最大で 25 万ユーロの過料を科す。
④本条に基づく決定をするにあたり、欧州データ保護監督官（EDPS）は、EDPS が行う手続の対象となる EU の機関、エージェンシーまたは団体に対して違反とされる事項に関し聴聞の機会を与えるものとする。欧州データ保護監督官（EDPS）は、関係当事者が意見を陳述できる
状況化においてのみ決定をするものとする。不服については、申立てがある場合、この手続の中で対応するものとする。
⑤関係当事者の防御権は、この手続の中では十分に保護されなければならない。関係当事者は、
欧州データ保護監督官（EDPS）のファイルにアクセスする権利を有する。ただし、個人や企業の法的利益を保護するために、個人データまたは企業秘密は対象外とする。
⑥本 条において科された過料を収集した基金は、
EU の一般会計予算に計上される。

26◆マイナンバーパンデミックを流行らす菅政権～人権ゼロのデジタル収容所列島化を目指す
菅政権
こうした EU の動きとは対照的なのがわが国である。菅政権は、コロナ禍を緊急時に乗じて〝名ばかりデジタル改革〟実質、邪悪な〝デジタル収容所列島化〟を目指す。人権を後回しにする〝デジタル国家総動員体制〟づくりしか眼中にない。
明らかに EU とは真逆の動きを加速させている。
EU が警鐘を鳴らすように、デジタル化や AIシステムは、使い方を誤れば、人権をむしばむ。
にもかかわらず、この政権の看板であるデジタル
改革関連法のなかに〝人権〟、〝人格権〟の文字がまったくない。個人情報保護法制を骨抜きにし、IT 業界の利権を優先し、個人情報を企業に売り渡す。国民をスッポンポンにして、人格権を背番号（マイナンバー）で紐づけて国家監視の枠組みに組み入れる。この政権には、自由や民主主義、人権といった民主国家が共有してきた価値観がまるでない。そもそも自国内で人権を粗末に扱う菅政権は、中国やミャンマーの人権状況などを非難できるわけがない。
菅首相は 2021 年 3 月 31 日の衆院内閣委員会
で、マイナン
バー制度に関連するこれまでの国費支出が 8,800 億円に上ると説明した。かたや、アメリカは新型コロナ
ワクチン開発に 1 兆円を投じた。アメリカなしではわが国民はワクチンすら受けられない。にもかかわらず、菅政権は、ムダな IT 公共工事に血税をジャブジャブ注ぐのをやめようとしない。
「背番号が先か、ワクチンが先か」は、あえて問うまでもないことだ。
「パンデミック」という言葉が流行っている。
「パンデミック」の「パン」は〝すべて〟、「デミア」© 2021 PIJ

CNNニューズ No.106

EU の包括的 AI 規制始動

は〝人々〟が原義。まさに、菅政権は「マイナンバー

はっきりしている。全国の医療機関や薬局に顔認

パンデミック（背番号感染爆発）」を引き起こす

証式番号カード使用オンライン保険資格確認シス

新型コロナウイルスのような存在にみえてくる。

テム（M システム）を設置するような公共工事でマインバーカード保有が 3 月末時点で全国民の金儲けし、国民の人権をむしばんで平気な IT 企

28％を超え、申請も 4,500 万件弱で 36％超え

業は、衰退の軌道を走ることになる時代に入ってた、「マイナンバーパンデミック」には貢献した

いるのではないか。

と誇る。だが、これで受けられるデジタル行政サー

EU では、GDPR（一般データ保護規則）で、ビスなどほとんどない。〝デジタル監視国家〟、〝デ

個別の同意を得ない顔認証情報 AI システムの利

ジタル収容所列島化〟だけが進む。まさに、菅政用が禁止されている。今般の AI 規制規則案は、権の〝デジタル国家総動員体制つくり〟優先の愚EU 域内での野放図な AI 利用に法的規制を加え策で、国民のいのちやくらしが大きな犠牲を強いることが狙いである。加盟国政府や IT 企業（プられている。

ロバイダー／開発者）やユーザー（官民の機関）

日の丸ワクチンはつくれない、PCR 検査も徹底などに対して、AI 技術の利用や提供にあたっては、しようとしない。効果が不確かな、場当たり的な

欧州の民主主義的な価値観、EU 市民の自由や人まん延防止措置や緊急事態宣言を繰り返すだけ。

権を護るように求める。

人流をストップさせる思い切ったロックダウンを

この規則が正式に通れば、顔認証情報 AI シス

かけないと、変異種のリバウンドの大波は止めら

テム、とりわけ、公共空間での無差別な AI 顔認れない。この１年間何をしてきたのだろうか。だが、

証監視カメラやライブ遠隔顔認証 AI システムの菅政権は、科学軽視で、科学的なデータに基づい

利用、さらには、スコアリングシステム・社会信

た 行 動（data-driven scientific behavior） が用ポイント制などは厳禁される（規則案 5 条）こできない。オリパラ開催に固執、やると決めたらうした EU の AI 規制規則案を素材に、わが国で一億一心、既定路線には有無をいわせない。コロの問題の多い AI システム利用ケースを検証してナウイルスワオーズに、打つ弾（ワクチンや PCR

みる。

検査）は満足になし、それでもオールジャパンの精神論（密回避）と竹やり（マスクなど）で切り抜けられると豪語する。「出口戦略」を描けない、
ロジスティクス思考を欠き、「インパール」を繰り返す政権だ。科学を軽視し、場当たり政治しかで◆顔認証式マイナカード使用オンライン保険資
格確認システム～人権を蝕む顔認証情報のマイナンバー管理
制度の裏口導入きないこの愚劣な政権には一日も早く退場してもらわないといけない。

政府・厚労省は、かねてから顔認証機能付き IC

コロナパンデミックやアメリカのバイデン政権

カードリーダーを使い、患者のマイナバーカードの誕生で、新自由主義は大きく後退した。にもか内の IC チップを読み込んでオンライン資格確認

かわらず、悲しいことに、わが菅政権は、新自由を行うシステムつくりを進めてきた。すでに、総主義の「自助」の旗を掲げ、コロナ対応そっちの額で 1,000 憶円を超える国費を投じている。

けで、国民の〝人権反故〟に一心不乱なのである。

そして、この 3 月から、全国 22 万ヵ所の医療

中国並みのデジタル監視国家つくりしか視野にな

機関や薬局への顔認証式マイナンバーカード使用いのである。人権をまったく語らないデジタル庁

オンライン保など、実質「デジタル［公安調査］庁」以外の何

険資格確認シ物でもない（CNN ニューズ 105 号参照 http://

ス テ ム（Mwww.pij-web.net/data/CNN-105.pdf）。 コ ロシステム）設ナパンデミックの最中、デジタル監視法、入管法

置がはじまっ改悪、高齢者医療負担増額など、いのちとくらした。

を粗末にする政策を自公など反動的な多数の力で次々と押し切る。

このシステ
ムでは、医療EU の人権尊重の AI ビジネスルールつくりを

機関や薬局の見る限りでは、人権や IT 倫理に無頓着なわが国が、窓口にカード世界の IT 業界を主導する資格がないことだけは、

リーダーを設

2021.7.10●オンライン顔認証式マイナンバー
カード使用保険資格確認システム

27

CNNニューズ No.106

EU の包括的 AI 規制始動置する。そして、原則、患者本人がカードをかざして情報を読みとらせる。保険資格確認用のサー◆インドの生体認証式 ID カードから厚労省の悪巧みを読み解く

バーで照合するとともに、カードの顔写真で本人確認も行う仕組みだ。

ＮＥＣやパナソニックなどわが国の IT 企業（プ

しかし、このシステムを使うと、患者は、自分ロバイダー／開発者）は、早くから、このオンラの顔面情報を政府の管理サーバーに提供を半ば強

イン顔認証式マイナンバーカード使用保険資格認制されることになる。ということは、政府の狙い

証システムを実用化している。政府・厚労省の悪は、国民全員の顔認証情報を裏口収集しマイナン

だくみの裏では、患者（全国民）の究極のセンシ

バーでの監視をするために医療機関（Medical

ティブ情報（人格権）を儲けにつなげようと「ITinstitutions）などを総動員することにつながる。

利権」がうごめいている。

この計画は、公道上の N システムを、あらたに生体認証式背番号カード制といえば、インドの「M システム」として医療機関や薬局にも設ける「アーダール（Aadharr）」がある。アーダールでに等しい。つまり、「マイナンバー（背番号）＋顔（生

は、国民監視のための生体認証データとしては、体）認証情報」を使った国民監視システム」、「M

本人の顔面＋目の虹彩＋ 10 本の指の指紋を使う。

システム」つくりにある、とみてよい。今や全国申請は、原則任意だが、福祉の受給には 12 桁の

民の人権／究極のプライバシーである顔認証情報

番号附付き紙カード取得は必須である。申請には、までもが国家管理される危ない状態にある。

生体情報を含む、次のような個人情報の提出を求国家に睨まれた市民は、形だけの手続きをとっめられる。

て、医療機関などで裏口収集した顔認証情報を国
身元確認のための個人情報

中の監視カメラ網に垂れ流され、追い回されるの①ではないか。

【必須】氏名・住所・生年月日（年齢）・性別【選択】携帯電話番号・電子メールアドレス

わが国の M システムは、EU の GDPR（一般デー

生体情報

タ保護規則）や今般の AI 規制規則案では、絶対②にゆるされない個人データ利用、AI システムに【必須】顔面・１０本の指の指紋・２つの目の虹彩あたる。人権ゼロが当り前の日本政府・厚労省の③

悪だくみは、あまりにもレベルが低いといわざるをえない。これは、見方を変えれば、民意の低さ、５歳以下の子どもの場合

上記①・②＋両親／保護者の氏名

国会議員の人権感覚の悪さにもつながってくる。
生体情報は、生涯不変の情報である。漏れたり、悪用されたら取り返しがつかない。こうした監視ツール、人権侵害ツールを全国 22 万ヵ所に設置するのは、常時国民の基本的人権、プライバシー権を侵害し、憲法違反である。
今のところ、医療機関は、健康保険証に替えて、患者の人権を蝕むオンラインの生体認証式監視カメラシステムを設置するかどうかは任意である。また、カードリーダーを設置したかどうかにインドのアーダール 顔や目の虹彩の採取現場（Public Use）

かかわらず、これまでどおり健康保険証で診療することができる。21 年 5 月からは、保険証番号

実は、インドでのアーダール（生体認証式背番でのオンライン資格確認がはじまる。個人情報の号カード制）導入は、NEC のような日本の IT 企

詰まったマイナンバーカードを、医療機関が取り業の協力で実現した制度である。
（CNN ニュー扱う必要はなくなる。

ズ 91 号 ）http://www.pij-web.net/cnn/CNN-

ここで、医療機関は、立ち止まって、今一度、91.pdf。わが厚労省の顔認証データのマイナン

政府が進めるオンラインの生体認証式保険資格確

バー管理計画は、いわば〝日本版アーダール〟の認システムの是非を、患者の人権保護の面から、裏口導入とみてとれる。

よく考えて欲しい。煮え切らない態度がもどかしい。
28

ちなみに、インドのアーダールカードは、プラステック（ラミネート）カードでも、ＩＣカード© 2021 PIJ

CNNニューズ No.106

EU の包括的 AI 規制始動でもない。わが国のマイナンバー（個人番号）のを使っている。

通知カード（廃止）と同じく紙製。紙製のカード

インドではやっていいことでも、プライバシー

は、各人が自宅や勤め先、ネットカフェなどにあや人権を大事にするように求められるわが国ではる PC（パソコン）などで中央センター（サーバー）

やってはいけないことがある。このことを、IT 企にアクセスし、プリンターでプリントアウトでき

業は心しないといけない。政府も同じである。

る。IC カードを使っていないのは、インドでは、住所のない人も多いのと、郵便事情が悪く、郵送は難しいからだ。

◆危ない QR コード・顔認証情報使用のマイナ
カードのスマホ申請

アーダールカードでは、当初バーコードを使っていた。しかし、現在では、QR コードを使って国民全員に IC カードの通行手形（国定身分証）

いる。QR コードは、日本発の技術である。このを持たせようという政府の悪だくみは、まだまだことから、このアーダールシステムプログラムにある。総務省が、J-LIS ／ジェイリスをダミーに使っは、NEC のような日本 IT 企業が関与しているこて、20 年 11 月末から、マイナンバーカード／マとがわかる。

イナ IC カードの未取得者 約 8,000 万人に、スマホ申請書を発送したことだ。コロナ禍で財政逼迫が危惧されるなか、国の役人の悪巧みで、またもや血税の浪費がはじまっている。以前から、国は、
下記のようなマイナンバーカードから電子証明書機能をスマホに移転するイメージを公開している。

ア－ダールレタ－切り取り使用の PR（Public Use）

アーダールはＱＲコードが核（Public Use）

今度は、QR コード・顔認証情報を使ってマイナンバーカードのスマホ申請を促す悪だくみだ。

紙製のカードに記載された二次元バー（QR） コ ー ドを使ってデー
タを集積するサーバーと交信・ 照 合 し、本人確認をする 仕 組 み だ。
本人確認の現場では、指紋と QR コードリーダー
2021.7.10

29

CNNニューズ No.106

EU の包括的 AI 規制始動

この手続では、申請者は、まず、スマホのカメ

は自宅に郵送する。渋谷区は、ライン／ＬＩＮＥ

ラで交付申請書の QR コードを読み取り、申請用を活用した住民サービスの拡充を計画している。

WEB サイトにアクセスしてメールアドレスを登

21 年度からは、新たに国民健康保険の申請やオン録する。

ライン健康相談の受付を始める。サービスを現在

次に、登録されたメーの 9 種類から 21 年度には 15 種類に増やすといルアドレス宛に通知されう（https://www.city.shibuya.tokyo.jp/kusei/

る 申 請 者 専 用 WEB サ イ

koho/line/line_shinsei.html）。

トにアクセスし、スマホのカメラで撮影した顔写

顔写真登録

CNN ニューズ 105 号ですでにふれたように、
とりわけ、渋谷区が採用するスマホ、ライン／真を登録（あらかじめ撮影しなくても操作中に撮LINE のアプリでは、マイナンバーカードなしで影可能。）する。

本人認証ができるとはいうものの、本人認証にはそして、画面の案内に従い、必要事項を入力しeKYC（electronic Know Your Customer）」

送信すると、登録したメールアドレス宛に申請がという顔認証、生体認証データを使う。生涯不変

完了した旨のメールが届き申請完了する。

の生体認証情報の取り扱いについては、慎重を「こりゃ、簡単で便利だ」と考える人がいるだ

期する必要がある。軽い気持ちで住民の生体認

ろう。「いや、待てよ。国民の顔認証情報を裏口

証情報を官民で分かち合ってはいけない。EU の入手、国家管理が狙いだ」と考える人もいるだろ

GDPR（一般データ保護規則）や、今般の AI 規う。

制規則案で禁止される AI システムまたは高リス

いずれにしろ、EU（欧州連合）などは、生体認証情報を収集するにあたり、事前に本人に利用目的、収集と保存の期間を通知し、個別に同意をク AI システムの利用にあたるのではないか。
【図表 20】
リモートアクセスで使われる認証方式：主要なデータセキュリティ対策

得ていること（オプトイン方式）を要件としてい

導入コ
なりすま
マイナス面
利便性
スト
し対応度

る。つまり、嫌な人は個別に申し出て収集に協力

認証方式

しなくともよいとするやり方（オプトアウト方式）❶ 固定パス
ワード

低

高

低

安全度が低い

❷ ＰＫＩ
ＰＫＩ（公

開鍵・電
子証明書）

中

低

高

運用が煩雑

❸
ワンタイム
ワンタイム
パスワード

高

高

高

コストが割高❹ 生体認証高高高

容認度が低いは違法とされる。わが国は、先進諸国の生体認証のプライバシー保護の作法を学ぶべきである。
〇

× プトイン方式
オ【参加したい人だけが同意する仕組み】

オプトアウト方式【参加したくない人は申し出る仕組み】

➎ その他
その他（マ

トリクス
認証等）

今般の AI 規制規則案で禁止される AI システム

さらに、今般のライン／ LINE のズサンな個

または高リスク AI システムの利用にあたるので人データ管理実態の発覚は、官民連携、実質民間はないか。ガバナンスゼロの AI システム利用で、IT 企業への丸投げで進める自治体の軽率な〝住民

文明国失格である。

データの名ばかり厳正管理〟の危うさ、甘さに大きな警鐘を鳴らしている。顔認証データを海外に◆問われる東京渋谷区での LINE 依存で顔認証
データの利用保存しているとすれば、大きな問題だ。住民の人権保護を置き去りにして、法令遵守、グローバルな個人データ管理水準に達していない民間 IT 企

CNN ニューズ 104 号でも紹介しているように、東京都渋谷区は 20 年度から住民票の写しや業に依存を強める多くの自治体の危うさが浮き彫りになっている。

課税証明書などの発行申請をライン／ＬＩＮＥのただ、総務省（前総務大臣）は、マイナンバー

区公式アカウントで受け付けている。本人確認はカード搭載の「公開鍵」を使わない渋谷区方式

スマホを活用したオンラインシステムを活用するをやめるように渋谷区にコメントを発していほか手数料もライン／ＬＩＮＥで決済し、証明書る。ただ、渋谷区は、総務大臣のコメントを受

30© 2021 PIJ

CNNニューズ No.106

EU の包括的 AI 規制始動

け入れず、この方式を使い続けている（https://

ことは、人権に大きなインパクトを与えるもので

www.city.shibuya.tokyo.jp/kusei/koho/ある。この区のトップや現場の担当者に、こうhodo/message020403.html）。加えて、ラインした認識があるのかどうかが問われている。EU／ LINE はこの件で総務省を相手に裁判を起こしての AI 規制の基準によれば、禁止される AI シス

い る（https://note.bot-express.com/n/n576bc8

テムの利用または高リスク AI システムの利用に

f23476）。

あたるのではないか。とすれば、仮にこの種のも っ と も、NTT ド コ モ や

顔写真の撮影・アップロードや本人確認書類で本人確認を行う［出所：渋谷区公式 Web サイト］

顔認証情報の利用がゆるされるとしても、オプ
トイン方式【参加したい人だけが同意する仕組み】

ヤ フ ー、 楽 天、の徹底、顔認証 AI システムの法適合性評価やそメルカリ、日本の評価結果を一般住民が監視できる仕組みや堅固

マクドナルドなガバナンスの確立などが求められる。

HD、グーグル、
フェイスブックなど国内で利用◆子どもの学習成績をマイナバーで AI 国家管理～問われる人格権のポイント評価者が多いアプリの運営ＩＴ企業

政府は義務教育の対象である小中学生の学習履の多くは、国内

歴やテストの成績をマイナンバーで紐づけしてユーザーの個人

オンラインで管理する仕組みづくりをはじめる。

データを海外に2023 年度にも試行開始の方向だ。教育ビッグ

移転・保存、海データをストックし、指導方法の改善や教育政策

外からのアクの検証に役立てるのが狙いだという。

セスが可能である。なぜ、対話アプリのライン／

AI を使ったスコアリングシステム・社会信用LINE だけが集中砲火を浴びたのであるか？総務

ポイント制（social scoring ／個人の行動や人格省にとり、ライン／ LINE は役所の言うことをき的特性などに基づき、国家が個人の信頼性などをかない生意気な存在に映っているはずだ。今回の格付けする AI システム）も最たる例である。EU

事件は、ライン／ LINE に役所の軍門にくだるよの AI 規制規則案（5 条）で厳禁されるスコアリ

うに暗に促す好機なはずだ。行政指導に加え、個ングシステム・社会信用ポイント制につながるの

人情報保護委員会のような自称〝独立機関〟、実ではないか。

質〝政府ご用達機関〟を動員し、厳しく対処して20 年 12 月 1 日に、政府の教育再生実行会議

いる。この事件については、深読みが要る。過去が設けた「デジタル化タスクフォース（TF）」がには、日本年金機構も同じような問題を起こして

第 3 回会議を開き、ICT 化に必要な課題を次のいる。だが、この件では、総務省は静観し、むし

ようにまとめた（https://www.kantei.go.jp/jp/

ろ沈静化するのを待っているような感じであっsingi/kyouikusAIsei/jikkoukAIgi_wg/digital_

た。

tf/dAI3/siryou1.pdf）。

菅政権のデジタル国家総動員体制つくりで、役所にとり、人権に小うるさい外国資本のデジタルプラットフォーマーは使い勝手がよくないはずだ。民族資本のデジタルプラットフォーム事業者であるライン／ LINE を手なずけることは大事なはずだ。今回の事件を必要以上にフレームアップ
することで、〝転向〟、〝中国スタイルの国家に忠実なプロバイダー役〟を期待しているようにもみえた。

①学習履歴（スタディ・ログ）の活用②教育ビッグデータの効果的な分析・利活用の推進③ ICT 活用の抜本的拡充に対応した情報基盤のあり方④デジタル技術による教育手法や学務の高度化・効率化⑤デジタル化の担い手となる人材育成⑥その他

い ず れ に し ろ、 渋 谷 区 に お け る デ ジ タ ル 行
政 サ ー ビ ス の 本 人 認 証 に eKYC（electronic

これらの課題のうち、①と②を、マイナンバー

Know Your Customer）」 と い う AI シ ス テ ム

活用の対象にするようだ。だが、ちょっと待った！

のもと生涯不変の顔認証、生体認証データを使うである。こうした課題に挑戦するにしても、成績

2021.7.10

31

CNNニューズ No.106

EU の包括的 AI 規制始動

をマイナンバーで紐づけしてオンラインで管理する必要などまったくないはずである。

適用除外が広すぎるとの強い批判もある。
EU の AI 規制規則案は、人間不在の AI 開発や子どもたちの成績のマイナンバー管理は、極め

AI を使ったデジタル国家主義、市場社会主義のて重大な人権問題である。マイナンバー管理しな

流れにストップをかけることが狙いである。ヨー

いと、子どもたちの学習成績をビッグデータとし

ロッパの民主的な価値観の保全、自由や基本的人て AI システムで活用したり、オンライン教育の権の尊重、民主主義の原則、オープンな社会の保推進ができないわけではない。そもそも、国家が障などがキーワードである。AI システムのプロ

個人の成績な

バイダーもユーザーも、このキーワードを常に復どの個人情報唱しながら、AI の開発・利用を進めようというを背番号で一ものである。いわば「人格権をむしばむ AI パン

生涯集約管理デミック」にストップをかけるための画期的な〝ワするなど、民クチン〟にあたるとみてよい。

主国家では

AI 規制規則案は、EU 域内、あるいは EU 加

やってはいけ盟 国 の み な ら ず、EU 域 外（ 第 三 国 ） に あ り な

ないことであがらも、EU 域内にいるユーザーを対象に AI シる。マイナンステムの販売や AI システムのサービスを提供す

バーを使った
子どもの成績

中国での AI 評価／スコアリング（public use）

る IT 企業（プロバイダー／開発者）、ユーザーなどにも大きな影響を及ぼす。いわゆる「域外の国家管理シ

適 用（extraterritorial application）」が想定

ステム、AI 評価は人権侵害で、憲法違反である。

されている。にもかかわらず、AI ガバナンスの

また、EU の AI 規制規則案によると、禁止さ仕組みが、各加盟国ベース主導でデザインされ、れる AI システム利用にあたる。先進文化国家を

ワ ン ス ト ッ プ・ シ ョ ッ プ 体 制（one-stop-shop

目指すのであれば、こんな愚策は直ちにやめない

mechanism）になってはいない。AI システムのといけない。恥ずかしい限りである。政府の教育オペレーター／運営管理者（プロバイダー・ユー

再生実行会議が設けた「デジタル化タスクフォー

ザー・授権代理人。輸入者・販売者）にフレンドリース（TF）」のメンバーに、世界の AI 規制の動き、な仕組みではない、との指摘もある。また、一般

AI 倫理、AI リテラシーを叩き込むための再教育法である GDPR（一般データ保護規則）と特別法が要るのではないか。

である AI 規制規則案とのガバナンスやコンプラ
イアンス上の連携を強化すべきである、との声も●むすびにかえてある 25。
わが国の現在の政権は、外圧があっても変われ

今般の欧州委員会（EU ropean Commission）

ない。外圧がなければもっと変われない。まさがまとめた AI 規制規則案（AI 法案）は、たたきに、デジタル監視国家主義の中国の政権と似てい台である。今後、EU 理事会（EU Council）やる。人権をむしばむ「マイナンバーパンデミック」

欧州議会（EU ropean Parliament）で、中身がを流行らせ、グローバルの通用しない入管法改正精査される。AI 法案については、さまざまな疑を闇雲に強行しようとする。自由と人権尊重を第問符がついている。とりわけ、バイアスのかかっ一とする憲法にまで触手を伸ばす。この国のガバ

たアルゴリズムの排除、不公正な評価が出た場合

ナンスゼロ、人権反故は当り前の政府や IT 企業

その結果を個々の被害者に通知する仕組みや一般の姿勢を改めさせるためには、国際的な経済制裁

市民がチェックする仕組みが未整備であることがが要るのかもしれない。家電メーカーの〝イメー

指摘されている。また。市民団体からは、利用がジ〟が〝売り〟のパナソニックなどは、AI ビジ

禁止されるはずの AI 顔認証監視カメラやライブ

ネスの軸足を、人間の大量監視を狙いとする監視

遠隔顔認証 AI システムについて法執行機関へのカメラ事業から、もっと倫理観ある事業に大きく25


S ee,Mark MacCarthy & Kenneth Propp,〝Machines learn that Brussels writes the Rules:The

EU’s New AI regulation,〟 (May4,2021,Brooking Institution).https://www.brookings.edu/blog/
techtank/2021/05/04/machines-learn-that-brussels-writes-the-rules-the-eus-new-AI-regulation/32© 2021 PIJ

CNNニューズ No.106

EU の包括的 AI 規制始動

シフトすべきではないか。EU の AI 規制規則案は、国際水準に到達できないわが国の IT 企業や政府【図表 A】
EU ／欧州連合（EU =EU ropean Union）の統治機構と主要機関（抜粋）に対してある種の経済制裁として効き目を表すに①欧州理事会（European Council）
加盟国首脳・欧州委員長【EU の最高意思決定機関】

違いない。わが国の経団連は、EU の AI 規制について、以前から「イノベーションの阻害要因となる恐れがある」との見解を固守している 26。
ちなみに、2019 年末に、アメリカ政府は、中国の少数民族ウイグル族の監視や弾圧に関与した
中国の監視カメラ大手、杭州海康威視数字技術（ハイクビジョン）を制裁対象にした。また、この種の中国企業と取引をする日本企業名も明らかにし⑥ EU 経済・財務相② EU 理事会（EU Council）
理事会（ECOFIN）
加盟国首脳・欧州委員長 報告／承認【意思決定・立法】
承認

協議

提案

た。制裁対象にはならないが、日本の技術が中日③欧州委員会④欧州議会（European Commission）（European Parliament）

両国での人権侵害に加担しており、企業の倫理、加盟国からの特命委員【行政執行】

人権感覚の欠如が厳しく問われている。

提案

加盟各国の選出委員【立法・行政執行の監視】
承認

諮問／答申
欧州財政委員会（European Fiscal Board）

EU の財政規律の実施を評価する独立諮問機関

欧州中央銀行（European Central Bank）⑤欧州司法裁判所（European Court of Justice）【司法】＊ EU には、理事会（Council）、議会（Parliament）
および委員会（Commission）という機関がある。
それぞれのトップはすべて英語で「President」と呼ばれる。駐日欧州連合（EU ）代表部 https://eeas.EU ropa.EU /delegations/japan_ja では、
これら 3 人の Presidents の日本語を区別し、次のように邦訳（和訳）している。
【図表 B】駐日 EU 代表部の「President」の邦訳方針
2019 年 11 月 26 日東京新聞より引用【添付資料】●もっと知りたい EU の統治機構と法制度

・① ② 理 事 会（Council） ＆ ④ 議 会（Parliament）の President ➡「議長」
・③委員会（Commission）の President ➡「委員長」＊もちろん、他の邦訳（和訳）も可能【図表 C】EU
EU ／欧州連合（EU=EU ropean Union）の主要な機関の特質

①欧州理事会（EU ropean Council）

わが国は、比較的に厳格な三権分立を採用している。しかし、国家連合である EU は、必ずしも権力分立がすっきりしているわけではない。EU
の統治機構と主な機関（財政関連）を図示すると、次のとおりである。

26

EU 加盟国の首脳（大統領や首相）、欧州委員会委員長（Commission President）、常任議長を構成員とする EU の最高意思決定機関である。EU 首脳
会議、EU サミットとも呼ばれる。トップは、欧州理事会議長（EU ropean Council President）。
＊ EU の 立 法 機 関 で あ る EU 理 事 会（EUCouncil）や、EU とは別の機関である欧州評
経団連：欧州委員会〝White Paper on Artificial Intelligence:a European approach to excellence andtrust〟への意見 (2020-06-10)(keidanren.or.jp)

2021.7.10

33

EU の包括的 AI 規制始動
議会（CoE=Council of EU rope）と混同しないように注意が必要。
② EU  理 事 会／欧 州 連 合 理 事 会（Council of the
EU ropean Union ／ EU  Council）
EU 理事会は、EU の機関である。主な任務は、
欧州議会（EP=Parliament）と共同で立法をすることである。EU 加盟国の政府閣僚級代表（1 人）で構成されている。閣僚理事会とも呼ばれる。政策分野ごとに設置された委員会で活動する。トップ は、EU 理 事 会 議 長（President of the EU
Council）。
＊「EU 理 事 会（EU Council）」 は、EU の 最高意思決定 機関である「欧州理事会（EUropean Council）」 や、EU と は 別 の 機 関である「欧州評議会（CoE=Council of EUrope）」と混同しないように注意が必要。
③欧州委員会（EU ropean Commission）
欧州委員会は、EU 基本条約の規定に基づき設置された行政執行機関である。EU 基本条約の守護者として、欧州全体の利益を代表し、法令の立案、政策や法令の執行、国際条約の交渉などを任務とする。
「EU の政府、あるいは内閣」のような存在である。トップは、委員長（President of
the EU ropean Commission）である。
④欧州議会（EP=EU ropean Parliament）
EP は、EU の立法機関である（ただし、立法
権限は、EU 理 事 会（EU Council）と共有 している。
）。 すなわち、条約遂行に必要な EU 法の提案は、基本条約に個別に規定されたものを除き、通常、欧州議会（EP=Parliament）および
EU 理事会（EU Council）が 共同で提案・審議・採決する。ほかに EU の行政執行活動を監視する責務を担っている。EP は、欧州市民の利益を代表する機関で、5 年毎の直接選挙で選ばれる議員で構成される。
トップは、
欧州議会議長（Presidentof the EP）である。
⑤欧州司法裁判所／ ECJ（EU ropean Court of Justice）
欧州司法裁判所（ECJ）は、
EU 基本条約（TEU）
および EU 運営〔機能〕条約（TFEU）に準拠して設立された EU の裁判所である。EU 基本条
約（一次法）や EU 法令（二次法）の適切な解釈を通じて、域内で EU 法を公平に適用する任務を担っている。①司法裁判所（Court of Justice【法律審裁判所で、一般裁判所または専門裁判所の裁決に対する上訴事件（ただし上訴は法律問題を争う場合に限られるす）などを管轄する（TFEU
256 条 1 項 後 段 ）、 ② 一 般 裁 判 所（General
Court ／ 事 実 審 ）、 ③ 専 門 裁 判 所〔specialised
court ／ EU 公務員審判所（EU ropean Union
Civil Service Tribunal）〕の 3 つの部門からな

34

CNNニューズ No.106
る。欧州司法裁判所（ECJ）は、欧州共同体設立条約（TEEC）により、EU 法について排他的に判断する権限が与えられ、統一的な法の適用・解釈を行っている。また、ECJ は、先行判決（先決的判決）制度（References for preliminary
rulings）（TEEC 267 条）に基づき、EU 法と加盟国の国内法との解釈等など各種法律問題に関する鑑定や助言をする権限を有する。競争法関係を含め、欧州委員会（Commission）の 決定を審査するとともに、加盟国の国内裁判所の付託を受けて、EU 法の解釈について先行的判決を下すことができる。加盟国が基本条約（一次法）や二次法（指令や規則など）に定められている義務を履行しない場合には、欧州委員会（Commission）の求めに応じ、ECJ は、違法状態の認定を行った
り、違法とされた当該加盟国が対応しないときには、高額の罰金を科したりすることによって、各種法令、とくに基本条約の遵守を求めることができる。欧州司法裁判所（ECJ）は、TEEC 220 条に基づき、27 人の判事と 8 人の法務官で構成される。加えて、事務を統括する事務局長（任期 6年、再任可能）を任命している。ルクセンブルグに所在する。現在の正式名称は、CJEU =Courtof Justice of the EU ropean Union（欧州連合司法裁判所）である。
＊欧州司法裁判所（ECJ）は、
欧州評議会（CoE）の人権救済機関欧州人権条約（Convention
for the Protection of Human Rights andFundamental Freedoms）上の審 理を行う
欧州人権裁判所（ECtHR=EU ropean Courtof Human Rights）〔EU 評 議 会（CoE ＊ ）の人権救済機関〕とは別の司法機関である。
混同しないように注意が必要。
＊欧州評議会（CoE=Council of EU rope）
欧州評議会（CoE）は、1949 年に設立された
人権・デモクラシー・法の支配などについて国際基準を策定・評価する目的でヨーロッパに設立された国際機関である。専門家会議の開催、国際問題に関する勧告や決議の採択、それらのモニタリ
ングなどを責務としている。現在 47 か国が参加している。日本もオブザーバー参加している。
1953 年 発 効 の 欧 州 人 権 条 約（EU ropean
Convention on Human Rights） に 基 づ き 創設された欧州人権裁判所（ECtHR=EU ropean
Court of Human Rights）は、
欧州評議会（CoE）の機関である。
＊欧州評議会（CoE）は、
EU の機関ではない。
EU 理事会（EU Council）や欧州理事会（EUropean Council）などと混同しないように注意が必要。

© 2021 PIJ

CNNニューズ No.106

EU の包括的 AI 規制始動
⑥ EU 経 済・ 財 務 相 理 事 会（ECOFIN= Economic
and Financial AffAIrs Council）
ECOFIN は、EU 加盟国の経済・財務相が出席し、経済政策の調整などを行う閣僚理事会である。
毎月定例で開催される。経済サーベイランスに加え、加盟各国の予算政策・財政の監視、金融市
場・資金移動、などの諸問題に関する経済政策指針を策定する。また、欧州議会（EP=EU ropean
Parliament）とともに EU の予算編成・決定に関与する。

やさしくまとめると、次のようになる。 欧州共同体（EC ＝ EU ropean Community）→欧州連合（EU ＝ EU ropean Union）。2009 年末までは、例えば、Regulation（EC）No 1466 ／ 97。
2010 年以降は、例えば、Regulation（EU）No1173 ／ 2011 は、加盟国の国内立法が必要である（EU 条 約 24 条 3 項・10 条 1 項 ）。 つ ま り、
一定期間内（EU 官報掲載後 3 年以内）に加盟国の国内法に置き換えられなければならない。 加盟
国には一定の範囲内で立法裁量がある。
②指令（directive）≪ EU 法とは何か≫「EU 法とは何か」。英語でいうと、「What issources of EU law）」。「sources of law」 の言 葉 は、 一 般 に、「 法 源 」 と 邦 訳 さ れ る。 法 的
拘束力を有する規範（norm）（さらには、法的拘束力のない法形式も含む。）を指す。「EU 法（sources of EU law）」は、「一次法（primarylegislation ／ primary law）」 と「 二 次 法（secondary legislation ／ secondary law）」からなる。 双方をやさしく図にすると、次のとおり＊。
＊詳しくは、石村耕治「Q ＆ A:

現代 EU 財政法入門塾」JTI 税務ニューズ４号参照 988ed
1d79a9043157de4814ac2ac2917.pdf(jti-web.net)【図表 D】EU 法の基本体系条約（その議定書、附属一次法（primary legislation ） 文書を含む。）
一次法（条約）を根拠に制定される 広義の共同体立法。具体的には、
二次法① 規 則（regulation）、 ② 指 令（secondary legislation） （directive）、③決定（decision）、④勧告（recommendation）、 ⑤
意見〔見解〕（opinion）【図表 E】種類の共同体立法（二次法）の違い

①規則（regulation）

EU の「指令」は、加盟国政府に対して直接的な法的拘束力があるが、企業や個人には直接適用されない。個々の加盟国に効力を及ぼすには、加盟
国の国内立法が必要である（EU 条約 249 条 3 項・10 条 1 項）。すなわち、一定期間内（EU 官報掲
載後 3 年以内）に加盟国の国内法に置き換えられなければならない。 加盟国には一定の範囲内で立法裁量がある。
③決定（decision）
EU の「決定」は、特定の加盟国の政府や企業、個人に対して直接適用される。対象となる加盟国の政府等に対して直接的な法的拘束力を及ぼす。
性格的には〝行政上の処分〟とみてとれる。
④勧告（recommendation）
EU の「決定」は、特定の加盟国の政府や企業、個人に対して直接適用される。対象となる加盟国の政府等に対して直接的な法的拘束力を及ぼす。
性格的には〝行政上の処分〟とみてとれる。
⑤意見〔見解〕（opinion）
EU の「意見〔見解〕」は、特定のテーマについて欧州委員会（Commission）の意思の表明である。
「勧告」と同様、原則として法的拘束力はない。性格的には一種の〝行政措置〟とみてとれる。

＊本稿は、あくまでも会員の学習・研究目的での資料であり、内容の正確性や完全性を保証する
ものではない。したがって、この点について、著者は一切の責任を負わない。読者は、AI 法
務実務においては、法務専門職のアドバイスを受けるように推奨する。

EU の「規則」は、加盟国の国内法に優先して、加盟国の政府や企業、個人に直接適用される。すなわち、加盟国の政府等を直接法的に拘束する。
このため、加盟国の国内立法は不要である。2009年 12 月のリスボン条約によって EC は廃止され、今まで法の制定ができなかった EU は、法制定が可能な EC の地位を継承した。規則の名称は、複雑である。

2021.7.10

35

CNNニューズ No.106

自治体による LINE の危険な使われ方

ムリなデジタル化で自治体による LINE の危険な使われ方
LINE 依存で危惧される住民の人権
税理士）
辻 村 祥 造 （ PIJ 副代表 ・ 税理士）◆発覚した LINE のズサンな個人データ管理

た。同時に、調査のための第三者委員会を立ち上げ、運用の見直しを行った。

無料通話アプリ「ライン／ LINE」のズサンな

また、ライン／ LINE は、利用者間でメッセー

個人データ管理の実態が暴かれた。中国にある関ジをやりとりするサービス「トーク」に投稿され連会社にシステム開発を委託するなどし、中国人

たすべての画像と動画を韓国にあるサーバーに保技術者らが日本のサーバーにある 8,600 万人分管していることもわかった。

のユーザーの個人情報をのぞき見できる状態にこうしたライン／ LINE のマイナンバーを含むあったというから驚く。わが国の大量の個人デー

個人データのズサンな管理実態の発覚は、多くのタが外国に筒抜けで、実際に 30 回以上のアクセ

自治体にも衝撃を与えた。なぜならば、自治体事スがあったとも報道されている。わが国の個人情

務のデジタル化、住民サービスのインフラとして、

報保護法では、個人情報を国外にいる第三者に提ライン／ LINE 利用がエスカレートしているから供する場合には情報主体である本人の同意を得るである。しかも、これら自治体が、民間 IT 企業

必要がある。しかし、ライン／ LINE は、ユーザーの個人情報管理の実態をよく吟味することなく利向けのプライバシーポリシーでそうした手続につ用を推進していたからである。この報道を受けて、いて説明していなかった。ライン／ LINE は、こ

全国で初めてライン／ LINE による住民票の写しの手続違反を政府の個人情報保護委員会に報告しの申請受付けを始めた千葉県市川市は、3 月 17日に受付けの一時停止を発表した。各地の自治体も続いた。その後、多くの自治体は、国のお墨付

日 本

中 国

きを得て、ラインを使った行政サービスを再開している。

【国内サーバー】
・名 前、メ－ルア
ドレス、電話番
号、ID など

アクセス権【上海の関連会社】
・ システムの開発
・ 中 国人スタッフに権限【業務委託先（大連）】〔日本の現地法人〕【国内サーバー】・タ
 イ ム ラ イ ン、
オープンチャッ
トの書き込み・タ イムラインな
どの監視◆危ない LINE に頼る自治体の拡大
コロナ禍を機に、感染対策が重視され、「非接
触」、「非対面」が合言葉になっている。ネットでも提供できる業務サービスについては、あらゆる分野で、リアル／アナログからネット／デジタル／オンラインに移行している。これは、自治体サービスでも例外ではない。
東京圏の自治体では、とりわけ、無料通話アプ

韓 国【韓国サーバー】
・画
 像や動画といったデータの保管

36

リ「ライン／ LINE」の利用が広がっている。この背景には、IT 企業のライン／ LINE が 2019
年 5 月から、自治体（都道府県・市町村・東京都
23 区）をターゲットにした「LINE 公式アカウ
ント」を無償化新プラットフォームにおける「地© 2021 PIJ

CNNニューズ No.106

自治体による LINE の危険な使われ方

方公共団体

トボット」の実証実験を行った（https://www.

プラン」をpref.kanagawa.jp/docs/j8g/prs/r5063995.

受け付け

html）
。文書や電話などアナログだった作業を、るビジネス

ネット／オンライン化で効率化することが狙いで戦略を積極ある。防災チャットボットには住民が投稿した被的に展開し害情報を集約する機能と、避難情報を自動応答で出したこ案内する機能がある。各地の被害情報の一元的なとにもよ

把握や、特定の避難所が混雑してきた場合に近隣る（https://

自治体の避難所をライン／ LINE で誘導するなど

feedback.LINE.me/enquete/public/5251-の実験が行われた。神奈川県は 2021 年度の本格

vXVioUKL）。公共データを国内情報インフラ、生導入を目指すという。

（public use）

活インフラの主役の地位を狙っているのだろう。

神奈川県は、20 年 10 月に、総務局に「デジライン／ LINE の呼びかけに応じて、自治体が、

タル戦略本部室」を立ち上げた。戦略本部室は「LINE 公式アカウント」の利用を加速させている。

それまであった総務局 ICT 推進部を再編し、70

ライン／ LINE を使ったネット／デジタル／オン

人体制でスタートさせた。そして、民間 IT 企業

ライン業務のメニューも、多岐にわたる。戸籍・であるライン／ LINE の江口清貴執行役員を県

住民異動・福祉・教育など住民向けサービスの各

庁 の CIO（ 情 報 統 括 責 任 者 ） 兼 CDO（ デ ー タ

種申請・届出の受付、モバイル送金・決済サービ

統括責任者）に起用した。黒岩知事は、「デジタス「LINE Pay」を利用した税金のキャッシュレ

ル戦略本部室は神奈川県版デジタル庁」だといス支払い、災害時における住民への避難方法の緊う（ 神 奈 川 新 聞 2020 年 10 月 28 日 報 道 参 照

急連絡、さらには新型コロナウイルスに関する情https://www.kanaloco.jp/news/government/

報発信など。

article-282739.html）。

千 葉 県 木 更 津 市 は ２ 月、 ラ イ ン ／ LINE 上

神奈川県は、この問題について、県に見解をに 移 住・ 定 住 の 相 談 窓 口 を 設 け た（sisin.pdf

HP で公表している県の LINE 公式アカウントの(kisarazu.lg.jp)）。希望者（友だちとして登録さ情報管理について - 神奈川県ホームページ (pref.

れている人）は LINE で市の職員と移住や定住に

kanagawa.jp)。横浜市も同じく市の見解を HP

ついて自由にやりとりできる。

でアナウンスしている（横浜市 LINE 公式アカウ

埼 玉 県 北 本 市 は ２ ０ 年 １ ０ 月、 ふ る さ と 納 税 のントについて横浜市《yokohama.lg.jp》）。

情 報 を 発 信 す る 専 用 の ラ イ ン ／ LINE ア カ ウ ン ト

だが、ちょっと待った！である。それこそ〝デを 開 設 し た（https://prtimes.jp/main/html/rd/

ジタル公安調査庁〟にならないように、見える形

p/000000020.000061548.html）。返礼品の紹介やでの必要な人権保護措置を講じているのであろう

寄附の使い道を配信したり、地域を PR するのがか？民間 IT 企業のアプリを使うことで、住民の狙いである。

プライバシーは大丈夫なのであろうか？一度立ち

このように、民間 IT 企業ライン／ LINE のサー

止まって、住民の個人情報を官民で分かち合うこ

ビスに依存する自治体は、ますます広がりをみせとの問題点を洗いなおす作業を急ぐ必要がある。

ている。この IT 企業の個人データ管理の危うさ

この自治体の住民データのリスク管理の基本が問と気づき、あわてふためいている自治体も多い。

われている。今回のライン／ LINE のズサンな個
人データ管理実態の発覚は、官民連携、実質民間◆神奈川県の LINE 依存症は危険水域

IT 企業への丸投げで進めるこの自治体の〝住民
データの名ばかり厳正管理〟の危うさ、甘さに大神奈川県は、2020 年 4 月、ライン／ LINE をきな警鐘を鳴らしている。

使ったコロナ情報の発信や住民一人ひとりにあわ神奈川県は、今後 「パーソナルサポート」を、せた健康確認の「パーソナルサポート」を全国でワクチン接種への活用も検討するという。しかし、初めて導入した（https://www.pref.kanagawa.

デジタルで武装し、データ監視の仕組みをつくる

jp/docs/ga4/covid19/LINE/index.html）。 つだけで、打つ弾（ワクチンや PCR 検査）や人員

いで、県は、21 年 2 月 26 日、AI 防災協議会なが十分でないと、感染者数の高止まりが続くので

どと組み、ライン／ LINE を使った「防災チャッはないか。

2021.7.10

37

CNNニューズ No.106

自治体による LINE の危険な使われ方●リモートアクセスで使われる認証方式：主要なデー
タセキュリティ対策
認証方式

科学技術立国をうたいながら自前の国産ワクチ
ンも開発も視界不良。かといって輸入に頼るワクチンの供給量も見通せない。全国民を対象とした

導入コ
なりすま
利便性
マイナス面
スト
し対応度

❶ 固定パス
ワード

低

高

低

安全度が低い

❷ ＰＫＩ
ＰＫＩ（公

開鍵・電
子証明書）

中

低

高

運用が煩雑

❸
ワンタイム
ワンタイム
パスワード

高

高

高

コストが割高❹ 生体認証高高高

容認度が低い

➎ その他
その他（マ

トリクス
認証等）

無償の PCR 検査体制も確立できない。まさに戦う武器はなし、竹やりや精神論（マスクの着装＋だが、待った！である。とりわけ、このスマ

密回避）のインパールを繰り返すだけの菅政権。

ホ、ライン／ LINE のアプリでは、マイナンバー

多くの自治体のトップは、科学的な知見が十分でカードなしで本人認証ができるとはいうものの、なく、結果として、こうした「出口戦略ゼロ」政

本 人 認 証 に は eKYC（electronic Know Your

権の片棒を担いでいるだけとの声も。〝劇場型〟

Customer）」という顔認証、生体認証データをや〝ポーズだけ〟の自治体トップの姿勢に惑わさ使う。生涯不変の生体認証情報の取り扱いについれてはいけない。

ては、慎重を期する必要がある。軽い気持ちで住埼玉県も、LINE 公式アカウントを利用した「埼民の生体認証情報を官民で分かち合ってはいけな

玉県―新型コロナ対策パーソナルサポート」を立い。CNN ニューズ今号（106 号）では、EU のち上げている（https://www.pref.saitama.lg.jp/

AI 規制法制の動向が詳しく紹介されている。EUa0001/news/page/2019/0324-08.html）。

では、こうした生体認証は、人権侵害であるとし東京都も LINE 公式アカウントを利用した「新て、近く禁止される方向だ。

型コロナ対策パーソナルサポート＠東京」を立ただ、総務省（前総務大臣）は、マイナンバー

ち 上 げ て い る（https://www.fukushihoken.

カード搭載の「公開鍵」を使わない渋谷区方式

metro.tokyo.lg.jp/ryo/kansen/LINE-corona-

をやめるように渋谷区にコメントを発していhogo.html）。

る。ただ、渋谷区は、総務大臣のコメントを受け入れず、この方式を使い続けている（https://◆東 京渋谷区では NINE 依存で顔認証デー
タの利用も

www.city.shibuya.tokyo.jp/kusei/koho/
hodo/message020403.html）。 加 え て、 ラ イ
ン／ LINE はこの件で総務省を相手に裁判を起

東京都渋谷区は 20 年度から住民票の写しや課税証明書などの発行申請をライン／ LINE の区公

こしている（https://note.bot-express.com/n/
n576bc8f23476）。

式アカウントで受け付けている。CNN ニューズ105 号（13 頁以下）でも紹介したところである。

◆ LINE 丸投げで露呈した危機管理の甘さ

本人確認はスマホを活用したオンラインシステムを活用するほか手数料もライン／ LINE で決済し、このように、とりわけ東京圏の自治体では、無証明書は自宅に郵送する。渋谷区は、ライン／

料通話アプリ「ライン／ LINE」の利用が広がっLINE を活用した住民サービスの拡充を計画してている。これは、総務省が 19 年度に実施した調いる。21 年度からは、新たに国民健康保険の申査（情報通信メディアの利用時間と情報行動に関請やオンライン健康相談の受付を始める。サービする調査報告書）でも証明されている。ライン／スを現在の 9 種類から 21 年度には 15 種類に増LINE の普及率は全年代で 86.9％である。ツイッ

やすという（https://www.city.shibuya.tokyo.

ター 38.7％、フェイスブック 32.7％などと比べ

jp/kusei/koho/LINE/LINE_shinsei.html）。

てみても、ダントツトップである（https://www.

38© 2021 PIJ

自治体による LINE の危険な使われ方

CNNニューズ No.106

soumu.go.jp/main_content/000708015.pdf）。

去には、日本年金機構も同じような問題を起こし

ところが、ライン／ LINE は、ローカルなアプている。しかし、この問題では、総務省はむしろリである。オーストラリアやアメリカなどから来静観するような対応であった。

た訪問者からは、「ライン／ LINE って何？」の政府は、21 年 4 月、「政府機関・地方公共団体

質問を受けることも少なくない。マイクロソフト

等における業務での LINE 利用状況調査を踏まえ社の「ワード（word）」がグローバル化していた今後の LINE サービス等の利用の際の考え方（ガるのに、あたかも和製の「一太郎」を使うようにイドライン）について」を公表している。02 (fsa.

求めるように見えるところもあるからだろう。グgo.jp)。結局、「サービスが拡大しすぎて潰せない」

ローバルシティの東京圏でライン／ LINE のようが結論のようだ。事実、国主導のコロナワクチン

なローカルな（国際化していない）アプリの利用

大規模接種会場（東京・大阪）では、自衛隊とラを求めることの負の問題もある。とりわけ、災害

イン／ LINE がタイアップし、何事もなかったよ

時の短期滞在外国人の保護などは深刻になるのでうに仲直りを演出した。何か不透明さを感じる。

はないか。
先にふれた総務省の調査によると、ライン／LINE の普及率は全年代で 87％と高いものの、◆各 世帯にではなく、IT ハイエナ企業に血税を注ぎ続ける愚策

６０歳代でのライン／ LINE 普及率は 67.9％にとどまっている。自治体の１私企業であるライン

デジタルデバイド（情報技術格差）発生の大き／ LINE への一極集中・過信は、危ういのではなな原因の１つに「所得格差」問題がある。年金世

いか。災害時に一番保護が必要な高齢者や、ネッ

帯や貧困世帯は、高額な Wi-Fi インフラ投資や毎トを活用できない住民へのサービス維持や情報発

月のネット接続代が払えないのである。こうした信が後手に回るおそれもあるからだ。

世帯では、子どものオンライン授業やワクチン予

加えて、今回のライン／ LINE のズサンな個人

約や税金の電子申告などは遅々として進まない。

データ管理実態の発覚は、自治体業務のデジタルにもかかわらず、どの自治体も、公的ネットイン化が、官民連携の名にもとに、個人データ管理水

フラつくりを PR するだけだ。各世帯への Wi-Fi

準の低い民間 IT 企業に丸投げされている実態をインフラの普及への公的支援、ネット接続代を払

さらけだした。住民の人権保護が置き去りにされえない住民への公的支援については一言もふれなており、自治体の〝住民データの名ばかり厳正管いのが気にかかる。この面での課題に対する多く理〟の危うさ、甘さに大きな警鐘を鳴らした。

の自治体トップの認識が甘すぎるのではないか。

もっとも、NTT ドコモやヤフー、楽天、グー

時代は、PC（パソコン）からスマホ全盛に様

グル、フェイスブックなど国内で利用者が多いア

変わりした。にもかかわらず、菅政権はマイナ

プリの運営ＩＴ企業の多くは、国内ユーザーの個

IC カードのような PC 全盛時代の遺物の配布にこ人データを海外に移転・保存、海外からのアクセ

だわる。IC カードリーダーは時代遅れだ。セキュスが可能である。来年（22 年）施行の改正個人

リティ機能を PKI（公開鍵）にこだわるのであれ

情報保護法では欧州連合（EU）の一般データ保

ば、IC カードではなく、その機能をスマホに直接護規則（GDPR）と同様に、移転先の国が日本と格納すればそれで済む。個人情報を羅列した危な

同水準の保護体制が無い場合、国名の明示が求めいマイナ IC カードは、発行する必要がない。むられる方向である。だが、現在の国内法では問題

しろ、紛失による危険の方が高い。カードを国民ない。

全員に首からぶら下げさせ、デジタル収容所列島にもかかわらず、なぜ、ライン／ LINE だけがを移動する際には、国民登録証として携行を強制

集中砲火を浴びたのであるか？総務省にとり、ラしようという国の役人の悪だくみが先行している

イン／ LINE は、裁判を起こしたりして役所の言のであろう。スマホ全盛時代の今日、いずれ、マうことをきかない生意気な存在に映っていたはずイナ IC カードは廃止された住基 IC カードと同じだ。今回の事件を契機に、ライン／ LINE に役所

運命をたどるのではないか。血税をジャブジャブ

の軍門にくだるように暗に促すためにも、個人情

浪費することに慣れきっている国の役人は、柔軟報保護委員会など政府ご用達の〝名ばかり保護機な発想ができないのである。

関〟とダッグを組み、厳しく対処しているのでは

国や自治体は、20 年にもわたり、毎年１兆円

ないか。この事件については、深読みが要る。過規模での IT 投資を続けてきている。だが、いま2021.7.10

39

自治体による LINE の危険な使われ方

CNNニューズ No.106

だ電子／デジタル政府、電子／デジタル自治体は

ル技術や科学の使われ方については、市民による幻の存在である。〝住基 IC カードがあれば引っ越

人権面から〝常時監視〟
が必要だ。
「緊急時」
「戦時」
、

しした際の住民登録手続が楽になる〟と同じ PRというキーワードの独り歩きは許されない。プラを、マイナ IC カードでもいまだ流し続けている。

イバシーや匿名で移動／行動できる権利は憲法でデジタル化は何も進んでいない証拠だ。各世帯へ保障された権利だからである。

の Wi-Fi インフラ普及のための支援などをけちる
一方、新たな公共事業である IT ハイエナ企業へ◆問われるデジタルに無知な政治家の血税の垂れ流しを続けた結果ともいえる。デジ
タル庁に国や自治体のデジタル化政策の権限を一

菅政権が今国会で成立したデジタル監視 6 法

極集中するなど、人権ゼロの新たな〝デジタル国

は、マスターキーであるマイナンバーを使って国家総動員体制〟、〝デジタル公安調査庁〟をつくる

家が個人データを無制限に集約管理するのが狙いに等しい。電波行政の権限を一手に握る総務省は、だ。国民総背番号によるデジタル国民総動員体制

官民癒着、接待問題に揺れた。デジタル権限の一つくりが狙いだ。これは、デジタル監視 6 法に「人極集中は、新たな官民癒着問題を引き起こす可能権の保護」「プライバシーの保護」というキーワー
、

性も高い。

ドはどこにも見当たらないことからもわかる。まさに、「マイナンバーパンデミック」に油を注ぐ◆人権が護られてはじめてデジタル化はゆるされるに等しい。この政権は、「コロナ便乗型新自由主義」、「コロナ・ショック・ドクトリン政治」をモットーに、人権をむしばむデータ独占、監視国家づ

デジタル技術、科学の発展は、人類に貢献する

くりにひた走りの状態だ。デジタル化と監視は市ことも多い。新型コロナウイルス感染症のパンデ

民のプライバシーを脅かし、人権侵害を恒常化す

ミック（感染爆発）を防ぐためのワクチンは、科る社会への扉を開く。大規模な監視とディストピ

学の力を総動員し短期間で開発できた。感染症はア（暗黒郷）の間にバランスを見出し、国民を護もはや人の手に負えない自然の脅威ではなく、科るのが政治家の仕事だ。ところが、国にも自治体

学で解決できる時代に入っているとみてよい。そにも、その仕事をこなせる政治家が少なすぎる。

れでも、この国はいまだ多くの犠牲者を出し、リ

こうした状態では、国民の人権をむしばむ菅政権

バウンド（再感染）をくり返している。これは、のデータ監視社会づくりにストップをかけること科学を軽視する菅政権が、的確な出口戦略を描けを期待するのはほぼ絶望的である。NTT の接待

ずに、誤った判断を繰り返しているからだ。

などリアル問題での追及はできても、デジタル問題

ただ、デジタル技術、科学は使い方を誤ると、で人権面から追及できるレベルの政治家は少ない。

市民の監視や自由を束縛するツールと化す。
「緊

政治家のデジタルデバイド（情報技術格差）問題は急時」をキーワードに、コロナ封じに近距離無線

かなり深刻である。政治家の多くは、国の役人が官

通信技術／ブルートゥー ス（Bluetooth）やビー

民連携ですすめるデジタル監視法／デジタル国家総コン（Beacon）などを応用した接触追跡アプリ

動員法には、まともに太刀打ちできていない。例年（APP）の導入や GPS 、ＡＩ（人工知能）を使っの税制改正法と同じで、役人が仕上げた監視 6 法は、た監視カメラを積極的に使う動きが一例である。

ほぼ無修正で通ってしまった。

ワクチンパスポートという監視ツールも、偽物と今回のライン／ LINE のズサンな個人データ管が出回り、他人の健康やいのちを危なくしかねな

理実態の露呈は、目から鱗が落ちる体験となった。

い。何よりも、警戒を怠れないことは、いったん

官民連携、実質民間 IT 企業への丸投げで進められこうした監視ツールが出回れば、コロナ収束後のる自治体の軽率な〝住民データの名ばかり厳正管理〟

巻戻しの確証もないことだ。

の危うさ、甘さを浮き彫りにした。しかし、こうし

政官学と IT 企業が連携した人権をむしばむデー
タ監視社会づくりにストップをかけないといけな

た問題を、住民目線で人権を護る立場から厳しく追及できる地方議員の数はあまりにも少ない。

い。EU（欧州連合）は、危ない AI（人工知能）

こうした現実は、重く受け止めなければならな

規制に動き出した。CNN ニューズ今号（106 号）

い。各自治体は、〝自らの力で住民の人権が護れで詳しく紹介されている。〝国家主義的データ監

なければ、デジタル化はゆるされない〟とするルー

視大好き軍団〟の動きや国民監視のためのデジタ

ルを明確にする必要性はさらに高まっている。

40© 2021 PIJ

CNNニューズ No.106

国民投票法改正と SNS 規制 ・ 言論の自由≪読書の声を一緒に考える≫

国民投票法改正と SNS 規制 ・ 言論の自由
大学教授））
コ メ ン テ ー タ ー ： 清 水 晴 生 （白鷗大学教授

読者から、「国民投票法改正と言論の自由」

い。いちばんよいのは、与野党が「集中豪雨的なについて、次のような「声」が届きました。

CM 放送はしない」との紳士協定を結ぶことだ」と。

そこで、白鷗大学法学部の清水晴生先生

すごく荒っぽい社説で、びっくりしました。普

にコメントをお願いしました。

段、日経新聞は SNS の問題とかを丹念に報じてなお、このコメントでは、
「言論」、
「表現」
、
「意

います。SNS は言論活動の主役に躍り出ており、見」、「発言」、「投稿（ツイート／ポスト）」など

いまやその存在は無視できない時代です。にもかの言葉がでてきます。これらは、ほぼ同じ意味でかわらず、リアルの CM 放送云々でおしまいです。

理解してください。（CNN ニューズ編集局）

意図的に「海外では」と枠をはめ、コンセンサスに時間がかかる難しい〝国民投票に絡む SNS 問◎国民投票法改正を急ぐな！
ま ず「SNS 規制と言論の自由」問題の決着を急げ！

題〟を避けているわけです。これでは、コロナ・

CNN ニューズ 105 号の「ネット規制と言論の援団、改憲の旗振り役を演じているとしか思えま

自由を考える」を読みました。レベルが高く、すせん。この議論打切りを誘導する社説には失望し

ごく興味深い対論でした。とくに、32 頁で、ソーました。

ショックドクトリン手法です。憲法改正ウイングと歩調を合わせているだけです。実質、彼らの応

シャルメディアと国民投票法（正式には「日本国

ネット規制と言論の自由問題は、とくに国民投

憲法の改正手続に関する法律」）の関係を論じて票においては、避けて通れないきわめて重要なポおり、現在の国民投票法改正法案審議で抜けていイントだと思います。アメリカでは、政治言論なる点だと思いました。

どを自主規制する SNS プラットフォームの責任

今国会の衆院憲法審査会における国民投票法改を免除する通信品位法（CDA）230 条 c 項の改正案の審議が開始されました。ここでは、リアル

廃をめぐり、ツイッター社やフェースブック社なのメディアでの広告規制の問題だけを取り上げて

ど主要 SNS を巻き込んで、連邦議会や言論界でいます。ソーシャルメディア（SNS）を使ったフェ

熱心な議論が展開されています。CNN ニューズ

イク・ツイートと言論の自由のあり方などについ16 号で詳しく紹介されているところです。

ては、ほとんど検討されていません。しかし、必「言論の自由市場」を護るためには、わが国で要不可欠なポイントなはずです。

も、この面での活発な議論は必要不可欠です。でにもかかわらず、マスメディアによっては、日

ないと、中国版ツイッターとも呼ばれるウエイ

経新聞（21.04.16 朝刊）のように、「国民投票ボ（Weibo）や中国版ラインとも呼ばれるウイー

法改正を決着させよ（社説）」とかけしかけるわ

チャット（WeChat）のように、中国の検閲当局けです。いわく、「立民などが採決に応じない理の意のままに懐柔される SNS として存続するし由のひとつに『テレビＣＭへの規制なしに国民投かなくなるかもしれないからです。

票が実施されると、世論がゆがめられかねない』

この問題での日本人が大好きな〝役人にお任せとの懸念がある。海外ではフェイクニュースが選コース〟の選択は危険だと思います。
〝中立的な挙結果に影響したとみられる事例もある。全く的

言論保障〟とかのふれこみで、役所が主役となっ外れな指摘でもないだろう。他方、公権力が CMて、〝国民投票の中立〟を名目に、実質 SNS の官の内容や頻度を束縛するのは、表現の自由の侵害

製統制に走るかもしれないからです。SNS プラッにつながるおそれがあり、法規制にはなじみにく2021.7.10

41

CNNニューズ No.106

国民投票法改正と SNS 規制 ・ 言論の自由

トフォームに対する政府の管理、デジタル [ 公安ジタルデバイド（情報技術格差）問題の深刻さを調査 ] 庁による検閲が唯一の解決策とする方向に感じざるを得ません。
改正法案は、自民、公明両党、日本維新の会な動く可能性もあるからです。
与野党を問わず、民主主義や人権という価値観

どが 2018 年 6 月に提出し、8 国会にわたり継続を共有できず、〝政治的中立〟のキャッチが言論審議となっていました。その間に、菅政権がデジ圧殺につながるなどと夢にも思わない議員も少な

タル改革とかの政策を打ち出してきました。立法

くありません。やると決めた以上は一億一心、既環境は大きく変わっています。ネット／デジタル

定方針には有無を言わせないで突っ走る国柄で投票なども、あながち夢ではないかもしれません。

す。国民投票法改正を急いではならない、と思い立憲民主党は、CM 規制がしっかり検討されてます。まず「SNS 規制と言論の自由」問題を、いないことを理由に、採決に反対していました。

時間をかけて議論し、決着させる必要があると思しかし、今国会で、3 年以内を目途に法改正の検います。

討をすることを付則にも盛り込むことを条件に採わが国は、本当に、自由と人権を尊重する西欧

決に応じました。3 年以内に憲法改正の機運が盛型民主体制をとっているといえるのでしょうか。

り上がるかどうかはわかりません。しかし、再検

Yes というのであれば、一連のデジタル監視国家

討をするまでに最長で 3 年間の時間ができまし

法案は、ゆるされないでしょう。

た。そこで、読者が指摘した点について、少し深菅首相は、人権なんか余り感心がないタイプではないかと思います。デジタル監視国家をつくる
法案を通して、中国を超える人権ゼロの国をつく読みしてみたい、と思います。
憲法 96 条 1 項は、憲法改正について、次のように規定しています。

ろうというタイプの御仁ですから。
渡米して、香港・新疆ウイグル地区の人権状況

憲法９６条１項などに懸念を表明する資格があるかどうかは疑問

この憲法の改正は、各議院の総議員の３分の２以上の賛成で、国会が、これを発議し、国民に提案してその承認を経なければならない。この承認には、特別の国民投票又は国会の定める選挙の際
行はれる投票において、その過半数の賛成を必要とする。

です。中国の人権状況にふれたとしても、ジョー・バイデンとつきあう手前、ポーズだけ・・・ではないか、と思います。制裁が必要なのは、中国ではなく「ヨシ」その人なのかもしれません。アメ
リカの「ジョー」には、「ヨシ」に人権感覚を磨くように、アドバイスしてもらう必要があるので

憲法 96 条 1 項からわかるように、憲法改正には、国民投票が必要です。国民投票には、その手はないか、と思います。
CNN ニューズの編集局には、国民投票法を素続をはっきりさせるための法律が必要です。国民材に、SNS 規制と言論の自由についての対論あ

投票法（正式には「日本国憲法の改正手続に関す

るいはコメントの掲載をお願いできれば、と思いる法律」）は、私たちが暮らす国家を根本的に形ます。期待しております。

づくっている憲法の中身を変える際の投票手続を2021 年 4 月 17 日

（一読者より）

定めた法律なわけです。
憲法改正は必要ないとする意見が多いのも事実≪コメント≫
国民投票法改正案は、読者が指摘するように、「SNS 規制と言論の自由」のような重要な問題については、国会内はもちろんのこと、政界での議論も生煮えの状態にあります。同法改正案は、リアル（現実空間）なテーマに終始しています。世は SNS 全盛の時代です。にもかかわらず、ネッ
ト空間での言論の自由と法的規制がどうあるべきかなどについてはまったく議論していません。
「共通投票所」を、駅や商業施設に設けるとか、公職選挙法が定める通常の選挙と同じ投票環境を整えるとか、どこか的外れな内容です。国会議員のデ42です。ですから、ここでは国民投票が行われることになったという「仮設定」の形で話を進めます。
憲法改正のための投票をするとします。この場
合には、憲法の内容の改正に反対、賛成というだ
けでなく、その内容が改正されることの意味や影響についてもよく知る必要があります。その際に、反対の人の意見を聞き、また賛成の人の意見にも目をとおす必要があります。改正した場合としな
かった場合とを比較するなど、さまざまな意見にふれて、それらを参考にする必要があります。
憲法改正について、多くの意見（または言論）があること自体は、参考にする側にとても有益で© 2021 PIJ

CNNニューズ No.106

国民投票法改正と SNS 規制 ・ 言論の自由す。そのなかから自分の判断で自分なりの答えをに追われるなかで、国防・自衛隊について、集団導き出す手がかりが得られるかもしれないからで安全保障や緊急事態について、あるいは天皇制にす。このように、憲法改正のために国民投票が実ついて、それぞれの複雑な内容に関して専門家と施されるとすれば、「言論の自由」が保障されて同じように勉強したり、理解することは難しいのいることが、とても重要になります。

です。
お ま け に 新 興 の 言 論 市 場 と も い う べ き SNS◆ SNS と「言論の自由市場」（ソーシャルメディア）上には、むしろ判断を誤らせることを意図したフェイクニュースや差別「言論の自由」は、自分が表現したいことを表的表現／言動があふれています。そればかりでな

現し、表現したくないことをしないという、人間

く、ユーザーのパソコン（PC）内のキャッシュの根本にかかわる自由です。自由権の代表格のよ（Cache）やクッキー（Cookie）で収集された閲うな存在です。

覧・検索・検知された履歴、あるいは、ビーコン

わが国の憲法は「言論の自由」について、２１条で、次のように定めています。

（Beacon) やブルートゥース（BLE ＝ Bluetooth
Low Energy) を使ってスマートフォンで感知された位置情報などをもとに、それらを掻き集めて憲法２１条作られたビッグデータの解析から選ばれたター

1項 集
 会、結社及び言論、出版その他一切の表
現の自由は、これを保障する。
2 項 検 閲は、これをしてはならない。通信の秘密は、これを侵してはならない。

ゲット広告が表示されています。無差別に見える
広告はじつはユーザーの嗜好に基づいてカスタマ
イズされているわけです。ですから、巧みに誘導され、関心を持たされ、投票行動をも左右することができるわけです。SNS 市場には、さまざま

日々のくらしのなかでは、「言論」のほかに、「表現」、「意見」、「発言」、「投稿」などの言葉が使わな偏向（バイアス）情報が流通していることに細心の注意を払わないといけないわけです。

れます。ここでは、これらの言葉は、同じような意味で使います。

ＳＮＳ市場に流通する偏向情報の例

言論は、自由に競いあうべきであり、むやみやたらに規制すべきではないという考え方を、「言論の自由市場」論といいます。リアルまたはネッ
トの言論市場では、正しい意見が間違った意見を・フェイクニュース・差別的表現、ヘイトスピーチ
・ターゲット広告
・誇大広告

打ち負かし、自然淘汰されるのが望ましい、とする考え方です。仮に、政府が一方的に自分らに都

イギリスの EU（欧州連合）からの離脱（ブレ

合の良いニュース、あるいはフェイクニュースをグジット）やアメリカ大統領選挙でも、SNS 市

流しても、究極的には〝真理〟によって駆逐される、場に流通する偏向情報の影響があった、と確認さとみるわけです。

れています。

ところが、誰もが「何が真理・真実か」についつまり SNS は、私たちが調べ物をしに行ったて正しい判断能力を図書館や、いろいろな商品のなかから選んで買え持っているとはいるスーパーとも違います。誰が置いたのかわからえないのも事実でない商品や、どこで作られたのかもわからない、す。むしろ肩書に惑

何のラベルもついていない缶詰が所狭しと置かわされて安易に信じれ、著者名も出版社名もない本が大量に並べられたり、流行りの考えているような状態です。しかも、ただ乱雑に並ん方に飛び乗ってみたでいるのではなく、その読者が好んで手に取りそり、時間をかけてよ

うな本が「推薦図書」の棚に、あたかも全員に同く調べることもせず

じように推薦されているかのように置かれているに信じてしまうようのです。

2021.7.10

なことは誰にでもあ

ただでさえ勉強不足で、これから勉強して投票

ります。日々の生活に備えようとする人たちの前には、こんな光景が43

国民投票法改正と SNS 規制 ・ 言論の自由広がっているわけです。

CNNニューズ No.106

私たちがさまざまな言論にふれ、また自由に言論表現をするためには、少なくともお金をたくさ◆投票の権利と言論の自由とを同時に護るためにん持つ者の発言力が高まるような、金権国民投票を防がなければなりません。また言論市場自体の言論の自由は、市民に民主的な社会形成への参公正を疑わせるような暗示的な広告を禁止して、加を保障するためにあります。投票の権利もまた、

一人ひとりがその１票を慎重に投票できるような同じように民主的な社会形成への参加を保障する

環境を整備、保障する必要があります。

ためにあります。
ですから、言論の自由が投票の権利を損なうよ◆情報の偏りをなくすためのポイント

うなものであれば、それは言論の自由に名を借りた、民主的な社会形成への妨害行為といえます。
既存の放送メディアに関しては、放送法４条１

情報の偏り（バイアス）をなくすための主なポ
イントは、次のとおりです。

項が番組編集基準を定め、「報道は事実をまげないですること。」（3 号）を義務づけています。
放送法４条１項［番組編集基準］
放送事業者は、国内放送…の放送番組の編集に当たつては、次の各号の定めるところによらなければならない。
１号 公安及び善良な風俗を害しないこと。
２号 政治的に公平であること。
３号 報道は事実をまげないですること。
４号 意 見が対立している問題については、できるだけ多くの角度から論点を明らかにすること。

ところが、SNS にはこのような規制はありません。
それから、刑法の名誉毀損罪を問う裁判で、無罪の主張をするとします。この場合、真実性を担保する取材があったかどうかが問われます（刑法230 条の 2）。しかし、国民投票の一時点でそんなことを問うことはできません。
また、既存のメディアの報道内容に偏向（バイアス）があったかどうかは、長いスパンで明らかとなります。しかし、国民投票の一時点のみで、SNS 上のどの発言、投稿（ツイート／ポスト）にどのような偏向（バイアス）があるかはすぐにはわかりません。さらに一般の選挙に関する公職選挙法では、いわばフェイクニュースを流布することは犯罪として処罰されます。しかしこれは、国民投票にはうまくあてはまりそうにありません。
虚偽事項公表罪（公選法２３５条２項）
当選を得させない目的をもつて公職の候補者又は公職の候補者となろうとする者に関し虚偽の事項を公にし、又は事実をゆがめて公にした者は、４年以下の懲役若しくは禁錮又は１００万円以下の罰金に処する

44❶S NS 広告の総量・総額規制、一定範囲の活動
団体の登録制・報告義務を国民投票法で定めることが必要です。
❷ターゲット広告を制限するために、匿名加工情報（個人情報保護法 36 条 1 項）、いわゆるビッグデー
タの提供・利用を禁止することも必要です。
❸ 方、公職選挙法のようにフェイクニュースの一
発信を処罰するというのは、実は手放しで賛成できるものではありません。というのも、そも
そも「何をもって虚偽・フェイクというのか」は明らかではなく、非常に難しい問題だからです。ですから、特に国民投票の実施の際にはこれとセットで、情報の受け手の「知る権利」が保障される制度・取組も不可欠となります。
❹
政府が直接関わるのではなく、ファクトチェッ
クに取り組んできた実績のある複数の NGO ／NPO が関わる形で、各プラットフォーマーにおいて一定期間ファクトチェックの取り組みを増強し、フラッグ立て・警告・公表等の実施を検討する必要があります。なかでも、例えばタイムリーに外国の軍艦が日本に向けてミサイルを発射したかのような明らかないわゆるディー
プフェイク映像などの投稿・拡散が明確に確認された場合には、削除・凍結等のより強い措置をとる余地もありうるでしょう。
❺S NS を運営するプラットフォーマー企業に監視状況の報告を求める必要もあります。
➏
ファクトチェックに取り組んできた実績のある
NGO ／ NPO の協力も必要不可欠です。チェッ
ク事項は、国民投票に関わる情報に接する際に注意すべき事項（発信者は誰か、偽造・改変されたものでないか、一部が切り取られた情報ではないなど多岐にわたります。また、真偽不明
情報の拡散・再生産に協力しないこと、ありがちな虚偽情報など）を繰り返し広報し、投票する側のいわゆるメディアリテラシーを高める努力も必要です。

© 2021 PIJ

CNNニューズ No.106

情報公開、 タイアップ作業の市民監視が不可欠◆おわりにディアに至るまで、現在も盛んに論じられています。その理由は、知る権利を脅かすフェイクニュー

フェイクニュース規制については近年盛んにスを規制することが、かえって言論の自由やひい論じられています。

ては知る権利までも規制することになりかねない

総務省もプラットからです。例えば、ワクチンや医療に関する政府

フォーム研究会をの不手際を報道したら、それはフェイクだとして立ち上げて、フェイ

削除されかねないわけです。

クニュース規制に

憲法改正の国民投票は、政府の信任投票ではあついても検討してりません。決して国政選挙のように劇場型で行わきました。２０１９れるようなことがあってはならないのです。可能（令和元）年度司法

な限り、落ち着いた投票環境と十分な情報環境と試験の憲法の論文が整えられなければなりません。

試験問題にも登場

国のあり方を左右しかねない憲法改正の国民投したほどです。

票においては、とりわけ SNS 規制のあり方につあらゆる分野のいての議論の重要性が増してきています。

研究者から各種メ

最新のプライバシーニューズ

不適切投稿削除で、 グーグルと法務省との危ないタイアップ
情報公開、タイアップ作業の市民監視が不可欠（ＣＮＮニューズ編集局）
（ＣＮＮ
）

ネ

ット上の SNS（ソーシャルメディア）へ

ログラム（Trusted Flagger program）」を組んの投稿（ツイート／ポスト）によるひぼでいる。メンバーには、ユーザーのなかから、ガ

うや嫌がらせ、ヘイトスピーチなど拡散

イドラインにぶつかると思われる投稿を高い頻度

問題が深刻化している。こうしたなか、法務省とで報告し、信頼のおける個人や NGO、政府機関

IT 大手グーグルが不適切な投稿の削除に向けたを認定する。公認報告者からの報告・削除要請に

情報共有態勢／タイアップを強化することになっついて、YouTube は優先的に審査する。

た。わが国の政府機関が「プラットフォーマー」と呼ばれる巨大 IT 企業と（デジタルプラット企業）

YouTube は、コミュニティガイドラインの違反警告を ❶ 90 日間のうちに 3 回受けた場合、タイアップして具体的な対策に乗り出すのは初め❷悪質な嫌がらせ行為（搾取行為など）が 1 回てだ。

行われた場合、または ❸ YouTube のガイドラ

グーグルは、動画投稿サイト「YouTube（ユーインに違反する行為をすることのみを目的としたチューブ）」を運営している。YouTube は、不チャンネル（多くの場合、スパム アカウント）と

適切投稿からユーザー（利用者）を護る独自の判断された場合、YouTube はチャンネル停止の

ガイドライン（community guideline）を定め措置を講じる。チャンネルが停止されると、その〔YouTube コミュニティ ガイドラインの 適用について – Google 透明性レポート〕、これとぶつチャンネルの動画はすべて削除される。

かる投稿を削除している。人の目や AI による自グラムで 2020 年 10 月から 12 月までの 3 か月

動検知、ユーザーなどからの報告をもとに、削除間に世界全体で、およそ 200 万件のチャンネル対応を行っている。YouTube は、「公認報告者プを停止し、およそ 930 万件の動画が削除された

2021.7.10

YouTube が公表した統計によると、このプロ

45

CNNニューズ No.106

情報公開、 タイアップ作業の市民監視が不可欠ことがわかる。

する被害者側からの削除要請に応じるかどうか

グ ー グ ル に と っ て も、 わ が 国 の 政 府 機 関 では、原則として SNS 運営事業者に委ねられる。

YouTube の「 公 認 報 告 者（trusted flagger）」

だが、どのような投稿が名誉毀損にあたるかなどに認定されたのは、法務省人権擁護局が初めてだ。

を具体的に定めた法律はなく裁判例も少ない。安

法務省によると、全国の法務局に寄せられたネッ

易に削除すれば、投稿者側から言論／表現の自由

ト上のひぼうや中傷などに関する相談は 2018

を侵害しているとしてカウンターパンチを食らう（平成 30）年以降、去年 10 月までにおよそ 2 万

怖れもある。SNS 運営事業者によっては、削除を件にのぼっているという。このうち 1,200 件余求める裁判所の命令や判決が出るまで対応を保留りについて、法務局が、プロバイダーであるデジするところも出てくる。また、削除を求めた被害

タルプラットフォーム企業（IT 事業者）に削除を者であるユーザーも、こうした司法判断にたどり要請した。だが、およそ 3 割は事業者が要請に応着くまでのハードルは高い。さらに、不適切な投じず、実効性の確保が重い課題になっているとい

稿者の特定や弁護士費用などで多額の負担も強いう。こうしたなか、法務省人権擁護局と動画投稿られる。テマやカネをかけることに後ずさりし、

サイト YouTube を運営するグーグルが、不適切

泣き寝入りする被害者が多いではないか。

な投稿の削除に向けた情報共有の態勢を強化でタイアップすることになった。

法務省はこの問題の検討を公益社団法人「商事法務研究会」に依頼した。同法人は、4 月に「ネッ

しかし、このタイアップは手放しでは喜べない。

ト上の中傷を巡る法的問題を整理する有識者検討

むしろ危険な使われ方に注意する必要がある。な会」を立ち上げた [ 公益社団法人 商事法務研究会

ぜならば、中国のようなデジタル監視国家では、(shojihomu.or.jp)]。法学者や弁護士 6 人と、法投稿の削除に政府機関が関与するのは当り前とさ

務省、総務省、最高裁が参加している。座長は、れているからだ。この国では、政府に不都合な「言政府ご用達の憲法学専攻の東大教授が務める。民論／表現の自由」は、「不適切」を理由に政府機主的な諸外国とは違い、独立した NGO ／ NPO

関により圧殺される。
「法の支配」、「悪法も法なり」

からの代表の参加はない。

のキャッチのもと、〝言論／表現の不自由〟だけが横行している。

政府機関が SNS 投稿削除の先頭にたつことについては、慎重に考える必要がある。昨今話題に

わが国の自公政権は、マイナンバーパンデミッ

なっている国民投票法に基づく投票時の広告規制

クを流行らせ、デジタル国家総動員体制、デジタなどの問題も先取りして考える必要がある。政府

ル監視国家つくりだけに異常なほど熱心だ。国民機関が参加した官民タイアップ型の不当投稿削除の〝人権反故は当り前〟の政権だ。こうした政権

プログラムが、軌道をそれる怖れもある。
〝大いが続くわが国でのこの種の官民タイアップは危険なる嘘〟、フェイクニュースの規制を名目に、政だ。運用次第では、わが国の「言論の自由市場」

府の不都合な言論／表現／投稿対策にエスカレー

を、デジタル監視された市場に一変するおそれもト利用、乱用される怖れも織り込む必要がある。

ある。

わが国は、過去も現在も、政府は監視国家づくり

法務省人権擁護局は、削除率をあげることに狙に手を染めてきていることを忘れてはならない。

いを定めている。しかし、不適切な投稿として総務省などが、有識者検討会という政府御用達機

YouTube をはじめとした SNS を運営する事業

関を立ち上げ、投票時の不適切投稿のチェック作

者に対し〝要削除〟の報告をする場合に、どのよ法などを議論し出すのではないか。

うな基準で選定したうえで削除依頼をし、さらに言論／表現の自由市場が保障されないと、国民は苦情処理などに応じているのかは不透明性なまの知る権利が脅かされる。不適切投稿、フェイク

まだ。とりわけ政府機関が投稿を選別したうえで投稿を規制することが、かえって言論の自由やひ報告を行うことは、憲法 21 条 1 項が保障する言

いては知る権利までも規制することになりかねな論／表現の自由と憲法 21 条 2 項が禁止する〝検い。SNS の無機性が招く危険と SNS を巨大 SNS

閲〟との兼ね合いもあり、安易に考えてはいけな

自身により招く危険、あるいは SNS を政府が規い。

制に乗り出す危険、こうした危険を誰がどうさば削除が進まない背景には、難しい憲法問題はもとより、不適切な投稿が名誉棄損にあたるのか線

くのか？やはり、言論／表現の自由市場の存在が一番大事である。

引きが難しいことがある。ネット中傷を受けたと
46© 2021 PIJ

CNNニューズ No.106

少年の実名報道禁止緩和とプライバシー

清水晴生教授に石村耕治 PIJ 代表が聞いた 5 月 21 日に可決成立した少年法改正を問う！

少年の実名報道禁止緩和とプライバシー
特定少年 （１８～１９歳） に対する少年法上の実名 ・ 顔写真禁止 （匿名報道） 解禁
報道の自由・知る権利と少年の立ち直り権・忘れてもらう権利とのはざま

対論

大学教授））
清 水 晴 生 （白鷗大学教授
大学名誉教授））聞 き 手 石 村 耕 治 （ PIJ 代表 ・ 白鷗大学名誉教授
話し手

国家（国や自治体）が市民のプライバ
シー権を直接侵害するケースがある。
マイナンバーやマイナンバーカードを使った市民監視が適例。かたや市民間で他人のプライバシーを SNS 上にさらすようなケースがある。リベンジポルノや不適切投稿が適例だ。しかし、どちらともいえない中間のケースもある。国が、法律やその改正によって、市民間での他人のプライバシーをさらす行為を違法とする範囲を変えるのが一例。まさに 2021（令和 3）年 2 月に国会（第 204回）に提出され、5 月 21 日に成立した少年法改正が適例だ。
刑事事件報道は、発生時 20 歳未満であった少年事件については匿名とされてきた。ところが、この改正では、事件時 18 歳、19 歳の少年について、匿名報道制限を解除することになった。公職選挙法や 2022 年 4 月から施行される民法の成人年齢の 18 歳への引下げに歩調を合わせるのが理由とされる。たしかに公職選挙法と民法、そして刑法や少年法
は、どれも法律であることでは変わりがない。
しかし、歩調を合わせること自体に大きな疑◆法改正のポイント

問符がつく。
現代メディアの主流であるネット、SNS（ソーシャルメディア）上にはフェイクや少年の人権をむしばむ投稿（ツイート）が氾濫している。プライバシー権には、「忘れてもらう権利」が含まれる。わが国の裁判所は、この権利を法認することに消極的である。本誌
89 号でも扱われたところである。だが、国会が法律をつくれば解決できる。
今回の少年法改正により刑事事件匿名報道
年齢が引き下げられれば、
その結果、
少年の
「立
ち直り権」
、
「忘れてもらう権利」は最も長く侵害されることにつながる。にもかかわらず、
政府は、
今回の改正では、この問題から逃げた。
少年事件については、年々件数も、重大ケースの数も減り続けている。少年の「立ち直り権」、「忘れてもらう権利」を置き去りしたままでの一方的な匿名報道年齢引下げは解せない。加えて、
この改正案により創設される「特定少年」の扱いについても問題が山積している。刑事法が専門の清水晴生 白鷗大学教授に
石村耕治 PIJ 代表が聞いた。
（ＣＮＮニューズ編集局）（ＣＮＮ）

案が少なくないという印象操作を繰り返して、まだ少年法の厳罰化をいい続けています。

（石村）少年法改正法案は、5 月 21 日に可決成立（石村）法務省や警察にとっては自分たちの存在しました。この改正は少年犯罪の厳罰化が狙いで意義に関わるからでしょうね。でも犯罪が減ったす。警察国家化、デジタル国家主義を進める自公方が成果を上げているということになるはずです

政権の目玉政策の一つです。問題ポイントを一緒が・・・。

に考えていきたいと思います。

（清水）いったんできあがった組織は、存続自体（清水）成人の犯罪も少年の犯罪も近年ではずっが存続目的になってしまいますから。

と長く減り続けています。それでも治安対策を緩（石村）公安調査庁などがいい例ですね。ただ、めたくはないのでしょう。法務省、警察は重大事

政府は、今回の少年法改正は、来年春（2022 年

2021.7.10

47

CNNニューズ No.106

少年の実名報道禁止緩和とプライバシー

4 月）に迫った民法の成人年齢引き下げに歩調を合わせるだけだとしていますが？
（清水）現行の少年法は、少年法上の少年を「二十歳に満たない者」と定めています。民法上の未成年と連動させているわけではありません。

法改正のポイント①特定少年の逆送拡大②特定少年の虞犯除外③特定少年の福祉除外④特定少年の匿名除外（石村）除外の字が並んでいます。それに「特定少年」とか聞き慣れない言葉がありますね。
（ 清 水 ）「 特 定 少 年 」

少年法２条１項とは、いわゆる〝年長少年〟のことですね。18 歳、この法律で「少年」とは、二十歳に満たない者をいい、「成人」とは、満二十歳以上の者をいう。

19 歳です。
（石村）この層を、いわば「成人扱い」にするわ
けですね。

（石村）民法の成人年齢が 18 歳になるからといっ（清水）実質的にそれが狙いです。

て、少年法でも直ちに同じ年齢を基準にしなけれ◆少年法とは何かばならないわけではないのですよね。
（清水）民法は私人同士の契約関係や婚姻関係な3どを定める私法です。少年法は犯罪・非行事実に（石村）少年を、成人とは違う扱いにする、といついての公的な裁判手続やその後の処分についてうのが本来の少年法の考え方ですね。

3

定める公法です。

（清水）仰せのとおりです。刑事訴訟法の特別法（石村）性格はまるで違いますね。結婚年齢や民という位置づけです。

法の成人年齢と喫煙や飲酒年齢が同じである必要（石村）どのような内容を定めているのですか。

はないですよね。

（清水）大まかにいいますと、少年（少女も含みます）が犯罪・非行事実を行った場合に、地方裁●2022 年からどう変わる、成人年齢

判所や簡易裁判所での刑事裁判の代わりに、家庭裁判所の少年審判を受けることを定めています。

現在2022 年から

婚姻年齢

男 18 歳
女 16 歳～

男女とも
18 歳～

スマートフォンの契約

未成年は親
権者の同意

未成年は親
権者の同意

（清水）基本的に検察官は関与しません。ですから、

選挙権

18 歳

18 歳

対審ではなく、家庭裁判所判事が少年と向かい合パスポート（10 年）

20 歳

18 歳

飲酒／喫煙

20 歳

20 歳

実を認定するわけですね。

ギャンブル

20 歳

20 歳

（清水）そうですね。さらに家裁調査官が少年に国民年金の被保険者
資格

20 歳

20 歳

主な例

公認会計士／司法書
士／行政書士／医師免許などの資格

20 歳

18 歳

（清水）そうです。とくに犯罪にかかわった少年（石村）家庭裁判所は離婚や相続を扱うばかりではないわけですね。少年審判は刑事裁判とはどう違うのでしょうか。

う形です。
（石村）すると家裁判事は捜査記録を基に非行事

いかなる保護処分が必要か（要保護性）を調査した社会記録も判断の基礎となります。
●判断（裁判）の基礎・対象

成人事件

少年事件

・犯罪事実
・非行事実
（量刑上の情状） ・要保護性

（石村）少
年について
は、それだ
け〝 保 護 〟を重視しての更生・立ち直りの問題は、本人の資質ばかりでいるというなく、成育環境や社会のかかわり方が大きなウェことですね。非行事実の軽重や要保護性の程度をイトを占めます。環境に恵まれずに育った者にも考慮したうえで、どのような処分が決定されるの等しく刑事責任を負わせる政策、厳罰化で対応すでしょうか。

るのには大きな疑問符が付きます。

（清水）処分の内容としては「保護観察」や「少（石村）にもかかわらず、自公政権は今回の厳罰

年院送致」などが決定されます。しかしそれだけ化を強行したわけですね。

ではなく、「審判不開始決定」や「不処分決定」（清水）そうです。法改正の主な内容は次の 4 点です。

の場合でも、その決定に至る過程自体が少年に対48© 2021 PIJ

CNNニューズ No.106

少年の実名報道禁止緩和とプライバシー

する教育的・保護的措置だと理解されています（教を調査して審判の基礎とするわけですよね。とな

育主義、保護主義）。

ると、当然その手続自体の目的が、環境調整や教（石村）少年の場合、成人とは異なる手続にして、育的・保護的な働きかけだということになるわけ

その家庭環境・成育環境といった要保護性の要素

ですね。

コラム

もっと知りたい「少年院」、「少年刑務所」、「少年鑑別所」≪少年院とは≫少年院法４条は、久しく「少年院」を、①初等少年院，②中等少年院，③特別少年院，④医療少年院の４種類に分類していました。それが、2015 年 6 月に施行された少年院法の改正によ
り，次のような新しい分類になりました。①第一種少年院，②第二種少年院，③第三種少年院、④第四種少年院の 4 つ。家庭裁判所が保護処分の審判の際に、少年をどの種類の少年院に収容するかを決めることになります。
≪ 4 種の少年院の特徴≫①第一種少年院
保護処分の執行を受ける人であって，心身に著しい障害がないおおむね 12 歳以上 23 歳未満の人（第二種少年院に収容する人を除く）②第二種少年院
保護処分の執行を受ける人であって，心身に著しい障害がない犯罪傾向が進んだおおむね 16 歳
以上 23 歳未満の人③第三種少年院
保護処分の執行を受ける人であって，心身に著しい障害があるおおむね 1 歳以上 23 歳未満の者，④第四種少年院
少年院において刑の執行を受ける者≪「医療少年院」とは≫かつての少年院法には、「医療少年院」の種別がありました。しかし、現在の少年院法では、「心身に著しい障害がある」人を収容する「第三種少年院」として規定されています。ただ、現在も、「関東医療少年院」、「神奈川医療少年院」、
「京都医療
少年院」
、
「宮川医療少年院」といった施設の呼び方は継続的に使用されています。少年院の収容期間については、成人のような「懲役○年」という期限はありません。家庭裁判所から収容期間について処遇勧告が付く場合もあります。しかし、法
務省訓令で定められた 2 年以内という標準期間で収容するのが一般的です。法務省の通達に従い、12 か月単位で教育計画が立てられ、評価（3，2，1）されます。最高評価（１）になれば、引受人と帰省地があり、保護観察所が帰住の OK を出せば、少年院仮退院の手続が開始されます。仮退院とは、
2021.7.10

保護処分では、少年院からは退院するが、その後は社会内処遇である保護観察（原則 20 歳まで）の対象となることから、「仮」と呼ばれるわけです。
仮退院後、病院への通院または入院、さまざまな
社会福祉サービスが必要になる場合が多い。
≪少年刑務所とは≫
家庭裁判所が審判に際に、少年を、保護処分よりも刑罰を科す方が適切であると判断したとします。そして刑事裁判にかけられて実刑判決を受けたとします。この場合に収容する施設が少年刑務所です。少年刑務所は、26 しょうけい
歳未満の受刑者を収容する刑務所です。ぞくに「少刑」とも呼ばれます。全国に 7 つの施設があります。「少年」という名称ではあるものの、実態としては 20 歳未満の少年よりも 20 歳以上の成人の方が多く収容されています。青年刑務所といった方が的確かもしれません。少年刑務所では、成人の受刑者と 20歳未満の少年受刑者は同じ居室にならないよう配慮しています。なお、女性の少年受刑者については、成人受刑者と同じ施設に収容されるため、とくに女性の少年刑務所は設けられていません。
≪少年院と少年刑務所の異同≫
少年院と少年刑務所は，刑事事件を起こした少年を収容する施設である点では共通しています。
しかし、施設の存在目的は大きく異なります。
少年院は，少年の更生や教育に重点が置かれています。一方、少年刑務所は，基本的に成人が収容される刑務所と同じで、刑罰として刑務作業などを行います。ただ、少年受刑者には、とくに少年であることや更生目的を強調して教育的処遇が取られています。少年刑務所は、一般の「刑務所」と「少年院」の中間に位置する施設ともいえます。
≪少年鑑別所と少年院の異同≫
少年鑑別所は、少年を社会から隔離したうえでの矯正教育が必要かどうかを判断する施設です。
少年院は、鑑別結果などから「社会生活での更生は難しい」と判断された場合に送致される矯正施設です。
＊各種資料、ウエブサイトなどを利用してまとめました。

49

CNNニューズ No.106

少年の実名報道禁止緩和とプライバシー（清水）そうです。少年についてはそうした手続相当に前のめりな対応です。

が不可欠だということです。成人であれば警察や（石村）いわゆる保安処分のようなものですね。

検察限りで微罪処分や不起訴、起訴猶予というこ

しかし、実際に罪を犯す前に軌道修正させようととがむしろ大半です。しかし、少年事件についていう、いわば親心ということなのでしょうけど。

は家庭裁判所への全件送致主義が採られていま（清水）仰せのとおりです。しっかりと少年の成育・す。

生活を監督・監護できない親の代わりに、国が親（石村）つまり、決してゆるい手続にはなっていの代わりとなってその責任を果たそうとする考え

ないということですね。

方に基づいています。国親思想［パレンス・パト

くにおやリエ］と呼ばれます。
（石村）その少年たちに対する少年審判には、検◆少年審判とは察官は原則関わらないということでしたが・・・。
（清水）少年法がゆるい手続でないことは、審判（清水）刑事裁判では検察官が有罪を証明する責対象とされる少年の範囲からもわかります。

任を負い、被告人・弁護人が防禦を尽くし、裁判（石村）どういうことでしょうか。

所はあくまで中立公平な第三者の立場から判決を（清水）少年法 3 条は、審判対象を、犯罪行為や下します。

触法行為（刑事責任年齢未満の者の犯罪行為）を（石村）両方の当事者同士が攻撃と防禦を互いに行った少年だけに限っていません。ほかに、家に尽くしていくことで刑事裁判が進むということ

帰らないで夜に出歩いているような少年についてで、当事者主義と呼ばれますね。

も、審判対象に加えています。

（清水）そうです。これに対して検察官が原則関（石村）いわゆる「虞 犯少年」ですね。犯罪・触わらない少年審判では、裁判官がいわば検察官の法行為を行っていなくても家裁の少年審判にかけ役割も担って、非行事実の有無を確認・認定してられるのですか？

いくわけです。

（清水）そうなのです。場合によっては保護処分（石村）いわゆる職権主義ですね。いわば訴追官を受けることにもなります。

と審判官を同一人が請け負うわけですから、事件

ぐはん

性や犯人性が否定されにくくなる心配があります●「虞犯少年」とはね。

少年法３条１項３号（清水）ええ。事件性や犯人性が認められるから

次に掲げる事由があつて、その性格又は環境に照して、将来、罪を犯し、又は刑罰法令に触れる行
おそれ為をする虞のある少年
イ 保 護者の正当な監督に服しない性癖のあること。
ロ 正当の理由がなく家庭に寄り附かないこと。
ハ 犯 罪性のある人若しくは不道徳な人と交際し、又はいかがわしい場所に出入すること。
ニ 自 己又は他人の徳性を害する行為をする性癖のあること［援助交際など］。

といって審判を開始しておいて、始めたその人が事件性や犯人性がなかったと認定するというのは考えにくいことです。
（石村）なぜ、あえてそのような、いってみれば少年にとって不利になるかもしれない制度が採用されているのでしょうか。
（清水）対審性を採らず、非公開で行う形になっています。これは、裁判のように、対立図式のな
かで自己弁護に終始せざるをえないような場にしないためと考えられ（石村）少年院送致（少年法 24 条１項 3 号）もて い ま す。 む し ろ、

ありうるということですね。これはつまり、処分

少年審判は、自己表を決定する基礎には犯罪・非行事実のみならず、

現に未熟な少年と向むしろ要保護性にも十分に重きが置かれるためでかい合い、深く反省すね。

し、更生の道へと踏（清水）そのとおりです。

み出すための一歩と（石村）将来罪を犯すおそれがあるからといって、なるような働きかけ

まだ罪を犯していないにもかかわらず自由を奪うの場、教育的な場に処分を行うというわけですね。

しようということだ（清水）成人の場合であれば決して許されない、と思います。

50© 2021 PIJ

CNNニューズ No.106

少年の実名報道禁止緩和とプライバシー◆非行事実と要保護性◆「特定少年」とは（石村）犯罪や触法行為を行わない虞犯の場合に（石村）少年法と少年審判の概要についてはわかは、とくに要保護性が重視されるということでしりました。このなかから「特定少年」というのがた。これはどんな形で判断されるのですか。

切り分けられて、特別な扱いをする、というのが（清水）家裁調査官が自宅を訪問して、保護者・今回の改正の趣旨ですね。

家族から聞き取りをしたり、学校に行って話を聞（清水）そうです。18 歳、19 歳の年長少年についたりします。適切な監護を十分に受けられる成いては、公職選挙法や民法での権利拡大に見合う育・生活環境が整っているかを確認することが第形で、刑事手続上も成人相当の責任を負うべきだ

一、ということだと思います。

という考えがベースとなっています。

（石村）非行から距離を置くことのできる環境が（石村）しかし、少年法の対象範囲から外さなかっなければ、同じことを繰り返してしまうでしょう

たのですね。

からね。適切な監護が見込めないということであ（清水）そうです。成人と比べて、どちらかというれば、たとえ非行事実が重大でなくても、むしろと、少年は犯罪を繰り返すことが少ないわけです。

少年院送致によって生活環境・生活習慣を整える

言いかえると、更生・立ち直りの可能性（可塑性）

ような場合もあるわけですね。

が大きいのです。対象年齢を引き下げて、負のレッ（清水）そうです。また家裁調査官による社会調

テルの範囲を広げる積極的な理由はないわけです。

査のほかに、少年の身柄を確保しながら、その心

しかも 18 歳、19 歳といえば、まだ大学や専門学

理・非行傾向等の資質を科学的に鑑定・鑑別する

校の 1、2 年生の年代です。世の中が本当に大人ための「観護措置」という手続・中間的な処分も扱いしている年頃でしょうか？

あります。

（石村）むしろ、これから大人として社会に出る（石村）これは、いわゆる「鑑別所送り」ですよね。

ための準備を今まさに始めたばかりという年代で（清水）そうです。少年鑑別所に送られたというと、すね。

少年院に送られたようなイメージですが、実は鑑（清水）まだ社会に出る前から、刑事責任だけは

別所は審判をするための準備・調査をするための社会人同様に背負うべきだというのはどうなので施設にすぎません。

しょうか？社会の実態からかけ離れてしまって、

かんご（石村）少年にとって●観護措置（少年鑑別所送致）

か そ立法事実（法改正の理由となる事実）がないようは、 事 件 を 起 こ し たに思えます。

ときに身柄を拘束さ（石村）どうして従来からある年長少年ではなく、れ る と い う こ と が、特定少年なのでしょうか？

最初の大きな衝撃で（清水）単に年代別の分類ではなく、質的な差異

し ょ う。 中 間 処 分 でがあるかのように演出したいのでしょう。

あ る 鑑 別 所 送 致 が、あたかも処分が決定◆特定少年の逆送拡大されたかのように感じるのも無理はありません。

（石村）年長少年、いや特定少年の取り扱いはど（清水）成人の場合でも、逮捕後にさらに勾留さのように変わるのですか？

れて社会生活から切り離されたとしたら、本人や（清水）少年事件は捜査が終わったら家裁への全周囲にとって衝撃はかなり大きいですからね。

件送致主義が採られていることはすでにお話しま（石村）鑑別所ではどのような調査が行われるのした。

でしょうか？

（石村）家庭裁判所にその判断を委ねるわけです（清水）鑑別技官や法務教官らによって、心理テね。

スト等も含めて資質鑑別が行われます。そのうえ（清水）そうです。ただ従来から、犯情が特に重で鑑別結果通知書が作成されます。

い事件については例外的に、家庭裁判所から地方（石村）それも審判での要保護性判断の資料とさ検察庁へ送り返して地方裁判所に起訴をさせるとれるわけですね。

いう手続があります。
（石村）いわゆる逆送、
検察官送致（検送）ですね。

2021.7.10

51

CNNニューズ No.106

少年の実名報道禁止緩和とプライバシー（清水）そうです。この逆送、検送については、「故たはずだから、その責任を負わせるということで意の犯罪行為により被害者を死亡させた罪の事件すね。

であつて、その罪を犯すとき 16 歳以上の少年に（清水）具体的には「故意の犯罪行為により被害係るもの」については原則検察官送致にするとい者を死亡させた」というのに届かなくても、「短うように、原則と例外を逆転させる法改正がすで期１年以上の懲役・禁錮」が法定されていればよに行われました。

いことになりました。

（石村）原則逆送規定（20 条 2 項）ですね。

（石村）新たにどのような犯罪が加わりますか。
（清水）刑法典の罪をあげれば、次のとおりです。

●
原則逆送

少年法 20 条 2 項
前項の規定にかかわらず、家庭裁判所は、故意の犯罪行為により被害者を死亡させた罪の事件であつて、その罪を犯すとき 16 歳以上の少年に係るものについては、同項の決定をしなければならない。ただし、調査の結果、犯行の動機及び態様、
犯行後の情況、少年の性格、年齢、行状及び環境
その他の事情を考慮し、刑事処分以外の措置を相当と認めるときは、この限りでない。

●特定少年の原則逆送に追加される罪の例

刑法 108、112 条
現住建造物放火、同未遂（死刑 or 無期 or ５年以上の懲役）
刑法 177 ～ 181 条
各種強制性交、同未遂、同致傷等（死刑 or 無期 or ５年以上の懲役）
各種強制わいせつ致傷（無期 or ３年以上の懲役）（清水）そうです。そしてさらに今回、この「故刑法 236 ～ 241 条

意の犯罪行為により被害者を死亡させた罪の事件

各種強盗、同未遂（5 年以上の懲役）
各種強盗致傷（無期 or6 年以上の懲役）であつて、その罪を犯すとき 16 歳以上の少年に係るもの」というのを超えて、「死刑又は無期若
しくは短期１年以上の懲役若しくは禁錮に当たる罪であつて、その罪を犯すとき特定少年に係る」
事件についても、原則逆送としました。
●
特定少年の逆送拡大

法改正前の逆送（20 条 2 項本文）
…家庭裁判所は、故意の犯罪行為により被害者を死亡させた罪の事件であつて、その罪を犯すとき
16 歳以上の少年に係るものについては、同項［検察官送致］の決定をしなければならない。
特定少年の逆送（新設 62 条 2 項）
家庭裁判所は、特定少年に係る次に掲げる事件については、同項［検察官送致］の決定をしなければならない。
２号 死 刑又は無期若しくは短期１年以上の懲役若しくは禁錮に当たる罪であつて、その罪を犯すとき特定少年に係るもの（石村）未遂でも既遂と同じ扱いなのですね。
（清水）未遂は犯情により刑の減軽が可能です。
ただ、法定刑は変わりません。それに、必ず減軽
しなければならないというわけではありません（刑の任意的減軽。刑法 43 条）。
●未遂処罰刑法 43 条犯罪の実行に着手してこれを遂げなかった者は、その刑を減軽することができる［刑の任意的減軽］。
ただし、自己の意思により犯罪を中止したときは、その刑を減軽し、又は免除する。

◆特定少年の虞犯除外（石村）「その罪を犯すとき特定少年」ということ（石村）犯罪行為を行っていなくても少年審判、ですね。審判時ではないのですね。

保護処分の対象となるのが〝虞犯少年〟でしたね。

（清水）少年法は基本的に刑事訴訟法の特別法で（清水）そうです。新設 65 条 1 項は、この虞犯すから、少年かどうかは審判時・処分時を基準にを定める 3 条１項の規定を「特定少年については、判断します。しかしこの逆送規定はいわば犯罪事適用しない。
」とするのです。

実に対する厳罰化を含意したものですから、犯行（石村）特定少年に対しては、もはや国親思想の時が基準となります。

ような教育的・保護的な働きかけを十分には行わ（石村）犯行時に成人並みの刑事責任能力があっないということになりますね。

52© 2021 PIJ

CNNニューズ No.106

少年の実名報道禁止緩和とプライバシー（清水）もう重い刑事責●特定少年の虞犯保護は必要●特定少年の保護処分

任も自ら負える年代だとみて、特定少年には原則
逆送の範囲を拡大します。これに加え、匿名報道からも除外されるわけです。おせっかいな虞犯の対象からは外さざるをえないということでしょう。
（石村）厳罰化の副作用が〝保護の縮小〟の形で現れるのは大問題ですね。
（清水）同感です。次こそ少年法の領域から完全新設 64 条 1 項
第 24 条第１項［上掲］の規定にかかわらず、家庭裁判所は、第 23 条［不処分決定］の場合を除
いて、審判を開始した事件につき、少年が特定少年である場合には、犯情の軽重を考慮して相当な限度を超えない範囲内において、決定をもつて、次の各号に掲げる保護処分のいずれかをしなければならない。ただし、罰金以下の刑に当たる罪の事件については、第１号の保護処分に限り、これをすることができる。
1 号 6 月の保護観察所の保護観察に付すること。
2 号 2 年の保護観察所の保護観察に付すること。
3 号 少年院に送致すること。

に排斥するための布石なのでしょう。
（石村）こう見てくると、公選法も民法も 18 歳（清水）特定少年を「児童福祉（法）」の範囲からになったのになぜ少年法だけ 20 歳のままなのか、

除外したわけです。

と批判が起こるのを予想して、先手を打った法改
正だったことは明らかですね。

●児童福祉法上の施設（清水）少年法の有効性を無視してこれを切り捨

児童自立支援施設（児童福祉法 44 条）ててでも、世間からの人気・評判を追い求めたの

児童自立支援施設は、不良行為をなし、又はなす
おそれのある児童及び家庭環境その他の環境上の理由により生活指導等を要する児童を入所させ、又は保護者の下から通わせて、個々の児童の状況に応じて必要な指導を行い、その自立を支援し、あわせて退所した者について相談その他の援助を行うことを目的とする施設とする。

ですね。こういう意味では、保護主義のみならず、
この社会そのものを顧みることさえ放棄した、とみることもできます。

◆特定少年の福祉除外

児童養護施設（児童福祉法 41 条）（石村）特定少年の〝虞犯除外〟はわかりました。
それから、〝福祉除外〟はどういうことでしょうか。
（清水）現行の少年法上、審判不開始決定や不処分決定のほかに、保護処分に付する決定として、
次の 3 つがあります。
●
従来の保護処分

少年法 24 条 1 項本文
家庭裁判所は、前条の場合を除いて、審判を開始した事件につき、決定をもつて、次に掲げる保護処分をしなければならない。
１号 保護観察所の保護観察に付すること。
２号 児 童自立支援施設又は児童養護施設に送致すること。
３号 少年院に送致すること。

児童養護施設は、保護者のない児童（乳児を除く。
ただし、安定した生活環境の確保その他の理由により特に必要のある場合には、乳児を含む。以下
この条において同じ。
）、虐待されている児童その他環境上養護を要する児童を入所させて、これを養護し、あわせて退所した者に対する相談その他の自立のための援助を行うことを目的とする施設とする。

（石村）あくまで成人扱いを徹底するということですね。
〝特定少年・年長少年には甘い扱いをしない〟というアピールを、これでもかと世間に向けてしているようにみえます。こうしたやり方は、
かつてアメリカでも実施されましたね。
（清水）そうです。アメリカがかつて歩んで、こ（石村）この規定が特定少年については、どうな

うしたやり方ではだめだとして、もう引き返してるのですか？

いるわけです。ところが、わが国は、その道を、（清水）次のようになります（※ 新設 64 条 1 項）。

今さら意気揚々と歩き始めようしているわけで（清水）何かがなくなりました。

す。

（石村）24 条１項 2 号の「児童自立支援施設・児（石村）安倍・菅政権による公安国家化、デジタ

童養護施設送致」がなくなりましたね。

ル監視国家化が、共謀罪に始まり、司法取引を経2021.7.10

53

CNNニューズ No.106

少年の実名報道禁止緩和とプライバシーて、特定少年のみなし成人化にまで至ったというわけですか。

●現行規定の推知（実名）報道の禁止

少年法 61 条（清水）極め付きが、推知（匿名）報道禁止からの特定少年の除外ですね。

◆特定少年の匿名除外（石村）以前から議論のある規定ですね。
（清水）大正少年法では、出版物に掲載した場合について「1 年以上の禁錮又は千円以下の罰金」を定めていました。
●
大正少年法の出版物掲載禁止

大正少年法 74 条
1項 少
 年審判所の審判に付せられたる事項又は少年に対する刑事事件に付き予審又は公判に付せられたる事項はこれを新聞紙其の他の出版物に掲載することを得ず。
2 項 前 項の規定に違反したるときは……1 年以上の禁錮又は千円以下の罰金に処す。

家庭裁判所の審判に付された少年又は少年のとき犯した罪により公訴を提起された者については、
氏名、年齢、職業、住居、容ぼう等によりその者が当該事件の本人であることを推知することができるような記事又は写真を新聞紙その他の出版物に掲載してはならない。
●特定少年の匿名除外

新設 68 条
第 61 条の規定は、特定少年のとき犯した罪により公訴を提起された場合における同条の記事又は写真については、適用しない。ただし、当該罪に係る事件について刑事訴訟法第 461 条［略式手続］の請求がされた場合（［略］）は、この限りでない。

（清水）家庭裁判所の裁判官が「刑事処分相当性」を認めて検察官送致を決定したとします。この場
合、事件の送致を受けた検察官は、その裁判所の判断に従うものとされています。
（石村）ということは、検察官送致された後は成（石村）大正少年法では罰則規定があったのですね。

人と変わらない扱いを受けるというわけですね。

（清水）ありました。しかし戦後、GHQ 指揮下で（清水）いえ、実は再度、地方裁判所から家庭裁

当時の少年法は全面改正されました。それで、新判所へ送り返すこともあります。55 条移送と呼しい少年法になったわけです。少年年齢が 18 歳

ばれる仕組みが用意されています。

未満から 20 歳未満に引き上げられ、この罰則規定もなくなりました。
（石村）大正少年法の少年は 18 歳未満だったのですか。すでに明治 31 年から施行されていた現行民法 4 条が成人年齢を 20 歳としていたのですから、本当に連動しているわけではないのですね。

●地裁から再度家裁への送致（55 条移送）

少年法 55 条
裁判所は、事実審理の結果、少年の被告人を保護処分に付するのが相当であると認めるときは、決定をもつて、事件を家庭裁判所に移送しなければならない。

（清水）まったくです。戦後、新憲法（1947［昭和 22］年施行）の下で、報道の自由への配慮か（石村）こちらは地方裁判所の裁判ですから、家裁

ら、現行の新少年法（1949［昭和 24］年施行）の判断に反することになってもいいわけですね。

は罰則規定をなくしたといわれています。

（清水）ですから、調査官の関与もない地裁では（石村）やや規定ぶりも異なりますね。報道自体難しいとは思います。地方裁判所は少年の刑事事を禁じるのではなく、プライバシーを保護する趣件においては、この 55 条移送があることを前提

旨であることがわかります。

に裁判をすることになります。

（清水）アメリカの少年法制の影響を受けたもの（石村）55 条移送された少年がさらに再び検察官のようです。

送致に付されることはさすがにないのでしょうか？

（石村）この禁止が特定少年については解除され（清水）いえ、ごく稀にあります。ただ決して望まるというのですね。

しいとはいえません。少年事件の手続は、少年に（清水）拡大された検察官送致により「公訴を提とり教育的・保護的手続であるはずです。にもか起された」ら、禁止は解除されるようです。

かわらず、何度も係属が変わり必要以上に時間が（石村）検察官には起訴便宜主義が認められていかかることはよくありません。その間ずっと少年ます。ですから、起訴裁量によって不起訴や起訴を不安定な状況に置かれることになりますから。

猶予にすることはないのでしょうか？

（石村）少年法が 55 条移送を定めて、地裁の刑54© 2021 PIJ

CNNニューズ No.106

少年の実名報道禁止緩和とプライバシー

事裁判を担当する裁判所にさえ、いわば「保護相は、この権利を法認することに消極的です。本誌

当性」をなお判断させようとしています。ですか

89 号でも扱われたところです。

ら、検送後の地裁の刑事事件もなお保護的性格を（石村）さいたま地裁が、この権利にふれた裁判失うわけではないはずですね。

例があります。しかし、他の裁判所は、この権利（清水）そのとおりです。

を認めることには消極的です。
（清水）刑事事件匿名報道年齢が引き下げられれ◆刑事事件報道年齢引下げと「忘れてもらう
権利」

ば、その結果、事件を起こした少年は、犯罪者のなかでは、最も長く「忘れてもらう権利」を侵害されることにつながるわけです。

（石村）今般の少年法改正の問題ポイントについ（石村）少年事件については、年々事件数も、重て、わかりやすい解説をありがとうございました。

大ケースの数も減り続けているとのことですが。

引き続き、刑事事件報道の年齢引下げとプライバ（清水）ですから、「忘れてもらう権利」を置き去

シー権、とりわけ「忘れてもらう権利」との関係りしたままでの一方的な匿名報道年齢引下げは解について考えていきたいと思います。

せないわけです。

（清水）ひとくちにプライバシー侵害ケースはさ（石村）大事なポイントだと思います。司法（裁まざまです。

判所）は「忘れてもらう権利」を法認することに（石村）そうですね。１つは、国家（国や自治体）

ついては消極的（最決平成 29 年 1 月 31 日民集

が市民のプライバシー権を直接侵害するケースです。

71 巻１号 63 頁）です。しかし、立法府（国会）（清水）マイナンバーやマイナンバーカードを使っが、権利として認める法律をつくればいいわけでた市民監視が典型ですね。

す。刑事事件匿名報道年齢引下げと「忘れてもら（石村）「パンデミック」という言葉が流行っていう権利」とをパッケージで考えないといけません。

ます。「パンデミック」の「パン」は〝すべて〟「デ、

頭の切り替えが必要ですね

ミア」は〝人々〟が元々の意味です。まさに、菅（清水）同感です。ただ、一方で、犯罪報道につ政権は「マイナンバーパンデミック（背番号感染

いて市民の「知る権利」
・メディアの「報道の自由」

爆発）」を引き起こす新型コロナウイルスのようも損なわないようにしないといけません。バランな存在にみえてきます。何にでも番号をつけて「国

スのとれた姿勢が求められます。

民総背番号制」を徹底して監視すればいい、プラ（石村）政治家の過去の犯罪報道のように、市民

イバシーなどどうでもいい、という姿勢です。

の民主的な投票行動のための資料となるものは、（清水）①国家による直接の市民のプライバシー

容易に削除されてはなりませんね。その政治家のの侵害に加え、②市民間で他人のプライバシーを「忘れてもらう権利」よりも、むしろ、市民の知SNS（ソーシャルメディア）上にさらすようなケー

る権利、その報道に対しアクセスする権利を優先

スがあります。

しないといけませんね。

（石村）リベンジポルノや不適切投稿があげられ（清水）ですから、匿名報道問題を大人と少年とますね。

を同じ次元で考えてはならないと思います。少年（清水）そうです。それから、①と②のどちらとはまだ社会参加も経済活動も一般に制限され、成もいえない③中間のケースもありますね。

熟の途上にあるわけです。

（石村）国が、法律あるいは法改正によって、市（石村）少年の成長発達は、その成育環境・保護環

民間での他人のプライバシーをさらす行為を違法境に大きく左右されます。ですから、更生の困難とする範囲を変えるのが一例ですね。

さをすべて自己責任とするわけにはいきません。

（清水）そうですね。プライバシー権には、「忘れ（清水）かつて犯罪に手を染めた人間は雇いたくてもらう権利」が含まれます。ところが、裁判所ない、近くに住んでほしくないという考えもわからないわけではありません。しかし、社会から排① 国 家による直接の市民のプライバシーの侵害
ケース② 市民間で他人のプライバシーを SNS 上にさらすようなケース③ ①と②との中間ケース

2021.7.10

除し続けることのデメリットもあるわけですね。
（清水）事件を起こした少年が、裁判を経て、刑罰を受けた後は、立ち直る権利・環境が整備されていることがとても大事です。
（石村）社会にとっても、その少年ができるだけ早55

CNNニューズ No.106

少年の実名報道禁止緩和とプライバシー

く更生し、帰属意識をもってもらうことが大事です。

な仕組みづくりに今一（清水）ご承知のように、少年法上の刑罰として、

つ知恵を絞る必要があ

少年には死刑がありません。

りますね。

（石村）無期懲役刑に減軽されるのですね（少年（石村）裁判をしてま●ＳＮＳと「立ち直る権利」

法 51 条１項）。

でネットで報道された（清水）そのとおりです。そして無期懲役刑が相犯歴の削除を求めると当な場合についても、10 ～ 20 年までの刑とさ

い う こ と は、 そ れ だ

れます（同条２項）。

け立ち直りを真剣に考（石村）少年の場合、刑期を終えた後の人生がまえているともとれます

だ長いことに配慮したのですね。

が？

（清水）そうです。もちろん犯罪被害者の心の傷（清水）もちろん、そういう面も否定し切れないに終わりがあるわけではありません。ただ、一方と思います。

では、同じことを繰り返すような状況に追い込ま（石村）いずれにしろ、今後の刑事事件匿名報道ないためにも、一定のルールが必要だと思います。

年齢の議論では、「立ち直る権利」や「忘れても（石村）確かに少年の更生も大事ですが、被害者らう権利」とセットで考えることが不可欠だと思の心の問題には慎重に取り組む必要があると思いいます。

ます。で、少年ということは 20 歳未満、特定少年で 18 ～ 19 歳ということでしたね。
（清水）そうです。立ち直り・社会復帰といっても、◆おわりに～報道の自由・知る権利と成長発達権

より若いうちの方が更生しやすいと思います。
（石村）歳をとってからまっとうにやり直すとい（石村）今回の刑事事件匿名報道年齢引下げは、そ

うのは、確かに難しそうです。

もそも〝知る権利〟や〝メディアの報道の自由〟（清水）そうすると、やはり特定少年以外の少年を広げるという主張に基づくものではないですね。

であれば 25 歳、特定少年であっても 30 歳以降は、（清水）年長少年に対する厳罰化の流れの一部でむしろ〝立ち直る権利〟を十分に保障する必要がしかありません。ですから、刑事事件匿名報道年

あろうかと思います。

齢引下げが、本当に〝知る権利〟
・〝報道の自由〟（石村）刑事事件匿名報道年齢引下げは、少年の「立の拡大につながるものなのか、憲法学の分野の方

ち直る権利」あるいは「忘れてもらう権利」とパッにしっかりと検証してもらいたいところです。

ケージで考える、そのための思考回路にチェンジ（石村）少年法 61 条は「新聞紙その他の出版物」

が要りますね。この場合の「忘れてもらう権利」
は、の発行人を対象としています。SNS のツイート（投ネット上の実名でアップされた記事などを削除し稿）はそもそも対象外です。ただ、今回の特定少てもらう権利が主な対象になるのでしょうね。

年の顕名解禁によって、「氏名、年齢、職業、住居、（清水）そうなると思います。

容ぼう」が、ネット、SNS 上に大量にアップされ（石村）「立ち直る権利」、「忘れてもらう権利」をる懸念もあります。

法認しても、この権利を実現するには、場合によっ（清水）いまの法制では、SNS への投稿は、違法ては裁判を起こす必要がでてきますよね。裁判をではないことになりますからね。

起こすことで、かえって、〝寝た子を起こす〟こ（石村）これまでのリアルのメディア報道に加え、とにつながらないでしょうか。犯罪に手を染めた

ネット報道やヤフーやグーグルといったデジタル

ことを世間に知らしめることになりはしないのでプラットフォーム企業の SNS（ソーシャルメディ

しょうか？

ア）を使った日々の言論活動／投稿（ツイート）は、（清水）裁判に消極的、アレルギーを感じる国民コントロール不能なほど膨大な数に達します。こ性も織り込んで考えることも大事ですね。

の制御不能なほど深刻な SNS 問題を迂回し、「立（石村）それから、裁判を起こすことで、スティ

ち直る権利」や「忘れてもらう権利」にもふれな

グマタイズ、犯罪者のレッテル（烙印）が亡霊のいで、刑事事件匿名報道年齢引下げが行われたこように現れてくることにも配慮する必要がありそとは、非常に不幸なことです。

うですね。

（清水）匿名報道規制がかえって少年の情報を（清水）立ち直る権利を行使する人にフレンドリー

SNS 上にアップするのが正しいことだと思ってい56© 2021 PIJ

CNNニューズ No.106

少年の実名報道禁止緩和とプライバシーる人さえいますから。事態はより深刻になりかねきなければなりません。

ません。

（清水）自業自得という人もいるでしょう。しかし、（石村）損害賠償請求も困難になり、発信者情報

もっと赦しあえる社会にしないと、少年は社会のの追跡もさらに困難となりかねませんね。匿名報

冷たい視線のなかで孤立を深めるだけです。

道規制が形骸化し、規制するにしても、もぐらた（石村）家族や学びの場で十分愛されなかったこと

たき状態も想定されます。

で非行に走ったのかもしれません。その少年をま（清水）内容が真実と信じるに足りるものであれた非行を繰り返す環境下に放置してはなりません。

ば、そのツイート（投稿）や情報アップは「公共（清水）少年が安心して成長できる環境に恵まれの利害に関する事実」であり、公益目的もあるとなかった場合、これを補い、健全な成長に導くのいえますからね（刑法 230 条の 2）。

は社会の責任です。
（石村）その責任を社会が果たさなかったことで最●
公共の利害に関する場合の特例

刑法 230 条の 2
1項

前条第一項［名誉毀損罪］の行為が公共の利害に関する事実に係り、かつ、その目的が専ら公益を図ることにあったと認める場合には、事実の真否を判断し、真実であることの証明があったときは、これを罰しない。
2 項 前項の規定の適用については、公訴が提起されるに至っていない人の犯罪行為に関する事
実は、公共の利害に関する事実とみなす。
3 項 （略）も被害を受けるには、その少年自身ですからね。健
全な成育環境が保障されるということは、子供にとって基本的人権そのものです（児童の権利条約 27 条）。
（清水）児童の権利条約の児童は 18 歳未満です。
しかし、18 歳になったからといって、それまで保護がなかったことの責任が直ちに少年自身に移るというのは、どう考えてもおかしいわけです。
（石村）児童虐待ケースがメディアをにぎわしてします。虐待のケースでは、なぜもっと早く保護しなかったのかという声が上がります。少年事件が起きたときも同じです。
（清水）しかし、遺憾なことに、今回の少年法改（石村）現状では成人の人でさえ、忘れてもらう

正では、特定少年という新たな柵 ( さく ) を築い

権利が十分に保障されていません。犯罪にかかて、少年に求められる早目の保護措置をなくしてわった少年は、こうした法環境のもとで、ましてしまったのです。

やその少年の消えない烙印を他人がいつでも容易（石村）清水先生、今回は、貴重なご意見をありにネット検索できる状態で、さらに長い人生を生がとうございました。

少年事件に関して、少年といえども重大な事件を起こした以上はその責任を負うべきだという主張も根強くあります。今回の改正もそうした声を反映したものでしょう。
しかし、刑事施設でいくら重い懲役刑を科しても、それで再犯が予防できるとは限りません。それに対して、少年院では少年一人ひとりに対応した形での処遇が専門のスタッフにより行われます。いわゆる〝医療少年院〟もその一つです。無論、予防という以上、将来の再犯を全くなくすことはできません。それは刑事罰でも同じことです。
しかし少年が成人以上に、再犯することなく更生・立ち直りを期待できる「可塑性」を備えていることは間違いありません。
再犯の予測というのは非常に難しく、これを安易に認めれば必要以上に自由を侵害することにな
ります。どんなに再犯の怖れがあったとしても、犯罪事実や非行事実以上の身柄の拘束を認めることは「保安処分・予防拘禁」となり、予測に基づ

く人権の制約を拡大することになります。それは久しく国家が気に入らない個人を拘束する権力濫
用の手段として利用されてきました。
将来の危険性を理由に自由を制約することは、
できる限り避ける必要があります。再犯の予防は過度の人権制約の予防とのバランスを測りながら、慎重に行う必要があります。危ない奴を出すなという声は、自分たちに返ってきます。刑罰は決して万能な手段ではありません。その他の社会資源も最大限に活用することでしか社会の平穏を維持することはできないことを、改めて自覚しておく必要があります。
もちろん、以上のことを踏まえてもなお、少年法は甘すぎる、少年に対してももっと厳しくあるべきだという意見もありえます。
今回の対論は、少年法を素材として、プライバ
シー問題について改めて考えてみる機会にしていただければと思います。

2021.7.10

57

CNNニューズ No.106

FB 社の独立監視委員会アカウント凍結

最新の注目ニューズ

ＦＢ社の独立監視委員会、 トランプアカウント凍結を（ＣＮＮニューズ編集局）
（ＣＮＮ
）

今

年（21 年）1 月 6 日に、アメリカ連邦
議会乱入事件が起きた。その直後、フェイスブック社（FB 社）は、トランプ前大統領の同社のページやインスタグラムの個人ア
カウントを凍結した。トランプ氏が、議会襲撃に加担した支持者を、「盗まれた選挙に痛みを感じている偉大な愛国者たち」などとあおる投稿（posts）をしたことから、その後の不適切投稿を封じるためだ。
FB 社の投稿規約（community standard）は、
暴力賛美を禁じている。トランプ氏の投稿は、この規約に著しく違反するというのが理由だ。他のSNS 各社も同じような措置を講じた。ツイッター
社はトランプ氏のツイッター活動を永久的に禁止した。グーグル社は、傘下にある YouTube はト
ランプ氏のアカウントとトランプ氏が以前に投稿した映像は残したものの、新しい映像は投稿をストップさせた。「真実は何か」をトランプ氏が独断で決める体制は、危ない。アメリカの立憲体制になじまない。彼の SNS アカウントの凍結は正しかったのではないか。
ただ、前大統領の SNS アカウント凍結は、「政治的主張と言論の自由」、「暴力的行為のあおりと公共の安全」など、さまざまな保護法益がからんでいる。調整は容易ではない。国家が直接介入す
るのは、これまで培われてきたアメリカ憲法の価
値観を粗末にし健全ではないとの幅広いコンセン
サスがある。その一方で、巨大化した SNS が、
3 万 5 千人を超えるモデレーター（削除人）を雇い、AI システムを駆使して日夜不適切投稿封じをしているのも、もはやまともとはいえない。
FB 社は、この問題を精査するために独立監視委員会（Oversight Board ／監視委）を立ち上げた。いわゆる〝第三者機関〟である。監視委は、
世界各国の法律家や人権の専門家、ジャーナリス
トなどからなる。監視委は、FB 社の投稿節度を判定する事実上の最高裁（a de facto supreme
court for the FB’s content moderation
decisions）と自負する。
FB 社監視委は 5 月 5 日、同社がアカウントを凍結した 1 月 6 日の決定について、基本的にこれを支持する判定をした。「トランプ氏が選挙詐
58

欺や持続的な行動要求に対する根拠のない言葉を維持する過程で暴力の重大なリスクが生じうる環境を作った」ことを理由とした。その一方で、「無期限で停止する」とした措置については、FB 社の規則にはないもので、不適切とした。そのうえで、FB 社に他の利用者に適用されるものと同様の措置をトランプ氏に対しても検討すべきだとした。FB 社監視委の判断は、SNS 各社にも大きな影響を与えるとみられる。
ほとんどの SNS を利用できなくなったトラン
プ氏は 5 月 4 日に、公式ホームページに「ドナル ド・ ト ラ ン プ の 机 か ら（From the Desk ofDonald J. Trump）」と題するブログを立ち上げた。トランプ氏は今後このブログを使ってリアル
タイムでメッセージを出す計画だ。訪問者はトランプ氏がここに投稿したコメントをフェイスブッ
クやツイッターなどでシェアできる。だが、直接コメントはできない。
トランプ前大統領は、5 月 5 日に、FB 社監視委の判断を批判した。
「言論の自由がアメリカ大統領から奪われた。フェイスブック、ツイッター、
グーグルのような腐敗したソーシャルメディア・プラットフォーム企業は政治的な代償を払うことになる (pay a political price) だろう」と。
[https://www.donaldjtrump.com/desk/desk-htrykas6u6/]
今後、FB 社の監視委は、政治家の不適切投稿のチェックを始めるという。トランプだけでなく、ブラジルやフィリピンなどの大統領も不適切発言
でターゲットとなるかもしれない。そのうち、日本の憲法改正論議における SNS の不適切投稿かどうかの判断は、FB 社の監視委が牛耳ることになりはしないか？不安がないわけではない。ネッ
ト規制と言論の自由問題は、とくに憲法改正の国民投票においては、避けて通れない重い課題だ。
ところが、わが国の国会は、的外れで時代遅れのリアルの広告規制問題の議論に終始している。そのうち、わが国は、国境のないネット空間で、FB社の監視委が言論を牛耳るアメリカの 51 番目の州になるかもしれない。愚策を繰り返し不人気のスガーリン政権が続けば、対米追従でも、FB の監視委が牛耳るソフトな監視国家の方がましだとの投稿も急増する可能性もある。
© 2021 PIJ

CNNニューズ No.106

会計検査院、マイナンバー制度を酷評

最新のプライバシーニューズ

会計検査院、

マイナンバー制度利用超低迷、 ほぼ機能不全常態と告発！！
マイナンバーパンデミックは一日も早い終息が要る！！
（ＣＮＮニューズ編集局）

そもそも、マイナンバー制度は、電子政府、が先か」誰にでもわかることではないか。マイナ

電子自治体つくりのツールのはずではな

ンバーカード保有者が増えた、マイナンバーパン

かったか？私たち国民は、マイナンバー

デミックを流行らせるのに成功した、と豪語する。

制度を通して、政府・自治体から安心・安全で、だが、これで国民が受けられるデジタル行政サー

効率的な行政サービスが受けられるようになるは

ビスなどほとんどない。人権をむしばむ「デジタずであった。だが、国民はそんな恩恵をまったく

ル監視国家」、「デジタル収容所列島化」だけが急実感できていない。

速に進む。血税の使い方が粗雑すぎる。

これは、政府が、マイナンバー制度を「国民監全世帯への Fi-Hi の無償提供などがないと、デ視ツール」としてしか見ていないからだ。菅政権

ジタル社会つくりは夢物語である。マイナンバー

が、マイナンバー制度を使った人権侵害のシステ

制度のみならず、パンデミック下での子どものリ

ムつくりしか興味がないからだ。この政権は、まモート学習などの奨励には、「庶民が主役」のデさに、デジタル国家主義が当り前の中国の習近平

ジタルインフラ投資がカギを握る。だが、愚策を政権と瓜二つだ。

繰り返す菅政権には、デジタル［公安調査］庁を立ち上げる程度の脳しかない。

◆血税浪費の公共工事の典型
菅首相は、２１年３月３１日の衆議院内閣委員◆政府が構想する導入段階での電子行政サービス

会での答弁で、マイナンバー問題にふれた。マイ
ナンバー制度づくりの国費支出の累計が過去９年政府が構想する導入段階での、マイナンバーので約 8,800 億円に上ると吐露した。立憲民主党

電子行政サービス利用分野について、図説すると、の後藤祐一議員が「コストパフォーマンスが悪過

次のとおりである。

ぎるのではないか」と指摘したのに対し、「確かに悪過ぎる」と認めた。

日本 マイナンバー制度関連国費支出
アメリカ コロナワクチン開発関連連邦支出

過去 9 年で約 8,800 億
単年で約 1 兆円

マイナンバーカード保有率（２１年 5 月末現在）
全国民 36.1％（4,021 万枚）（申請件数も含めると、全国民 39.2％（4,988 万枚）

アメリカはコロナワクチン開発に単年で約 1 兆円。一方、わが国の菅政権は、IT 公共工事に膨大な血税を注ぎ続ける。「背番号が先か、ワクチン
2021.7.10

4

社 会 保 障 分 野■菅首相の２１年３月３１日衆院内閣委員会での答弁

4

4

4

■導入段階での個人番号の利用分野のあらまし
年金分野

年金の資格取得 ･ 確認、給付を受ける際に利用労働分野

雇 用 保 険 等 の 資 格 取 得・ 確 認、給付を受ける際に利用。ハロー
ワーク等の事務等に利用

医療保険等の保険料徴収等の医福祉 ・ 医療 ・ 療保険者における手続、福祉分
その他の分野 野の給付、生活保護の実施等低所得者対策の事務等に利用

税分野

国民が国／地方の税務当局に提出する確定申告書、届出書、調書等に記載。当局の内部事務等

災害防災分野

被災者生活再建支援金の支給に関する事務等に利用

その他自治体条例で定める事務

59

CNNニューズ No.106

会計検査院、マイナンバー制度を酷評

この５月の会計検査院の検査告発は、このこと■マイナンバー制度の電子行政サービス利用状況を如実に語っている［会計検査院「政府情報シス≪マイナンバー利用電子行政サービス≫

テムに関する会計検査の結果について」（2021 年 5

政府の利用想定数：6 億 4,700 万件（2019 年度）
利用実績：3,600 万件月）47 頁以下参照 30526_02_zenbun.pdf (jbaudit.go.jp)）］。

利用実績率： 全体～5.5%
分野別 ： 年金・医療～1.9%◆会計検査院、マイナンバー制度を酷評

福祉～4.2%
災害対策～ゼロ

かつて、わが国では、政府が、電子政府、電子自治体でバラ色の社会をつくる構想をぶち上げ

マイナンバー制度の利用は超低迷、ほぼ機能不た。住基ネット（住民基本台帳ネットワーク）
・

全状態であることがわかる。惨憺たる結果である。

住基カードだ。ところが、莫大な血税を投じたあ

政府の PR・説明は、看板倒れどころか、ほとん

げく、夢は破れ、この構想は完全に頓挫した。

どフェイクといってよい。

それでも、政府は、懲りない。今度は、マイナン■電子自治体の行政サービス利用状況

バー制度を使った電子政府、電子自治体（マイナポータル）を PR し出した。この制度で、だれもが多様「子
子育てワンストップサービス」の検索/申請（「ぴったりサービス）な電子行政サービスを享受できると豪語する。

政府の当初の全国での１９年度利用想定数：1.440 万件■電子自治体の電子行政サービスメインメニュー

利用実績：9,000 件弱「公
公金決済サービス」（クレジットカードなどで決済）
利用実績：ゼロ

マイナンバー制度を使った電子自治体行政サー
ビス利用は限りなくゼロに近く、閑古鳥が鳴いている。背景には、自治体業務の大半は、生活保護など対面でやらざるをえない業務だからだ。このことは、裏返すと、マイナンバーカードは、国民監視番号・人権侵害の監視カード、
国民登録証（ID）
としてしか機能していない現実をくっきりと映し【出典】各自治体 HP 参照

出す。
「出口戦略」なきマイナンバーパンデミッ
クは一日も早く終息させないといけない。こんなだが、会計検査院は、2021 年 5 月に、視界不人権をむしばむ仕組みは要らない。

良のマイナンバー制度の実態を暴露した。

プライバシー・インターナショナル・ジャパン
編 集 及 び 発 行 人（PIJ）
東京都豊島区西池袋３－２５－１５ IB ビル１０Ｆ 〒 171-0021
Tel/Fax：03-3985-4590
Tel/Fax

E メ－ル
メ－ル：wagatsuma@pij-web.net

編集・発行人 中 村 克己
Published by
P r i v a c y I n t e r n a t i o n a l J a pa n（ PIJ ）IB Bldg. 10F,3-25-15 Nishi-ikebukuro
To s h i m a - k u , To k y o , 1 7 1 - 0 0 2 1 , Ja p a n
P r e s i d e n t Ko j i I S HI MU RA
Te l / F a x + 8 1 - 3 - 3 9 8 5 - 45 9 0

http://www.pij-we b . n et2021.7.10 発行 CNN ニュー ズ N o . 1 0 660

入会のご案内季刊・CNN ニューズは、PIJ の会員（年間費 1 万円）の方にだけお送りしています。
入会は PIJ の口座にお振込み下さい。

郵便振込口座番号00140 － 4 － 169829
ピ－・アイ・ジェ－（PIJ）

Net Wo r k の つ ぶ や き・ 菅政権、コロナパンデミックでは「出口戦 略 」 な し の イ ン パ ー ル、 マ イ ナ ン バ ー
パンデミックを流行らせ得意顔。もうヤダ
こんな政権！人権尊重の憲法を粗末にする
デジタル監視国家は要らない。人権尊重のEU の AI 規制法に見習わないと。
（N）© 2021PIJ