1

論

説

黒
Ⅰ

川

哲

志

はじめに

コンピューターの性能向上、ICT（Internet Communication Technology）の進歩、画像認識・音声認識など機械学習アルゴリズムをはじめとするソフト面の飛躍的進化に支えられて、フィジカル空間とサイバー空第八十八巻第三号（二〇二三年一月）

行政過程での AI 活用

日 本 法 学

「法律による行政の原理」から見た（1）間が高度に融合した超スマート社会 Society5.0の足音が聞こえてくるようになった。2021年 9 月には内閣にデジタル庁が設置され、デジタル社会形成と行政デジタル化遂行の体制も整備された。2001年の行（2）

政情報ポータルサイト「電子政府の総合窓口（e-Gov）」開設

は人々に電子政府の到来を予感させたが、それから20年が経過した今日、一層の行政デジタル化（DX: Digital Transformation）を経て、新次元の電子
政府の時代に突入しつつある。会議の議事録作成、橋やトンネルなどのインフラ破損箇所自動検出、交通量観測などに、音声認識・画像認
識システムの AI（人工知能 / artificial intelligence） も広く導入され、業（3）

チャットボットの国税庁ウェブサイトなどへの実装は、行政デジタ

ル化時代の到来を実感させる。AI を活用して犯罪発生場所などを予想（4）する予測型犯罪防御システム

や AI よる保育所入所選考マッチングも、馴染みのものとなってきた。
2017年にさいたま市で行われた AI を利用した保育所入所選考マッチ

六〇〇

務の効率化に寄与している。AI が利用者からの質問に自動応答する

）
九
九
九
（

2

ング実証実験では、「市の割当てルールを学習した AI が組合せを点数「法律による行政の原理」から見た行政過程でのＡＩ活用（黒川）化し、得点の高い組合せを瞬時に導出」し、「人手では延べ約1,500時間（5）かかる保育所の入所選考が数秒で完了」したと報告されている。このような AI による保育所入所選考システムの導入は、東京都港区、板橋区、郡山市、佐賀市、草津市、一関市、山形市など全国に広がっている。選考結果については、AI による選考の結果と職員の人手による（6）

選考の結果とがほぼ一致することも検証されている。このように、行政への AI の導入は、作業の効率化を通じて行政リソースの節約を可能とし、その分を質の高い行政サービスの提供のために利用することを可能とする。しかし、行政に AI を導入することは、「法律による行政を原理」、「行政の説明責任・透明性」、平等原則、個人情報の保護などの行政法の伝統的な法的価値との緊張関係も含んでいることが懸念
（7）

されている

。特に、AI の不透明性にかかわる問題は、法令等の機械

言語への移植の問題も含めて、行政アカウンタビリティの実現の障害（8）となるので、行政法学の視点からも検討を要する問題である。

本稿は、行政デジタル化時代の行政活動にかかわる問題について、
行政法学の視点から検討するものである。それらの問題の中には、手作業による行政でも生じていたものが行政デジタル化によって顕在化してきたものも少なくない。AI と法に関して、山本龍彦編『AI と憲
法：AI に選別される危機』（2018年）、弥永真生ほか編『ロボット・AIと法』（2018年）、宇佐美誠編『AI で変わる法と社会：近未来を深く考えるために』（2020年）、宍戸常寿ほか編『AI と社会と法：パラダイム
シフトは起きるか？』（2020年）、寺田麻佑『先端技術と規制の公法学』

五九九（2020年） をはじめ、多くの研究成果が蓄積されてきている。本稿は、

）
九
九
九
（

化が法律による行政の原理に与える影響を中心に検討する。まず、行

これらの先行研究で得られた知見の助けを借りながら、行政デジタル
政デジタル化が目指したものを歴史的に振り返り、その後、法律による行政の原理との緊張関係について論じる。

3

行政デジタル化法制の歴史

１

デジタル化による行政サービスの向上と透明性の向上

行政デジタル化は、行政の事務効率化と費用削減の道具として、行政バックオフィスへのコンピューターの導入として始まった。1980年
行政効率化とより良い行政サービス提供のためのツールとして位置づ（9）けられた。電子政府という概念が登場してきたのもこの頃である。

NPM は、行政活動を顧客である国民に対するサービスの提供と位置づけ、洗練された民間企業のやり方を取り入れて、効率的により良い行
政サービスを提供しようとするものであった。
日本でも、1980年代には、行政情報システムとして既にコンピュー
ターが取り入れられていた。そして、「当初は、例えば統計作成等デー
タの大量処理による省力化といった行政効率の向上、あるいは事務の第八十八巻第三号（二〇二三年一月）

代の NPM（New Public Management）の潮流の中で、行政デジタル化は、

日 本 法 学Ⅱ

迅速な処理による行政サービスの向上が主として指向され、相当な効果をあげてきた。最近においては、これらに加え、データベースの蓄積、検索技術の発展等により、行政の意思決定における支援システム
としての利用が普及してきており、今後、行政の質的向上への寄与が（10）期待されている」と認識されていた。また、行政デジタル化による事務処理効率の向上は、手作業では物理的に不可能であった複雑で膨大な情報を短時間で処理することを可能とし、統計データに基づく合理的な行政の実施に寄与した。インターネットの普及後は、行政デジ
タル化は、国民と行政とのコミュニケーションのコストを下げ、情報
こ の よ う に、 日 本 で も、 よ り よ い 行 政 の 実 現 の た め に 情 報 社 会（11）Society4.0に相応しい行政改革が着実に進められてきた。

五九八

公開・政府広報を促進し、行政運営の透明性の向上に貢献してきた。

）
九
九
九
（

4

「法律による行政の原理」から見た行政過程でのＡＩ活用（黒川）２IT 基本法（２000年）からデジタル社会形成基本法（２0２１年）へ⑴

IT 基本法の制定「電子政府」が政府の公式文書に登場するようになったのは、高度情報通信ネットワーク社会形成基本法（IT 基本法、2000年）が制定された
（12）

頃である

。この法律に基づいて高度情報通信ネットワーク社会推進（13）

戦略本部（IT 戦略本部） も設置された。e-Japan 戦略（2001年）は、「電
子政府は、行政内部や行政と国民・事業者との間で書類ベース、対面
ベースで行われている業務をオンライン化し、情報ネットワークを通じて省庁横断的、国・地方一体的に情報を瞬時に共有・活用する新たな行政を実現するものである」と定義した。ここでは、行政内部のオンライン化と官民接点のオンライン化が、電子政府実現の具体的内容
として念頭に置かれていた。すなわち、「電子政府の総合窓口と各府省、地方公共団体等のシステムと連携し、関連手続を一括してオンライン申請できるワンストップサービスを整備する」（e-Japan 戦略Ⅱ、2003年）
ことが目標であった。この時期は、フィジカル文書ベースであった行政運営をオンライン化すること自体が目標であり、行政デジタル化の黎明期であった。
⑵

ビッグデータ時代到来と官民データ活用推進基本法

2010年代になると、情報通信技術（ICT）が飛躍的に進歩し、日本社会のデジタル化も新しい段階に入った。
「情報通信白書」（令和 3 年版）
は、「2010年代半ばから、ネットワークインフラの技術進歩や民間事業者における組織内データ利活用やデータ連携の進展、さらに IoT の爆
五九七

発的な普及といった環境の変化に伴い、データ大流通時代が到来」と

）
九
九
五
（

デジタルデータの利活用を進め、全ての国民が IT 利活用やデータ利活

表現している。そして、「公共データやパーソナルデータなどの様々な用を意識せず、その便益を享受し、真に豊かさを実感できる社会である『官民データ利活用社会』の構築に向けた取組が行われた」とまとめている。このようなビッグデータ利活用社会の到来を予感して、官5

民データ活用推進基本法（2016年） が制定された。同法は、「インター大量の情報を適正かつ効果的に活用すること」（ 1 条）に言及する。そして、AI 関連技術について、「人工的な方法による学習、推論、判断等の知的な機能の実現及び人工的な方法により実現した当該機能の活ついて、「インターネットに多様かつ多数の物が接続されて、それらの物から送信され、又はそれらの物に送信される大量の情報の活用に関する技術であって、当該情報の活用による付加価値の創出によって、事業者の経営の能率及び生産性の向上、新たな事業の創出並びに就業の機会の増大をもたらし、もって国民生活の向上及び国民経済の健全な発展に寄与するもの」と定義している。
⑶

新型コロナウイルス感染症とデジタル社会形成基本法

第八十八巻第三号（二〇二三年一月）

用に関する技術をいう」と定義し、IoT（Internet of Things）関連技術に

日 本 法 学ネットその他の高度情報通信ネットワークを通じて流通する多様かつ

2020年には新型コロナウイルス感染症への対応の中で、日本社会および政府のデジタル化の遅れが顕在化した。その中で、2021年 5 月には、
デジタル改革関連 6 法が制定された。まず、デジタル社会形成基本法が制定され、高度情報通信ネットワークを通じて、AI・IoT・クラウドなどを用いた大量の情報の処理と活用をするデジタル社会の形成推進が目指された。同時に、IT 基本法が廃止された。デジタル庁設置法は、
デジタル庁を設置し、国や地方自治体のデジタル化を推し進めることを定めた。デジタル庁は、行政デジタル化の要となるマイナンバーに関する管理業務も任務とする。「公的給付の支給等の迅速かつ確実な実思に基づく個人番号の利用による預貯金口座の管理等に関する法律」
は、公的給付のオンライン申請、預貯金口座情報の登録、およびマイナンバーと預貯金口座情報の紐づけについて規定した。
「地方公共団体
情報システムの標準化に関する法律」は、地方公共団体の情報システ
ムを国の定める標準・規格に適合するように求めた。

五九六

施のための預貯金口座の登録等に関する法律」、および「預貯金者の意

）
九
九
四
（

6

⑷

行政手続のデジタル化「法律による行政の原理」から見た行政過程でのＡＩ活用（黒川）

行政手続のデジタル化については、「情報通信技術を活用した行政の推進等に関する法律」（デジタル手続法） が制定されている。これは、2003年制定の「行政手続等における情報通信の技術の利用に関する法律」（行政手続オンライン法）が2019年改正に際して改名されたものである。デジタル手続法は、手続が一貫してデジタルで完結するデジタル
ファースト、一度提出した情報の再度の提出を不要とするワンスオン
リー、そして複数の手続をワンストップで実現するコネクテッド・ワンストップの 3 つを基本原則としている（デジタル手続法 2 条）。ワンス
オンリーは、「民間事業者その他の者から行政機関等に提供された情報については、行政機関等が相互に連携して情報システムを利用した当
該情報の共有を図ることにより、当該情報と同一の内容の情報の提供を要しないものとすること」と規定され（同条 1 項 2 号）、コネクテッ
ド・ワンステップは、「社会生活又は事業活動に伴い同一の機会に通常必要とされる多数の手続等について、行政機関等及び民間事業者が相互に連携することにより、情報通信技術を利用して当該手続等を一括して行うことができるようにすること」（同項 3 号）と規定されている。
これらは、行政手続ごとに得られる情報が各行政機関の枠を越えて共有されることを求めるものであり、データベースの連結を嫌う個人情報保護の基本原則と緊張関係にあることに注意が必要である。

五九五
）
九
九
九
（

Ⅲ

法律による行政の原理からみた AI 利活用の注意点

１

説明責任とブラックボックス化の回避

現在実用化されている AI は、画像・音声の認識、自動翻訳・要約・応答、自動運転など、特定の領域に特化した特化型 AI である。すなわ
ち、多様な機能を備えて様々な課題を処理する汎用型 AI ではない。法
律による行政の原理によって法律適合性と、法律に適合していることについての説明責任とが課せられる種類の行政の行為に関しては、AI7の振る舞いについて論理的に検証できないブラックボックスとなるプ（14）

考マッチングのようにシンプルなルールベースモデルが用いられることになる。保育所入所選考で用いられた AI のマッチング技術は、「すべてのルールを満たす割り当てパターンが複数存在する場合や、 1（15）

ような唯一の割り当てパターンを見つけ出す」 ものである。この AI
は、ゲーム理論とルールベースの推論を組み合わせたアルゴリズムを用いるものなので、判断の根拠に影響した因子を提示でき、「ソフトウ
エアでは画面に示した因子を基に、自治体職員が保護者になぜ希望通（16）

りに入所できなかったかを説明できる」とされる。

AI が道具としての性格の強いエキスパートシステムの利用であれば、AI が自律して思考・判断するものではないので、AI に判断を委任するという実質はない。しかし、自律した汎用型 AI が登場し、行政の意思第八十八巻第三号（二〇二三年一月）

つも存在しない場合にも、優先順位のより高い人の希望が優先される

日 本 法 学

ロセスの発生は許容されない。したがって、そこでは、保育所入所選決定の主要なプロセスを担うようになると、実質的には行政機関である人間ではなく AI が意思決定していると評価される。人間である行政機関に意思決定を委任している法律の下で、このような形で AI に意思決定を委ねることが許容されるか否かが論点となる。このことを踏まえると、「データ・情報・知識の学習等により、利活用の過程を通じて（17）

自らの出力やプログラムを変化させる機能を有する」 AI ソフトの使用には、道具としての利用の範囲を越えて判断の委任の性格を帯びる
ので、権限の委任に準じて慎重な考慮が求められる。
手作業の事務処理の延長線上にあるルールベース AI の利用であってく受け入れるように、人には自動化されたシステムの出す解を信頼し易いという傾向（自動化バイアス）が存在するからである。後述のように、AI アルゴリズムは法令の一定の解釈に基づいてプログラミングされたものでしかないので、当該解釈が念頭に置いていなかった状況に遭遇したときには、その AI の提示する解は妥当性を欠くことになるの五九四

も、注意が必要である。というのも、人々が電卓の計算結果を疑念な

）
九
九
九
（

8

で、それを無批判に受け入れることなく関係法令の全体のシステムの「法律による行政の原理」から見た行政過程でのＡＩ活用（黒川）中で AI の出力結果を検証することが求められる。これは、審査基準の杓子定規な適用が行政機関に与えられた裁量の放棄になって違法と評（18）

価されることがあるのとパラレルの問題である。AI プログラムが前提とした事案と区別すべき事案で AI の出力に依拠した行政の意思決定
は、裁量の踰越・濫用になるおそれがある。しかし、AI の出力は、自動化バイアスもあって、正確で公平なものとして受容されやすいのが現実で、保育所入所選考マッチングでも、「保育所に入所できないことにより保護者が就労をあきらめるケースが発生するなど社会的な問題となっていたが、基準に基づいた機械的な判定で平等な割振りが可能（19）となり、住民の納得性が向上する」 と認識されている。
２

偏見やステレオタイプの増幅

AI を利用することによって、法令違反が発生する可能性の高い者あるいは地域を重点的に監視して違反行為の防止や是正をおこなうことは、有限な行政資源を効果的に配分する合理的な行政の行動である。
過去に違反行為を行った者やそれと類似の属性を有する者に対して、そうでない者に対してよりも監視を強めることは、AI の利用がなされるずっと以前から日常的に行われていたことであり、効果的かつ合理的な行政活動であるとポジティブに評価されてきた。これらは、行政に携わる人間の長年の経験や統計的データから生み出された予測と言えるが、これらを先入観やステレオタイプと区別することは容易ではない。したがって、AI 機械学習がステレオタイプを増幅するという問

五九三

題は、手作業でも生み出されていた先入観・ステレオタイプの問題を

）
九
九
一
（

件としているとき、「おそれ」の存否の判断を、このような先入観やス（20）

顕在化させるものである。法律が危害発生のおそれを行政処分の要

テレオタイプを通じて形成された事実認定に基づくリスク判断に依拠させることの許容性が問題となる。
特定のカテゴリーに属することを理由として、その者を一般の人々

9と異なって不利益に取り扱うことは、平等原則あるいは法の下の平等
実に反する社会的バイアスを取り除くことができるというのが理想であるが、機械学習アルゴリズムによるビッグデータの解析は、因果関係に無頓着に一定の属性を有する人々を構造的に不利に扱うことに繋
（21）

である

。存在する違反事実摘発のデータは、ステレオタイプに基づいての行政の活動によって摘発されたケースに関するものである。違反の疑いをかけられやすいカテゴリーの人々の違反は高い確率で行政対応を生じさせて記録されるのに対して、ステレオタイプによって疑いを掛けられにくいカテゴリーに属する人々の違反は、行政によって見過ごされて記録されない確率が高くなる。したがって、このようなデータは社会に存在するバイアスを増幅したものとなり、これを学習してなされた違反行為の予測は、当該バイアスを増幅し、偏見を固定第八十八巻第三号（二〇二三年一月）

がりやすいので、これを回避するように細心の注意を払うことが必要

日 本 法 学（憲法14条） の要求から逸脱するものである。データの分析によって事化するおそれが強い。この弊害を緩和するために、入力データがフィジカル世界を適切に代表すよう細心の注意を払わなければならない。
SNS（Social Networking Service）などを通じて私人がアップロードしたデータをはじめ、サイバー空間に存在するデータのほとんどは、それが客観的事実であることが検証されていないものである。虚偽や誇張や悪意を含むものも少なくない。行政機関が、これらをビッグデー
タとして機械学習に利用するときには、偏見の増幅を回避するように措置を講じることが不可欠である。また、サイバー空間に表明されている意見の分布は、国民全体の意見の分布とはかけ離れたものである
易に参照することは回避しなければならない。
３

AI コードへの法令の移植と不透明性

言語的な問題も軽視できない。法令の内容を AI に移植することの困難さも、行政過程での AI 活用にとって本質的な障害となる。法令は、五九二ことも肝に銘じるべきであり、行政立法を支える国民の意識として安

）
九
九
九
（

10

多様な利害の政治的妥協を言語化したものであり、解釈の余地を多く「法律による行政の原理」から見た行政過程でのＡＩ活用（黒川）

残していているのが通例である。個別具体的な事案に即して解釈されて、初めて法令の意味内容が明確になる。したがって、法令の文言を抽象的に他言語に翻訳したときには、その意味内容は変容する。これは、日本の法律を英語に翻訳したり、外国の法律を日本語に翻訳したりするときの困難さによって実証される。翻訳元と翻訳先の両方の言
語と法制度そして当該法分野の両国の事情に精通する者ですら、過不足なく法律の内容を翻訳することは困難を極める。このことは、多義的な解釈を許容する自然言語で書かれた法令の内容について、AI プロ
グラムを記述する機械言語（code）に過不足なく移植することの至難さ（22）にも同様に当てはまる。なお、自然言語で書かれた法令を、翻訳 AI（23）を使って外国語に自動翻訳することも試みられているが

、法令の具

（24）

体的な適用に用いるには程遠い水準である。

法令や行政規則の自然言語を AI のコードとして記述することは、行政機関の法令解釈とデジタル技術者のプログラミングとから成るもの
であり、行政担当者とデジタル技術者との協働作業である。通常、法令に精通している公務員は、AI アルゴリズムのコードを解読して、法令内容が正確に転写されていることを検証するスキルを有していない。
反対に、デジタル技術者が法令解釈を十全に行うことも期待できない。
AI アルゴリズムが、行政の考慮事項を適切な重みづけで考慮するようにプログラムされているかを検証することのできる人材は、ごく僅かしか存在しないであろう。信頼できる稀有な人材によって検証されな
い限り、法令に適合する適切な意思決定が AI によってなされているか

五九一

は、不透明な状態に置かれてしまう。

）
九
五
九
（

に必要なサービスを購入する。行政機関内部の話としては、プロバイ

実際には、行政は、AI サービス・プロバイダーから行政デジタル化
ダーのエンジニアと担当公務員との間のコミュニケーションが円滑に行われて、コードの開示と解説を通じて、AI アルゴリズムが法令・裁量基準の内容を写し取ったものになっていることを確認することが、

11

不透明さを低下させるために求められる。しかし、市民は、AI の判断のように説明を受けて当該 AI を検証する機会を与えられない。また、
たとえ説明を受ける機会があったとしても、AI のシステムを理解する
ことは能力的にほぼ不可能であり、市民の不透明感は解消されない。
あるいは企業秘密の保護の観点から、AI コードの詳細の公表は容易に（25）はなされないという問題もある。ルールベース AI に関連してではあるが、「結局説明されていない」という問題について、「AI システムの性質によるブラックボックスの議論というよりは、関与する主体（アクター） が多層にわたり存在することにより、その判断過程の透明性が低下する問題として整理できるのではないか」とし、「現状、人間でもできないことを棚上げにし、……AI を利用したサービスだけに求める『AI に対する過剰な不安』として評価されるべきものかもしれな

第八十八巻第三号（二〇二三年一月）

加えて、AI コードに関する AI サービス・プロバイダーの知的財産権

日 本 法 学に依拠する行政意思決定の影響を受けるにもかかわらず、担当公務員（26）い」 とする理解も存在する。伝統的な行政過程においても、法令解釈による裁量基準の定立および裁量基準を事案に適用した意思決定は、担当公務員の意思作用というブラックボックスを通過する。それゆえ、伝統的な行政過程は、AI が用いられるときと同じように不透明性を有している。しかし、法的専門知識の枠内で展開する伝統的な行政過程
では、行政による法令解釈および裁量行使の適切性について行政機関や法律家が検証することができるので、不透明性の度合いは低く、裁判等を通じての事後的な救済も容易である。
人間の関与の要請

行政機関の意思決定を実質的に AI に委ねて、AI による自動決定とほぼ同値の運用が行われることは、法律が行政機関に意思決定を授権した趣旨に反すると批判することが可能である。しかし、実際の行政の現場では、専決という形で、授権された行政機関に代わって、補助機関が実質的な意思決定を行うことも多い。AI が専決者の役割を担う

五九〇

４

）
九
五
九
（

12

と認識するのであれば、AI の決定をほぼ自動的に行政機関の決定とす「法律による行政の原理」から見た行政過程でのＡＩ活用（黒川）ること自体は原理的に許容されないものではない。
AI に委ねてよい行政の意思決定の範囲については、人間による判断が最終的になされるのであれば、AI の提出した解に依拠した意思決定も適法となるというのが、落としどころのようである。営業秘密を理由に判断プロセスが開示されていない再犯予測アルゴリズムを量刑判断に利用することは憲法に反しないと判示した米国ウィスコンシン州最高裁の State v. Loomis 判決881 N.W.2d 749（Wis. 2016）の研究から、「一定の制限を付す限りで、個人の人生に重大な影響を与える決定にアルゴリズムの評価を用いることを認める考え方は，今後の AI 社会の一般的（27）な法原則になるように思われる」 と整理されている。このような考え方は、EU では、「自動化されたあるいはアルゴリズムによる決定プ
ロセスには、セーフガードと人間による制御と検証の可能性を組み込（28）

む必要がある」と決議されている。また、個人情報保護の分野では、

法的な効果あるいは顕著な効果を個人に対して有する場合に、プロファイリングを含めて、自動化プロセスだけで決定されない個人の権利（the right not to be subject to a decision based solely on automated processing）（29）

も実定化されている。行政の意思決定においては、社会通念あるいは条理に照らした評価が重要な要素になることを踏まえると、AI の出力が常識に照らして妥当なものであるか否かの判断のために、人間の関与は不可欠である。また、アルゴリズム作成時に想定していなかった例外的事情に AI は対応できないことからも、例外的事情の有無の判断のためにも人間の関与は不可欠である。このような人間の関与の要
五八九

請の背景には、人間の関与によって生じる恣意性の回避と機械的取り

）
九
五
九
（

妥当性の実現とのバランスをどのようにとるかという問題がある。

扱いによる公平性への志向に対して、社会通念と条理に適った個別的13

行政の統合による個人のトータルな把握の功罪⑴

プッシュ型行政サービス

行政デジタル化の進展によって、深層学習・機械学習アルゴリズムを実装する AI が、官民ビックデータならびに蓄積された個人データに基づいて各人の状況を包括的に把握したで上で、各人の状況に合わせ行政が、マスを対象とするサービスからパーソナルなニーズに対応するものに変容することが可能になった。いわゆるプッシュ型行政サービスの提供は、この象徴である。マイナンバーなどを利用して行政機関がバックオフィス連携して公共サービスメッシュを形成して住民の置かれている状況をタイムリーに把握できるので、生活保護などの社
会保障給付が必要な状況になったら、住民からの申請を待つことなく、
タイムリーに給付を開始することも技術的に可能となる。このようなシステムが実現すれは、行政からの細やかな配慮のある情報提供がな

第八十八巻第三号（二〇二三年一月）

たテイラーメイドの対応をすることも技術的に可能となる。すなわち、

日 本 法 学５

いために、受給資格のある者が児童福祉手当受給の申請ができないと（30）いう事件の発生も回避できるであろう。それゆえ、行政が個人の置かれた状況をトータルに把握して行政サービスを提供することは、ポジティブな評価を受ける側面を有する。しかし、行政によってトータ
ルに生活状況を把握され管理されることは、自由の基礎となる個人の自律が損なわれることに通じ、手放しで喜べる状況ではない。商業的なターゲッティング広告と同じく、行政からの選択的な情報提供は、個人の認識範囲の形成に影響を与えるものであるから、精神的自由への過度な干渉となるおそれがある。
行政の統合と自由の危機

行政機関の枠を超えて情報が共有されることは、縦割り行政あるいは行政の断片化と呼ばれる問題の克服に繋がる。これは、伝統的には
個人情報の目的外利用の許容性に関する議論としてなされてきたが、今日では、行政デジタル化推進という時代の流れの中で、議論のプ

五八八

⑵

）
九
五
九
（

14
（31）

ラットフォームに変化が生じている。改正後の個人情報保護法（行「法律による行政の原理」から見た行政過程でのＡＩ活用（黒川）

政機関個人情報保護法を吸収したもの）では、取得された個人情報について、「行政機関等は、利用目的を変更する場合には、変更前の利用目的と相当の関連性を有すると合理的に認められる範囲を超えて行ってはならない」（61条 3 項）として利用目的の変更を認めるとともに、「行政機関の長等は、次の各号のいずれかに該当すると認めるときは、利用目的以外の目的のために保有個人情報を自ら利用し、又は提供することができる。……九 行政機関等が法令の定める所掌事務又は業務の遂行に必要な限度で保有個人情報を内部で利用する場合であって、当該保有個人情報を利用することについて相当の理由があるとき。九 他の行政機関、独立行政法人等、地方公共団体の機関又は地方独立行政法
人に保有個人情報を提供する場合において、保有個人情報の提供を受ける者が、法令の定める事務又は業務の遂行に必要な限度で提供に係る個人情報を利用し、かつ、当該個人情報を利用することについて相当の理由があるとき」（69号 2 項） として、目的外利用および外部提供の枠組みを定めている。
同様に、国民の利便性向上のために行政手続の「ワンスオンリー」
あるいは「コネクテッド・ワンストップ」の実現が当然であるという（32）

流れが生じている。デジタル手続法 2 条 1 項 2 号・ 3 号は、これらの事項を旨としてデジタル行政の推進を行うことを義務付けている。
しかし、行政の縦割りや断片化が個人の自律および自由の保障に果た
してきた役割に鑑みると、行政データの結合は自由主義の観点からは
慎重な吟味を要する事柄でもある。NPM の長年の課題であったにもか
五八七
）
九
五
五
（

かわらずワンストップ化が容易に実現しなかった理由が克服されているのか、検討が必要である。
⑶

ナッジなどを利用した国民のコントロール（33）

AI 利活用原則⑦は「利用者は、AI システム又は AI サービスの利活用において、人間の尊厳と個人の自律を尊重する」ことを求め、
「AI

15

により意思決定や感情が操作される可能性」について注意を喚起して合」には、意思決定・感情の操作はすべてがリスクにつながるとは限（34）

らないとしている。この記述は、消費者的利用者に対するものであるが、このコロラリーとして、行政として AI によってナッジを用いてものではないことを含意するものである。すでに多くの分野で経済的誘因や情報提供による誘導は正当な行政活動として行われているが、今後の電子政府では、AI によって個人ごとに調整された巧妙なナッジを用いて人々の行動や意思決定を誘導して、効率的にそして効果的に行政目標を達成することが増えるであろう。このようなやり方は、効率的で効果的に規制目的を実現するものではあるが、各人に意識させることなく個人の意思決定の自由を奪っている。社会への AI の浸透は、社会的な決定および個人の決定の両面において、「『主体的に行動する第八十八巻第三号（二〇二三年一月）

行政目的実現のために個人を誘導することはネガティブに評価される

日 本 法 学いる。そして、「AI によりナッジ（合理的選択のための支援） を行う場

（35）

人』という存在を前提としない社会」 への移行という懸念も生じている。
⑷

地方の自律性の危機

地方行政のデジタル化は、地方自治の弱体化の危険を孕む。デジタ
ル社会形成基本法29条は、国及び地方公共団体の情報システムの共同化又は集約の推進について規定する。「地方公共団体情報システムの標準化に関する法律」（2021年） 8 条も、地方公共団体情報システムが標準化基準に適合した標準仕様のものであることを求めている。複数のるが、情報システムの共通化は、システム的な制約のために地域の実情に応じた施策の実施を困難にし、地方自治体の自律性を弱めること（36）が懸念される。

五八六

地方公共団体が共同で利用する自治体クラウドの導入が推進されてい

）
九
五
四
（

16

Ⅳ

おわりに

「法律による行政の原理」から見た行政過程でのＡＩ活用（黒川）超スマート社会 Society5.0における行政デジタル化に伴う行政法的な課題を、「法律による行政の原理」の観点から検討してきた。日本でも2000年ごろから電子政府の実現を目指して行政デジタル化が加速し、行政過程での AI の利用も広まってきている。しかし、行政過程で AIを利用することは、法律に適合した意思決定がされたかについて、不透明な状況を生み出すことが少なくない。出発点として、法令を AI プ
ログラムに移し替えるところからして、不透明である。AI アルゴリズ
ムが法令を正確に移植したものか否かについて、検証できる人材が極めて稀である。法律の解釈と適用は、社会通念・条理に照らして行われるものであるが、AI がこれらを実現することは困難であり、ビッグ
データに潜むバイアスやステレオタイプを増幅して、出力に反映してしまう可能性が高い。AI の活用が進むほど、人間の関与の重要性が高まる。行政デジタル化によって、行政組織全体で個人情報を含めて情報共有が進められると、これまで縦割り行政・行政断片化によって保障されていた個人の自由が脅かされる。コネクテッド・ワンストップ化やプッシュ型行政サービスの実現などのポジティブな側面に眼が行きがちであるが、ナッジなどを用いた行政による行動支配の可能性というネガティブな側面も心に留めておく必要がある。
（ 1 ） Society5.0は、狩猟社会（Society 1.0）、農耕社会（Society 2.0）、工

五八五
）
九
五
九
（

業社会（Society 3.0）、情報社会（Society 4.0）に続く超スマート社会である。第 5 期「科学技術基本計画」（平成28年 1 月22日閣議決定）により提唱され、「デジタル社会の実現に向けた重点計画」（令和 4 年 6 月 7 日閣
議決定により変更後のもの）、 4 頁注 8 では「フィジカル空間（現実空間）とサイバー空間（仮想空間）を高度に融合させたシステム（デジタルツイン）を前提とした、経済発展と社会的課題の解決を両立（新たな価値を創出）する人間中心の社会であり、豊かな人間社会を支えるもの」とされている。
（ 2 ）「電子政府の総合窓口」の導入については、参照、総務省『情報通信白書（平成15年版）』（2003年）、90頁。

17

は、AI がロボットとして機能する。
（ 4 ） 京都府警が、2016年10月に、全国で初めて運用を開始した。
（ 5 ） 総務省「地域 IoT 実装推進ロードマップ（改定）」（平成30年 4 月25日）

入率、岩手24.2％で最高─保育所選考を効率化、会議議事録作成にも活用（データで読む地域再生）」（「検証のため、かつて手作業で選考したリストを AI にかけたところ、99％以上が合致した。人の判断が必要なケー
スでは AI を止める機能も付けた。障害を持つ子などは職員の手で選考する。
」）。
（ 7 ） 行政への AI 導入がもたらす問題点、すなわち、偏見を含むデータ、衡平、透明性、監視国家、市民の行動コントロールなどについて検討し、AI が受容可能となるには公益の視座（public values perspective）の確立が不可 欠 と す る も の と し て、see e.g. Rohit Madan & Mona Ashok, A Public
Values Perspective on the Application of Artificial Intelligence in Government
Practices: A Synthesis of Case Studies in Jose R. Saura & Felipe Debasa,
HANDBOOK OF RESEARCH ON ARTIFICIAL INTELLIGENCE IN
GOVERNMENT PRACTICES AND PROCESSES（2022）, 163。横田明美「行政による AI の利活用と行政法学の課題」自治実務セミナー2019. 1（2019年） 9 頁、10頁は、行政の AI 利活用に対する規律を 3 つのレベルに分けて考慮すべきことを指摘する。すなわち、「①憲法及び法の一般原則（平等原則、比例原則、透明性原則、効率性原則等）のレベル、②行政通第八十八巻第三号（二〇二三年一月）（https://www.soumu.go.jp/main_content/000547394.pdf 2022年 9 月27日閲
覧）。
（ 6 ） 参照、2021/11/27 日本経済新聞 地方経済面東北 2 頁「東北の AI 導

日 本 法 学（ 3 ） 利用者からのテキストや音声を通じた質問に応答する自動会話プログ
ラムであり、chat と robot の合成語である。国税庁のチャットボットは、「税務職員ふたば」として擬人化されている。IoT 時代のサイバー空間で則法（行政手続法・行政手続条例、情報の取扱いに関する法制度（情報公開・個人情報保護）等）のレベル、そして③分野ごとの個別法令（下位規範を含む）のレベル」である。
（ 8 ） トーマス・ヴィッシュマイヤー（著）栗島智明・小西葉子訳「人工知なっていること、および「私たちの法システムはすでに，人間の決定という，部分的に不透明な意思決定システムをいかに解明するかという問題について，非常に多くの経験を積んできた」ことを示し、これを将来の立法やそこで用いられる法的手段として生かすことを論じる。Wischmeyer andRademacher 後掲注20書に所収。
（ 9 ）「電子政府（electronic government）」は、米国の NPM である NPR（National Performance Review）でも改革の重要な要素として言及されてい五八四

能と透明性─ブラックボックスをこじ開ける─」社会科学論集165・
166合併号（2022年）55頁は、AI の不透明性が主要な政治的イシューと

）
九
五
九
（

18

「法律による行政の原理」から見た行政過程でのＡＩ活用（黒川）た（see NPR 93-a Report of the National Performance Review: From Red
Tape to Results Creating a Government that Works Better & Costs Less
（1993）. 初期の国際比較として、参照、本田正美「電子政府政策の発現に関する国際比較─米英豪加日の比較」東京大学大学院情報学環紀要85号（2013年）147頁。
（10） 行政管理研究会編著『行政管理（現代行政全集③）』（1984年）274頁（河野昭執筆）。
（11） 従前のデジタル化を進めた行政改革について、「定型業務にデジタル技術を活用することにより、国民の負担を軽減したり、職員が企画立案に
専 念 で き る よ う に し た り す る た め の 業 務 改 革 も 重 要 だ が、 そ れ ら はSociety4.0時代における改革の深掘りであり、その先の時代の変化を視野に入れた新たな改革に踏み出すべき」という問題意識が持たれていた（「デジタル時代における今後の行政改革の基本的方向性（仮）」（令和 2 年 6 月
26日内閣官房行政改革推進本部事務局「行政組織集中レビュー」中間報告（案）https://www.gyoukaku.go.jp/houkousei/img/houkousei.pdf 2022年 9月27日閲覧）。
（12） これ以前の取り組みも含めて日本の行政デジタル化および電子政府の歴史については、参照、劉継生「電子政府の構築過程─行政情報化推進
50年の歩み─」通信教育部論集12号（2009年）52頁。
（13） 2013年より IT 総合戦略本部に呼称変更。
（14） ルールベースモデル（rule-based model）は、ルールベース AI システム（rule-based AI system）とも呼ばれ、if-then の組み合わせを利用した
比較的単純な AI のモデルである。入力データの作成（特徴量エンジニアリング）および推論ルールの作成の双方とも人手でやる AI のモデルである。
（15） 富士通研究所・九州大学・富士通「最適な保育所入所選考を実現する
AI を用いたマッチング技術を開発：さいたま市における約8,000人のきめ
細かな保育所割り当てをわずか数秒で算出」（2017年 8 月20日）（https://www.kyushu-u.ac.jp/f/31361/17_09_01.pdf 2022年 9 月27日閲覧）。

五八三
）
九
五
一
（

（16） 玄忠雄「保育所の入所選考わずか数秒で 富士通、AI で自動化」日経
テック日経 xTECH 2018年11月12日掲載（https://www.nikkei.com/article/
DGXMZO37685460T11C18A1000000/ 2022年 9 月27日閲覧）。
（17） AI ネットワーク社会推進会議「AI 利活用ガイドライン～ AI 利活用のためのプラクティカルリファレンス～」（令和元年 8 月 9 日） 4 頁による AI ソフトの定義。
（18） この論点に関する日本の学説を包括的に整理・検討するものとして、参照、船渡康平「行政決定における裁量基準の適用と個別化の要請」東京大学法科大学院ローレビュー11号（2016年）176頁。
（19） 総務省「分野：保育所マッチング

AI による保育所入所選考マッチ

19

Decisions under Uncertainty, in Thomas Wischmeyer & Timo Rademacher
eds, REGULATING ARTIFICIAL INTELLIGENCE（2020）199, 200.
山本龍彦編著『AI と憲法』（2018年）はしがき 5 - 6 頁はこのような認識というポジティブ・キャンペーンが強力に展開されている」とする）。
（21） このことは早い時期から意識されていた。See Executive Office of the
President, “Big Data: A Report on Algorithmic Systems, Opportunity, andCivil Rights”（2016）,5（https://obamawhitehouse.archives.gov/sites/
default/files/microsites/ostp/2016_0504_data_discrimination.pdf 2022年
9 月27日閲覧）（22） 法（law）と機械言語のコード（code）との間のギャップを論じ、文脈に依存する自然言語を媒介とする法のコンピューターコードへの翻訳不可能性を論じるものとして、see Gabriele Buchholtz, Artificial Intelligenceand Legal Tech: Challenges to the Rule of Law in T. Wischmeyer & T.
Rademacher eds, supra note 20 book（2020）175,182.
（23） ただし、学術的な比較のために機械翻訳を利用することには、一定の成果が期待されている。参照、Chenhui Chu・梶原智之・中島悠太・長原一・渡辺理和・大久保規子「多国間法律の比較と統計分析のための多言語機械翻訳」研究報告人文科学とコンピュータ（CH）2019（ 8 号）
（2019年）
1 頁。
（24） 法務省が運営する日本法令外国語訳データベースシステム（Japan

第八十八巻第三号（二〇二三年一月）に対して懐疑的である（「AI による差別……の問題などは、『これまでも世の中には差別があったのだから、AI が実装されたからといって現実は何も変わらない』という理解不能な議論がまかり通り、『とにかく推進を』、

日 本 法 学ング」（https://www.soumu.go.jp/main_content/000695415.pdf 2022年 9 月
27日閲覧）。
（20） See Yoan Hermstruewer, Artificial Intelligence and Administrative

Law Translation）にも、「翻訳はあくまでその理解を助けるための参考資料です」と注意が喚起されている。
（25） 米国では、営業秘密を理由に判断プロセスが開示されていない再犯予（26） 横田明美前掲注 7 論文（2019年）、12頁。
（27） 山本龍彦・尾崎愛美前掲注25論文（2018年）、102頁。
（28） European Parliament resolution of 16 February 2017 withrecommendations to the Commission on Civil Law Rules on Robotics（2015/2103（INL））Introduction Q.
（29） Regulation（EU）2016/679 of the European Parliament and of theCouncil of 27 April 2016 on the protection of natural persons with regard

五八二

測アルゴリズムを量刑判断に利用することは憲法に反しないという判決もある。参照、山本龍彦・尾崎愛美「アルゴリズムと公正：State v. Loomis
判決を素材に」科学技術社会論研究16号（2018年）96頁。

）
九
五
九
（

20

「法律による行政の原理」から見た行政過程でのＡＩ活用（黒川）to the processing of personal data and on the free movement of such data,
and repealing Directive 95/46/EC（General Data Protection Regulation）
article22.
（30） 参照、児童福祉手当制度に関する行政の周知義務違反を認定した京都
地判平成 3 年 2 月 5 日判時1387号43頁、および、障がい者介護者の鉄道運
賃等割引制度の情報提供義務に関する東京高判平成21年 9 月30日判時2059
号68頁と差戻控訴審のさいたま地判平成22年 8 月25日判例地方自治345号
70頁。
（31） 行政デジタル化の進展の中で、行政情報の管理と利活用および個人情
報保護の関係を包括的に検討するものとして、参照、友岡史仁『行政情報法制の現代的構造』（2022年）。
（32）「デジタル・ガバメント推進方針」（平成29年 5 月30日高度情報通信
ネットワーク社会推進戦略本部・官民データ活用推進戦略会議決定）、 8
頁は、「サービスの抜本的な効率化と利便性の向上を図るため、IoT や AIなどの業務プロセスを抜本的に変えうる技術の活用も含め、デジタル技術を徹底的に活用し、デジタル処理を前提としたサービス設計（デジタルファースト）や、民間サービスも含めた組織横断のワンストップサービス（コネクテッド・ワンストップ）、一度行政機関が提出を受けた情報は原則
再度の提出を求めない仕組み（ワンスオンリー）、API 等による地方公共団体や民間サービスとの連携等を実現する」としている。
（33） AI 利活用原則は、2018年に総務省の AI ネットワーク社会推進会議によって AI 利活用原則（案）として公開され、前掲注17「AI 利活用ガイド
ライン」（2019年）によって整備された。
（34） 前掲注17「AI 利活用ガイドライン」（2019年）21頁＆22頁注29。
（35） 寺田麻佑「AI とガバナンス（規制）の枠組み─規制等に適する分
野、適さない分野─」情報法制研究 5 号（2019年）18頁、19頁。同論文
は、「主体的に考える」という事とは何なのかを明らかにすること自体の難しさを自覚しつつも、「主体的に考える」ことを前提とした社会設計・法整備が行われていることを指摘する。

五八一
）
九
四
九
（

（36） たとえば、本多滝夫・久保貴裕『自治体 DX でどうなる地方自治の近未来』（2021年）27頁は、「このようにして地方行政のデジタル化が進行するならば、自治体は、事務処理や個人情報保護において独自性＝自治を喪失し、住民に対する行政責任を手放すことになりかねない」とする。