行政・自治体における AI 活用の問題
2023 年 11 月 21 日 地方行政研究会
慶應義塾大学法学部 大屋雄裕
発展・浸透する AI
モバイル端末の世帯保有率（情報通信白書 令和 5 年）
スマートフォン 90.1%、パソコン 69.0%、タブレット型端末 40.0%
世界の AI 市場規模（同）960 億ドル（2021）→5830 億ドル（2026 予測）→18470 億ドル（2030 予測）
特に「生成系 AI」（generative AI）……2022 年から急速に進化・普及
翻訳……Google 翻訳、DeepL
画像……Stable Diffusion、Midjourney → Adobe Firefly
対話……ChatGPT → Google Bard、Edge Copilot
調査レポート「AI の民主化」（アクセンチュア）・グローバル企業経営者 98％が、今後 3 年から 5 年の間に AI 基盤モデルは組織戦略において重要な役割を果たすと考えています。
・全労働時間の 40％が、GPT-4 のような大規模言語モデル（LLM）の影響を受けると言われています。
・42％の企業が、2023 年に ChatGPT に大規模な投資を行いたいと考えています。
一方で……
野村総研「アンケート調査にみる「生成 AI」のビジネス利用の実態と意向」（2023.5）
生成系 AI の認知率 確かに知っている 15.3%・聞いたことがある 35.2%
実際に業務で利用している 3.0%・トライアル中 6.7%・使用を検討中 9.5%
自治体での利用（情報通信白書 令和 5 年）
AI の導入済み団体数は、2021 年度時点で、都道府県・指定都市で 100%となった。その他の市区町村は 35％となり、実証中、導入予定、導入検討中を含めると約 66%の地方自治体が AI の導入に向けて取り組んでいる（図表 4-11-3-5）。機能別にみると、上位 3 分野（音声認識、文字認識、チャットボットによる応答）はすべての規模の地方自治体で導入が進んでいる。下位 4 分野（マッチング、最適解表示、画像・動画認識、数値予測）は都道府県レベルでも導入事例が少ないものの、調査開始以降一貫して増加してきている。
国の行政機関における利用（人間中心の AI 社会原則検討会議資料 2021.5）
調査対象 42 機関・回答 17 機関（無回答は導入・予定なしと整理）
導入済・年度内開始予定 15 機関（36%）
1 機関あたりの最多実装件数 12 件
外部インターフェイスを持つもの（4 件）はすべてチャットボット
具体例 チャットボット（4 件）、翻訳（3 件）、音声認識（会議記録）、衛星画像解析、交通障害・交通量、テキストマイニング、気象予測
目的……約半数は内部事務・業務の効率化

21/NOV/2023

地方行政研究会

1

・AI の機能のうち、ニーズ・意図予測やマッチング等は、国の行政機関ではあまり利用されていない。
・例えば、フィンランド政府の先進的取り組みである Aurora AI は、「予測：ニーズ・意図予測」に該当。今回の調査では、それらについては今後数年間に計画はない。
各国政府の AI 準備指標（Government AI Readiness Index）
Oxford Insights・International Research Development Center が算定
年度ごとに評価手法が見直されているので単純比較はできないが、日本：7 位（2017）→ 10 位（2019）→ 13 位（2020）
分析
・我が国の行政機関における AI の導入は、まだまだ限定的・政府情報システムの DX が進展し、データに基づく政策立案（EBPM）が求められる中、一層の AI の導入推進が必要ではないか（公平性、手続きの透明性を確保しつつ、業務の効率化と質の向上を確保するための取組が必要ではないか）
古い AI と新しい AI
AI ブーム
第 1 次（1950 年代）

ダートマス会議（1956）推論と探索 eg.四色問題

第 2 次（1980 年代）

知識表現（エキスパートシステム）

第 3 次（2000 年代以降） 機械学習・深層学習
推論と探索
暗号解読におけるブルートフォース・アタック（アラン・チューリング）
想定可能なパターンを網羅して調査理論的にはできること、の現実化
エキスパートシステム
マッチング・アルゴリズム
需要と供給を、できるだけ満足度の高い形で対応させる
eg. 保育所の入所決定「AI と法についての国際会議（ICAIL）」（1987～）「法的知識情報システムについての国際会議（JURIX）」（1988～）
判断のルールを記述 → 事実に対する適用だが法的ルールの論理構造は複雑
eg. 刑法 39 条 1 項 心神喪失者の行為は、罰しない。
（阻却事由）（この問題を考慮した論理も想定されてはいるが……）暗黙知の問題（マイケル・ポランニー）
修得したふるまいを言語化することはしばしば困難
機械学習・深層学習の発展
実例により学習させたモデルによる反復
eg. 文字認識……特徴量を指示するのではなく、学習して調整していく
ルールが記述できない判断が可能に……顔認識、音声認識 etc.

21/NOV/2023

地方行政研究会2

活用……プロファイリングとの結合
データマイニング ＝ 属性のあいだの相関性の発見（A⇒B）
eg. トイレットペーパーと缶ビールの売上
プロファイリング ＝ 属性を元にした属性の推定（A、∴B）
eg. 缶ビールを買う顧客はトイレットペーパーも買う可能性が高い
基礎 ＝ ビッグデータ……生活環境の情報化
行動記録・取引記録の電子化・自動収集（＋Internet of Things）
AI による属性推定の拡大
人事評価、与信管理、防犯（予測的ポリシング）などへの活用
個人信用スコア中国における個人信用スコアの活用……「芝麻信用」（Zhima Credit）2015
アリババ（阿里巴巴集団）の決済サービス「アリペイ」（支付宝）に附随
個々人の信用をスコアリング、350～950 点の範囲
支払履歴、学歴・職歴などの属性、資産保有状況、交友関係など
結果は可視／プロセス不可視
メリット：信用に基づく優遇
ホテル宿泊時のデポジット免除、敷金免除、金融の審査迅速化……
＋ 公共図書館のデポジット免除、婚活サイト、ビザ取得……
「デジタル神様が見ている」？
システムによる動機付け＋集合的なハッキング → 遵守行動
問題行動の回避、積極的な善行、自発的な情報提供「やましいことはなにもない」（nothing to hide）（ダニエル・ソローヴ）
スコアリングの意義……個別化された評価の普遍的な可視化
高 → 個別の担保措置が可能に（双方のメリット）＋遵守へのインセンティブ
低 → 排除によるリスク回避（事業者のメリット）＋離脱へのインセンティブ
いくつかの懸念……憲法的価値との摩擦（山本龍彦）①ブラックボックス化
深層学習（deep learning）……学習による特徴量の獲得
初期アルゴリズム＋学習データ（人為的）→ 「自律的」発展
開発者・利用者にとって不透明なプロセス → 自律的対応が困難に②ヴァーチャル・スラムへの社会的排除？
市場競争による多様性（と客観性）
ただし非競争環境における問題は事実
デジタル・レーニン主義（ゼバスティアン・ハイルマン）
EU・AI 規制法案
「禁止 AI」

公的機関による社会的スコアリング「ハイリスク AI」

法執行、移民・難民等の庇護および国境管理、司法の運営および民主的プロセス

21/NOV/2023

地方行政研究会

3行政による AI 活用の可能性と限界
業務効率化
音声認識、文字認識、チャットボットによる応答質の向上……ブラックボックス化に耐えられるか？
最適解表示、画像・動画認識、数値予測
esp. 不利益処分に関する決定 ← 理由付記義務
AI は判断の理由を示さない → 人間があとから作る？
行政の AI 活用として喧伝されたもの
保育所の入所決定……古い AI の典型
新しい AI の利活用例もある……画像認識による異常検知 → 人間による点検
どのような AI をどのように使うことが適切か？
総務省行政管理局「AI による行政に関する法的課題に係る検討会」
すでに逸脱の傾向
集中度推定（埼玉県久喜市の公立中学校）……EdTech
リストバンド型端末で生徒全員の脈拍・血流データを測定、集中度を推定
教員の端末に各生徒の波形グラフを表示
授業改善に利用？……個別の対応に結び付けている例
科学的根拠？ 利活用の限界……成績への反映？
一時保護を見送った児童が虐待により死亡（三重県 2023.5）
AI による要保護率算定システム……2020 開始、過去の対応 1 万 3 千件を蓄積
判定 39% → 対応見送り（1 年以上状況確認せず）
AI に実質的な決定を委ねてしまった？ バイアスの再現？
箕面市「子ども成長見守りシステム」教育・福祉・児童保護などの情報を一元化
生活困窮判定・学力判定・非認知能力等判定を定例年 2 回実施→ 重点支援・予防的措置・見守り
重点支援 477 人のうち 212 人（44%）は「ノーマーク」（2017 後半）
（図表 4-11-3-5）

21/NOV/2023

地方行政研究会

4参考文献大屋雄裕「個人信用スコアの社会的意義」『情報通信政策研究』2 巻 2 号、総務省情報通信政策研究所、2019/3、pp. I-15 - I-26。
――――「プロファイリング・理由・人格」稲葉他（編）『人工知能と人間・社会』、勁草書
房、2020、第 3 編第 1 章。
――――「個人信用スコアとその規範（特集：DX による社会生活への影響と新しい課題）」『季刊個人金融』2023 年冬号（17 巻 4 号）、（一財）ゆうちょ財団、2023/1、pp.
2-10。
梶谷懐・高口康太『幸福な監視国家・中国』NHK 新書、NHK 出版、2019。
西村友海「AI：人工知能についての二種類の批判とそれらの技術的・規範的な議論への含意」
駒村圭吾（編）『Liberty 2.0：自由論のバージョン・アップはありうるのか？』弘文堂、2023、第 3 章。
山本龍彦『おそろしいビッグデータ：超類型化 AI 社会のリスク』朝日新聞出版、2017。
Heilmann, Sebastian, "Leninism Upgraded: Xi Jinping's AuthoritarianInnovations", China Economic Quarterly, vol. 20, no. 4, Gavekal
Dragonomics, 2016, pp. 15-22.
アクセンチュア「調査レポート AI の民主化」https://www.accenture.com/jp-ja/insig
hts/technology/generative-ai?c=acn_glb_generativeai-lagoogle_13984144&n=psgs_1023&gclid=CjwKCAiAu9yqBhBmEiwAHTx5p9BX7FDqjwcALgq2
evXdI6uhnHKbt0a8a4rBwlcxVMmDp2K8Yt1HdBoC_7UQAvD_BwE&gclsrc=aw.ds
塩崎潤一「アンケート調査にみる「生成 AI」のビジネス利用の実態と意向」野村総合研究所、2023/6、https://www.nri.com/-/media/Corporate/jp/Files/PDF/kn
owledge/report/cc/2023/230613_1_1_1.pdf?la=ja-JP&hash=5EAE74CB1
F8842F010C6E77EA3C11AB3F568D76C

21/NOV/2023

地方行政研究会

5