AI の将来の発展に備えた大統領府の対応：リスクとベネフィットの観点から1
遠藤悟
大統領府科学技術政策室（OSTP）は、その業務の一環として、新たな技術の発展に関し、人々や環境等に対する影響についての論議を導き出し政策形成に結びつける取り組みを行っている。その手法の一つに OSTP のブログにトピックを掲載し、関連の論議を紹介するとともにパブリックコメントの募集（Request for Information: RFI）を行うものがある。このような OSTP ブログと RFI を結びつけて人々の意見を吸い上げ政策形成に結びつけようとする試みは、オープンガバメントイニシアチブの一連の取り組みなどオバマ政権発足当初から見られるが、2016 年には人工知能（AI）の発展の人々へのベネフィットやリスクといったテーマについて、ブログにおける論点の紹介と PFI が実施されている。以下においては、3 回にわたり掲載された OSTP ブログと、6～7 月に実施された PFI の項目について紹介する。
１．OSTP ブログに掲載された AI に関する掲載内容
OSTP のブログは以下のサイトに設置されている。
https://www.whitehouse.gov/blog
このブログは OSTP が扱う多くの話題を対象とし、頻繁に更新されているが、AI に関するものについては、以下のとおり 5 月 3 日、6 月 27 日、9 月 6 日の 3 回掲載されている。
◯ Preparing for the Future of Artificial Intelligence（2016 年 5 月 3 日掲載）
AI のベネフィットとリスクに関する一連のワークショップの開催と、連邦政府機関間のワーキンググループの設置を報告するものである。AI の進歩は、運輸（自動運転、無人飛行機）、医療、教育といった幅広い面での大きな利益が期待されるが、他のトランスフォーマティブな技術と同様、雇用、経済、安全、規制といったいくつもの面における複雑な政策課題を含むリスクを伴うものであり、プライバシー、安全保障、規制、法、研究開発に関連する連邦政府機関はこれらの課題を政府および民間部門の活動に統合する多くの場が存在するとしているとしている。このため OSTP は AI と機械学習に関する人々の対話を促進し、この急激に発展する技術に関連する課題と機会を明らかにするため、4 つの公開ワークショップを共同開催するとしている。これらのワークショップは、大学と非営利機関が共同して開催（2 つは国家経済会議も共催）しており、この成果は後日作成される報告者においても参照される。ワークショップ
はライブストリーミングが行われ、現在も視聴可能である。
（個々のワークショップについて次項を参照のこと）
また、連邦政府による人々の利益とより効果的な政府業務に向けた取り組みとして、新たな機械学習と AI に関する小委員会を国家科学技術会議（NSTC）に設置することも報告している。連邦政府、民間部門、そして国際的な AI と機械学習についての先端的な技術の発展状況を把握し、連邦政府の活動を調整することを目的としたもので、このブログ掲載の翌週に第 1 回会合の開催が予定されている（この小委員会については、2016 年 9 月 10 日現在、NSTC のウェブサイトへの掲載は確認できていない）。

1「米国の科学政策」ホームページ 2016 年 9 月 11 日掲載
1◯ How to Prepare for the Future of Artificial Intelligence（2016 年 6 月 27 日掲載）
AI に関するパブリックコメントの公募（Request for Information: RFI）の実施を発表するものである（RFI の具体的な手順や質問については、「３．AI に関するパブリックコメントの募集」を参照されたい）。
また、5 月 3 日のブログにおいて告知したものに加え、6 月 23 日にスタンフォード大学で開催された「The Future of AI: Emerging Topics and Societal Benefit」のイベントも紹介されている（その内容はFacebook のサイトを通して公開されている）。https://aifuture2016.stanford.edu/◯ Public Input and Next Steps on the Future of Artificial Intelligence（2016 年 9 月 6 日掲載）
PFI に寄せられた意見の報告。個人や大学や非営利機関、企業等に所属する者計 161 人からコメントが寄せられており、人が読むための PDF と機械の読み取りのための JSON のフォーマットで全文が公開されている。その分量は PDF では本文 348 ページである。
２．5 月 3 日付けブログ掲載において紹介された取り組み
以下には、OSTP の 5 月 3 日付けのブログで掲載されたワークショップの講演タイトル等を記す。いずれのワークショップも各サイトで動画の視聴が可能である。
（１）AI の法的側面およびガバナンスに関する含意（Legal and Governance Implications of ArtificialIntelligence）、2016 年 5 月 24 日、シアトル
http://www.law.uw.edu/events/artificial-intelligence-law-and-policy「AI：法と政策（Artificial Intelligence: Law and Policy）」の表題の下、ワシントン大学法学部により企画された公開ワークショップで、大統領府とワシントン大学技術政策研究所の共催となっている。所
要時間は 3 時間 30 分で、「開会の辞」、「AI の現状の報告（State of AI）」
、パネル１「人工の知（Artificialwisdom）」、パネル２「データの具体化（Embodying data）」、そして「省察と次の取り組み（Reflectionsand Next Steps）」による構成となっている。
（２）人々の利益のための AI（Artificial Intelligence for Social Good）、2016 年 6 月 7 日、ワシントンDC
http://cra.org/ccc/events/ai-social-good
コンピューティングコミュニティーコンソーシアム（Computing Community Consortium: CCC）
、AI振興協会（Association for the Advancement of Artificial Intelligence: AAAI）、大統領府の共催により開催されたワークショップで、5 時間弱の時間枠で、「環境と持続性（Environmental Sustainability）」、
健康（Health）」、「人々の福祉（Public Welfare）」、の 3 つのテーマによるショートトークとパネルによるセッションと、「人々と社会の支援としての AI（Artificial Intelligence in Support of People andSociety）」、「AI と刑事司法：課題と機会（AI and Criminal Justice: Challenges and Opportunities）」、の 2 件の基調講演を中心とした構成となっている。

2

（３）AI の安全とコントロール June 28, 2016: Safety and Control for Artificial Intelligence 2016 年 6月 28 日、ピッツバーグ
http://www.cmu.edu/safartint
OSTP とカーネギーメロン大学の共催により開催された Workshop on Safety and Control for
Artificial Intelligence の表題のワークショップで、「(1) AI の現状：応用、安全面の要件、ビッグアイデア（State of AI: Applications. Safety requirements. Big ideas）」、「(2) 本来的な安全性、期待、評価を含む AI アルゴリズムに関するアプローチ（Approaches involving AI algorithms, including intrinsic
safety, explanations, evaluations）」、「(3) 数理モデルと推論に関するアプローチ（Approaches involving
mathematical models and reasoning）」、「(4) システムと安全の工学に基づくアプローチ（Approaches
based on systems and safety engineering）」、の各セッションにより構成されている。
（４）AI 技術の短期的な社会面および経済面における含意（The Social and Economic Implications ofArtificial Intelligence Technologies in the Near-Term）、2016 年 7 月 7 日ニューヨーク市
July 7:
http://artificialintelligencenow.com/
大統領府とニューヨーク大学情報法研究所により開催されたイベントで、公開シンポジウムと、それに先立ち開催された専門家ワークショップにより構成されている。専門家ワークショップの講演は、「現在は異なる時代なのか？AI の機会と課題（Is This Time Different? The Opportunities and Challengesof Artificial Intelligence）」、「機械による偏見を明らかにする（Uncovering Machine Bias）」、「公平に向けギグ（単発の仕事）経済を考える（Bending the Gig Economy Toward Equity）」、「人とロボットの共生関係（Symbiotic Human-Robot Interaction）」、の 4 件である。また、公開シンポジウムでは、「大統領府との対話：過去と現在（In Conversation with the White House, Past and Present）」、「3 人の技術リーダーに対する 3 つの質問（Three Questions for Three Tech Leaders）」、「AI における不公平・労働・健康・倫理（Inequality, Labor, Health, and Ethics in AI）」、の各パネルが設けられている。いずれのセッションも視聴可能である。
３．AI に関するパブリックコメントの募集
OSTP は、6 月 27 日付けで、ブログに加え以下の URL のページや連邦公報においてパブリックコメント公募（RFI）を告知している。
https://www.whitehouse.gov/webform/rfi-preparing-future-artificial-intelligence
その目的についてブログには以下の記述が見られる。
AI 技術は新しく革新的な生産物の創造、経済の成長、そして教育や精神面・肉体面の健康といった国家にとって重要な分野における前進、気候変動への対応他といった多大な期待が持たれるものである。しかしながら、他のトランスフォーマティブな技術と同様、AI はリスクを孕み、多くの異なる面において複雑な政策的な課題が存在する。OSTP はこの分野における研究開発の課題と機会に関する方向性を提案する目的で、全ての部門にわたる AI への意見を展開させることに関心を寄せている。消費者、大学や企業の研究者、民間企業、そして慈善団体といったステークホルダーが含ま3

れる米国民の意見は、多くの分野における現在および将来の AI のニーズを理解するための情報として重要である。この RFI の目的は、これらの疑問に答えるために必要な AI の研究とツール、技術、トレーニングを含む包括的な AI に関する疑問についてフィードバックを求めるものである。
RFI は 6 月 27 日付けで公示が行われ、締め切りは 7 月 22 日となっている。コメントは、大統領府ウェブサイトのフォーマット、ファクシミリ、郵送（必着）により受理される。その質問項目は以下のとおりである。
(1) AI の法的側面およびガバナンスに関する含意（the legal and governance implications of AI）(2) 人々の利益に向けた AI の利用（the use of AI for public good）(3) AI の安全とコントロールの問題（the safety and control issues for AI）(4) AI の社会面および経済面における含意（the social and economic implications of AI）(5) 多くの、あるいは全ての科学分野に共通の、AI 研究に関する最も喫緊で本質的な疑問（the mostpressing, fundamental questions in AI research, common to most or all scientific fields）(6) 当該分野の研究と人々の利益の前進のために対応しなければならない最も重要な AI 研究のギャップ（the most important research gaps in AI that must be addressed to advance this field andbenefit the public）(7) 潜在的な AI 技術の活用に必要な科学面および技術面におけるトレーニング（the scientific andtechnical training that will be needed to take advantage of harnessing the potential of AItechnology）(8) 複数分野にわたる AI 研究促進のために連邦政府、研究機関、大学、慈善団体により行われる特定の取り組み（the specific steps that could be taken by the federal government, research institutes,universities, and philanthropies to encourage multi-disciplinary AI research）(9) 上記以外の質問で OSTP が考慮すべきと考える AI の研究や政策決定に関連した追加的な情報（any
additional information related to AI research or policymaking, not requested above, that you
believe OSTP should consider）
また、その他のコメントの要件として以下が示されている。
・2,000 語を超える回答は考慮されないこと
・全ての質問項目に回答する必要はないこと
・回答を行った質問項目を明示すべきこと・RFI に商品情報や個人を特定できる情報は含めないこと

4