人間中心のＡＩ社会原則会議議事録

１.日時

平成 31 年２月 28 日（木）10:00～12:00

２.場

所

中央合同庁舎第４号館

第１特別会議室

３.出席者
副議長

北野

宏明

一般社団法人日本経済団体連合会未来産業・技術委員会ＡＩ活
用原則TF主査

株式会社ソニーコンピュータサイエンス研究所

代表取締役社長
構成員

岩本

敏男

株式会社エヌ・ティ・ティ・データ相談役（遠藤宏

株 式 会 社 エ ヌ ・ テ ィ ・ テ ィ ・ デ ー タ 技 術 開 発 本 部 Technology
Strategist

代理出席）

同

浦川

伸一

損害保険ジャパン日本興亜株式会社取締役常務執行役員

同

金井

良太

株式会社アラヤ代表取締役CEO

同

木俵

豊

同

関口

智嗣

産業技術総合研究所理事（市川類

産業技術総合研究所情報・人間工学領域人工知能研究戦略部部

情報通信研究機構知能科学融合研究開発推進センター長

長（兼）人工知能研究センター副研究センター長
同

高原

勇

代理出席）

トヨタ自動車株式会社BR－未来社会工学室長 筑波大学未来社会
工学開発研究センター長、特命教授

同

武田

晴夫

株式会社日立製作所理事

研究開発グループ技師長

同

中川

裕志

理化学研究所革新知能統合研究センターグループディレクター

同

永沼

美保

日本電気株式会社

技術イノベーション戦略本部

レギュレーション調査室エキスパート
株式会社manma表取締役社長

同

新居

日南恵

同

羽鳥

裕

同

樋口

知之

情報・システム研究機構理事

同

堀

浩一

東京大学大学院工学系研究科教授

公益社団法人日本医師会常任理事
統計数理研究所長

関係府省 佐藤文一

内閣府政策統括官（科学技術・イノベーション担当）付審議官

同

新田

隆夫

内閣府政策統括官（科学技術・イノベーション担当）付参事官

同

板倉

輝幸

内閣府政策統括官（科学技術・イノベーション担当）付企画官

同

杉山

武志

内閣府政策統括官（科学技術・イノベーション担当）付上席政
策調査員

同

井上

知義

総務省情報通信政策研究所長

同

向井

ちほみ

同

原

克彦

文部科学省研究振興局参事官（情報担当）

同

浅沼

一成

厚生労働省大臣官房大臣官房厚生科学課長

同

河野

研

総務省情報流通行政局情報通信政策課統括補佐

経済産業省産業技術環境局研究開発課産業技術プロジェクト推
進室長補佐

同

檜山

洋平

国土交通省大臣官房技術調査課課長補佐

同

生駒

豊

ｵﾌﾞｻﾞｰﾊﾞ 八山

幸司

内閣官房情報通信技術(ＩＴ)総合戦略室参事官

国土交通省総合政策局技術政策課技術開発推進室長

同

庄﨑

未果

内閣官房副長官補日本経済再生総合事務局企画官

同

吉田

恭子

内閣官房内閣サイバーセキュリティセンター（NISC）参事官

同

杉本

敏彦

内閣府知的財産戦略推進事務局参事官補佐

同

佐々木

亨

同

三原

祥二

内閣府総合海洋政策推進事務局参事官
個人情報保護委員会事務局参事官

４.議題（１） 国内外の動向（２） 人間中心のＡＩ社会原則(案)へのパブリックコメントとその対応について

５.配布資料【資料１-１】 国内外の動向【資料１-２】 アフリカＡＩフォーラム（UNESCO)報告(武田構成員）－１－

【資料１-３】 ＡＩ活用戦略～ＡＩ-Ready な社会の実現に向けて～(経団連) [概要]【資料２-１】 人間中心のＡＩ社会原則（案）に関する意見募集に寄せられた主な意見に対する対応（案）【資料２-２】 「人間中心のＡＩ社会原則」(案)に関する意見募集に対して提出された意見
机上資料１

人間中心のＡＩ社会原則会議の設置について

机上資料２

人間中心のＡＩ社会原則事務局修正案

机上資料３

第８回人間中心のＡＩ社会原則検討会議議事録（案）参考資料１

ＡＩ活用戦略～ＡＩ-Ready な社会の実現に向けて～(経団連) [提言]参考資料２

DRAFT ETHICS GUIDELINES FOR TRUSTWORTHY AI (ＥＵ原則ドラフト)

参考資料３

DRAFT ETHICS GUIDELINES FOR TRUSTWORTHY AI
III. Assessing Trustworthy AI(仮訳)（ＥＵ原則評価リスト）

参考資料４

日本とＥＵの原則の比較

６.議事【杉山上席政策調査員】
定刻になりましたので、副議長、よろしくお願いします。
【北野副議長】本日は須藤議長がご欠席のため、私が代理で進行させていただきます。
冒頭にあたり、和泉補佐官からご挨拶を頂きたいと思います。よろしくお願いします。

【和泉総理補佐官】
おはようございます。
ずっとご議論をいただきまして、おそらく本日は原則策定に向けての最後の会合になると事務局から聞いております。ＥＵもほぼ同じスケジュールで議論しており、原則策定すると聞いていますし、米国は今月、ＡＩのリーダーシップ維持のための大統領令を出したということであります。Ｇ20に向けて諸外国とうまく連携していきたいと思っています。
加えて、本会議の構成員の方には、ユネスコやＯＥＣＤなど、国際的な場で日本の考え方を発信していただいておりまして、重ねて感謝申し上げます。
これまでの実のある議論のおかげで、昨年末には原則（案）を公表して、先日までパブリッ
クコメントを募集しました。本日はＥＵの原則や、パブリックコメントもふまえて、これまで－２－

議論していただいたＡＩ原則を洗練して最終的なものにしていきたいと思っておりますので、よろしくお願いいたします。

【北野副議長】ありがとうございます。
パブコメも多く寄せられており、本日は議論する内容が多いと思います。和泉補佐官からありましたように、いろいろなところで動きが風雲急を告げており、また、我々の提言がどうなってくるかということも、とても注目されています。それでは議論に入っていきたいと思います。
では、事務局から配付資料の確認等をお願いします。

【杉山上席政策調査員】
事務局の杉山です。本日はお忙しい中お集まりいただき、ありがとうございます。
本日の資料は量が多いので、資料一覧を机の上に置かせていただいております。恐れ入りますが、ご確認いただいて、過不足がございましたら、事務局までお願いいたします。
以上です。

【北野副議長】ありがとうございます。
本日の議論は、公開で進めたいと思います。最初にご報告です。前回の会合でお話ししたとおり、この会議を官房長官が議長、閣僚がメンバーとなる統合イノベーション戦略推進会議の傘下に位置づけました。事務局より本件補足があれば、お願いします。

【杉山上席政策調査員】
事務局です。
前回の会議で、須藤議長からもご紹介がありましが、この会議の原則を、政府統一の見解という形に持っていこうと思っておりますので、会議の位置づけを変更いたしました。
補足資料がございますので、ご確認いただきたいと思います。机上のみに配っております。
机上資料１をご覧ください。これまで人工知能技術戦略会議という会議体のもとに「人間中心のＡＩ社会原則検討会議」という形で位置づけておりましたが、先日、「人間中心のＡＩ社会－３－

原則会議」新たに、名前を変えて、官房長官を議長とする統合イノベーション戦略推進会議のもとで開催することとしました。ですので、本日の議論を踏まえた原則等は、統合イノベーシ
ョン戦略推進会議に報告させていただくこととしております。
以上です。

【北野副議長】ありがとうございます。
それでは、議題に移ります。まず、議題１、国内外の動向について、事務局よりご紹介いただいた後に、武田構成員から、アフリカＡＩフォーラムに関してご説明いただければと思います。その後、私が主査をしている経団連のタスクフォースの提言が出ましたので、それに関して紹介させていただきたいと思います。
それでは、事務局からお願いします【杉山上席政策調査員】
それでは、資料１をご覧ください。１ページ目、ＯＥＣＤのＡＩＧＯについてご紹介いたします。
ＯＥＣＤでは、ＡＩＧＯと呼ばれる専門家会合を開催しております。2019年度中に理事会勧告をしていこうと活動しており、第３回、第４回の専門家会合が１月、２月とございました。
ＡＩＧＯには、この会議のメンバーである須藤議長、平野構成員が参画しておられて、こちら
で日本の原則の話をインプットしていただいております。
次に、ＭＩＴのＡＩ政策会合に関して報告いたします。昨年、ＭＩＴがＡＩに関する新しい学部の開設を発表しております。それに関連したカンファレンスが、今年の１月に開催され、須藤議長が招待されて、パネルディスカッションに登壇し、ＡＩ原則の検討状況などを紹介していただいております。
２ページ目をご覧ください。先ほど和泉補佐官からもご紹介がありました、ＥＵのハイレベ
ル会合の内容です。ＥＵでも、私たちと同じスケジュールで原則を取りまとめておりまして、
昨年末に倫理ガイドライン案が公開されました。こちらは参考資料２として机上配付させていただいております。ＥＵの案については、本日の議論にも参考になるところがございますので、後ほど紹介させていただきます。
後段は、米国の動きです。トランプ大統領が２月11日に、人工知能における米国のリーダー－４－

シップ維持のための大統領令を発効しております。内容としては、米国の国力の向上のための大統領令として、５つの原則からなっております。
技術のブレークスルーを推進する、技術の標準をつくって障壁を低減する、米国の労働者のための訓練をする、米国の価値を保護していく、米国の技術的優位と重要なＡＩ技術を敵国等から保護していくというようなことをうたっております。こちらに関しても、今後国際的な動向の中で大きな流れになると思いますので、注視していきたいと思います。
３ページ、４ページはユネスコの国際会合についてです。３ページ目ですが、アフリカのモ
ロッコ（マラケシュ）で開催されたアフリカＡＩフォーラムです。武田構成員にご登壇いただ
いておりまして、後ほどご紹介いただきます。前回の本会合と同じタイミングでしたので、武田構成員には申し訳なかったのですが、こちらに出ていただいて、日本の原則等の話をしていただいております。
４ページ目は来週、パリのユネスコ本部で開催されるハイレベル会合です。こちらは鈴木外務政務官、須藤議長、NECの江村常務にご出席いただきまして、日本の原則や、価値観をお話しいただくことになっております。
外務省の強力なサポートもあり、ユネスコ本部と密接に連携しておりますので、こちらから
国際的な発信をしていければと思っています。ユネスコについては、武田構成員から後ほど補足願います。
以上です。

【北野副議長】ありがとうございます。
それでは、次にアフリカＡＩフォーラムに関して、武田構成員からお願いします。

【武田構成員】
資料１－２で説明させていただきます。１ページめの下にありますように、これは「First
High－level Forum on artificial intelligence in Africa」ということで、ここでＡＩ社会原則を発信するという役目を務めさせていただきました。本当のところ、大変ポジティブな反響を随分頂きまして、そのご報告をさせていただきます。
２ページめをご覧ください。登壇したのは冒頭のパネル討論でして、モデレーターがル・モ
ンド・アフリカのeditor in chiefの方、パネリストがＥＵ政府、中国政府、私、アフリカの－５－方々ということで、ＡＩにおけるアフリカがどういうチャンスがあるか、あるいはどういうチャレンジをしなければいけないかというテーマでディスカッションさせていただきました。
これは実は伏線がありまして、下にありますように、全アフリカの科学技術会議というのがその半年ほど前にございまして、私はここでも結構な場で登壇をさせていただき、BBCの有名なキャスターがモデレーションをするという場で、そうそうたるメンバーでしたが、翌朝のア
フリカの新聞、ブルームバーグでも、私の発言を大きくポジティブに取り上げていただいたということがございます。
戻りまして、３ページめになりますが、12月のフォーラムで私から発信したＡＩ社会原則の発言が、結構な反響を頂いていますので、中身を知っておいていただきたいと思いまして、丁寧に説明したいと思います。Some people say humans should be the center of ＡＩ
society. But others say that the notion of human－centered in general is why theenvironment surrounding the center was so damaged by the center、ユネスコも実はhuman
centerと言っているんですが、トップレベルでアイキャッチのメッセージを出そうということで、こういうことを言っております。
and why we need to talk sustainability these days. Instead of human－centered ＡＩ
society” I would rather say Ａ Ｉ society for all human beings especially for the
future ones. In this sense” I would like to call it in short “human－oriented ＡＩ
society”. I defined three principles for the human－oriented ＡＩ society.
ここからはここで議論されているものそのものなんですが、One is “ＡＩ leaving no one
behind ” .In order not to leave anyone behind” everyone should have an equal
opportunity to Ａ Ｉ education. I believe UNESCO is in an ideal position to play acentral role in the facilitation of this discussion. At the same time” I wouldemphasize the importance of including industries in this discussion from the
beginning. This is not only from a financing perspective” but foremost from the needfor designing such education from industrial points of view. I myself have several
actual experiences in Japan. I discussed some of them in the United Nations lastyear in New York. It was reported by global media very positively. I will be happy
to share it with UNESCO” when I have more than three minutes. My second principle isthat the economic competition in the private sector should be completely fair andtransparent under international rules” and that we need to strengthen efforts in－６－

building these rules with agreement by many countries” including African countriesof course. I believe UNESCO could be expected to coordinate the process in making
such rules and principles. The third is the result of the above two. Human－oriented
ＡＩ

society is a society where everyone on this planet” being Ａ Ｉ － educated”

conducting fair competitions” continues enjoying their own creativity” together
peacefully with Ａ Ｉ ”everywhere. When those principles are in practice” Africa will
have an enormous opportunity in ＡＩ not least because of the ＳＤＧｓ.Advancements
in ＡＩ are mostly made by new applications” which are created by real requirementsfrom societies. The ＳＤＧｓ are requirements which are so diverse” so holistic” andso ambitious. As I understand ＳＤＧｓ were born after many key persons from Africa
made significant efforts towards actualization. I believe Africa should make thebest use of this precious asset for the development of ＡＩ technologies.
と発言しまして、ユネスコ各国の大使の方や参加者の方から、随分反響を頂いて、よかったと言っていただいて、ユネスコのホームページにもこれを載せたいと言われていますので、是非この会合でも知っておいていただきたいということでお話させていただきました。
冒頭のhuman－centeredとユネスコも言っていることを、アイキャッチもありますが、否定した根拠は、次の４ページでありまして、ここにありますような、世界的に大ベストセラーになっている哲学書ですけれども、ここにそう書いてあると認識しておりまして、私のメッセージで違和感がないかということを、哲学の権威の先生たちにいろいろ伺ったところ、間違いな
いということでしたので、自信を持って出させていただいたということであります。
５ページめは、本会合の７原則を３つにまとめて言わせていただいたんですが、それはここに議事録の抜粋を示しておりますように、以前の会合での私の発言を根拠にさせていただきました。
それから、行くなり随分いろいろなユネスコの方から、是非会いたかったと言っていただいて、次々に挨拶されたんですが、それはここの最後のページにつけましたＣＶが効いたもので
あ り ま し て 、 ご 参 考 ま で に つ け さ せ て い た だ き ま し た 。 一 番 の 売 り は 、 「 Dr. Takeda
graduated from the University of Tokyo where he majored “ machine learning forneural networks for the game of go” in 1980年」ということで、これがまず受けていまし
た。
以上です。

－７－

【北野副議長】
ありがとうございます。
次に、資料１－３になりますが、経団連から「ＡＩ活用戦略」という提言を２月19日に発表させていただきました。これは私がタスクフォースの主査をさせていただいたもので、これに関してご説明したいと思います。
「ＡＩ-Readyな社会の実現に向けて」ということで、2018年１月から策定を始めました。Ａ
Ｉの開発者倫理などの議論も、もちろんしましたが、開発者倫理に関しては相場観ができていましたので、企業としてＡＩをどのように使っていくかという活用原則をきちんと議論することになりました。
この会合のメンバーと経団連のタスクフォースのメンバーはオーバーラップしている方も多くいらっしゃいます。国、又は多国間の枠組みとしては、この会合の「人間中心のＡＩ社会原則」があり、開発者の原則はいろいろなところから出ていて、概ね相場観が出ているということで、経団連でやるべきこと、要するに企業、産業団体として何を主張するかということにフォーカスすることになりました。
２ページ目「はじめに」にありますように、「Society 5.0 for ＳＤＧｓ」という考え方が非常に重要です。ＳＤＧｓの達成と我が国が抱えるいろいろな課題を解決することの優先順位が高く、それを実現するうえで中核となる技術がＡＩになると考えています。もちろんＡＩだ
けではなく、ＩｏＴ、ロボティクスなどいろいろな技術が入ってくるわけですけれども、おそらく一つのドライビングフォースはＡＩになると考えました。
そのＡＩが、今まではいろいろなデモンストレーションや、限定された領域で非常に大きな成果を上げてきて、目立っています。またeコマースや広告の最適化で非常に効果を発揮しています。これから物理的な実世界での産業展開のフェーズになり、農業、医療、工作機械といったところに入ってきます。この段階になってくると、今までとは少し様相が変わってくるのではないかということが前提になります。これは実世界のデータと実世界のカスタマー、現場を持つ企業が非常に強くなり、日本にチャンスがあるのではないかという議論に基づいています。
３ページ目は、技術的なことを要約したものなので、スキップしていただいて良いと思います。４ページ目は、日本の勝ち筋としては、まず全体像を唱える、そのビジョンを提示するべきだということで、ＡＩが公共財「ＡＩ as social goods」であるということを議論しました。

－８－

ＡＩのネガティブな側面としてプライバシーの問題などがあり、そういうところから入ってしまうと、「ではやめたら良い」という話にしかならないので、そうではなく、ＡＩを社会、人類のために徹底的に活用するということが技術を持つ企業としての責務であろうということ、そして経団連が掲げている「Society 5.0 for ＳＤＧｓ」を実現する技術的なドライビングフ
ォースのコアがＡＩであるという議論をしました。
そして「実世界ＡＩからの事業展開」では、フェーズ２のＡＩの戦いは、実世界の産業基盤を持っているところが、ＡＩ起点、サービス起点のビジネスモデルに転換することが重要となります。また、サイバースペースで基盤を持つＧＡＦＡなどいわゆるテック・ジャイアンツが実世界に入ってくるところとのせめぎ合いになることが予想されるので、迅速に日本の強みを生かしていくことが重要になるだろうと議論しました。
加えてそういった世界になったときに、ＡＩは現場とのすり合わせと、現場のノウハウをどのように取り込むかが重要となります。また、例えば医療であるならば、現場の医師に使っていただくデータが、連続的にアノテーションされる、こういったことが普通の臨床の活動の中で負担のない形で行われて、インセンティブがきちんと設計されるということが必要になっていきますし、ほかの分野でも同じことで、ＡＩだけつくって、それを投入すれば良いという話では全くないです。これらをきちんとやるためには、総合力が必要になり、ここで勝ちに行くことが必要になるだろうと議論しました。
５ページ目にこれらの議論を前提に５つの原則をまとめました。まず「ＡＩによるSociety
5.0 for ＳＤＧｓの実現」ということで、世界規模の問題に関して日本の産業がＡＩを使って貢献していくということ、それと同時に、海外、国内向けの重要なメッセージになりますが、「多様性を内包する社会のためのＡＩ」をつくっていくということがあります。これは「ＡＩ
for all」でありますし、「Diversity and Inclusion」を達成するためにＡＩをもっと活用するべきであるということになります。今日本で就労する外国人、インバウンドなども増えていますが、そういう方に対してどういうサポートをするのか、他に例えば、育児で家にいなくてはいけない期間、男性に対しても女性に対しても、どのように就労・キャリアをスムーズにサポートするのか、また、都市、地方、その他いろいろな場所にいる方、高齢者、ハンディキャ
ップのある方などいろいろな状況の人がいます。彼らをサポートして、よりクリエイティブな生活をしていただくためにＡＩを使っていくべきと議論をしました。
また、社会・産業・企業のＡＩ-Ready化について議論しました。信頼できる高品質ＡＩ開発の観点で、「fair, transparent and accountable ＡＩ」や、プライバシーの問題や、そうい－９－ったところをきちんと考えるということです。また、それに加えて日本から提供するＡＩは、
品質を高めるべきであろうということで、「Trusted ＡＩ」、「Trustworthy ＡＩ」について
ここでは書いていますが、ここはあえて「Trusted Quality ＡＩ」という書き方をさせていた
だいています。それと同時に、ＡＩに関する適切な理解を促進することも必要だろうということで、これらを産業界として推進していく５つの原則として設定させていただきました。
６ページ目「ＡＩ-Ready化のガイドライン」では、企業、個人、社会制度、産業基盤がＡＩ-Ready化をするべきだと書いており、その次の７ページ目にあるテーブルがこの提言の一つの目玉になります。このテーブルはレベル１からレベル５まであり、ＡＩ-Ready化、又はＡＩPoweredな企業になるためにＡＩを駆使して競争力を上げていくというものになります。レベ
ル１は、ＡＩをよく理解していないし、システムも丸投げしているといったところから始まっています。初期段階（レベル２）ではデータの整理が少し始まってきて、ＡＩを分かっている
人間も少しいて、トップはＡＩの可能性を理解し、方向性を発信しているレベルになります。
レベル３になると、経営戦略の中にＡＩが活用され、トップから相応のコミットメントがあって、企業の中ではきちんとしたリアルタイムのデータフローができてきます。レベル４になってくると、かなり高いレベルです。レベル５になると、さらに高いレベルで、リアルタイムにデータ化されて、サイバネティックな会社になって、皆が理数・ＡＩ×データを理解しているレベルとなります。
このテーブルはかなり反響があって、すごく良い反響もありました。SNSなどを見ていると、否定的な意見もありましたが、これはＡＩをうまく使ってもらうための道具立てですから、みんなが使う必要もないと思います。企業のＡＩ-Ready化の意識を経営者トップや色々なレベルのマネジメントの動機付けするための指標としてこのようなツールが有効だと思われる場合には使って頂ければ良いと思います。逆に、そういうことはわかっているところは、これは気にせず、どんどん進めていただければ良いと思います。
８ページ目「ＡＩ-Readyな個人」では、どのように人材を育成するか、また人材を日本に呼び寄せるかについて、トップ人材、中核人材、リテラシー(利用者)それぞれに関して書いてあります。この辺の議論は、今内閣府で検討されているAI戦略でオーバーラップした議論がされています。
９ページ目「ＡＩ-Readyな社会制度・基盤」では５つのファクターがあると考えています。
まず、何のためにＡＩを使うかという「目標の設定」をきちんと明確にしていくために、ＡＩ
は「Social Goods」である点や、「データ・ＡＩの信頼感」は正にここで議論している倫理に－１０－

ついての産業界での議論でありますし、「実装・運用の安心感」は、プライバシーの問題や、システムの稼働がきちんと保証されている、また保険制度、事故調査も含めたものになります。
他に、「データ・ＡＩの品質が良い」ということ、「高品質が持続的につくられる」ということが重要となります。一時的にデータをつくって、その後何もケアされないのでは、高品質は維持できませんから、永続的に品質が維持されるということが重要になります。これらが品質水準になりますので、経団連としてこの５つのファクターが重要だということを書いています。
10ページ目は、データやＡＩの品質の確保、維持をするということが非常に重要で、企業の努力ももちろんですが、公的データがどのようにオープンにされて標準化されるか、業種、官民の壁を越えて運用、共有されるか、学習済みモデルの流通といったことがどのようになされるかということが書かれています。これはいろいろ研究関連の法制度も必要になります。11ペ
ージ目では、データやＡＩに関する信頼度、安心性の確保といった、サイバーセキュリティー
に関する内容や、説明可能なＡＩについて書いています。
12ページ目「ＡＩ活用戦略フレームワーク」では、このＡＩの戦略、企業戦略、事業戦略を考えるときに、「社会フレームワーク」と「技術フレームワーク」、「事業フレームワーク」の３つがきちんと連動しないと、うまくいかないということを明確にしています。
多くの製品の場合、「技術フレームワーク」と「事業フレームワーク」だけ考えて、「社会フレームワーク」は余り考えないで良いことも多かったのですが、ＡＩの場合ですと、倫理の問題やデータポリシーの問題などがありますので、技術と事業のフレームワークをつくっても、
社会的フレームワークを踏まえていないものは、実用化されませんし、いろいろな問題が出てきますので、ＡＩに関してはこの３つのフレームワークをきちんと踏まえて考えていく必要があるということを書いています。
以上のような提言を経団連として出させていただきまして、いろいろな方面から反響が出ているということが現状でございます。
ありがとうございます。
以上の、国内外の動向の報告について、何かご質問等ありましたら、ここで受けたいと思いますが、いかがでしょうか。
よろしいですか。
ありがとうございます。
それでは、議題２に移りたいと思います。前回取りまとめられた「人間中心のＡＩ社会原則（案）」に関してパブリックコメントをかけ、意見を募集しました。寄せられた意見を検討し、－１１－

対応する修正案を事務局で作成しています。
まず、寄せられた主な意見と原則の事務局修正案、それと参考としてＥＵの原則と日本の原則の比較に関して、事務局から説明いただきたいと思います。よろしくお願いします。

【杉山上席政策調査員】
事務局です。少し時間を頂きまして説明できればと思います。使用する資料ですが、資料２－１が寄せられた主な意見と対応、資料２－２が意見の一覧、それから机上資料２、原則の事
務局修正案、それと参考資料としまして参考資料２、ＥＵの原則、参考資料３、ＥＵのチェッ
クリストの仮訳、参考資料４、日本とＥＵの原則の比較です。
まず、資料２－１をご覧ください。このパブコメは、１月15日から２月14日まで行いまして、
意見総数は115件、個人として８名の皆様から23件、法人等として10団体から92件頂いております。多くの意見を頂きまして、ありがとうございます。
コメントの全文は資料２－２に記載してありますが、これらの意見を少し集約した形で取りまとめて、それに対する対応案をこの資料２－１に取りまとめています。
それでは、資料２－１に従って説明させていただきます。適宜机上資料２の原則の事務局修
正案もご確認いただければと思います。
まず、おおむね多数の法人の方々から、本原則の意義に同意して、総論として支持するというご意見を頂いております。
それから、全て紹介できないので、かいつまんで紹介していきますが、「はじめに」の２段目、この原則では基本理念でＳＤＧｓに触れており、ＳＤＧｓの17目標全てに貢献すると書かれていますが、一方で、以後の記載に関して17目標を全てに十分言及できているわけではなく、誤解を生むのではないかと、17を外して目標にとどめてはどうかというようなご意見を頂きました。事務局としての案としましては、17は取って、目標のみとしてはいかがかと考えております。
続いて、ＡＩの定義について、様々な方々から、ＡＩの定義が広過ぎて曖昧ではないか、より具体的な定義にしてはどうか、というようなご意見を頂きました。ですが、この原則の検討の中で、この会議においてもかなり議論を重ねた結果、今の記載としたものと思いますので、現状の解釈として置いておくのではどうかと考えております。
１ページ目の一番下、Society 5.0実現に必要な社会変革「ＡＩ－Readyな社会」についてですが、こちらはINTELからビジョンの５つの観点、人・社会システム・産業構造・イノベーショ－１２－

ンシステム・ガバナンスがSociety 5.0を実現する上で、同等に本質であるというところを明記してはどうかという意見がございましたので、その旨記載しております。
続きまして、２ページ目をご覧ください、（３）産業構造についてのところで、ＡＩのアプ
リケーションやサービス投入に障壁を設けない、及び国境を超える自由なデータ流通をサポートすることを明記するべきではないかというご意見がありました。原則案では、産業構造のところでこういったことは記載しておりませんが、イノベーションシステムのところで簡単に触れておりますので、３（４）のイノベーションシステムの記載を少し修正しています。
次に３（４）イノベーションシステムについて、の一番下、匿名の法人からですが、データ提供においては、プライバシーと企業秘密を守るべきであるということを明記してはどうかというご意見を頂きました。こちらも「プライバシーやセキュリティーを確保することで」と追記しております。
続きまして、３ページめ、（５）ガバナンスについての３段目、多数の方々からこの原則を国際的に打ち出すということをもっと明確にしてはどうか、国内のガバナンスに限定せずに世界各国のガバナンスとすべき、国際的な視点を盛り込むべきではないか、というようなご意見を頂いております。
こうしたご意見をふまえて、ガバナンスのところに、机上資料２の原則修正案の６ページになりますが、国際的な視点をいれた修正をしております。また、あわせて紹介となりますけれ
ども、５の「おわりに」には、我が国の原則を世界各国と共有し、国際的な議論のリーダーシップをとることを目指すということは言及しています。
次に、ガバナンスの一番下ですけれども、Salesforce及びＢＳＡから、政府は倫理及び人道的使用責任者を置くことを検討するべきではないか、我々はこのような取組を始めたところであると。Salesforce社からChief ethical officerのような役職を置いている、という紹介がありました。また後段ですが、こういった原則の策定や見直しのために、ステークホルダーからなる諮問機関等の設置等を奨励するとのご意見がありました。今後の政策の参考としたいと思っております。
次の４.１人間中心の原則について、ですが、ＪＥＩＴＡから、過度な自動化や行き過ぎを抑制するため、ＡＩ技術の成熟度や社会的影響を考慮して、適宜人が介在できる余地を設けることも重要じゃないか、の提案していただいております。こういった懸念に対応するようなガバナンスに関して加筆してはどうかと思っており、原則修正案の７ページ目、修正案を例示していますが、「システム・サービスの利用において、人が判断できるよう介在するよう設計す－１３－

る」などの記載をしてはいかがかと思っております。こちらは後ほど議論していただければと思います。
続きまして、４ページ目、上から２つ目、教育についてです。ＡＩのリテラシーの教育に関して、バイアス・フェアネス・プライバシーに係る課題があるということを、原則案ではうたっておりますが、それに加えてＡＩ技術の限界や、セキュリティーの確保、自動化された意思決定への過度な信頼の防止なども追加してはどうか、のご意見をいただきまして、追加しております。
続きまして、（３）プライバシー確保の原則に移ります。法人の匿名の方、ＢＳＡから、全てのＡＩがパーソナルデータの利用に対してリスクが高いわけではないとか、多くのＡＩシス
テムで100％の精度を保証できない、というようなご意見を頂いております。特に１段目の法人の方からのご意見では、例えば誰かの小説の好みのデータをもとにした本のリコメンデーシ
ョンのシステムと、ローンの不履行を起こすような可能性を見積もるシステムとでは求められる精度に差があってもいいのではないか、というご意見を頂いております。ご意見をふまえて、「重要性や要配慮性に応じて」との追記をしております。
５ページ目をご覧ください。１段目、日本ＩＢＭからのご意見ですが、セキュリティーの確保が重要というのに異論はないけれども、技術的に対応が難しいものも含め、コストの観点も重要であるということから、企業にとって対応の目安となるようなガイドラインの制定など、更なる議論・取組が必要ではないかと。これらは政府、関係企業、団体等において今後検討されるべきものと考えております。
それから、セキュリティー確保の一番下、４段目ですが、新たな原則の追加のご提案を個人の方から頂きました。内容としましては、同じ仕組みのＡＩが同じタイミングで反応した場合、社会が混乱するであるとか、ＡＩが自動的に回っていくことで、破壊的な現象が発生するということがあるというご意見を頂いております。これに関しては、原則の案にこれらの概念は含まれているものと思っておりますが、更に一歩踏み込んで、セキュリティー・バイ・デザインのような観点についても加筆することもあるかと思っています。この辺も議論していただければと思います。
続きまして、４.１.（５）公正競争確保の原則についてですが、２段目、ＡＩサービスの国
際競争促進のため、障壁を取り除き、国外へ市場を開放するべきではないか。特に越境データの自由な移転を確保すべき、との意見がございました。こちらは、イノベーションの原則で「国境を越えて流通し」という記述を追記しております。

－１４－６ページ目、２段目、富士通及びＢＳＡからですが、先ほどの議論にも少しありましたが、ＡＩの動きというのは状況によって異なるのではないかと。特に、状況に応じた説明が得られなければならないというような記載について、過度に規範的であるといったご意見を頂きました。こちらに関して「用途に応じた動作結果の適切性や信頼性を確保する仕組みを構築し」というような形で追記しています。
その後段、下から２段目ですが、ＪＥＩＴＡから、本原則について賛同する、一方で、更に進めるために、政府や国際機関がルール策定などに取り組むことを期待する、という意見があり、例えばこんな観点の検討が必要ではないかと３点挙げられています。これらの問題提起に対して、何か技術的、又は非技術的な対処について記載すべきかどうか、こちらも議論していただければと思います。
６ページ目の一番下ですが、イノベーションの原則について、この原則案ではＡＩ工学の確立ということをうたっておりますが、それだけでははく、倫理的側面や経済的側面など、幅広い学問の確立が推進されるべきではないかとのご意見があり、追記しております。
最後７ページ目では、匿名の法人からプライバシー、セキュリティーを確保するという記載について、これに加えて「企業秘密や機密情報の保護を確保しながら」というような文言をつけ加えてはどうかというご提案を頂きました。こちらも追記しています。
２段目、政府が保有するデータを、公衆に自由に利用可能にすることを盛り込む必要があるのではないかというご提案を頂きまして、こちらに関して「自ら保有するデータをＡＩ解析可能な形でオープン化することを一層推進するとともに」という形で表現して記載しております。
最後ですが、「おわりに」について、今後これらを政策等に反映させる際には、関係ステー
クホルダーを交えた議論をするべきであるとか、更にこの原則を進化・発展させるタイミングを明記すればどうか、ということもご指摘いただいています。これらは今後検討されるべきかと思っております。
この資料に関しては以上です。
続いて、ＥＵの原則について簡単に紹介します。参考資料４をご覧ください。この資料はＥ
Ｕと日本の原則を簡単に比較したものになります。日本の原則の考えに対して、ＥＵではどのように考えられているかという観点で整理しております。時間の関係で全てご紹介できません
が、原則の内容は、おおむね共通と認識しております。
１ページ目の２段目、人間中心の原則ですが、ＥＵの原則では先ほどのご意見にもありまし
た、人の判断と決定を組み込むことを具体的対応としてすべきだということが記載されており

－１５－

ます。
２ページ目の中央、教育については、ＥＵでも触れられてはいますが、日本ほど具体的ではなかったかと考えております。
２ページ目のプライバシー確保の原則、３ページ目のセキュリティー確保の原則に関して、ＥＵではX by designと呼んで、技術的手法、倫理や法的ルールという点を、あらかじめ設計に組み込むという考えがあります。日本でも参考になるのではないかと思います。
それから、４ページ目の公平性、説明責任及び透明性の原則におきまして、例えば、この真
ん中、説明責任に関しては金銭的補償や謝罪等、内容に応じてどういう対処があるかというような例示をしながら説明しています。日本としても参考になるのではないかと思います。
最後、公正競争確保の原則並びにイノベーションの原則についてはＥＵでは触れられていません。これは日本のオリジナルとしてアピールしていけるものではないかと思います。
実現する上でのチェックリストがＥＵ原則では用意されています。こういった考え方、もしくはこういうツールというのも我々の活動の参考になるのではないかと思いまして、仮訳ですが参考資料３に例示しております。
以上です。

【北野副議長】ありがとうございます。
では、議論に入りたいと思いますが、まず、ご意見、ご質問いただきたいと思います。特に執筆担当の方々から、事務局の修正案が、もとの意味を大きく逸脱していないか、または意図していない方向に変わっていないかなども含めてご意見いただきたいと思いますが、どなたかいらっしゃいますでしょうか。
パブコメ通して全体的なコメント、感想等ありますでしょうか。修正はしていないけれども、ＡＩの定義が広過ぎるというコメントは多数見られました。本日は、丸山構成員がいらっしゃらないのですが、ご意見ある方いらっしゃいますか。

【中川構成員】
丸山構成員からいろいろご意見いただいてこうしたと、そのときの意見を思い出してみると、たしか元々はＡＩが環境から、ビッグデータなり何なりから学習したデータに基づいて自分自身を変えていくというような機能が注目されていて、そこを注視するような文案になっていた－１６－

ものを、必ずしもそれだけではないと、例えば、アルファ碁のように自分自身の中だけでぐるぐる回って作ってしまうのもＡＩだし、というようなご意見があって、そこに絞ると排除されるものが多くなるから、という意見だったと思います。ただ、逆にこれでは広過ぎると思われたのも事実であって、高度な能力を先進的な技術、ソフトウェア技術ぐらいに広げてしまったので、全てのものが入ってくると。これだけ広げると、全てのものが入ってくる、それで、我々は主張してよいかという問題をちょっとコメントされてしまったと思います。
それについては、意見は２種類あって、ある程度現在のＡＩに即した形で、我々のこの指針を出すべきであるという意見と、いやいやもっとロングレンジで、ＡＩが今後どういうふうに発展するか分からないから、ここまで広げておいた方が長期レンジでいいと、これは我々のこの会議での態度だと思います。それについてのご意見の集約があれば、どちらの案もあり得ると私は思います。

【北野副議長】ほかにご意見ございますか。

【浦川構成員】
損保ジャパンの浦川です。本日の資料に入っていないんですが、ＥＵのＡＩのガイドラインの別冊ですか、「A definition of ＡＩ」という冊子があって、極めて分かりやすい説明が書かれておりました。
そ の 冒 頭 の と こ ろ に 「 A definition of Ａ Ｉ 」 で Ａ Ｉ refers to systems that display
intelligent behaviour by analising their environment and take actionsとあり、このぐ
らいの記述のものを参考にさせてもらって入れるかどうかを少し検討してもいいかと思いました。

【北野副議長】一般的には「Intelligent Behaviour」という表現が使われるときが多いわけですけれども、ここでの議論は、そこの境界というのは曖昧だという議論もありましたので、これをどちらにするかは考えないといけないです。脚注でなぜこのように考えるかを書いたけれども、それでもやはりＡＩの定義が広いという意見が出ているので、今のままの表現にするのであるならば、
我々の意図をもう少し明確に説明をするのか、または「Intelligent Behaviour」という表現－１７－

を入れ、少しＥＵの定義に沿った形に修正するかのどちらかの判断になるのかと思います。

【浦川構成員】
もしくは、ＥＵのこの原則案本体の、冒頭のグローサリーで４つ、５つ用語定義がされています。ただ、この用語定義が読んでいてピンと来なかったのですが、ちょっとグローサリー的に追記するというのも一つの手かもしれません。

【北野副議長】いろいろな対応の仕方があると思います。これは要検討事項になるのかと思います。今ここで、短時間で議論して決まる話ではないのでよく考えて案を練りながら検討する必要があるかと思います。

【中川構成員】
素材というだけで、これについて考えていただく、これについては前々から問題だと、私もあったんでちょっと考えていたのですが、非常にエッジコンピューティングというのか、デー
タを取り込むところ自身が結構肥大化してきて、そこにかなりＡＩ的なものが入ってくる。データを取り込むところの環境も含めて全部ＡＩだというふうに捉えるというイメージが今後重要になるだろうと思うので、それが果たしてこの丸山構成員の案で取り込めているかどうかということがずっともやもやしています。その辺も議論の重要なポイントで、単に中心にいるＡ
Ｉのソフトウェアというだけではない時代にだんだんなると思います。そこが気になっている
点ではあります。

【北野副議長】そのようになったとき、高度なシステムでＡＩが入っていないものはほぼなくなるだろうと考えると、これでほぼ同義になるので原文の表現で良い、というように言い切ってしまうとい
う方向もあるかと思います
これは、しっかりとした議論と理論武装した上で決着する必要があるかと思います。
ほかの論点でお気づきになられたところございますでしょうか。
今少しパブコメで寄せられた意見を見ていただいて、お気づきになった点、ご意見をいただ
いて、その後に事務局修正案を先頭から確認していく進めかたが、まとまりがつくと思います。

－１８－

中川構成員、お願いします。

【中川構成員】
資料２－１に沿って幾つか事務局に説明いただいた点でよく分からない点がありました。
最も重要だと思った点は、４.１のセキュリティー確保の原則についての、セキュリティ
ー・バイ・デザイン。ただ、ＡＩではセキュリティーというのはまた別のところで議論されるものであるし、確かに重要なんだけれども、セキュリティー・バイ・デザインとまで強く言ってしまうと、ちょっと狭くなる。むしろ、安全性・バイ・デザインのような感じの概念に近い
ので、セキュリティー・バイ・デザインという言葉を入れてしまっていいのかどうかについて疑問を持ったというのが１点です。
それから、次の４.１の公正競争確保の原則の２番目のところで、「国境を越えて流通し」というところなんですが、実は、国境を越えた自由な流通というのは個人情報保護法23条で認めていません。ですから、政府が自分で言ったことを自分で否定するようなことをやりかねないので、そこは十分に、要するに、相手国が日本と同等のレベルのセキュリティー、個人情報のプライバシー確保していない国には出してはいけない、ということが日本の法律でも書いてありますし、それから、ＧＤＰＲとか十分性認定でもそれは議論になった上で、十分性を持っているということになったわけですから、それには気をつけた方がいいかなということが気になりましたのでこの２点、非常に小さい点かもしれませんけれども、全体から見れば、気になりました。

【北野副議長】そのようになったとき、高度なシステムでＡＩが入っていないものはほぼなくなるだろうと考えると、これでほぼ同義になるので原文の表現で良い、というように言い切ってしまうとい
う方向もあるかと思います
これは、しっかりとした議論と理論武装した上で決着する必要があるかと思います。
ほかの論点でお気づきになられたところございますでしょうか。
今少しパブコメで寄せられた意見を見ていただいて、お気づきになった点、ご意見をいただ
いて、その後に事務局修正案を先頭から確認していく進めかたが、まとまりがつくと思います。
中川構成員、お願いします。

－１９－

【杉山上席政策調査員】
すみません、少し先ほどのご質問に対して補足させていただきます。
中川構成員の２点目のご質問ですが、事務局修正案の10ページ目の下から２つ目のブレッドに「プライバシーやセキュリティーの確保を前提としつつデータを国境を越えて流通し」と記載しており、内容的には問題ないかとは思いましたが、先ほどのご指摘に関しては十分考慮が必要かなと思っております。
以上です。

【北野副議長】ありがとうございます。
ここは、我々の立ち位置、例えば、欧州及び米国、イギリス、中国の政策に対して我々がどういう立ち位置を持つかというところとの整合性がすごく重要だと思います。

【中川構成員】
英語バージョンつくるときに気にした方がいいという気はしますね。

【北野副議長】特にそのときですね。例えば、Ｇ20での議論を目指して考えていくと、データポリシーの日
本のスタンスとこの提言での書き方の整合性が取れていることが必要になってきますので、最終案をまとめるときまでにしっかりした議論が必要かと思っています。

ほかにご意見ございますか。樋口構成員。

【樋口構成員】
セキュリティー確保の原則の２つ目のパブコメに対する観点、事務局修正案の９ページの、常に対応することは不可能という案に対する、絶対的な記述を避けた方が賢明ではないかという意見への対応ですけれども、現在のＡＩの持つ欠点を過小化する、あるいは、無視したり、ＡＩを盲信したりすることによって、性能以上の適用をする危険性を明確にするという重要なメッセージがもともとあったと思います。今回の修正によって、その重要なメッセージ性が大分トーンダウンしているので、ここは考えた方がいいのではないかと思いました。

－２０－

【北野副議長】
そうだと思います。ここはもとのままの意図に戻すということはあると思います。
先ほどのところと同じで、ご意見をくださった方もいろいろな意図があってコメントされている場合もございますので、我々としての立場はどうするかをしっかりと議論した上で最終案にすることが重要かと思います。
ほかにございますでしょうか。
では、修正案を先頭から、修正した箇所中心に確認して、その修正で良いのか、ほかに修正はないのか、これまで議論したところも含めて確認したいと思います。また、ここで議論してすぐに決着できないものもありますので、しっかり検討する事項かどうかという振り分けをしていきたいと思います。
では、まず１ページ目のところから入りますが、「はじめに」の最初のパラグラフ、修正が入っていますが、どういうコメントへの対応でしょうか。

【杉山上席政策調査員】
こちらは、文章の順番を変えたものです。、もともとの案が、最終的に我が国の課題の方を重視したような記載になっているが、冒頭の「現代社会は地球環境問題等の問題に直面している」というところに、引き続いて我が国の課題を書くようにすれば、世界の課題の中で「我が国は」という形で読めるのではないか、というようなご意見に対応したものです。

【北野副議長】２つ目のパラグラフに１行だけあるのではなく、最初パラグラフに、場所を変えたということですね。

【杉山上席政策調査員】
そうです。それで世界的な課題を認識していますよというイメージで記載しています。

【北野副議長】了解です。これは良いですか。
その次、17目標全部に対して対応しているか分からないので17という数字は記載しないとい－２１－

う話ですね。確かにそうですね。
ＡＩの定義のところは、さきほどの通り、修正はしていませんが議論の余地があるところになります。２ページ目に関しては、全体の構成のところの図が入ったということですね、ここまでは良いでしょうか。
３ページ目、「(3)持続性ある社会」のところで修正が入っていますが、これは「科学的・技術的蓄積をＡＩによって強化し」ではなくて、「ＡＩ技術によって科学技術の発展を加速させ」という表現が入ったということですね。
次の４ページ目、「５つの観点は、Society 5.0を実現する上で同等に重要である」これはなぜ修正が入ったのでしょうか。

【杉山上席政策調査員】
これは、それぞれが等しく本質的であることをはっきりと明記したらいいのではないか、という意見に対応したものです。

【北野副議長】分かりました。よろしいですか。
浦川構成員。

【浦川構成員】
３ページめの下のところについて、もともと「その科学的・技術的蓄積を」というのは、これまでの日本の様々な発展において蓄積してきた技術がまだ十分デジタル化されておらず、このデータ整備を通じＡＩをそこに適用することによって更に強化されるというふうに私は捉えているので、もとの文言の方が的確なのではないかと思いますが、いかがでしょうか。

【北野副議長】確かにそうですね。よく読むと、これでは、意味が変わっていますね。

【中川構成員】
今おっしゃったような形で議論をされてこの文にした、と私も記憶しています。

－２２－

【北野副議長】
そうですね。これは、原文に戻しながら、このコメントで言いたいことを、我々が文言追加する形で修正した方が良いのかもしれないですね。文言は調整をしましょう。
４ページ目の「５つの観点」のところはよろしいですか。
それでは次、５ページ目になりますが、「イノベーションを支援する環境」という修正は、「イノベーションシステム」では分かりにくいのでこのように修正するのでしょうか。

【杉山上席政策調査員】
そうですね、イノベーションという言葉からして、イノベーションシステムというよりもイ
ノベーションを支援する環境ということを指しているのではないかというご指摘がありまして、
ただ、イノベーションシステムという言葉自体はキャッチーとしてもいいのかなと思っている
ところがあり、括弧書きで記載してはどうかと考えています。

【北野副議長】これについてはよろしいでしょうか。
その下の段落のところ、「プライバシーやセキュリティーが確保されることで、誰もが安心してデータを提供・流通でき、」はどうでしょうか。
原文では、赤字の部分がなく、「誰もが安心してデータを提供でき、」となっていたものにこの文言が挿入されているのでしょうか。

【杉山上席政策調査員】
はい。

【北野副議長】ここの挿入はどうですか。これは妥当だと思いますが、特に問題ないでしょうか。
次は５ページ目、「多様なステークホルダー」という文言がなくなって「活発に発言する人たち」と修正されていますが、どういうことでしょうか。

【杉山上席政策調査員】
すみません、これについては説明が必要かと思います。

－２３－

もともとの文章「多様なステークホルダーが」と書いてありましたが、社会的に声を上げにくい人たちも含めて多様なステークホルダーではないかという、文言調整的なご指摘がありました。その対比として記載しております。特にこだわりがあるわけではありません。

【北野副議長】意訳しづらいですね。意味は分かるのですが、「活発に発言」言葉としては違和感がありますね。

【新居構成員】
よろしいでしょうか。これは、普通に「声を上げにくい人たちも含め多様なステークホルダ
ーの」という表現だとちょっと弱いという理解なのでしょうか。声を上げづらい人と活発に発言する人の対比をわざわざ両方入れなくてもよければ、活発な発言はちょっと、なくしてもよ
いかと思いますが。

【北野副議長】これはどのパブコメに対応しているのでしょうか。

【杉山上席政策調査員】
原文は資料２－２の20ページの一番下にございます。

【北野副議長】原文で「多様なステークホルダーだけではなく社会的に声を上げにくい人の声も」とあるのに対して、「社会的に声を上げにくい人」もステークホルダーに入っているので、「活発に発言する人だけではなく社会的に声を上げにくい人たちも拾い上げ」という表現にするのはどうかというご意見に対する変更ということですか。

【中川構成員】「社会的に声を上げにくい人たちも含む多様なステークホルダー」という言い方、いい気が
しますね。

－２４－

【新居構成員】
私もそれでいいと思います。

【北野副議長】そうすると、原文を少し変更するような修正で、「社会的に声の小さい人も含めた多様なス
テークホルダー」というような文言にした方がむしろ良い感じがしますね。「活発に発言する人だけでなく」と書いてあると、何かいろいろな人がいろんなところを思い浮かべるので適切ではないと思います。
ご議論いただいた方向での文言修正を検討してみましょう。
次、一番下「技術的手段やマネジメントシステム」、これは、企業の努力ですからマネジメ
ントも入りますよといった主旨でしょうか。

【杉山上席政策調査員】
そうですね、特に既存の、マネジメントの取組というのも十分活用できるのではないかというようなご指摘です。既存か新しいかは別にして「マネジメントシステム」というのを入れてはどうかと思っております。

【北野副議長】分かりました。ご意見ございますか。
永沼構成員。

【永沼構成員】
マネジメントシステムの言葉を入れることですが、先程北野副議長がおっしゃった、マネジ
メントも必要という観点よりも、マネジメントシステムと言ってしまうと、一般的にはＩＳＯのマネジメントシステム的なものを指しているように思われます。
ＡＩについてガバナンスの部分でマネジメントシステムというものを今後導入されるのかとか、そういった憶測のようなところにまで話が及んでしまう可能性がありますので、もし、これが技術の手段に対してのマネジメントということであれば、そういう言葉にした方がいいでしょうし、マネジメントシステムを入れるのであれば、その前提で入れた方がよろしいかと。

－２５－

【北野副議長】
そう思います。
もとのコメントでは何を意味していますか。

【永沼構成員】
もとのコメントを見ると、多分、マネジメントシステムそのもの、既に導入されているＩ
ＳＯのＭＳを提案しているのだと思われます。ただ、我々の先ほどの解釈は別の観点でしたので、どちらなのかなというところが私の質問の発端です。

【北野副議長】それは、ＩＳＯのマネジメントシステムを入れるべきといった方向に我々がガバナンスのことを言うのか、それは選択肢の一つであるけれども、そこまでをたがをはめるという方向ではないとするか、我々の立場で決めなくてはいけないわけですね。
中川構成員。

【中川構成員】
マネジメントに近いところで非常に議論されているのは、ヒューマンリソースというか、人事とかで採用にＡＩを使うという話がどんどん出てきています。そういうあたりも目くばりしておいた方がいいというイメージだと、システムではなくてマネジメントだけで切った方がむ
しろその含みは入ってくると、システムと言うとおっしゃるように狭くなってしまう気がします。

【北野副議長】５ページ目、「(5)ガバナンス」の２つ目のパラグラフですね。企業の自主的な取組として整備されているマネジメントシステムの有効活用を推奨しますというように言っているところです。
これは一つのオプションではあるけれども、皆がこれをやらなくてはけないという話でもないとするとマネジメントシステムまでは入れないという話になりますね。

【堀構成員】－２６－

すみません、もともとここに「技術的手段」と入っているのは、大屋構成員からの、法律による原理的な枠組みだけでなくアーキテクチャによる倫理とかそういう対応があるから、そういうのを入れようということで、もともとこれが入ったものです。
ですので、アーキテクチャの話とマネジメントの話、まぜるのは若干苦しいかなと思います。

【北野副議長】それは少し違う気がしますね。

【浦川構成員】
おっしゃるとおりかなと思います。やはり、ガバナンスというところにこの文言はちょっとなじみづらく、個人Ｆの方のコメントは、既に企業には様々なマネジメントシステムがあるのでそれを有効活用したらどうかという提言に読めます。それ自身は違和感ございませんが、ガバナンスのところにそれを持ってくるのは、堀構成員もおっしゃるようにちょっと違うかなと思いますね。

【北野副議長】そうすると、これはガバナンスとは少し違う内容なので、このご意見は尊重するものの、ここはむしろ修正しない方向、「マネジメントシステム」という文言は入れないで、「技術的手段を含む企業の自主的な取組」という原文に戻したほうが、我々が言おうとしている意図になりますね。マネジメントシステムが要らないと言っているわけではないですが、議論する箇所
はここではないですよね。
分かりました。では、その方向でお願いします。
次、６ページ目、「また、ガバナンスの実装は国際的な整合が重要であり、各国におけるガバナンスに加えて、国境を越える問題に対処するための国際的な仕組みが整っていることが求められる。」とあります。
これは、ＪＥＩＴＡなどのコメントで、「国際的にハーモナイズされる」ということを強調するということですね。ここに関してはどうでしょう。
これはよろしいですか。そういうことを我々が意図していることでもあるので、ご意見の通りだと思います。
「ガバナンスの実装」は、言いたいことは分かりますが、言葉として「ガバナンスの実装」－２７－

という言い方をするのかどうか。「ガバナンスの確立」であれば分かるけれども、ガバナンス
は「実装」するものか、日本語として適切でしょうか。たとえば「ガバナンスを確立しました」、「ガバナンスが確立していない」とは言うけれども、「あの会社はガバナンスが実装されていません」とは言わないですよね。

【中川構成員】「ガバナンスのための」ぐらいでいいような気がします。

【北野副議長】「また、ガバナンスのための」……

【中川構成員】
ええ、国際的な整合ぐらいで。変ですね、やはり。

【北野副議長】「ガバナンス基準」や「ガバナンス」、ここの言葉は意図としてはそうだと思うのですが、日本語としての適切性を検討したいですね。
浦川構成員。

【浦川構成員】
あと、この最後のところ、もともと国際協力体制、これは様々な国が協調して整合していくということを表現していたと思いますが、「国際的な仕組み」という表現でちょっとぼやけていないかなという印象を持ちましたが、皆さんいかがでしょうか。

【北野副議長】「協力体制」の方が良いでしょうか。「国際的な仕組み」では広く、ぼやっとなる感じが確かにします。「国際協力体制が整っている」とするか、「国際的な仕組みが整っている」にするかということですね。
言いたいことは、やはり、「協力体制」ですね。

－２８－

【浦川構成員】
連携体制ですかね。

【北野副議長】どちらかというと「連携体制」ですね。体制や仕組みがなど何かあるということではないですね。

【浦川構成員】
協力よりは協調とかそういうことかもしれないですね。

【北野副議長】もう少し、具体的なエンゲージメントをしたいという意図がここには入っていますよね。そうすると、これはむしろ原文に戻した方が良いかもしれません。我々の意図として、特にＧ20などで日本政府として打ち出して、そういう体制をつくることを呼びかけるとすると、何か体制、国際的な仕組みがあるというのではないので、原文に戻した方が良いかもしれないです。
次に７ページ目、「促進やシステム・サービスの利用において、人が判断できるよう介在する設計などの適切な仕組みを導入することが望ましい」と修正された箇所は、「過度な自動化や行き過ぎを抑制するため、ＡＩ技術の成熟度や社会的影響を考慮し、適宜人が介在できる余地を設けることも重要ではないか」というＪＥＩＴＡのご意見に対するものですね。
これはいかがでしょうか。
なぜこれを入れたいかということは分かる気もしますが、読み方によっては、精度が高いＡ
Ｉに人間が介入する仕組みを導入することで、高い精度に達しないことが起きることもあり得るということになりますよね。
もちろん、選択肢としてそれがあるということは良いことなのかもしれないけれども、ここで書くのかどうかですね。

【浦川構成員】
この下に３つパラグラフがあって、この説明でその意図を十分説明し切っているように思えるので、ここにここまで書かなくてもいいようにも思いますね。

－２９－

【新田参事官】
事務局から１点、問題提起として、この点は、ＥＵのTrustworthy ＡＩ倫理ガイドラインでは、例えば、ストップボタンのようなＡＩが何らかの誤動作を行った際に、人が介在することで最後止めるようにできるような、セキュリティー・バイ・デザインの概念として入っているものですが、事務局としては、このような概念が日本のＡＩ原則の中でも参考になるのではな
いかと考えていたところ、ＪＥＩＴＡからそれに近い問題提起があったため、この点について
明確に、日本の原則の中に盛り込むべきか、それとも大体入っているため敢えて強調しなくても良いなどご議論いただければと思います。

【北野副議長】ここに挿入するというよりも、例えば４つ目の項目を追加し、「状況によっては介入できる設計」のような書き方の方が、良いのかもしれません。
ここはどうでしょうね。

【中川構成員】
おそらく、日本とＥＵの考え方の根本的な差の部分になっていて、ＥＵの場合は、ＡＩというものを、人間が完全にコントロールできるツールだというふうに今でも信じている節があるというか、本当にそうらしいんですが、そういうような観点からすると、人間が完全にツールが言ったことにだけ従っているのでは嫌だと、例えば、ＧＤＰＲの22条にはプロファイリングＡＩ、ＡＩとは書いていないけれども、自動プロファイリングで出てきた結果に従わなくてよ
い権利を保有するみたいなことが書いてある。そんなのに対応している考え方が、ＥＵの場合、
ＡＩのガイドラインの方に恐らく出てきていると思うんですよね。それはいいかどうかという、
我々はツールよりもう少し、丸山構成員がおっしゃった、非常に広範なシステムを考えているので、エンバイロメント的なＡＩということを考えたときに、ＡＩのディシジョンに対立するというよりは、むしろ協働して何かいい結果が出るようにしたいという日本的な考え方だとす
ると、この文言だとちょっと違和感があると私は思います。

【堀構成員】
私も同様の感触です。ＥＵは随分はっきり言い切ったなという印象を持ってはいるんですが、北野副議長もおっしゃったように航空機の衝突回避などにおいては、人間とＡＩどっちが上手－３０－

に回避できるかという研究が始まっていて、多くの場合、やはりＡＩの方が勝つんですよね。
そういう領域によっても違いますので、気持ちは分かるんですけれども、ここに明記することにちょっと抵抗を感じます。

【北野副議長】少し違うような気がしますね。では、ここは原文に戻しましょうか。
よろしいですか。

【羽鳥構成員】
日本医師会の羽鳥ですけれども、私もやはり同じように、この文章にしてしまうと今までの議論から後退してしまうような気もするし、ここで新しく発出するということであれば、先へ進むためには、さきほどの飛行機の自動回避のことも含めて、恐らく医療の現場でもそういったことが出てくる可能性もありますので、やはり、ここ独自の案を書いた方がよいのではない
かと思います。

【北野副議長】こういうＪＥＩＴＡのコメントもそうですし、ＥＵのガイドラインもそうですが、今までのこの会合での議論からすると、我々は、その先を見た議論をしてきたと思うのですよね。人間の判断能力を、一部の機能に関しては超えるＡＩシステムが世の中に多くつくられたときに、どのように考えていくかということで、高いクオリティが保証されてきているものがあるときに、人間が介在するようにしておくべきだということは人間が入れば、クオリティを落としても許されるという話になってしまいますよね。そのために、人の命が失われることが許容されるという議論になるのですよね。とどのつまりはそういうことになりますよ。
ですから、もちろん状況にもよりますが、これは余り前提にはできないかもしれないです。
もちろんＡＩはオールマイティではないものの、高いクオリティが保証された場合には、人間の判断が入ることで良いことが起きないということです。
では、我々の立場としては、ここの文言はもとに戻しましょう。
次に行きます。８ページ目、「ＡＩ・データの持つ公平性・公正性、プライバシー保護に関わる課題があることを認識できる内容や、ＡＩ技術の限界、セキュリティーの確保や自動化された意思決定への過度の信頼防止の方法など」のところですが、「過度の信頼防止」、これは－３１－

依存性のことを言っているのでしょうか。ここはどうでしょう。

【中川構成員】
過度の依存性を防止するというのは分かりますよね。

【北野副議長】信頼に対する過度の依存性など、そういうことを意味しているのでしょうか。

【新居構成員】
対応案の４ページめの上から３つ目、意思決定の過度の信頼防止の方法なども追加してはどうかというところですね。

【北野副議長】「ＡＩ・データの持つ公平性、プライバシー」のところは、原文の「ＡＩ」だけではなくて、「ＡＩ・データ」にすることは、これはそうかと思います。それで、「プライバシー保護に関わる課題があることを認識できる内容やＡＩ技術の限界、セキュリティーの確保や自動化された意思決定への過度の信頼防止の方法などを備えることも必要である」と続くことになります。

【浦川構成員】
よろしいですか。自動化された意思決定の過度の信頼防止の方法、要するにデータをベースとしたＡＩの結果のことをこういう文言で表現しているので、ちょっとここの言い回しに多少違和感を覚えますね。この方が言わんとすることは伝わるんですけれども。

【新田参事官】
元のご意見が英語なものですから、翻訳が若干直訳になっており申し訳ございません。

【杉山上席政策調査員】
資料２－２の68ページの中段がもとのご意見です。

【浦川構成員】－３２－

意思決定が自動化されるという言い回しは何か、若干、刺激的なような気がして、確かに現場はオートメティットなんですけれども、飽くまでもデータをベースとして、ある結果を返すというのがＡＩだと思いますので、ＡＩによって、弾き出された結果を過度に信用しないみた
いなイメージの文言でカバーされるといいかもしれない。

【北野副議長】
特にここはリテラシーのところですから、文章として、「信頼防止の方法」というのではな
く、「そういうことを過度に信頼しない」という、そういう書きぶりに直した方がいいですね。

【新居構成員】
すみません、教育リテラシーの原則の冒頭のところで、一応、意図的な悪用があることも勘案して、知識と倫理を持っていてくださいみたいなことは最初に述べてはいるので、そこと結構、重複する気がします。

【北野副議長】そうですね。

【中川構成員】
私も新居構成員と一緒に書いたのですが、おっしゃるとおりで、こういうことを全然意識、しなかったというわけではなくて、した上で、ポイントを切り出すと、具体的なこととして、この３項目、４項目が出てきたというふうに理解していまして、ここにこのように書くと、確かにおっしゃられるように重複した雰囲気で、余りしっくりこないです。

【北野副議長】「ＡＩ技術の限界」というところで、「過度の依存はしない」ということは、意図として入っているのですよね。

【中川構成員】
実はＡＩ技術には限界があるんだ、ということを教えることは別に悪くないと思います。それでもう十分だと思うんですよね。

－３３－

【北野副議長】
むしろ、セキュリティーの確保に関する内容を備えるというのは良くて、ここは「自動化された」ところは入れずに、「ＡＩ技術の限界」に関するリテラシーの中に含まれるという解釈をする方が良いかも知れません。

【中川構成員】
していっていいと思います。

【北野副議長】その方が、いいですね。ここにもう一回出てくるのは、冗長な感じがします。では、そうい
う方向で修正します。
続いて、「全てのＡＩが、パーソナルデータ利用に関するリスクを高めるわけではないが、ＡＩを前提」という部分とその下、「重要性・要配慮性に応じて」というところについてはどうでしょうか。

【中川構成員】
この部分は、私が書きましたが、提案でこういうふうに直されたので、特に違和感はなく、確かに全てのＡＩが、ということは言っていませんし、むしろ逆に、まずいＡＩを避けるための手段としても、ＡＩが使えるということもありますから、こういうふうに直されるのは、リーズナブルだなと思いました。

【北野副議長】分かりました。
次、「重要性・要配慮性に応じて、」これも良いですか。

【中川構成員】
同じくです。

【北野副議長】－３４－

ではこの２点はよろしいですね。
次、９ページ目「ＡＩの使用が個人に害を及ぼすリスクを高める可能性がある場合には、そのような状況に対処するための仕組みや枠組みを整備すべきである」というところですが、これはどうでしょう。
これはＢＳＡからのご意見ですね。

【中川構成員】
分かってきました。要するに、ＡＩが悪さをしない場合もあるというふうに書いたので、逆に悪さをする場合には気をつけましょうということをここでもう一回言いたかったという意味
であれば、あってもまずくはない気はします。

【北野副議長】この修正を入れますか。確かにご意見の通りかと思います。バランスをとる意味では、何もしないときもあるし、リスクがあるときには対応するということは、はっきりして良いかもしれないです。

【中川構成員】
案ではシンプルに書きましたけれども、しつこくこう書いたからといって、もとの意図がずれてしまうわけではないと思います。

【北野副議長】そうですね。分かりました。これは修正案で良いですね。
次に、「(4)セキュリティー確保の原則」の修正箇所は、これは先ほど議論したので、原文の意図に戻す形でよろしいですね。
「(5)公平競争確保の原則」に関して、「集中することにより」を、「集中した場合においても」と修正しています。これはどうでしょう。確かに「集中する」と限っているわけでもないので、「集中したとしても」ということですね。これは良い気がしますけれども、どうでしょうか。
その下、「特定の企業にＡＩに関する資源が集中した場合においても」と同じ修正ですね。
これは確かにご意見の通りと思います。問題なければ次にいきます。

－３５－

では、次、10ページ目「用途に応じた動作結果の適切性や信頼性を確保する仕組みを構築し」となっています。これはどういったご意見に対する修正でしょうか。

【杉山上席政策調査員】
資料２－１の６ページめの２段目、富士通、ＢＳＡのご意見です。

【北野副議長】なるほど。要するに用途ごとに違うので、一律なレベルでないようにした方が良いという話
ですね、確かにそう思います。

【浦川構成員】
動作結果の適切性が前の方にも出ているので、このままだと若干、冗長な表現ですね。

【北野副議長】修正文の意図は分かりますが、文言として、これにするかどうか。ご意見では、富士通は「動作結果の適切性」という言葉が入っていて、ＢＳＡは「動作結果」とは書いていないですね。

【杉山上席政策調査員】
そうですね。もう少し厳密に言いますと、原文では、最後の「状況に応じた適切な説明が得られなければならない」という断定的な言い方に関して、そういうのじゃない場合があるというような形で言っていただいています。

【北野副議長】ここはアカウンタビリティの非常に重要なポイントなので、ここの文言の書き方は精密に検討した方が良いと思います。重要なポイントなので、ここの解釈が適切でなくなることは良くないですね。
ご意見の原文は、何ページでしょうか。

【杉山上席政策調査員】－３６－

富士通のご意見は、30ページになります。

【北野副議長】過剰な動作結果の適切性や信頼性を求めるのは難しいだろうというご意見ですね。
ＢＳＡレベルに応じた」ということですね。
両社のご意見は、確かにそうですね。文言としてどうするかですね。我々は、「状況に応じた」というように書いてはいるのですが、これをもう少し明確にした方が良いということですね。「用途に応じた」という言い方か、「用途、状況に応じた適切性並びに信頼性」という書き方にするかですね。この修正案でよろしいでしょうか。

【杉山上席政策調査員】
あとは「説明が得られなければならない」という断定的な言い方に関してもコメントがあります。ただ、事務局案としては、そちらは残すべきと思い、修正していないです。

【中川構成員】
動作結果の適切性や信頼性というのは、つくる側にとっては非常に厳しい要求をしているよ
うに見えますね。ある意味では、そんなに真剣にやらなくても役に立てばいいじゃないか的なものがあってもいいことはいいわけで、それはやはり状況に応じて変わってくる。個人の財産や、身体に影響を及ぼすようなものについては慎重に考える必要があるけれども、少しポイン
トがたまります、くらいのものは、もっと気楽に考えても、むしろ社会の、あるいは経済的な発展に資するのであれば、問題ないのではないかというようにも考えられるし、そういうことを含めて、状況に応じた、というようなことを含みに書いたような気が何となくしてきました。
私が書いたかどうか、はっきり覚えていないのですが、そんな議論があって、書いていたんじ
ゃないかと思います。

【北野副議長】そうです。そこが、この修正だと思います。「用途に応じた」という文言を入れているので今おっしゃられた話なのですよね。

【中川構成員】－３７－

そうなんですね。

【木俵構成員】
すみません、これは「確保する仕組みを構築し」で削除して、信頼性を状況に応じた適切な説明が得られなければならないという話にしてしまったら、すっと通るんじゃないですかね。

【北野副議長】そうですね。この文章、よく読むと、前に「ＡＩの動作結果を適切に担保する仕組み」があって、さらに「用途に応じて」があると冗長ですね。ですから、「データの取得方法や使用方
法」、次に、「用途に応じたＡＩの動作結果の適切性を担保する仕組み、適切性を担保する仕組み、状況に応じた適切な説明が得られる」という、そういう書き方にした方が良いのではないでしょうか。

【堀構成員】
すみません、ここは使用方法や動作結果の適切性に関する、適切な説明を与えることによって信頼が生まれるという、もともとの論理ですので、その信頼性を確保する仕組みは書く必要はないわけです。結果として信頼性が生まれる、という論理だったわけです。ですので、少し強過ぎるというご意見であれば、単に「状況」を、「用途・状況」ぐらいにする程度の修正の方が。

【北野副議長】良いかもしれないです。

【堀構成員】
ええ。論理は余りいじらない方がいいかなと思います。

【北野副議長】そうですね。では今の議論の方向で修正をすることにして、一字一句がポイントになってくるので、いま口頭でやり取りして齟齬があるといけないので、後ほどメールで回していただいて、確認しましょう。

－３８－

次は、その下の「ＡＩ工学を確立するとともに、倫理的側面、経済的側面など幅広い学問の確立及び発展が推進されなければならない」。これは良いですか。これは良いと思います。
「ＡＩ技術の健全な発展のため、プライバシーやサービスというもの確保や、企業秘密及び機密情報への配慮を前提にしつつ」というところ、その後の「国境を越えて流通し」は、さきほど議論になったポイントになりますね。
まず「企業秘密及び機密情報への配慮」という文言を入れるというのはどうですか。

【杉山上席政策調査員】
補足しますと、もとのご意見では、プライバシー、セキュリティーと企業秘密、君湯情報を同列に扱っております。

【北野副議長】プライバシー、セキュリティー、企業秘密及び機密情報の保護ですね。
これは特に議論はしていないけれども、ＡＩでなくても、その辺は当然のことではあります
よね。文言として入っていなくても、「配慮しなくても良い」ということではないですよね。
この文言を入れたことによって、何か、我々が意図していないことが起きますか。

【中川構成員】
政治的な点で、よく分からないのですが、例えば、米国が今、中国とやり合っている、技術情報の開示要求を中国が法律で設定しているけれども、それに対して米国は反対の立場をとっていますよね。企業秘密であったり、機密情報であったりする部分というのは、やはりある意
味で競争力の源泉ですから、確保したいというインテンションが米国にはおそらくある。追いかける側の中国は、そんなもの秘密にしておかないでよという、こういうバトルフィールドの輪の中の話になっているような気がするので、我々はどう考えたらいいのかというのは、政治的な観点も含めて、微妙なところではありますね。

【北野副議長】
企業秘密及び機密情報、いろいろありますからね。これはもちろん適正に保護されるような話で、ＡＩと関係なくそうなります。

－３９－【中川構成員】
一般的、一般論です。

【北野副議長】一般的な話なので、ここに書くのかどうか。また、この会合では余り議論していないですよね。議論していなくて、想定外の意味合いがある可能性もあります。ですから、入れるのであ
れば、きちんと議論してから入れないといけないですね。

【浦川構成員】
事業者の立場から言うと、やはり我々が持っているデータというのは、どこからどこまでが企業秘密なのか、機密情報なのかということは、それなりに定義は難しいと思っています。それを一定のデータ保護、マスキングを含めたデータ保護をした上で開示したり、利用したりしてもらうとか、流通するということはあるのかもしれませんが、この場でその辺りのデータ保
護に関する細かい議論はしてこなかったと思うので、ここまで書くべきなのかどうかというのは、悩ましいと思います。

【北野副議長】あらゆる分野のデータが、相互利用されるというときに、プライバシーとセキュリティーだ
けではなくて、企業秘密、機密情報のことが触れられていないので、それに関しては、議論されないのかということで、コメントされている可能性はありますよね。
「国境を越えて流通」のところも含めて、一度議論しないといけないですね。「国境を越えて流通」と言いますか、おそらく、そういったデータシェアリングが重要なのですが、今の我が国の法体系では、国境を越えて自由に流通できないから、そことの整合性もとらなくてはい
けないでしょう。
今、ここでは時間もないことですし、この議論は、事務局を交えてメール審議としましょう。
10ページの一番下、「政府はＡＩ技術の社会実装を促進するため、自ら保有するデータをＡＩ解析可能な形でオープン化することを一層推進するとともに」、これはどうでしょう。

【中川構成員】
データがね……

－４０－

【北野副議長】
先ほどのところと似ていますね。

【中川構成員】
似ていますね。オープンデータポリシーのことを言っているんですね。

【北野副議長】これはあえて言わなくても、原文でも良い気がします。これは同じことでしょう。「ＡＩ解析可能な形でオープン化することを一層推進」の追加は、もちろんそういうオープンデータポ
リシーで、デジタルガバメント化していただくということは必須なのですが、パブコメのご意
見はどこでしょうか。

【杉山上席政策調査員】
資料２－１の７ページ目の上から２つ目です。

【中川構成員】
これはデータポータビリティに関する議論で、データポータビリティとは何かというと、企業なり政府なりが持っているデータを、個人が開示要求によって、自分のところに持っていく、
これが１つめですけれども、２つめは、企業間でデータをポータブルにして移動していいということを言っている部分もあるんですよね。そういうことを促進するか、というのは、まだ個
人情報保護法にもデータポータビリティが入っていませんし、政府の方針として、そういうところまでいくかどうか、ＧＤＰＲにはたしか20条にデータポータビリティがあったと思いますが、日本として、これをどう考えるかというのは、国としての方針がまだ決まっていないのではないかという気がします。

【北野副議長】ここで書いてしまうと整合性がとれなくなる危険性がありますね。

【中川構成員】－４１－

そうです。引っ張ってしまう可能性もありますし、もう少し高度な判断をしなければいけな
い部分のような気がします。

【北野副議長】もちろんデジタルガバメントなので、こういうことは必要なのだけれども、行政との整合性で考えると、この提言ではおそらく余り踏み込めなくて、ただ、阻害要因となる規制の改革だ
けではなく、推進するべき、といったことを一言、入れておくということはあるかもしれないですね。そのようにすると、議論がどのように落ちついても、整合性がとれなくなるということはないけれども、この修正案ではかなり踏み込んで、「オープン化する」と言い切ってしまっています。

【中川構成員】
すごく踏み込んで、ちょっと行き過ぎのような気がしないでもない。

【北野副議長】しかも、「自ら保有するデータをＡＩ解析可能な形でオープン化する」はどういうデータかというと、全部のデータですよね。この文言では無制限になるのでコミットできないです。ここは、この文言をこのまま入れるのではなくて、規制撤廃だけではなく、デジタルガバメント
推進のようなことは、整合性が崩れない範囲で入れるという方向の修正が良いと思います。ここの文言も含めて別途議論しましょう。
事務局案に対する議論は一通りしましたが、パブコメではいろいろなご意見をいただいています。修正案にあげられていないもので修正するべきものがあるかは、本日は時間も限られており議論できていないです。寄せられたご意見を読み込んだ上で、提言に反映させる内容の精査も、我々はしないといけないと思います。
そのため、最終案の取りまとめは、積み残しの案件もいくつかありますので、議長、副議長に一任させていただきたいと思います。この後、執筆担当の構成員の皆様とメールでの議論を密にやっていきたいと思います。その中で、皆さんのご意見をしっかり吸い上げて、最終案をまとめていきたいと思います。
３月７日ごろまでを目途にメールベースでご意見を頂いて、３月半ばに予定されていますＡ
Ｉ戦略実行会議において、「人間中心のＡＩ社会原則」の最終案の提案を予定しておりますの－４２－

で、そこまでにまとめていくスケジュールになります。
その後、統合イノベーション戦略推進会議において、「人間中心のＡＩ社会原則の策定」という形で、オフィシャルな手続に入ります。
それでは、最後に、事務局の方からアナウンスをお願いします。

【杉山上席政策調査員】
事務局です。
次回の会合については、先ほど北野副議長からもありましたが、当面、予定しておりません
が、必要に応じて、事務局からご案内させていただければと思います。
また、本日の資料、量が多いですが、郵送をご希望される方は机上に資料を残してご退出いただければと思います。
事務局からは以上です。

【北野副議長】ありがとうございます。非常に長い期間、集中的な議論、活発な議論を頂きまして、ありがとうございます。この会議は今回が、一応、最終回ということです。
ただ、議論を進める上で、皆様、または一部の構成員の方々で、フェイス・トゥ・フェイスでの議論が必要だとなった場合には、お声がけさせていただくこともあります。最終的に書き方に注意が必要ところが残されておりますので、その辺をしっかりと議論して、相応に踏み込んだ内容でありながらも国内外で整合性がとれるような、意味のある内容にしてまとめていきたいと思います。
本日は、ありがとうございました。
本日はこれにて終了したいと思います。

以上－４３－