maxzt/OpenJA huggingface dataset:
令和七年四月十八日（金曜日）
 午前九時二分開議
　出席委員
 委員長　大岡　敏孝君
 理事　黄川田仁志君　理事　國場幸之助君
 理事　西銘恒三郎君　理事　今井　雅人君
 理事　本庄　知史君　理事　山岸　一生君
 理事　市村浩一郎君　理事　田中 健君
 石原　宏高君 井野　俊郎君
 江渡　聡徳君 尾崎　正直君
 岸　信千世君 栗原 渉君
 小寺　裕雄君 田中　良生君
 西野　太亮君 平井　卓也君
 平沼正二郎君 宮下　一郎君
 山際大志郎君 山口 壯君
 市來　伴子君 梅谷 守君
 おおたけりえ君 下野　幸助君
 橋本　慧悟君 藤岡たかお君
 馬淵　澄夫君 水沼　秀幸君
 山　登志浩君 伊東　信久君
 三木　圭恵君 石井　智恵君
 菊池大二郎君 河西　宏一君
 山崎　正恭君 上村　英明君
 塩川　鉄也君 辰巳孝太郎君
 緒方林太郎君
 …………………………………
 国務大臣
 （科学技術政策担当） 城内 実君
 内閣府副大臣 辻 清人君
 内閣府大臣政務官 西野　太亮君
 デジタル大臣政務官
 兼内閣府大臣政務官 岸　信千世君
 政府参考人
 （内閣官房デジタル行財政改革会議事務局審議官） 山澄 克君
 政府参考人
 （内閣府知的財産戦略推進事務局長） 奈須野　太君
 政府参考人
 （内閣府科学技術・イノベーション推進事務局統括官） 渡邊　昇治君
 政府参考人
 （内閣府科学技術・イノベーション推進事務局審議官） 徳増　伸二君
 政府参考人
 （個人情報保護委員会事務局長） 佐脇紀代志君
 政府参考人
 （総務省大臣官房審議官）　近藤　玲子君
 政府参考人
 （総務省大臣官房審議官）　下仲　宏卓君
 政府参考人
 （文部科学省大臣官房学習基盤審議官） 日向　信和君
 政府参考人
 （文部科学省大臣官房審議官） 奥野 真君
 政府参考人
 （文部科学省大臣官房文部科学戦略官） 中原　裕彦君
 政府参考人
 （厚生労働省大臣官房審議官） 森 真弘君
 政府参考人
 （厚生労働省大臣官房審議官） 青山　桂子君
 政府参考人
 （経済産業省大臣官房審議官） 奥家　敏和君
 政府参考人
 （中小企業庁経営支援部長） 岡田　智裕君
 政府参考人
 （防衛省大臣官房サイバーセキュリティ・情報化審議官） 家護谷昌徳君
 内閣委員会専門員 田中 仁君
 ―――――――――――――
委員の異動
四月十八日
　辞任 補欠選任
 井野　俊郎君 小寺　裕雄君
 塩川　鉄也君 辰巳孝太郎君
同日
　辞任 補欠選任
 小寺　裕雄君 井野　俊郎君
 辰巳孝太郎君 塩川　鉄也君
 ―――――――――――――
四月十八日
　日本学術会議法案（内閣提出第三六号）
は本委員会に付託された。
 ―――――――――――――
本日の会議に付した案件
　政府参考人出頭要求に関する件
　人工知能関連技術の研究開発及び活用の推進に関する法律案（内閣提出第二九号）
 ――――◇―――――
○大岡委員長　
　内閣提出、人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。
　この際、お諮りいたします。
　本案審査のため、本日、政府参考人として、お手元に配付いたしておりますとおり、内閣官房デジタル行財政改革会議事務局審議官山澄克君外十四名の出席を求め、説明を聴取いたしたいと存じますが、御異議ありませんか。
 〔「異議なし」と呼ぶ者あり〕
○大岡委員長　質疑の申出がありますので、順次これを許します。平井卓也君。
○平井委員　おはようございます。自由民主党の平井卓也です。
　今日は、久々に質問のお時間をいただきまして、ありがとうございます。ここで質問に立つより答弁していた方が多かったので、圧倒的に質問する方が楽しいので、今日は楽しみながら質問をさせていただきたいというふうに思います。
　私も、二〇〇〇年に当選して、ＩＴ基本法が施行されて以降、デジタル分野に関わって今日までいろいろ仕事をさせていただきましたけれども、まず、この分野に関して言うと、与党も野党もなく、デジタルを理解して、やろうという方々と、そうではない方々というので分かれてきたように思います。
　その中で、二〇一四年のサイバーセキュリティ基本法であるとか、二〇一六年の官民データ活用推進基本法は、我々と野党の皆さんとの、協力して作った、あれは議員立法なんですね、閣法ではない。ですから、そういう流れの中でいうと、恐らく、デジタル化を進めるとかＩＴを社会実装するとかというのは、党派を超えてこれから考えていかなきゃいけない問題だろうというふうに思います。
　私も委員の一人ですから、今日まで質疑を拝聴させていただく中で、今回の法案に関しては、非常に皆さん、ポジティブな質疑が多かったのではないかなというふうに思います。
　これはＡＩに限らず、テクノロジーを社会実装するときに起きる問題というのはいろいろあるんですけれども、ほとんどの問題は、既存の、現行の法律で解決できることの方が多いんですね。
　ただ、今回、ＡＩというのは、ここに来て、実はＡＩというのはもう五十年の開発の歴史があるんですが、ここ数年の基盤モデル、ラージランゲージモデルが出てきて以降の投資と開発とその成果、ここが大きく変わってきたというところがあって、そこに対する、常にキャッチアップしながらそういう問題に取り組んでいくというようなことが実は大変だというふうに日々感じています。
　なので、私の担当しております自民党のデジタル社会推進本部の会議というのは、恐らく自民党政調の中ではぶっちぎって回数が多いんですね。私も、一週間に何回あるのかというぐらい。そのぐらいやらないと追いつかない時代になってしまって、我々、どこかで少し勉強するのをサボっちゃうと、一か月で置いていかれるというような危機感を持ちながら常にやっています。
　そういう中で、ＡＩに関しては、二〇二三年の四月と二四年の四月に、我々のところでホワイトペーパーをまとめさせていただきました。これはＡＩに関するホワイトペーパーで、日本語と英語で両方作らせていただいて、海外の皆さんとの意見交換、そして、海外の方々が、そのホワイトペーパーを見ながら自民党本部を訪問していただいていろいろな議論を積み上げてきたという過去の歴史があります。
　その中で、ＡＩに関して言うと、どうしても、やはり今までとは違って、いろいろな法制度、法律との絡む中で、想定していなかったような問題が起きるというケースがあります。その法律というのは、まず、ぱっと思いつくのが二つです。著作権法と個人情報保護法です。
　ＡＩというのは、インターネット上にある全てのデータを学習してしまいます。今の基盤モデルはもうほとんど、全てのオープンになったデータをみんな学習しちゃっているということで、その中にはいろいろな、著作物もあれば、個人情報も当然入っているわけです。
　私は、著作権に対する議論を少しここで拝聴している中で、今難しくなっているというのは、クリエーターの著作権を守るという話も当然あるんですけれども、クリエーター自身がＡＩを利用して作るというのはもう当たり前な時代になっちゃったということは、権利者であると同時に利用者でもあるということで、恐らく多くの、これから出てくる曲であるとか絵画であるとかアニメとか、やはりＡＩをどこかで使って、最後は人間の責任で世に出していくということになるんだと思います。
　そして、個人情報保護法に関して言えば、これだけ世の中に個人情報というのはオープンになっているわけで、それをＡＩが、学習段階で、なかなか、それを全部排除してというようなことは不可能なんですね。
　そういうことがある中で、この著作権法と個人情報保護法というのは、ある一定の、我々が関与をしていく必要があるのではないかなというふうに思います。
　まず、個人情報保護法に関して言いますと、データは国境を越えて流通するということで、まず、法制度の国際整合性が非常に重要だと思います。ＯＥＣＤの個人情報保護法に関する国際的な指針と日本の個人情報保護法の違いは何かということを、まず政府参考人にお聞きしたいと思います。
○佐脇政府参考人　お答え申し上げます。
　個人情報保護制度につきましては、それぞれの国、地域によって文化的、歴史的な背景もございまして、様々な制度が存在してございますが、その中で、ＯＥＣＤ加盟各国の共通の考え方につきまして理事会勧告が出されており、それがプライバシーガイドラインと称されてございます。現在、このプライバシー、個人データ保護に関するグローバルスタンダードとして受け止められておりまして、我が国の個人情報保護法もそれに準拠したものになってございます。
　他方、ガイドラインは基本原則を示しているものでありますので、法制度の具体的な規律につきましては、依然として国、地域で差異が見られます。そのため、データ利活用の多様化、グローバル化の進展に伴いまして、そのような具体的な制度の違いも企業活動の足かせになり得るものですから、現在、各国の我々と同等の責任を持っている機関同士では、そういった更なる国際調和というのは議論の対象になって、鋭意進めているところでございます。
　引き続きまして、国際的な動向や情報通信技術の進展等も勘案しながら、必要に応じた制度、運用の見直しに邁進してまいりたいと思います。
○平井委員　ありがとうございます。
　そして、これも個人情報保護法に関してなんですけれども、個人情報保護法の附則第十条に基づいて、個人情報保護委員会は、法律を三年に一度見直すこととしていますが、いわば法改正が頻繁に行われると、制度の不安定性から、ＡＩを使う企業も含めて、投資を控えてしまうという可能性もあり、いろいろな新しい開発も停滞するリスクがあります。
　この見直し期間、制度改正を検討する意向があるのかないのか、その辺についてお聞かせください。
○佐脇政府参考人　お答え申し上げます。
　議員御指摘のとおり、令和二年改正法附則第十条におきましては、国際的動向や情報通信技術が急速に変化する中にあって、適時に対応した法制度とするために、三年ごとに見直すことを政府に義務づけられております。
　また、同条では、検討の結果、必要があると認めるときは、その結果に基づいて所要の措置を講ずるものとされておりますので、法改正が必ず求められているものではないと承知してございます。
　私ども個人情報保護委員会におきましては、現在、同条の規定を踏まえまして、令和五年十一月から、三年ごとの見直しの検討を開始しまして議論を積み重ねたところでございますが、その過程におきましても、委員御指摘のように、制度の不安定性を懸念する御意見もいただいてございます。
　また、制度の見直しにつきましては、法の定める定期的な検討に限りませんでして、必要な観点から必要な時期に適切に行うということかと思ってございまして、例えば、ＡＩをめぐる政策の検討をする機会がそうでありますように、データの利活用の実態や環境の在り方と整合的に行うという観点からも見直すことが重要であろうかと思います。
　例えば、現在でいいますと、デジタル行財政改革会議におきましても、データ利活用に係る制度、システムの検討につきまして包括的な検討が行われておりまして、その中でも、個情法は利活用の基盤的な制度の一つと位置づけて、全体の検討の中で扱われているというふうに承知してございます。
　個人情報保護法の改正を検討するに当たりましては、これらの様々な要素を踏まえまして行うべきものと考えてございまして、三年ごとの見直しの規定の在り方も含めまして、御指摘を踏まえ検討を進めてまいりたいと思います。
○平井委員　まあ、そうだと思います。
　今、ちょうどデジタル行財政改革の話もありましたけれども、結局、ヨーロッパのデータ法が出てきたように、官民データ活用推進基本法も、二〇一六年にできた法律ですけれども、もう一回、野党の皆さんと見直して、改正をしていかないといけないという話につながっていくというふうに思います。
　ですから、個人情報保護法の改正と官民データ活用推進基本法の改正、これが両方成って、個人情報保護法の理念に基づく、利活用と保護のバランスを取るということができるんだろうというふうに思いますので、時が来ましたら、是非、野党の皆さんにも一緒に議論に参加していただければというふうに思います。
　そして、先ほども申し上げましたけれども、ＡＩの開発を通じては、個人情報を収集、利用するという意図がなくても、学習データに個人情報は含まれてしまうし、期せずして個人情報保護法の適用対象になってしまうと、開発をためらうというようなことがあります。このようなケースは、元の保護の趣旨とは異なるために、法制度の見直し、合理化、実態に合わせた改正が必要ではないかと思います。
　また、その際には、制度は合理化するが罰則は強化するといった代償は、ＡＩ開発を萎縮させるおそれがあり、統計作成等の定義が明確でない場合も、これも萎縮につながると思います。
　個人情報の利用を最小化する技術、これは今物すごく、プライバシー・エンハンシング・テクノロジーなんかが非常に進んでいますので、そういうものの利活用も考えながら、不安を解消してＡＩ開発を後押しするような見直しをすべきだというふうに考えておりますが、個人情報保護委員会、政府参考人の皆さんに御意見を承りたいと思います。
○佐脇政府参考人　お答えいたします。
　ＡＩの学習データと個人情報の関係につきましては、学習データに含まれる個人情報に係る本人につきまして、一般的な事業活動で個人情報データベースを取り扱う場合と同様に、本人に同意といった関与を求めることの適否が論点になっているというふうに思ってございます。
　この点に関連しまして、現在進めております三年ごと見直しの中で、制度の基本的な在り方まで立ち戻った議論を進めておりまして、そこで、同意を含めた本人の関与の在り方を検討する場合には、本人の権利利益に直接の影響があるかどうかという切り口も重要じゃないかという御示唆をいただいたところでございます。
　こういった御示唆を踏まえた検討を深める中で、今年三月に制度的論点の全体像を発表いたしましたけれども、その中で、特定の個人との対応関係が排斥された統計情報等の作成、これには一部学習データを用いたＡＩの開発が含まれるわけでございますけれども、それのみに利用されることが担保されていることなどを条件に、本人の同意なくとも個人データなどの第三者提供、あるいは、公開されている要配慮個人情報、これは本来は本人の同意を前提で取得するものでございますが、公開されているそういった情報を同意なく取得をすることができるようにしてはどうかといった規律の考え方を整理してお示ししているところでございます。
　なお、抑止効果、萎縮効果ということでございましたけれども、個人情報保護法におきましては、一般的にルールの遵守を求めるための措置が設けられておりまして、新しい規定につきましても、少なくとも横並びに、同様に、ルール違反を抑止するような、実効性のある仕組みが導入される必要があるとは思いますけれども、今ほど委員が御指摘がありましたとおり、それによってＡＩ開発推進の効果が損なわれることになるのであれば、改正の趣旨にもとることになろうかと思います。
　このようなことにならないように、萎縮効果には様々な原因があると思ってございまして、その解消のために、委員が御指摘がありました、例外が適用される場合の、統計作成などの定義をより明確化するでありますとか、ルールの遵守を担保する仕組みとして、罰則その他だけによるのではなく、ＰＥＴｓといったものの技術をしっかり位置づけるとか、あるいはルールにしっかり見合った、バランスの取れた違反行為抑止策を検討するといったことが重要であろうかと思ってございます。
　こうしたことを踏まえまして、今回の規律が、利用者や消費者を含め、様々な幅広い関係者に受け入れられる内容となりますよう、引き続き対話も重ねながら検討してまいりたいと思います。
○平井委員　くれぐれも開発を萎縮させるようなことがないようにお考えいただきたいと思うし、今、ＡＩ戦略というのは非常に重要なときだし、この法律ができたら、まさに日本のＡＩを前に進めていかなきゃいけないときに、その障害になるようなものは一つずつやはり取り除いていく必要があるんだろうと思います。
　私は自由民主党の広報本部長なんですが、自由民主党の広報本部では、政府より早く、実はＡＩの開発をしています。これは、株式会社フィクサーさんというベンチャー企業と一緒になって、どうやったら安全に使えるのかと。正直言って、チャットＧＰＴなんかをＡＰＩ連携して使った方が、それはＡＩとしてはレスポンスも速いし、いろいろな、全ての情報を拾えるので、いい面もあるんですけれども、党として、ＡＩを実装する場合には何が必要なのかというのをずっと考えてきました。
　そこで、結局、自民党ＡＩというのは、今、広報本部の中に、一応閉じた存在にはなっているんですけれども、恐らくＡＩを使おうとしている企業等々にも参考になるような、いろいろな問題を我々はちゃんと一つずつ解決しています。
　ですから、自民党独自のナレッジベースといいますと、過去五年間の自民党のデータは全部学習しているし、クローズドブック型のＲＡＧ、要するに、過去の自民党の正しいデータを参照して生成する。あとは、とはいえ、最新の情報も引っ張ってこなきゃいけないというようなことと、出力にはやはりガードレールが必要で、おかしな出力にならないようにしなきゃいけない。ましてや、自分たちがやるプロンプトとかそういうものは、やはり厳格に管理されなきゃいけない。つまり、使い勝手のところを大分犠牲にしてでも責任あるＡＩを作るということじゃないと、広報本部が作る印刷物とかいろいろなものの中にそういうものが入ることを防ごうとして、そうしました。
　当然、これからはデジタル庁が中心となって、今度は、ガバメントクラウドの次のフェーズは、間違いなくガバメントＡＩなんですよね。そこに、今回、我々もこれから提言の中に入れようと思っていますが、デジタル庁は現時点でどのようにお考えでしょうか。
○岸大臣政務官　平井先生には、いつもデジタル社会推進本部等で大変御指導いただき、ありがとうございます。
　今、ガバメントＡＩの御質問をいただきました。
　まず、我が国においては人口減少という喫緊の課題に直面をしております。今後も行政サービスの質の維持向上を図るためには、政府において、デジタル技術、そしてＡＩの実装、これによる業務の効率化を図ることは極めて重要な課題だと考えております。また、社会全体でＡＩ導入を進めるためには、政府自らが積極的にＡＩを利活用することが何より重要であるものと認識をしております。
　このため、デジタル庁では、ＡＩの利活用による画期的なアイデア、サービス等を創出する場として、今現在、アイデアソン・ハッカソン等を実施しております。ＡＩの利活用のユースケースの発掘に努めているところでありまして、特に有効性の高いものについては、やはり安全性を検証した上で、しっかりと各府省等へ横展開を進めていきたい、そのように考えております。
　また、御指摘のガバメントＡＩですけれども、政府全体で利活用の可能なＡＩ基盤を指すもの、このように承知をしております。このＡＩ利活用においても、各府省で個別調達によって無駄が発生している、これを削減をする、さらには、このＡＩ利活用を通じたデータ、経験の蓄積、こうしたものをしっかりと集約する、こうした好循環のサイクルというものをつくり出すことがやはり重要だと考えております。
　今まさにデジタル庁では、デジタル庁職員によるＡＩ機能のプロトタイプ開発、これに取り組んでおります。また、政府率先としたＡＩの利活用の実現に向けて、もちろん最大限、全省を挙げて取り組んでいきたい、そのように考えております。
　また、これには、やはりガバナンスの観点も重要でございます。各府省へ、まず、ＡＩ統括責任者、ＣＡＩＯの設置、またさらには、職員向けの生成ＡＩ利用ルールの策定を求める、生成ＡＩの調達、利活用に係るガイドライン、これも本年五月を目途に策定をし、また、政府における生成ＡＩの推進、ガバナンス体制をしっかりと構築してまいりたいと考えております。
○平井委員　是非、デジタル庁は率先して責任あるＡＩを使えるような環境を整えるべきだと思うし、今も実際、地方自治体もＡＩをほとんど使っているんです。ただ、部分的に使っていて、私から見ると、本格的にＡＩの機能を発揮させているかどうかというところには疑問があります。
　ＡＩは、さっき言ったように、ガバナンスとかセキュリティーとかが非常に難しい面もあるので、ここはデジタル庁が自らやはり整理していく必要があるし、恐らく、開発環境、つまりアプリケーションなんかを、今のＡＩを使っちゃうとあっという間にできちゃうんですね。そういう機能をうまく利用すれば、例えば、地方自治体とかいろいろな国の機関が新しいサービスを立ち上げようと思ったときに、恐らく、今までみたいに半年も一年もかかるんじゃなくて、一、二週間で新しいサービスをローンチできるようなことも可能なのではないかなというふうに思います。
　もう一つ、データが大事だということは当然そうなんですけれども、デジタル庁というのは、私は、つくった立場で思い返して言うんですけれども、データのオーソリティーとしての機能は設置法の中にきっちり入っているわけです。つまり、全てのデータ戦略の責任ある立場でなきゃいけないんですが、今なかなか、システムだ何だで手が回っていないという現状もあって、そこを強化しないと、これから、ＡＩもそうですし、全ての産業、特に最近皆さんが注目しているロボティクスなんかはデータが一番の競争領域だと思います。
　その辺のところについて、どのように御検討されているのでしょうか。
○岸大臣政務官　まさに先生の御指摘、デジタル庁としても使命感を持って取り組んでいきたいと思っております。
　また、我が国においては、豊かな生活、産業競争力の強化、ロボティクス等々も含めた、これを実現するためには、ＡＩの活用、またデータの利活用が必須だと考えております。そこには、やはり信頼性のある、そして正確なデータをどう取り扱っていくか、こういった観点、さらに、量、質、こういったものを考える必要があると考えております。
　ただ一方で、データの利活用はまだこれまで十分に行われていないという現状を踏まえ、まずはデータの利活用をしっかりと加速をしていく。さらには、個人及び企業の権利利益等の適切な保護、こうした観点も重要でございます。これを両立をさせるような制度設計とするべく、まさに今、デジタル行財政改革会議でこの両面の議論を進めているところであります。
　この在り方については、前回、二月に開催された第九回デジタル行財政改革会議において、石破総理から、新たな法制度の必要性を含め検討し、基本的な方針というものを今年の六月めどに策定をするよう御指示をいただいたところでありまして、ＡＩの活用も視野に入れたデータ戦略、これをしっかりと議論を深め、また検討を深めてまいりたい、そのように考えております。
○平井委員　もう時間がなくなってきたので、最後に大臣にお聞きしたいんですけれども。
　まず、今回の法律、やはり一番今までと違って、この法律の特徴としては、法律自体がアジャイルに対応できるというところだと思います。そうじゃないと、多分、私がデジタル社会推進本部で経験しているように、余りにも変化が激しいので、そういうものに柔軟に対応できるための法律というのは、恐らくこれからは、テクノロジー関連の法律は同じような形になっていくと思います。ですから、柔軟なアプローチを、ハードロー、ソフトローを組み合わせてやっていくということだと思うんです。
　ＡＩに関して、私自身も使わない日がない中で、まず一つ、これは本当に、自分の能力が高まっているのか退化しているのかがやや不安になります。ポジティブに言えば、自分の能力が拡張されたようにいろいろな仕事ができる反面、では、ＡＩを取り上げられちゃったら私はどうなるんだろう、つまり、ＡＩ依存人間が増えてしまうという懸念が一つあります。
　そして、今はそういうツールとして使っているんですけれども、恐らく、余りにもＡＩが情報を学習して人間以上の働きをするようになったときに、意思決定の中にＡＩの判断というものが物すごく大きな比重を占める可能性があるんですね。そこが私は怖いと思っているんです。つまり、意思決定に関してはあくまでも人間がコントロールしなきゃいけないんだけれども、日々使って、それが当たり前になってしまうと、ついついそこに意思決定を委ねたかのような結果になるのではないかと思うんです。
　これが、私は、これからＡＩを社会実装する上で非常に大きな問題だと思うんですが、アジャイルな対応と、責任あるＡＩの意思決定等について、大臣のお考えをお聞かせください。
○城内国務大臣　お答えします。
　平井委員におかれましては、これまで、科学技術政策担当大臣、また初代デジタル大臣としてＡＩ関連の施策を数多くリードしてくださいましたし、また、自民党デジタル社会推進本部長としても本法案の礎となるような考え方をまとめてくださったことに、改めて感謝を申し上げたいと思います。
　委員御指摘のとおり、ＡＩの技術がどれだけ発展しようとも、人間の社会がＡＩに支配されるようなことがあってはならない、これは私もこれまでの答弁でも申し上げたとおりでございますが、やはり、人間が自ら判断し、意思決定、コミュニケーションを行うことは極めて重要であるとともに、ＡＩの研究開発及び利活用の大前提である、これはもう紛れもない事実だと思います。
　平井委員が科学技術政策担当大臣でおられたときに取りまとめていただきました人間中心のＡＩ社会原則におきましても、目指すべきはＡＩレディーな社会、これは人間中心であることを強く掲げられました。人間の尊厳が尊重される社会とする必要があることが、しっかりと示されているわけでございます。
　今後策定するＡＩ基本計画におきましても、こうした考え方をしっかりと、そしてまた、国際的な規範には、やはり人間中心の考え方も示されておりますので、しっかりとこうした考え方を踏まえて、いずれにしても、人間にしかできないこと、人間がすべきことを十分に考えた上で、今後ともＡＩ政策をしっかりと進めてまいる考えであります。
○平井委員　ありがとうございました。これで終わります。
○梅谷委員　立憲民主党の梅谷守です。
　この間の質疑を踏まえ、また、私自身が今持っている問題意識、これについての質問をさせていただきたいと思います。
　まずは、この目的や基本理念、基本計画、そして指針、ここの中における、今何度も御答弁されていた人間中心のＡＩの原則、これの位置づけについてお尋ねをしたいと思います。
　それに当たってまず確認をさせていただきたいのが、基本計画と指針について、私はこう理解しています。
　基本計画というのは、政府に向けられたもの、そして、今後政府が施策を講ずるに当たっての方向性を示す、すなわち我が国政府としてのＡＩ政策の全体図、これと同時に具体策を示すものだというふうに私は理解しています。
　そして一方で、指針ですけれども、これは、事業者やまた研究開発者、そして一般のＡＩ利活用をされる方々に向けられていて、いわば、そこに向けての行動規範だったり、また倫理基準、ないしは配慮すべき考え方、要素、こういったものを示すものだというふうに理解していますが、この理解でよろしいですよね。
○城内国務大臣　梅谷委員の御理解のとおりでありまして、基本計画はまさに政府が推進すべき事項を定めるものでありまして、これが十八条。そしてまた、本案第十三条に基づく指針、これは、事業者を始めとする全てのＡＩ関係者が遵守すべき事項を定めるものであります。
○梅谷委員　理解は間違っていないということで。
　そして、二〇一九年に示された、先ほど来の人間中心のＡＩ原則、これは広島ＡＩプロセスでもつながっているものですけれども、この原則が、今も御答弁で、基本計画に盛り込んでいきたい、しっかり踏まえて考えていきたいという御答弁でしたけれども、基本計画と指針にこの人間中心のＡＩ原則が盛り込まれる方向で検討中だということで間違いないのか改めて確認させていただきたいのと、それぞれに盛り込まれる人間中心のＡＩという原則の考え方は、実質的に、本質的に違いがないものなのか、この点、いかがでしょうか。
○城内国務大臣　お答えします。
　梅谷委員御理解のとおり、人間中心のＡＩ原則の重要性に鑑みまして、この考え方をＡＩ基本計画及び指針にしっかりと盛り込む予定となっております。また、両者に記載する内容は、詳細な書きぶりや分量に違いが恐らく出てくると思うんですが、同様の考え方を両者にしっかり盛り込むことを想定しております。
○梅谷委員　ありがとうございます。
　何度もこの点、質疑、委員から指摘がありました。やはり、私も特にそう思うんですが、この考え方、大原則、人間中心のＡＩという大原則、又は先日馬淵委員が指摘をされた憲法的価値ないしは立憲主義的価値、こういったものをやはり目的や基本理念に盛り込まなければ、盛り込まないことは、我が国のＡＩ政策の枠組みとなる理念に示さないことは問題なのではないかというふうに思っています。
　そこでお尋ねしますが、そもそも基本計画と指針に同じ内容のものを、表現は若干違えど盛り込むのであれば、そもそもこの理念に法文として法体系に組み込む、法律に書く、これをするべきなんじゃないでしょうか。御見解をお願いします。
○城内国務大臣　ＡＩの研究開発や活用を進める上で人間中心のＡＩ原則の考え方を尊重することは、これは当然非常に重要なことであり、まさに一丁目一番地じゃないかというふうに思います。このため、今後ＡＩ戦略本部が策定する、先ほど申しましたＡＩ基本計画には、その冒頭に、人間中心のＡＩ原則の考え方を記載することを検討しております。
　基本計画は、ＡＩの研究開発及び活用の推進に関する施策について基本的な方針等を定めるものであることから、この計画の冒頭に記載されることで、法案に直接書き込まずとも、人間中心のＡＩ原則に基づき各施策が行われることを担保できるものと考えております。
　やはり、法案第三条五の基本理念においては、国際的協調の下に推進する旨の記載もありまして、その国際的協調は何かというと、広島ＡＩプロセスの国際指針、これが重要であるということでありますので、その中には人間中心のＡＩ原則が含まれておりますので、当然に、本法案に記載されていなくても、そこに既に含意、意味が含まれているというふうに考えております。
○梅谷委員　それが一丁目一番地である、当然に前提になるという話ですが、それは政府が前提としますと言っているだけにすぎず、法体系として、法律上当然の前提になっていません。だから私は、やはり人間中心のＡＩ、法律上位置づけられた価値になっていないものは、ここでしっかりと国会で確認をして、そして法律上位置づけるべきだと本当に強く思います。
　最適の形という答弁もよくされておったんですが、これについても、やはり人間中心のＡＩというのは大原則であり、大きな枠組み、そして、今回の法案は我が国初のＡＩ立法、すなわち、これがベースになってこれから進んでいく大事な枠組みなんですね。この枠組みに対して大きな枠組みを載せずして何で一丁目一番地になるのかと、私は強い疑問を抱かずにはいられません。
　改めてなんですが、本法案が枠組みを示すものだからこそ、大枠となる大原則は法律に書く、その枠内で基本計画や指針を作るというたてつけであるべきだと思います。また、幾らＡＩが日進月歩であったとしても、もしその大原則を変更する、動かす必要があるのであれば、やはりそこは民意を踏まえるべきであって、行政や本部だけで決めるようなものじゃないと思いますが、御見解、お願いします。
○城内国務大臣　今御答弁したとおり、人間中心のＡＩということは、これは一丁目一番地であり、基本中の基本でございまして、基本計画のまず冒頭にしっかりうたうことは先ほど述べたとおりでございますし、また、ＡＩ基本計画はＡＩ戦略本部の下で作成されることになりますので、具体的な記載方法は、この策定作業の中で、どういう書きぶりにするかも含めて、梅谷委員の御指摘なども踏まえてしっかり検討していきたいというふうに思っております。
○梅谷委員　ここは、もう時間もないので次に移らせていただきますが、しっかり検討していただく、そして、今後の不断の見直しの中には恐らく法改正というのも否定はしないでしょうから、それも含めてやはりきちっと一丁目一番地らしく表現するべきだということを重ねて強く申し上げ、次に移りたいと思います。
　次は、人工知能の戦略本部の司令塔機能について伺います。
　これも、まず端的に確認させていただきたいんですが、このたてつけ、内閣総理大臣がトップで、その下に担当大臣が新たに据えられ、そして全部の大臣が参加をされ、そしてそこの傍らに有識者会議、これが意見具申したり、諮問したりするんでしょうかね、そして省庁に横串を刺す、こういうたてつけだという理解でいいのかどうか。そして、この中身については、いわば各省庁の、具体的な施策、政策の立案とか執行については各省庁が行っていくたてつけだという理解なんですけれども、これで間違いないか、イエスかノーでお答えください。
　横串を刺し、そして、あとは各省庁で政策の立案、実行、執行を行うという、そのたてつけでいいか、イエスかノーかで。
○城内国務大臣　基本的にそういうことだと思います。
　ＡＩ戦略本部は、これは司令塔でございまして、設置後におきましては、各省庁が、それぞれの所掌事務に基づいて実施される個別の政策の立案業務等、これは引き続き各省庁が実施する。あくまでもＡＩ戦略本部というのは全体の司令塔ということになっております。
○梅谷委員　私、ここで一つ懸念するのは、ＡＩが、まさに技術進展が極めて速い、スピーディーだ、日進月歩どころじゃないかもしれないという、それぐらいのスピード感を持ってＡＩ対応は、政策は当たる必要がある、そう考えたときに、このたてつけというのは、いわばこれまでの従来の我が国の科学技術推進の体制とほとんど変わらないんですね。いわば事務局的には司令塔本部を担いますけれども、あとは各省庁やってくださいと。これはやはり、私はもっと改善するべきだというふうに考えているんです。
　つまり、例えば今、経産省や総務省が、ＡＩ事業者のガイドラインなどを昨年の十一月二十二日に公表されました。また、文化庁では著作権法の所管。様々な政策、事象なるものを一手にＡＩ本部として引き受けて、そしてそれらに対しての、きちんと政策立案の方向性を示したり、また執行に対しても行っていく。すなわち、内容やスケジュール感についてまでもきちんと具体的に進めていく、その体制づくりが非常に重要になってくる、私はこう確信をしております。
　この点、今のままでなく、やはりもっともっと事務局的なものから脱皮をして、そして実質的な機動力、迅速性を持った、一元化した本部体制の構築、司令塔機能の強化、これを是非やるべきだと思いますが、この点、いかがでしょうか。
○城内国務大臣　お答えします。
　各省庁で実施する施策の内容、スケジュールについては、やはりそれぞれの省庁において個別に決定することがまずは基本だと思っておりますが、重要なＡＩ政策につきましては、司令塔機能を持っておるＡＩ戦略本部が、内閣府において、関係省庁がそれぞれ企画立案する政策を全体として一元的にしっかり把握した上で、関係省庁間の適切な連携を確保してまいる考えであります。
　一方、個別政策の執行に関しては、ＡＩが活用される分野は非常に多岐にわたりますし、いろいろな細かいこともございますので、やはり、各分野の現場を知っている各省庁が適切に判断し、執行することがより適切であるというふうに考えております。
○梅谷委員　いずれにしても、司令塔機能は強化するべきだという方向性は一緒だと思います、認識は。
　そうなってくると、やはり人材登用が大事になります。この点も、これまでの審議でさんざん指摘をされました。ここで、やはりＡＩの迅速な、強力な推進のためには省庁縦割りを排して一元化するべきだ、より強化するべきだというのは私の主張ですけれども、この中で、ＡＩについての知見の深い高度人材、こういった方々は、やはりそれなりの給与がなければ難しいと思います。そうなってくると、公務員の給与体系に収まらない。
　なので、お尋ねしますが、報酬体系を含めた特別な制度設計を、新たな高度人材獲得に向け、登用に向けて行う覚悟があるのか、具体像についてお答えください。
○城内国務大臣　お答えします。
　御指摘のとおり、外部の専門人材の活用、これまた重要でありますし、引き続き人材確保を図っていきたいと思いますが、まずは、関係省庁との間で、内閣府へ出向していただける方、あるいは、それぞれの各省庁にとどまりながら、併任をかけて、何か具体的な問題が起こったときには集まっていただくとか、そして情報を共有し、しっかり相談する、そして対処すべきことは速やかに検討するというような体制を構築することが重要だと思います。
　いずれにいたしましても、ＡＩの技術の進展は大変速く、かつ幅広い分野と関係するために、関係省庁からの今申しました出向者、併任者、さらには、御指摘のとおり、外部のＡＩ技術、法制度、倫理、ガバナンスなどの専門家が必要となると思いますので、そうした外部人材もしっかり活用していく考えであります。
○梅谷委員　これまでの我が国の科学技術の進展が大分大きく後れを取ったわけですから、この反省をしっかりと踏まえて、ＡＩに関しては絶対に負けない、そういう気迫でいけば、やはり人材が何より不可欠ですので、この点、給与体系、報酬体系も含めて、是非御検討いただきたいと思います。
　次の質問なんですが、ＡＩの限界についてお伺いしたいと思います。
　ＡＩは、いわば思考がない、今主流となっている生成ＡＩですけれども、これはいわば人間のような思考がなく、あくまでも統計的そして確率論的なもののデータの蓄積の下、人間らしく表現をする、そういうことなんですが、こうなってくると、ある意味、およそ人間では起こし得ない、不可避な事故が起きる、これは多くの研究者が共有する課題です。
　例えば、ＡＩによる自動運転で見たときに、百のヒューマンエラーを防げるとしても、人間では考えられない、絶対起こさないような、そういう事故を、一人二人、引き起こしかねない。
　私は何を言いたいかといいますと、これは確かに、データを蓄積していろいろと改善、改善を図っていけば、その確率は低くなります。それでも、なくならないんです。失敗を失敗として認識せず、あくまでも確率の多いところで吐き出すわけですから。
　そうなってくると、不可避な事故、不可避な犠牲といいますか、この点が必ず残る以上、今後、製造者責任が、整理をしっかり考えていかなければ、ある意味、この技術推進法、いろいろな投資なり参入を促す、そのための法案が、推進力を欠くのではないかという疑問点があります。この点、いかがでしょうか。
○城内国務大臣　梅谷委員御指摘のとおり、ＡＩが誤った出力をし、そして誤った判断をさせられることなどによって何らかの被害が生じる可能性がある、そして、そのようなリスクに対応することは、御指摘のとおり大変重要であります。
　他方、ＡＩは多様な分野で活用されるため、特定の対応をすることで全ての分野のリスクを一律にカバーするということは難しいと考えております。このため、個々の分野、個々のケースに応じまして、適切な既存法、ガイドライン、事故の前例、判例などに沿って、リスクへの対応をきめ細かく検討することが必要となると思います。
　今後、現在では想定し得ない事故が発生する可能性もありますので、指針をしっかり整備すること等により、不適切な事案が少しでも減るように努めてまいる考えであります。
○梅谷委員　一律じゃなく個別対応していきたい、指針などでしっかり対応していきたいと言いますが、現行法上、ＡＩに関する事故が生じたときの責任の在り方は明確じゃないんです。
　なので、例えば、さんざん先ほど申し上げた、データ学習の改善などでどんなに誤作動を減らす努力をしても、残ってしまう。そうなると、製造物責任上の欠陥と認定されるんだったら、ＡＩを組み込んだ製品に消極的になる企業も出るでしょうね、出かねない。大きな事故が起きれば、国民世論の反発、社会からの拒絶反応など、ＡＩの利活用に大きなブレーキになりかねない。そして、その責任をどう整理するのかということ、ここが非常に大事な話であって、私はやはり、ＡＩとして旗振りをしている我が国が、国が、きちんとこの責任に対しても一定の方向づけをするべきだというふうに思っております。
　そこで、もう一度お尋ねしますが、責任の所在と救済、補償について、ＡＩ特有の制度を早急に法律上設ける必要があると考えますが、政府の見解を求めます。
○城内国務大臣　お答えします。
　委員御指摘のとおり、ＡＩの利活用によりまして生じる損害、これに対する責任の考え方を明確化することは、ＡＩの利活用や投資を促進していく上で非常に重要だということであります。
　こうした観点から、やはり個別の分野について、例えば自動運転車が事故等を起こした場合の責任制度や社会的ルールの在り方等について、産学官の関係者によって検討を行い、今後検討を深めるべき事項等が整理されるものと承知しております。
　今後、ＡＩ戦略本部の下に司令塔機能が加わるわけですが、その下で、例えば、今申しました自動運転車以外の分野についても、ＡＩの利活用によって生じる損害に対する責任の考え方を明確化させるべく、関係省庁と緊密に連携しながら検討を深めてまいる考えであります。
○梅谷委員　ここは非常に重要な課題だと思いますので、検討を深めていただきたいと思います。
　そして、次、インシデント情報の申告と責任免除の仕組みについてお伺いします。
　インシデント情報をいかに積極的に提出をしていただくか、その情報の蓄積が今後のＡＩ技術の改善につながっていくわけで、ここがある意味、非常に重要なコアとなる部分だ、コアの一つだと私は思っています。
　そうした中で考えていくと、たとえ悪意なく起こしたインシデントであっても、正直に申告した事業者や研究機関が法的、社会的責任を仮に問われるとするんだったら、正直者がばかを見る制度となり、大事な大事な重要な情報が集まらない。
　私は、ここをやはりしっかりと見据えて検討すべきだというふうに思っているんです。ある意味、インセンティブを設けるべきではないか。すなわち、自主的に政府に情報提供した場合に研究機関や事業者の責任を減免する仕組みや、誠実な対応を評価する仕組み、評価する制度的インセンティブを設けるべきではないかと思いますが、いかがでしょうか。
○城内国務大臣　御指摘のとおり、適正なＡＩの研究開発及び活用を推進していくに当たりまして、事業者から当然十分な情報を収集した上で政策を実施すること、これは極めて重要でありまして、そのためにも、情報提供の仕組みの実効性をしっかり確保するべく、可能な限り、事業者の情報提供に対する萎縮、これを防止する必要があると考えております。例えば、事業者が企業秘密の提出を強いられないよう、情報提供前に相談に応じるなどの配慮を行うことが想定されます。
　また、事業者から積極的に調査に御協力をいただけるような、御指摘のように動機づけの工夫も重要であります。例えば、充実した情報提供を行っている事業者の取組を高く評価したり、優良な事例として紹介したり、そういった形で同様の取組を他の事業者にも奨励することなど、議員の御指摘も踏まえて、しっかりと具体的に検討してまいりたいと思います。
○梅谷委員　私は、そういうことじゃなくて、情報提供が肝だからこそ、法的な責任、社会的責任を問われない、そういう正直なインシデントの申告を促すことが必要だというふうに言っているんですよ。
　だから、その点での検討を是非するべきだ、していただきたいなと思います。強制的な措置を設けない法案だからこそ、自主的な情報提供を促す仕組みが本当に重要になると思います。情報はリスク管理の大前提ですから、是非御決断をいただくようお願いします。
　最後に一分だけ。国民の責務について。
　これは、項目、見出しが「国民の責務」となりながら、本文ではそういう内容になっていない。また、この間の御答弁によれば、それは実質、努力なんですよというふうにおっしゃる。だとすれば、見出しをきちんと国民の努力に変える必要がある、変えるべきだと思います。でなければ、国民に無用の誤解を招きかねない、生じかねない。
　私はこの点を是非修正するべきだというふうに考えますが、お答えいただけますでしょうか。御決断を。
○城内国務大臣　この点につきましては、先日のこの委員会でも御答弁させていただいたとおりでありまして、本法案第八条の内容は、国民の皆様が、ＡＩの適正な活用を推進し、便益を享受するには、ＡＩに対する正しい理解と関心を深めていただくことが不可欠という認識の下で規定しているものであります。
　そしてまた、本法案では、第四条の国、あるいは第五条に地方公共団体がございますが、ＡＩの活用を推進する施策を実施することとされておりますが、この国や地方公共団体ですが、その施策が経済社会の便益につながる十分な効果を得るためには、国民の皆様の理解と協力が不可欠なものとなります。こうした観点から、果たさなければならない務めを意味する責務という文言を第八条の見出しに用いたものであります。
○梅谷委員　時間が来たのでもう終わりにしますが、最後に。
　私は違うと思いますよ、本当に。ＡＩがこれから社会にどんどん組み込まれる中で、国民がＡＩを使いこなす力をつけていただくことは確かに必要です、おっしゃるとおり。しかし、それは義務とか責務とは違いますよ。まして、国や自治体の施策に協力する義務というのは、その射程によっては、国民に予測もしない負担を生じたり、ＡＩ政策への国民の不信、不安の要因ともなりかねない、このことを強く指摘をし、再考を求め、終わりにしたいと思います。
　ありがとうございました。
○塩川委員　日本共産党の塩川鉄也です。
　ＡＩ推進法案について、ＡＩの軍事利用についてお尋ねをいたします。
　法案は、基本理念に、ＡＩ技術は安全保障の観点からも重要な技術と明記をしております。そこで質問しますが、法案が研究開発、活用を推進するＡＩには、殺傷兵器に使われるＡＩも含まれるのか、お答えください。
○渡邊政府参考人　お答え申し上げます。
　本法案では、我が国として、ＡＩの研究開発力の保持、国際競争力を向上させることが重要である旨を規定しております。その理由の一つとして、ＡＩが安全保障の観点からも重要な技術であるということを掲げているところであります。このため、御指摘の殺傷兵器に使われるＡＩの研究開発、活用につきましては、この法案においては想定をしていないということでございます。
○塩川委員　想定をしていないということですけれども、一方で、防衛省及び米国防省による合意というのがありまして、これは、二〇二三年の十二月に、次期戦闘機と連動する無人機の行動判断に適用されるＡＩ技術を共同研究することで合意をしております。無人航空機へ適用するＡＩ技術に係る日米共同研究に関する事業取決めの署名ということが行われております。
　また、二四年の四月には、米英豪の安全保障の枠組みであるＡＵＫＵＳが、ＡＩを含む先端技術分野での協力に日本の参加を検討すると発表しております。さらに、二五年三月三日付の日経新聞によると、ＡＵＫＵＳが二四年末までに防衛省に対し、次期戦闘機と連動する無人機に搭載するＡＩの共同研究を軸にした連携を打診したと報じられております。
　実際にＡＩ技術を、このような戦闘機に連動した無人機に活用する、そういうＡＩ技術というのはまさに殺傷兵器に係るＡＩ技術であって、想定していないということが実態とすれば、防衛省と米国防省の間でそういった研究開発が行われているということは極めて重大であります。
　三菱重工が公開をした無人機のコンセプトの一つには戦闘型の戦闘支援無人機もあり、兵器を内装化をしたり、レーダーを搭載したりと、運用に合わせて様々な使い方ができるよう設計され、陸上から離陸をし、相手を攻撃して帰還するコンセプトとなっています。
　防衛省に聞きます。戦闘機と連動する無人機は、まさに殺傷兵器そのものではありませんか。
○家護谷政府参考人　防衛省からお答えいたします。
　諸外国において戦闘機と連携して行動する無人機の研究開発が進められている中、防衛省及び米国防省は、二〇二三年十二月、無人航空機へ適用するＡＩ技術に係る日米共同研究に関する事業取決めに署名し、パイロット等の指揮の下、自律的に行動するためのＡＩ技術について日米共同研究を実施しているところでございます。
　次期戦闘機と連携する無人機の本体については、今後、現防衛力整備計画期間中に研究開発に着手することとしていますが、現時点で具体的な性能等が決まっているものではありません。
　いずれにしましても、我が国としては、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していないとの立場を明確にしてきており、また、当然のことながら、国際法や国内法により使用が認められていない装備の開発を行うことはありません。
○塩川委員　完全自律の話をしましたけれども、米空軍が行っている開発においては、半自律、半分自律ですよね、そういった形での、有人戦闘機を補佐する、そういった無人戦闘機の開発を計画をしているということであります。
　そうしますと、防衛省と米国防省が進めているような無人戦闘機、戦闘無人機についてのＡＩ技術の共同研究というのは、今回の法案の対象外、そういう趣旨ということになるわけですか。
○渡邊政府参考人　お答え申し上げます。
　ＡＩ技術はデュアルユースでございますので、その技術が経済社会のためになりますし、安全保障のためにもなるという両方の可能性があるわけでございますけれども、専ら、武器といいますか、兵器に使われるようなＡＩ、それを専門とするようなＡＩにつきましては、この法案では対象としておりません。
○塩川委員　でも、実際にはそういう開発が行われているわけですし、国際競争力の観点で、軍事力、そういった中での兵器生産についても、これを支援を行うという大きな枠組みはあるわけで、安保三文書にもそういう方向が示されているところであります。
　このような殺傷兵器そのものの兵器開発にＡＩ技術の研究開発、活用を進めていくというのは極めて重大で、憲法九条を持つ日本として断じて認めることはできません。
　大臣にお尋ねしますけれども、このような殺傷兵器にＡＩ技術を使用する、こういうことは禁止をすべきではありませんか。
○城内国務大臣　現在のＡＩの軍事利用につきましては、国際的な議論が別途なされているところでありますが、先ほど防衛装備庁からも答弁がありましたとおり、我が国としては、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していないとの立場を明確にしておると承知しております。
　引き続き、国際的な議論の場において、責任あるＡＩの軍事利用について、人道と安全保障の視点を勘案したバランスの取れた議論がなされることを期待しております。
○塩川委員　半自律も含めてＡＩの軍事利用は禁止をすべきだということをはっきりとさせることを求めて、質問を終わります。
○伊東（信）委員　日本維新の会の伊東信久でございます。
　今回の法案に対して城内大臣に御質問させていただくんですけれども、今回の法案、欧米諸国にＡＩ技術においてキャッチアップしていく、そして、逆に日本がＡＩの大国になるべくこの法案ができたということは承知しておりまして、午前中、平井議員がおっしゃっていたように、おおむね、これに対して後押しをするというのは与野党共通したことだとは思うんです。
　先ほど立憲の梅谷議員からも御質問あったんですけれども、じゃ、ＡＩに関して、これからというよりも、もう既に実用化されておりまして、もう今既にある課題について御質問させていただきたいんですけれども。
　まずは、自動運転若しくは生成ＡＩによる偽情報など、ＡＩによる事故、自動運転による事故若しくはＡＩによる名誉毀損、損害などが発生した場合、これは責任の所在はどこにあるかということをまず聞きたいわけですね。
　例えば、自動運転による事故というのは、予測されていたか否かで免責になったり責任を負ったりするということは今の法律で決まっておるわけなんですけれども、これは、作った者、つまり作成した企業なのか、使った者、所有する企業なのか、こういったところの責任の所在も含めて、ＡＩが事故を起こした場合、交通事故の事例でも構いませんので、どのような現行のルールになっているか、若しくはどのような予定であるかを大臣にお尋ねします。
○城内国務大臣　お答えします。
　ＡＩが事故を起こした場合の責任の所在につきましては、例えば、ＡＩが活用されている自動運転車が事故等起こした場合につきましては、責任制度や社会的ルールの在り方等の検討が進められております。
　今後、あらゆる分野におきましてＡＩが活用されることが想定されますので、ＡＩの活用方法は分野によって大きく異なっております。したがいまして、事故が発生した場合の対応につきましては、それぞれの分野において、各種のガイドライン等も勘案しつつ、産学官の関係者において検討していく必要があるというふうに考えております。
　内閣府といたしましては、今後、ＡＩ法案に基づきまして設置するＡＩ戦略本部の下、関係省庁と緊密に連携しながら、ＡＩが事故を起こした場合の責任の考え方について、伊東委員の御指摘もしっかり踏まえて検討していく考えであります。
○伊東（信）委員　大臣から分野においてということをおっしゃっていただきまして、非常によく分かります。ただ、分野においても、やはり進んでいるところ進んでいないところ、濃淡があると思いますので。
　私は外科医でありますので、ちょっとそれに関連して資料を出しているんですけれども、私は、消化器外科は専門じゃありません。椎間板ヘルニアのレーザー治療というのをやっていまして、レーザー機器自体にももうＡＩがあって、ある程度の出力が来るとストップがかかるようになっております。
　診断学において、今ＡＩというのは非常に発達しておりまして、例えば内視鏡の、胃カメラとか直腸鏡とかのカメラにおきまして見ていくわけですよね。体の中というのは真っ暗ですから、明かりが要るわけですね。明かりをつけて人間の目で見ていくと、それが反射して、今度は診断がしにくいということもあったりもします。それを、ＡＩがいろいろデータを蓄積していって、腫瘍の箇所に円で表示してくれる、そういったやつがもう使われております。
　もっと発達していくと、アミノレブリン酸、ＡＬＡというんですけれども、ＡＬＡというのを飲んでもらったら、そこにレーザー光線を当てたらぴかぴかぴかっと光るんですね。その光り具合をまた蓄積していってがんの診断をしていくというのももうやっています。
　若しくは、ＡＩのチャットボットを使って、患者さんのある程度の質問に関してそれが答えてくれるということも、蓄積して、既にされているんですね。
　ところが、それがもし誤診であった場合、この責任の所在は医者にあるのか、それともそれを作った者にあるのかというのを聞いてくれと昨日医者仲間に言われまして、これはどうなるんでしょうね。
　逆に、今、患者さんにおいては、不要な検査に関してかなりセンシティブになっておりまして、例えば、それを見逃して健康被害に遭ったというならともかく、それを実際に調べてみると健康だったというか、何もなかったというときも、不要な検査をしたといって怒ってくる場合もあるわけなんですね。こういった所在は医療においてどこにあるか、教えていただければ幸いです。
○城内国務大臣　大変難しい質問だと思いますが。
　まず、医療現場で発生する諸事案への対応につきましては、実はこれは私の担務ではありませんが、一般論で申しますと、医療の現場においては、まず医師が患者さんに対しまして事前にリスクを説明し、ある程度両者が合意した上で治療を行うことが基本であると認識しておりますが、ＡＩにおいても恐らく同様でありまして、ＡＩの提供者が利用者に対してリスクについてしっかりと説明をし、利用者側もＡＩのリスクを十分理解した上で、当事者間の責任の下で活用されるべきものと考えております。
　それでもなお不意の事故が発生した場合には、やはりケース・バイ・ケースでその事案ごとに、前例やガイドライン等を勘案し、判断していくということになるのではないかと思います。
○伊東（信）委員　ありがとうございます。
　ただ、やはり、かなりこれは進んでいるし、既にもう開発もしてあるんですね。今、大阪・関西万博をやっていますけれども、自動的にいろいろ調べたりするような、そういった展示もされているんですけれども、もしかしたら、医者がいなくても診断できるような、ＡＩが診断できるような、そんなシステムを開発されるかもしれません。
　そういったところも、厚労省としてはもう既に予測されているんですね。ですので、もう平成三十年にそういったガイドラインができているとお聞きしているんですけれども、厚労省からそれを説明していただいていいですか。