maxzt/OpenJA huggingface dataset:
○片山大介君　大臣が言われたことというのは、ちょっと何かふわっと分かるんですけれども、だけどやっぱり、それで、じゃ、事業者サイドからとかユーザーサイドからすると、何が変わるのかというのがやっぱりよく分からない。やっぱりガイドラインでも同じようなことが書かれているわけですよね。
　それで、確かに戦略機能、戦略本部を立てるだとかなんとか、まあそういう体制をつくるというのは分かりますけど、じゃ、それがどういうふうに実社会に下りていって、日本の社会をどう変えようとするのかという部分も余り見えてこない。やっぱりそこら辺をどう考えているのか。
　それで、一つ、大臣がやっぱり答弁でもう一つ、司令塔機能が強化されることでＡＩの研究開発及び活用に関する施策を関係府省庁が一丸となって総合的かつ計画的に推進することが可能になると。これは確かに一つそうなのかなと思ったんですが、じゃ、これも具体的にどのようなことをイメージしているのか、これを、じゃ、教えていただきたいんですが。
○国務大臣（城内実君）　お答えします。
　ＡＩはあらゆる分野で活用されていることから、これまで関係省庁ではそれぞれの個別のその所掌範囲においてイノベーション促進やリスクへの対応に関する施策を講じてきた経緯がございます。そのような経緯から、ＡＩに関連するガイドライン等については各分野の、例えば総務省とか経済産業省、そういった所管省庁においてそれぞれ個別に整備されてきたわけでございます。
　そうした中で、今後適正なＡＩの研究開発及び活用を政府全体で進めていくために、例えば本法案第十三条に基づきます指針を整備するに当たっては、これまでの既存のガイドライン、その位置付けを体系的かつ分かりやすく整理するなどの工夫を図ることで実効性を高めていきたいということを考えております。
　さらに、安全、安心で信頼できるＡＩの研究開発を推進するための取組、あるいはリスクに関する情報収集、調査、その結果に伴う対応など、法案に規定された様々な取組について、総理を本部長とするＡＩ戦略本部でありますので、そういった強力な体制の下でしっかりと、全ての関係府省庁がばらばらではなくて一丸となって進めていくことができるというふうに考えております。
○片山大介君　やっぱりイメージ付かないところがあって、ちょっとこれもう少し、例えばこんなことができるようになるよとか、こんなことをやるよとか、こんなふうなことを目指すというのが分かるよとか、何かちょっとそういうの、もし分かれば教えていただければ。
○政府参考人（渡邊昇治君）　お答え申し上げます。
　今、主要なガイドラインとしましては、事業者向けのガイドライン、あるいは初等中等教育向けのガイドライン等がございます。そのほかにもガイドライン以外の文書も含めてたくさんあるわけですけど、これ政府の中で十幾つかあるんですけど、それぞれどういう文書であって、誰に対してどういうことを求めているかということを、まず鳥瞰図みたいなものを、全体を俯瞰するようなものを作って、それを全体を束ねて、今回整備する指針を見ていただくと、こういうことをやる人はこれを見ればいいみたいなことが明確になるようにしたいというふうに考えております。
○片山大介君　なるほど。ちょっと余りイメージ湧かないですけど。
　じゃ、ちょっと次に、もう具体的な条文で幾つか話しますと、まず私が条文をざっと見て、今回二十八条なので、条文はすごく短いなというふうに思いながら見ました。
　それで、まず気になったのが、第二条のＡＩの定義なんですね。ＡＩ関連技術とは何て書いているかというと、人工的な方法による技術というふうに書かれているんですよ。これ、何でこういう言い方したのかなと思ったら、これまでの法律、官民データ活用推進基本法だとかデジタル社会形成基本法だとかでもＡＩの説明にはこの言葉が使われてきたということなんです。だから、単に踏襲しているだけなんですよね。
　ですけど、今回はＡＩに特化している法案なので、何かこれはすごく漠としている感じで、これ、ＥＵのＡＩ法に比べるとやっぱりこれ定義、すごくシンプルになっちゃっているんですよ。それで、これだと人間以外のものが全て適用されてしまうんじゃないかというふうにも思ってしまう。
　これ、事前に実は内閣府さんの方に聞いたら、ＡＩは日々進化していくので、ですから、その定義を限定した書き方にするとすぐに改正が必要になっちゃうからと言われて、まあまあそうなのかなと思ったんですが、ただ、定義が漠としていると、その定義の下で行われる施策の対象もやっぱり漠としちゃうんじゃないかというふうに思っている。それは、ＡＩの定義というのは技術の進展によって変わっていくものなんだとは思いますけれども、こうしたその、何というの、その曖昧さの残る定義だと、その対象もやっぱり理解しづらいんじゃないかと思うんですが、ここについてはどのようにお考えでしょうか。
○政府参考人（渡邊昇治君）　お答え申し上げます。
　定義につきましてこれ広めに取ったのは、広めに書いておけば頻繁に法律を改正しなくていいとか、まあそれも、そういう思いを持っている職員もいるかもしれませんけれども、私は決してそういうことではなくて、やはり技術の進化が速い中で、限定的な定義をするのがむしろ難しいというか現実的ではないということだと思います。
　定義につきましては、ほかの法令でも定義はございますし、またＩＳＯとかでも人工知能については定義をしているところであります。そういう中で、そちらの定義もやはり広めには書いておりまして、人工知能技術が大きく変化したとしても、それは適用できる定義というのを使っていると思います。
　くれぐれもあれなんですけれども、決して人間以外のものが全部人工知能とか、そういうことを申し上げるつもりはございませんで、人間のその知的な能力を模倣したといいますか、代替できるような、そういう機能を持ったものを人工知能というふうに定義をしまして、さらにそれを関連技術ということで少し広めにしておりますけれども、それは人工知能の周りにいろんな周辺技術が付いてきますので、それを含めて法律の対象にしているということでございます。
○片山大介君　分かりました。
　それで、もう一つ、この定義には、生成ＡＩには全然触れていないんですよね。というか、この定義に限らずなんですけど、今回の条文全てに生成ＡＩという言葉、一言も実は入っていないんですよ。私、これも若干違和感を持った。今、世の中の人というと、ＡＩというと、大体みんなすぐ真っ先に思い浮かべるのは生成ＡＩなんですよ。だけど、これ全く入れていない。
　それで、これもどういうことなのかというふうに聞いたら、今後この法案が成立したら、基本戦略を作るわ、それから指針、ガイドラインも作るわ、その中に書き込んでいくんだというふうには言っているんですけど、やっぱり基となる法の中にこれ生成ＡＩ入っていないのは何となく違和感ありますけど、そこら辺はどのようにお考えでしょうか。
○政府参考人（渡邊昇治君）　まず、大変鋭い御質問でお答えが大変難しいんですけれども、海外では生成ＡＩを含むアドバンストＡＩシステム、先進ＡＩシステムみたいな言い方をすることが多くて、やっぱり生成ＡＩを含むんだけど、もうちょっと広めに取っているというのが一般的ではないかと思います。
　要は、生成ＡＩというのは、質問に対して情報を作り出すみたいなそういうことなんですけれども、人間が質問しなくても情報を作り出すようなＡＩというのもあり得ると思いますので、そういうものも含めて、その高度なＡＩというのを割と法律の、そういうルールの対象にしていこうという動きが、海外でもそういう動きがあるんではないかなというふうに思います。
　しかしながら、御指摘のとおり、今これだけリスクが多様化して問題化しているのはやはりこの大規模汎用生成ＡＩが出てきたからでありますので、この法案を作るに際しては、当然その生成ＡＩがあることを意識をして当然作っているわけであります。
　ただ、じゃ、なぜその生成ＡＩに限定した条文というか、生成ＡＩを意識したような条文になっていないかというと、これはやはり、先ほど御指摘がありましたような技術進化によって生成ＡＩが、もしかしたら生成ＡＩですら陳腐化するかもしれない、一般化するかもしれないということもございますので、生成ＡＩに特化した、生成ＡＩだけを意識したような条文というのは考えていないというところでございます。
　ちなみに、今世界ではもう、生成ＡＩの次でもうエージェントＡＩというのが出てきているとか、あるいはＡＧＩ、いわゆる汎用人工知能とかＡＳＩ、人工超知能、もう議論はそっちだよみたいなことをおっしゃる方もいまして、そういう意味では、生成ＡＩに限定したような形の条文にしなくてそこはよかったのかなとは考えているところでございます。
○片山大介君　だから、それで今回書いていないと。
　そうなると、今回のこの法ができた後に、だから、基本計画、それからやっぱり指針、ガイドラインを作る、このやっぱりガイドラインがすごく大切になってくるんだと思います。そこには生成ＡＩも入れるんだとかとおっしゃっていましたけれども、そうすると、じゃ、このガイドラインをどのようなレベルまで詳しく作って、そしてそれをいつ頃までにやるのか、それで生成ＡＩについてはどのようなことまで落とし込むのか、これを併せて教えていただきたいんですが。
○政府参考人（渡邊昇治君）　済みません、先ほどちょっと具体性がないということでお叱りを受けましたので、ちょっと具体的に申し上げます。ちょっと五つぐらいのことを申し上げます、ガイドラインに盛り込みたいということで。
　一つは、まず、ＡＩ開発者がもう開発段階でＡＩの安全性をちゃんと予測をして、予想して、安全性を高めるような工夫を講じるということでございます。
　二つ目は、そのＡＩを、製品を市場に出した後もインシデントとか問題がないかのその情報を集めて、それで必要に応じて改善をしていくということであります。この改善の方法というのもいろいろございまして、いわゆるチェックツールみたいなものを使って、ソフトウェアでその安全性がないかどうかをチェックするとか、レッドチームみたいなものをつくって、会社の中で敵対的に攻撃するチームをつくってチェックするとか、あるいはＡＩ同士で戦わせて安全かどうかをチェックするとかいろんな方法が提案されていますけど、いずれにしましても、そういう安全性を高めるということをやっていただくと。
　それから、各ＡＩ開発者とか提供者がＡＩの概要とか、どういうリスクがあるかとか、こうやって使ってほしいとか、こうやって使っちゃ駄目だとか、そういう情報を開示するということも重要だと思います。そして、出てきたインシデント情報を関係者間で共有するとか、そして一番申し上げたかったことは、事業者ごとにやっぱりリスクは全然違いますので、事業者ごとにそのガバナンスポリシーみたいなものを作って、それを公表して実践していくということが重要なんではないかと思います。
　ほかにもいろいろ定めたいことはございますけれども、そういったことをそのガイドラインに分かりやすく定めたいと思います。どうしても分かりやすくというのがありますので、分量的に余り長くなってしまうとかえって分かりにくくなるので非常に難しい部分ではありますけれども、いろんなことをなるべく分かりやすく書いていきたいというふうに考えております。
○片山大介君　そうすると、その生成ＡＩの部分はどんなふうに書き込むのか、ちょっとここをもう少し教えてもらえると有り難いんですが。
○政府参考人（渡邊昇治君）　現時点では、生成ＡＩが出てきたことを念頭に作るガイドラインになると思いますので、生成ＡＩとそうじゃないものを書き分けるということは今の時点では想定していないんですけれども、これから指針の策定作業に入っていって、その間に例えばＡＧＩがかなりもう具体化してきたとか、それから、生成ＡＩ以外のＡＩでも、過去のというか、以前の一般的なＡＩもいろいろ問題が起きているよということであれば、それは何かその指針の中でちょっと別のセクションを作って注釈を付けるとか、そういう方法もあり得るかなと思っていまして、まさに今後有識者の意見等も聞きながら検討させていただきたいというふうに思います。
○片山大介君　是非それはしっかりやっていただきたいというふうに思います。
　それで、あと、その次に、今回の法案の審議でもやっぱり一番議論にもなったかなと思うのが、これ第十六条の調査研究の部分なんですよね。それで、これ条文見ると分かるんですが、ここの条文だけ物すごく長くなっているんですよ。妙に長くなっている。
　それで、ちょっとこれ皆さんに紹介したいなと思って読むんですが、これでも略して読むことになるんですけど、ＡＩの開発、活用の動向に関する情報収集のほか、不正な目的などによって国民の権利利益の侵害が起きた場合の分析や、それに基づく対策の検討、それにＡＩの推進に資する調査研究を行い、それらの結果に基づき、事業者に指導や助言や情報の提供その他の必要な措置を講じるとなっている。
　これ読むと、やっぱり何言っているか正直言ってよく分からなかった、最初に。それで、これ全部一つの文章ですからね。一つの文章の中に、これ権利利益の侵害という言葉も入っていれば、もう一つ、ＡＩの推進に資するという言葉も書いてあって、そうすると、この条文で言いたいことが推進なのか、それとも権利侵害などの不正への対策なのか、どっちか全く分からないんですよ。
　それで、今回の法案はあくまでも推進法なので、やっぱり不正対策みたいなのを独立させるとこれ規制法と捉えられかねないからというのがあったんだとは思うんですけど、余りにもこの書き方分かりづらい。何でこのような書き方にしたのか、改めて教えていただきたいんですが。
○政府参考人（渡邊昇治君）　お答え申し上げます。
　今御指摘ございましたように、十六条には複数のことが書いてあるんですけど、四つの、大きく分けて四つのことが書いてございます。一つは、例えばビッグテック等からの情報を収集するという、ＡＩの開発とか活用に関する情報収集です。二つ目は、例えば悪質な、いわゆる悪質事案といいますか、そういったものに対応する分析、あるいはその対策の検討ということでございます。そして三つ目は、その他のもっと一般的な、例えば重要な産業でどういうふうにＡＩが使われているかとか、あるいは新しい技術でどういうものがあるかという、そういう調査ということになります。最後に四つ目に、そういう調査の結果を踏まえて、事業者に対する指導ですとか助言とか国民に対する情報提供とか、そういうことが盛り込まれているところでございます。
　これがなぜ四つもあるのにこれを全部一つの条文でくるんでいるかというと、このいずれも目的はＡＩの適正な開発、活用のためでございまして、この目的は同じであります。したがって、同一の目的に資する行為ということで、一つの条文にくくるということにしています。ただ、大変分かりにくい長い条文ということでございますので、今後、基本計画ですとかあるいは指針、あるいは逐条解説も作っていくことになると思いますので、御指摘の点を踏まえまして、説明する努力をさせていただきたいというふうに考えております。
○片山大介君　それで、この条文の中で一つの、何というのか、焦点になったのが、情報の提供というところなんですね。これ、新聞とかでは国民への公表みたいな形で書いてあるんですけど、これ条文なので、情報の提供と分かりづらい書き方しているんですが。
　じゃ、この公表というのは、例えば悪質な事業者に対してその事業者名を公表するかどうかというやつなんですけど。それで、新聞によっては事業者名公表すると書いているのあれば、これきちんと、これも内閣府に事前に聞いたら、いや、公表するかどうかは決まっていないんだと、ケース・バイ・ケースで個別の案件については対処していくんだというふうに言ったんですけど、私はその個別案件によって決めていくという方が危険じゃないのかなというふうに思った。その方が、公表する際の、その何というか、基準だとか、そうした何か線引きというのをこれ明確にしなきゃいけないから、それはできるのかなと。
　しかも、それ明確にしないで、ある事業者が公表なんかしたら、これ恣意的に行われたというようなことを訴えてくる可能性もあるし、かえってこれって分かりづらくなっちゃう、難しくなっちゃうんじゃないかと思いますが、そこら辺についてはどのようにお考えでしょうか。
○国務大臣（城内実君）　お答えします。
　悪質事案の調査結果を踏まえました事業者名の公表の是非につきましては、個別の事案ごとに判断することを基本的な方向としております。
　ただ、御指摘のとおり、その判断が恣意的なものとなってはならないわけですから、そうならないように、公表基準につきましては、関係省庁等の意見も聞きつつ、しっかりと検討していくこととしたいと思います。
○片山大介君　是非それはしっかりと検討をしていただかないと、かえって動けなくなっちゃうというか、できなくなっちゃう可能性を感じます。
　それと、あと、それで今回基本的に罰則もこれ設けていないから、総じて規制の面から見るとこの法律緩くなってしまっているんです。それで、ただ一つちょっと気になったのが、私が本会議で質問したときの大臣の答弁で、罰則を設けなくても悪質な事案に対しては現行法令に基づく措置で対処可能というふうに述べているんですよね。これ気になったところで。
　そうすると、そのＡＩ対策としては、今の現行の法令で、法令で全て対処は可能なのかという話になってしまうんですけど、いや、現行の法令で対処できないグレー部分があるからこそ、今回のこの法律であって第十六条のはずなんですけど、そこの答弁はどういうことなのか、そこの整合性は合っているのか、教えてもらえますか。
○国務大臣（城内実君）　罰則を設けなくとも悪質な事案については現行法令に基づく措置によって対処可能と、この基本的な考え方は変わっておりませんが、その上で、ＡＩは技術変化が大変速いことから、現行法令では対応が困難な事案が発生する可能性がありまして、そのような事案に臨機応変に対応する必要があることから、本法案を提出したものであります。法律に基づく指針の整備や調査といった取組を政府が強い意思を持って実行することが極めて重要でありまして、そのためには本法案が必ず必要になってくるというふうに考えております。
　この本法案が成立した暁には、現在十分に対応できていないリスクあるいは潜在的なリスクについて、技術進展の動向も見ながら、関係府省庁が一丸となって迅速かつ適切に対応してまいる考えであります。
○片山大介君　大臣、いま一つ分からない、もう一回整理して聞きたいんですが。
　そうすると、今の現行法令で全て対応できるというわけではなくて、より悪質な事案に対しては適用できるものもあるけど、そうじゃないものはこの法案できちんとカバーすると、こういう立て付けということでよろしいんでしょうか。
○国務大臣（城内実君）　そのとおりで、そういう解釈でよいかと思います。
○片山大介君　分かりました。
　それで、いずれにしても、総じてこれ規制は緩くなっているのが今回の法律のこの特徴だと思います。一方、海外を見ると、ＥＵだとか中国だとかというのはもう罰則付きの規制法をきちんと作っている。それから、アメリカでは、連邦法ではないけれども、州法ではそういった規制をきちんと入れているものがあるんですよね。
　じゃ、そうするとどうなるかというと、これグローバル的な動きとしてはやっぱり例えば、何でしたっけ、個人データの保護に関する規則でＧＤＰＲというのがあったように、そのときも、ＥＵが導入をしたら結構グローバルプレーヤーはそっちに流れていって、そっちが世界標準になったというケースがあったんですよね。だから、今回もやっぱりそういうふうになっていくんじゃないかというふうに思う。
　でも、そうじゃなくて、いや、そうじゃなくて、やっぱり日本の場合はそれでも緩い方にしていくというんだったら、緩いようにしたそれなりの理由があるわけなんですけれども、それは、この前から、うちも、あと隣の柴田議員も参考人のときに質疑させていただいたですけど、やはりその規制を緩くすることによって日本にＡＩの開発というのを呼び込もうと。日本はどうしてもＡＩに対しての人材も足りないし、それから、ＡＩ先進国とは言えないから呼び込もうというようなのが念頭にあるというふうに思うんですが、そこら辺はどのようにお考えでしょうか。
○政府参考人（渡邊昇治君）　お答え申し上げます。
　ＥＵのＧＤＰＲにつきましては、確かにＥＵで個人情報に関するルールを作ったときにグローバルなプレーヤーはそれに従うようになりまして、そうすると、グローバルなプレーヤーはほかの国でも同じ方法でやるということでＥＵのＧＤＰＲが広がっていったという評価、そういうことをおっしゃる学識経験者の方もいらっしゃいます。
　ただ、一つは、これは少し個人的な解釈にもなりますけれども、個人情報の保護というのは割と、国が変わっても、ほかの国であってもそれはやっぱり保護された方がいいよねと思う方は多いと思うんですね。ただ、じゃ、ＡＩはどうかというと、どういうＡＩが良くて、どういうＡＩが良くないかみたいなところは、やはり文化的にというか、国によってもかなり差異があると思っておりまして、ＥＵで何かルールを作ったらそれが広がっていくかどうかというと、そこはまだ分からない部分だと思います。実際に、グローバルのプレーヤーでも、ＥＵでは一部のサービスはしないというふうに今宣言しているところもありますので、まだそこは分からない部分があるかというふうに思います。
　その上で、この今回のＡＩ法案は規制法ではございませんので罰則もございませんけれども、先ほどから御答弁申し上げていますように、日本でＡＩを開発するときには既存の法律も当然適用されますので、やり方を間違えますとその既存の法律の罰則が適用されるということも当然あるわけであります。つまり、日本が決して何かゆるゆるの国ということでもないわけであります。
　大切なことは、先ほど大臣からも御答弁申し上げましたけれども、ほかの法令も含めて日本の法体系全体がどういうふうになっているかということと、それが開発者にとって分かりやすくなっているかと、明確になっているかという、法解釈が明確になっていて、国家が何か恣意的なことをしないとか、そういうことが明確かということが大事なのではないかというふうに思っておりまして、これは決して海外の企業だけじゃなくて、日本の企業が開発するときにも非常に重要なことでありまして、つまり日本の企業が活動しやすいようにそのルールを作っていけば、それは海外の事業者も来やすいということになりますので、もちろん海外の事業者にたくさん来ていただきたいと思いますけれども、日本の事業者にとって活動しやすいものを作るということがまずは出発点ということではないかというふうに考えております。
○片山大介君　国によって違うといっても、基本的にこれＡＩとかはもうグローバルな、一緒なので、ちょっと国によっての違い方というのが、どういうふうに関わってくるのかが分からないと思いますし、それからもう一つ、今回は総じて、今言われたのは、今回のＡＩ法とそれから既存法の何か全体でリスクの対応をしていくと言っていますけど、じゃ、そもそもＡＩに対するリスク評価というものを今回の法を作るに当たってきちんとできているのかどうかというのが疑問になっちゃう。だから、ＡＩのどちらかというと振興の方が目的になっちゃって、ＡＩリスクの評価の議論というものは何かちょっと置いてきぼりになっちゃったような気がするんです。それで法の枠を作ったように見えるのが今回の法案なんだと思うんです。
　基本的に、その技術において、やっぱりリスクのある技術というのは社会で受け入れられないわけです。だから、その技術における規制というのはリスクを低減させていく手段みたいなものであって、それをきちんと行うことによってＡＩの利用促進をやっていくと、まあ前にもアメリカの自動車産業の関係で言ったように、ということをやっていかなきゃいけないんです。
　だから、まあ一番難しいところではあると思います。確かに、ＡＩの技術というのは変化が激しいし、先も全く読めないから、どこまでリスクを評価できるのかという部分はあるかと思うんですけれども、ただ、今回の法案を作るに当たってどこまでリスクの議論をしたのかというところはやっぱり疑問に思ってしまうんですが、そこら辺どのようにお考えでしょうか。
○政府参考人（渡邊昇治君）　お答え申し上げます。
　リスクにつきましては、明確に規制の目標が描けて、かつそれをクリアするための技術がある程度めどが付いているということであれば、これはその規制を作ることによって技術開発を誘導するということは可能ではないかと思います。
　ただ、ＡＩにつきましては、まだその明確な目標というのが、まず作りにくいという問題もありますし、それを作ったとして、それをクリアする技術があるかどうかというところも難しい部分があろうかと思います。
　ただ、だからといって何もしないというわけにもいきませんので、今回の法案のような、ある種のその指針、こういうものを作ってそれを、自主的な取組を尊重して対応していくということでございます。自主的取組ということの意味は、事業者が自発的に新しい技術をどんどんチャレンジできるということでもございますので、そういう形でございます。従来のちょっと規制とは違う形の考え方だということでございます。
　これまで政府がどのようなそのリスク評価をしてきたかということでありますけれども、おととし、二〇二三年末から、内閣府の方では、主要な産業について、このＡＩの導入実態あるいはそのリスクに対しての調査研究を行いまして、昨年の夏からはＡＩ戦略会議の下に制度研究会をつくって、そこで関係省庁の協力も得ながら、典型的な、典型的なリスクについてはテーブルにのせて議論をしてきたわけであります。
　その結果として、典型的なものについては既存の法令で対処できるんではないかということではありますけれども、御指摘のとおり、本当に多様なリスクがありますので、これについては指針を作って、その中で事業者ごとにリスク評価をして、事業者ごとにもうリスクの内容違いますので、事業者ごとにリスクをして、事業者ごとにガバナンスポリシーを作って、それを開示して実践していくということが重要ではないかと思っていまして、そういったことを求めていきたいというふうに考えております。
○片山大介君　おっしゃるとおりかなと思います。ですから、今回は、そのガイドラインを作って、そこにリスク評価の手法というのも考えてやって、ただ、それがもう絶えず変化していくと思うから、絶えずＰＤＣＡを掛けていかなきゃいけないというのはあると思います。
　それで、リスクの一例を、じゃ、挙げると、これ実は、こども家庭庁さんにちょっと来てもらったんですけど、三月に導入を見送ることにした児童虐待の判定のＡＩシステムというのがあるんですね。
　それ具体的にどういうものかというと、これ、虐待が疑われる子供の一時保護の必要性というものをＡＩに判定させようというものなんですよね。具体的には、虐待が疑われる子供のそのけがの有無だとか、けがの部位だとか、あとは過去の虐待歴だとか、そういう大体九十項目ぐらいの情報を入力すると、それに応じて零点から百点の間で判定をするということになっているんです。
　それで、これ、じゃ、実際にどうかというので、二〇二一年度から四年掛けて十億円ぐらい掛けてやってきたんだけれども、判定テストだと、何だっけ、六割が、テスト段階で判定ミスが六割に上って、実用化は困難だというふうに、まあ実用化を諦めたというわけではないですけど、取りあえずの実用化は困難だということになった。
　ここから言える教訓は何だと思いますか。
○政府参考人（源河真規子君）　お答え申し上げます。
　今御紹介のありました御指摘のＡＩツールは、令和六年度に協力自治体における試行、検証を行った結果、事前に定められた一定の項目に該当するかだけでは、けがの程度や範囲など一時保護の判断に影響する情報を正しく反映できないという課題があり、子供の命に直結するとともに、全国に提供するツールであることも踏まえ、現在の判定精度では十分ではない、更なる改良が必要と判断して、リリースを延期したものでございます。
○片山大介君　これもっと言うと、あれ、学習量がすごく少なかったんですよね。五千ケースでしたっけ。やっぱりこれＡＩはもう膨大な量を、何というか、学習させなきゃいけないので、やっぱり五千で判定というのは難しいと思いますよ、基本的に。というのがまず一つある。
　それから、あともう一つ言えば、ＡＩは、もう万能、魔法のつえでも何でもなくて、やっぱり本当に、まず、その開発するんだったら、事前に本当に実現可能なのかどうかというのはきちんと検証するというか、吟味する。その上で緻密に制度設計やっていかないと、これ、ＡＩというのはなかなか実は本当に機能しないというか、機能できない。今回は、そういう意味では、事前にそのリスクを発見して一応導入を見送ったというのでは、まあ良いケースなのかなというふうに、良いケースと言えるのかどうか分からないですけど。
　ただ、怖いのは、こういう精度の悪いＡＩがどんどん世の中に出てくるのがやっぱり一番怖いんです。こういうリスクをやっぱり、何というか、止めなきゃいけなくて、そのためには、先ほど言われたようなやっぱりガイドラインとかで、きちんとリスクをどうやって判定するのか、リスクの評価方法というのもしっかり書いて、しかも、それに合わなくなっていったらどんどんＰＤＣＡで修正をしていくというのをやらないと、こういうことがしょっちゅうほかの民間でも起きてしまうと思うんですが、そこの点についてはどのようにお考えでしょうか。
○政府参考人（渡邊昇治君）　お答え申し上げます。
　ガイドライン、指針に基づきまして事業者ごとにリスク評価をやっていただきたいと思っていまして、そのことは指針の中にも分かりやすく盛り込んでいきたいと思っているところなんですけれども。
　具体的に申し上げますと、例えば、企業でＡＩを搭載したロボットを導入したとします。このロボットが誤動作をする可能性もあるわけですね。そういうときに、もし誤動作をしたら誰にどういう影響があるかとか、誤動作をしたという情報をどうやって集めるかとか、それが集まったときに、今度その社員はどういうふうにそれに対して対処していくのかと、こういったことをきちんと各事業者がそのポリシーを作って、しかも開示をして、開示したとおりにちゃんと実行していると、そういうことを明らかにしていくということが重要でありまして、これを、そういったことを分かりやすく指針に盛り込みたいということでございます。
○片山大介君　是非ちょっとそこはしっかりやっていただきたいなと思います。
　ちょっとあと時間なくなってきたので、それであと、今回のこの法案、もし成立して施行されると、これ適用されるのは、もちろん日本でサービスを提供している海外の事業者に対しても適用されるんですよね。
　それで、大臣は本会議の答弁で、日本の企業は法令遵守意識が高いと述べていた。これはそうだと思いますよ。だけど、これ問題は、そうではない海外の事業者の場合どうするのかということが問題なんだと思います。それで、その海外の事業者の中でも日本に法人を置いていないところもあるわけですよね。ここの場合、そうしたその事業者が問題を起こしたときはどのような対応をするのか、教えていただけますか。
○国務大臣（城内実君）　お答えします。
　悪質な事案や事象が発生した場合には、日本に法人や事業所のない国外の事業者に対しましても、本法案に基づく国の調査等を行う方針となっております。
　また、友好国ではない国に存在する、所在する事業者が悪質な事案や事象を発生した場合であったとしても、あらゆるチャンネルや手段を尽くして、例えば広島ＡＩプロセスに基づく広島フレンズグループ、五十六か国プラス地域もありますので、そういったネットワークなども活用しながらしっかりと調査等を実施していく考えであります。
　また、事案の発生後に行う個別の調査だけではなくて、リスクの高い事象や現象をあらかじめ予測し、関係するＡＩをまとめて調査したり、その結果を公表することで広く国民の皆様に周知を図り、事案が拡大することを防止するなど、考えられると思います。
○片山大介君　これ日本に限らず、まあ日本の企業でも事業者でも海外の事業者でも、その事業者に対しての、これ、第七条で責務というのが定められているんですよね。それで、国のそうした調査とかに対して協力しなければいけないと言っている。これ、この手の条文の中では珍しく、しなければいけないまで、かなり強い表現になっているんですよね。
　ですから、そういった意味ではそれしっかりやってもらおうと思っているんですが、ただ、今、大臣、この前の答弁でもあったんですが、例えば友好国であれば、そうしたその情報の共有だとか連携とかは恐らくできるでしょう。だけど、今回の法案で恐らく念頭に置いているのは、友好国よりもどちらかというと友好でない国の方なんだと思うんです。
　そこに対して、大臣のあのときの本会議の答弁では、可能な限りという言い方、可能な限りとかと言われちゃうと、最初から駄目なことを想定しているんじゃないかなとこっちは思っちゃうんですけれども、じゃ、そこはどうするのか教えていただけますか。
○国務大臣（城内実君）　友好国でない国としては、例えば権威主義的な国とか日本と価値観を共有できていないような国があるとすれば、そういうところに対しても、全く国交のない国と国交がある場合もあると思いますので、いろんなチャンネルを使って、外交手段を使ったり、先ほど申しましたように、我々とは友好国じゃないけれども、先ほど申しました広島フレンズグループ、五十六か国・地域がありますので、その中にその国との関係が深い国があれば、そういった国を通じて問題提起をするだとか、いずれにしましても、いろんなケースがあるかと思いますが、あらゆる手段を使って可能な限り対処することとしたいと考えております。
○片山大介君　是非頑張っていただかないといけないなというふうに思います。
　それで、じゃ、あと、アメリカのビッグテックとかはどうなのかと。逆にアメリカのビッグテックとかは、かなり日本のこの法案に対しても気に掛けているというふうにちょっと聞いています。
　それで、これ、ビッグテックは、例えばＥＵの規制法が去年五月に適用されたら、例えばアップルは一部のＡＩ機能のＥＵ域内での提供をやめたりだとか、あと、メタもそのマルチモーダルモデルの投入を見送ることを決めただとかという感じで、結構敏感なんですよね、ビッグテックはね。
　日本の法案は、これまで言ってきたように、そんな規制を掛けるわけではないので、そんなに心配していないのかもしれないですけど、どのような反応があるのか。彼らもいろいろ言ってくるんじゃないかなと思いますけど、どうでしょうか。
○政府参考人（渡邊昇治君）　お答えを申し上げます。
　私のうぬぼれではないことを期待して申し上げますと、おおむね海外の事業者からは好意的な印象で受け止めていただいていると思います。
　それは、今大臣からお話がありましたような、決して国の、何か国家による検閲みたいなそういう法律にもなっていないし、細かな基準みたいな、過剰規制的なものでもないですし、また、逆に全くルールがないかというと、国が明確にその方針を定めて指針を定めてということになっておりますので、そういったところへの安心感といいますか、そういう部分で事業者さんは日本の法案に対して評価をしていただいているというふうに考えております。
○片山大介君　それで、あと最後に、この同盟国であるアメリカのこの最近のＡＩをめぐる動きというのは本当に極端に振れてきているなと思うので、ちょっとそこを聞きたいんですけど、そもそもバイデンさんのときは法規制しようという話だったんだけど、トランプさんになってそれをやめて、なおかつＡＩの推進を打ち出すようになったと。
　それで、実は先週、アメリカで、その下院で、ワン・ビッグ・ビューティフル・ビル、大きく美しい法案という予算調整法案が可決されて、この中には、州や自治体のＡＩ規制を十年間、十年間ですよ、禁止する条項というのが設けられる。これ、まだその上院の方が可決されていないから結局成立するかどうか分からないですけど、ここまで大きくぶれているというのが今後の日本の施策に与える影響というのはこれどのように考えているか、最後にこれ聞いて終わりにしたいと思いますけれども。
○政府参考人（渡邊昇治君）　日本の法案は、イノベーションの促進とリスク対応、これ両方、両立している法律でございますので、海外でいろんな動きはあると思いますけど、その影響は受けにくいというふうに考えております。
　ただ、当然、ＡＩは、国際的に流通する製品でありますし、海外の事業者が作ったものが日本の、日本人が使うということになりますので、海外のその動向につきましてももちろん注視してまいりたいと思います。
○片山大介君　じゃ、終わります。
○竹詰仁君　国民民主党・新緑風会の竹詰仁です。
　私も最後の質問になると思いますので、よろしくお願いいたします。
　これまでの議論と重複するところは御容赦いただきたいと思うんですけれども、先ほど渡邊統括官の御回答の中にも、どういうＡＩがいいか悪いかというのは国によっても違うし、必ずしも統一的なことは難しいというか、そういう話があって、私もなるほどと思って、やっぱり日本人あるいは日本は、この人間中心のＡＩというのはとっても大事にしてきたし、これからも大事にすべきであると思います。
　ＡＩに人間が支配されてはいけないとか、こういったことはずっと普遍的に大事にしなきゃいけないと思っていまして、今日の議論も聞いていまして、改めて、やっぱり私たちは、このリスクというのを感じながら慎重に進めてきたからこそ、例えばその製造業においても、非常に緻密にその安全のこととかも考えながら製造してきた、物を作ってきた、加工してきたとか、それが日本の製品というのが評価されているということだと思います。車もそうですけど、いろんな意味で、日本の製品とか日本が作ってきたものは何で世界で評価されているかというと、やっぱり日本らしいということが、一言で言えば日本らしいことが付加価値を生んでいると。
　後ほどクリエーターの話もするんですけれども、ＡＩが例えばアニメとか作れるようになったとしても、じゃ、何で日本のアニメはここまで売れているかというと、やはり何か日本人が作った琴線があるというか、やっぱり日本が作った、日本人が作ったものはほかのものとは違うからこそ価値があって、こうやって外国からも評価されるんじゃないかと思っています。
　一方で、今回の法案は、略称ＡＩ推進法というふうに言われているので、私もこの後、賛成討論の予定なんですけど、賛成はするんですけれども、でも本当に、赤澤大臣の言葉を借りれば、ゆっくり急ぐとおっしゃいましたっけ、このトランプ関税のことについても。やらなきゃいけないんだけれども、でも、何でもやっていいわけじゃないということがやはりこのＡＩの基本なのかなというふうに思っています。
　ちょっとそれを踏まえて質問させていただきたいんですけれども、今回の皆様の、いただいた資料の中にも、日本の場合はＡＩの利用率が低いという話が書いてありまして、利用率が低いし、かつ、使っているＡＩも、オープンＡＩとかグーグルとかマイクロソフトのような外国製品、外国の生成ＡＩが多いということなんですけれども、この二つの点ですね、大臣、先に、この日本人がＡＩの利用率が低いということと、あとは、この低いことによって生じる課題について、大臣の見解を先に教えてください。
○国務大臣（城内実君）　竹詰委員御指摘のとおりで、我が国では、他の主要国と比較して生成ＡＩを活用している個人あるいは企業の割合が少ない状況にございます。
　このＡＩの利用率が低い主な理由として、例えば、国民、多くの国民がＡＩに対して不安を感じていること、また、ＡＩの持つメリットが不透明であるため企業経営者が投資してきていないこと、そして、日本人の慎重さ、例えば誤った出力をするＡＩや個人情報が収集される可能性があるＡＩは使いたくないという意識、これらが挙げられるかと思います。
　ＡＩは、その適切な活用によって我が国の経済成長や国民生活の発展に直結する極めて重要な技術でありまして、国民のＡＩの利活用が低迷する状況を一刻も早く克服する必要があると考えております。そのためにも、ＡＩに対する国民の不安を払拭し、ＡＩの研究開発と活用を強力に進めていく必要がございまして、今般、イノベーション促進とリスク対応を両立するＡＩ法案の提出を行っているところであります。
○竹詰仁君　御回答ありがとうございます。
 〔委員長退席、理事磯崎仁彦君着席〕
　後半に、そのＡＩの開発という言葉も今大臣の中で触れていただいたんですけれども、先ほど、ＡＩの利用率低い、使っているのもほとんど外国製品のＡＩだということの中で、では、国産のＡＩはどうやって開発していきますかということで本会議でも質問させていただいたんですけれども、国産の生成ＡＩの研究開発に当たっては、この外国産の生成ＡＩを基に開発するのか、あるいはゼロベースで純粋な国産の生成ＡＩを開発するのか、どちらもあり得るんだと思っています。私は、日本は日本らしく、ゼロベースで純粋な国産生成ＡＩというのが望ましいんじゃないかと私個人的には思っております。
　一方で、この生成ＡＩの技術は日進、まさに日々進歩しているので、将来的には人間以上の知能を持って高度な作業も自動で処理することができる人工超知能の誕生も予測されていると、これまでの議論にもございました。他方で、人工超知能の誕生は、ＡＩの性能が全人類の知性の総和を超える転換点、シンギュラリティーという言葉もこれまでの議論もあったんですけど、そういったことから、人類にとって大きな影響を与える可能性があると同時に、人類の存続を脅かす可能性も指摘されているというところです。
　この国民の間には、今大臣の御答弁の中で不安を感じているという言葉もあったんですが、まさにこの人間の制御が及ばなくなるんじゃないかと、生成ＡＩが、そういった不安というのも私も聞いているところなんですけれども、ＡＩを、であればですね、このＡＩを使用した製品について国が事前の評価を行い、リスク評価を行って、不適切なものを事前に排除する、いわゆる市場に出さない、こういったやり方もあるんじゃないかと思うんですけど、こういった国による規制についてどのようにお考えなのか、教えてください。
○政府参考人（渡邊昇治君）　お答え申し上げます。
　法案に基づいて指針を整備しまして、ＡＩ開発者に対しては、不適切な出力をＡＩがしないように抑制する、しないように、出力を抑制するように開発段階でその対処を求めて、措置を求めていきたいというふうに考えているところでございます。その方法としては、今一般的に言われていますのは、評価ツールというソフトウェアを使うという方法と、あと外部監査等を使うということだと思います。
　この評価ツールにつきましては、各国の政府とか企業で開発が進められておりまして、ＡＩセーフティ・インスティテュート、この前、先般の参考人質疑で来られた村上所長のＡＩセーフティ・インスティテュートでもその一翼を担っているというところでございます。そしてまた、民間企業でこういったその評価ツールを使って安全性の検証サービスというのを行う会社も幾つか出てきているところであります。
　ただ、ＡＩは国際的に流通する製品でございますので、やはりそういう評価制度というのが国際的に認められたといいますか、整合性のある制度となることが必要ではないかというふうに思っています。今後、そういった国際的に認められた第三者認証制度が確立された場合には、その利用を事業者に義務付けるのか否か、そういった検討が行われることになるのではないかと思います。
　ただ、ちょっと現時点では、その制度の熟度とか、多様性に対応できるかとか、あるいはそのコスト、費用対効果とかの問題もございますので、ちょっと簡単には申し上げにくいんですけれども、ちなみに今年の二月のＡＩ制度研究会の中間とりまとめの中でも、この第三者認証制度については、一つの重要な視点ということで認識されていると考えております。
○竹詰仁君　今すぐには難しいというお話でしたけど、でも今、その第三者の認証制度は検討は必要じゃないかという、そんな議論もあったというのはお聞きしましたので、その議論は是非やめずに進めていただきたいと思います。
　今時点のということであれば、このソフトローとハードローのどちらを中心に、またどのようなバランスで規制していくのかというのが、このＡＩの開発とその利活用双方にとって重要なテーマだと思っております。この生成ＡＩの開発及び利活用を進めるに当たっては、無断学習あるいは無断利用といった権利侵害の懸念について、あるということで、このことについて伺いたいと思います。
　やりながら考える、何か起きたら考えるという、そういったやり方もあるかもしれないんですけど、例えば自動車というものが世の中に出てきたときに、自動車というのは画期的で大変便利な乗り物なんですけれども、ただ、道路交通法というこの規制によって初めて適正に運転できると、またそれは、運転しない人、例えば歩行者、歩行者にとっても道路交通規制法があるから安心して歩けるということもあると思うんですね。ですので、使う人間も使わない人間も、規制があることによって実はそれがちゃんと守られるというか、安全に運転できるということもあるかと思うんです。
　この急速に発展する生成ＡＩ、まさに今時点での規制は、これまでの議論でも今時点では難しいということだったんですけれども、ただ、実際に、私もクリエーターの方とかのお話や、あるいはメールとかも私が質疑に立つということで送ってくださる方もいて、やはり、自分は学習されたくないんですと、そういう御意見があったんですね。
　この学習されたくない人、あるいはそのデータとか情報ということについて、無断で学習された情報については、その権利者が自身で削除する様式をオプトアウトという様式というふうに言われるらしいんですけれども、この権利侵害がされているかどうかは自分が確認しなきゃいけない、この場合は。これは非常に難しいと、ずっと自分が見ていなきゃいけないことになってしまうので。他方で、開発者や事業者が権利者から必ず事前に許可を得る方式、これはオプトインと言うそうでありますけれども、こういった保護の方が権利保障に資するんじゃないかということなんですけれども。
　この生成ＡＩに学習されたくない人、あるいはデータ、情報の権利保護について、大臣の見解を教えてください。
○国務大臣（城内実君）　昨今のＡＩをめぐる技術革新、これ非常に著しく、文章や絵画などの創作物、そして肖像や声などについて、生成ＡＩによりオリジナルに類似した、オリジナルに近い生成物を容易に生成し利用することができるようになってきております。このような中、御指摘のように、クリエーターなど生成ＡＩの学習に用いるデータの権利者の中には、許諾を得ることなくデータが使われることなどに対し、知的財産権の侵害であるとの懸念の声があるということは私も承知しております。
　このため、生成ＡＩと知的財産権をめぐる懸念への対応につきましては、内閣府において、ＡＩ時代の知的財産権検討会、これを開催し、昨年五月に本検討会で中間とりまとめを策定したところであります。その中で、ＡＩ技術の進歩と知的財産権の適切な保護の両立に向けて、法的ルールの正しい理解を土台にしつつ、法、技術、契約の各手段を適切に組み合わせて対応することが重要であることをお示ししたところであります。
　その上で、この中間とりまとめでは、生成ＡＩに対する知的財産法の適用の考え方を解説するとともに、例えば一つの具体的な例として、画像に特殊な処理を施すことで学習を妨げる技術を紹介するなど、無断でデータを学習に使われたくない場合の対応の参考となる情報も盛り込まれております。
　引き続き、この中間とりまとめの内容について周知を行うとともに、関係省庁としっかり連携して生成ＡＩの活用動向に関する情報の収集や共有を行って、必要に応じて具体的な対応策を検討してまいりたいと思います。
○竹詰仁君　大臣、ありがとうございました。
　今の大臣の御答弁の中にもしかしたらもう包含されているのかもしれませんが、ちょっともう少し詳しく、次に政府参考人にお尋ねしたいんですけれども。
　仮に、権利者が無断でデータや情報を学習された場合に権利侵害を認識するためには、学習データが開示されていないと、それだよということが指摘できないわけですね。事前に了解があったとしても、あるいはその了解した内容のとおりに使われたかどうかということもまた問題になるということです。
　この学習したデータが開示されても、あるいは途中で変えましたと、元のデータを加工しましたといった場合もあると思うんですね。その場合は、加工した履歴がないと、元々のそのデータが本当は学習されたくないということも分からないということなんですけれども、この生成ＡＩが学習したデータや情報についての開示義務、あるいは履歴の保存とか、こういうことを義務化することについては政府としてどのようにお考えなのか、教えてください。
 〔理事磯崎仁彦君退席、委員長着席〕
○政府参考人（渡邊昇治君）　お答え申し上げます。
　学習データにつきましては、大変膨大なデータでございますので、これをどのぐらいの粒度で開示をしていただくかというのはございますけれども、私どもが整備する指針の中では、この学習データとかあるいはその開発プロセス、あるいはシステム開発中に行われた意思決定について、こういったものにつきましては、トレーサビリティーといいますか、履歴の確認ができるようにしてほしいということをその指針の中で求めていきたいというふうに思っております。
　また、ＡＩで作られた画像につきましては、電子透かしという技術がありまして、ＡＩで作ったかどうかが分かる技術なんですけれども、これも使うことを指針の中で求めていきたいというふうに思っていまして、例えば、仮に似たようなコンテンツがあったとして、やっぱり芸術家御本人が作ったものとＡＩで作ったものですということによって評価は全然違いますし、見たときの感動も違うと思いますので、午前中もそういう御質疑がありましたけれども、そういったＡＩで作ったものだということが分かるような工夫というのも考えていきたいというふうに思います。
○竹詰仁君　ありがとうございました。
　その透かしのことは私も尋ねようと思ったんですけれども、御回答の中に入っていましたので、ちょっと次に、それが、私は学習されたくない、あるいは無断で使われたといった場合に、じゃ、その方に対する補償、あるいはそのデータとか情報に対する補償はどうするのかなということで次にお尋ねしたいと思うんですけれども。
　学習されたくないデータ、あるいは情報が学習されたというときに補償をするかしないかということで、これは個人に対してもそうなんですけれども、恐らくＡＩの開発というのがずっと進んでいくと、事業者対事業者という問題もあると思うんですね。個人の、私がクリエーターだったら、私のものが使われたという、これに対する補償もありますけど、ある会社が開発したものが無断で別の会社に使われたという場合は、今度は企業対企業という関係も出てくると思うんですが、こういった無断で学習された場合、あるいは利用された場合、あるいは許可した内容とは違う内容で利用された場合、これについての補償については政府としてどのように考えていくのか、教えてください。
○政府参考人（渡邊昇治君）　お答え申し上げます。
　データが無断で学習、利用されて、それによって第三者が不利益を被った場合、即時に補償というスキームは現状見当たらないと承知をしております。一方、ＡＩの研究開発や活用の各段階におきまして、権利者が許諾していないデータの学習、利用が行われた場合には、権利者による侵害の申立てや権利行使など、個別の事例によってその権利者の取り得る手段や対応等は異なるというふうに今認識をしています。
　現状、データの無断学習等が発生した場合には、個別の具体的内容に応じまして既存法や既存のガイドライン等で対応するということが基本だと考えておりますけれども、この法案で規定された情報収集とか調査とか、そういった取組も活用しまして関係省庁と連携して適切に対応してまいりたいと思います。
　御指摘の意図しない利用があった場合の更なる対応策につきましては、今後、必要に応じて有識者の意見を聴取するなどしていきたいというふうに考えております。
○竹詰仁君　これからの指針だとか、今有識者の意見も聞くというお話もしていただいたので、是非、ＡＩを推進するんであればこそ、できるだけ心配事というのは排除した方がいいと思うので、その学習されたくない、あるいはされない権利とか、あるいは開示義務、保存義務、そして補償、救済についてもしっかり考えていただきたいと思います。
　続いて、ディープフェイクの対応についてお尋ねいたします。
　これも私、本会議でディープフェイクの対応について大臣にお尋ねしたんですけれども、ちょっと鳥取県の一例を御紹介したいと思うんです。
　この令和七年四月一日に鳥取県の青少年健全育成条例というのが改正されたというのがありまして、それをホームページで調べてみますと、青少年がＳＮＳやインターネットを通じて、闇バイトによる犯罪やいじめ、誹謗中傷、オンラインカジノ等に巻き込まれ、また、生成ＡＩによる児童ポルノ等の被害が発生していることに鑑み、青少年を被害者にも加害者にもさせないため、この県議会の中で改正を行ったということで、この鳥取県では、生成ＡＩ等を利用して実在する青少年の顔画像を加工したディープフェイクポルノを禁止することが条例で定められたということなんですけれども。
　この鳥取県の例にあるように、条例で禁止するということと、あとは法律あるいは制度によって禁止されているということのこの関係も含めてちょっとお尋ねしたいんですが、ディープフェイクポルノを含むディープフェイクの作成や配布等を現行法で処罰するということは可能であるかどうか、これを政府参考人にお尋ねいたします。
○政府参考人（吉田雅之君）　御指摘の条例の内容については、所管外ということもございまして申し上げることは差し控えざるを得ないことを御理解いただければと存じますが、御指摘のようなディープフェイクポルノを含むディープフェイクについて、一般論として申し上げますと、捜査機関においては、個別の事案ごとに、刑法に規定されている罰則ですとか児童ポルノ禁止法に規定されている罰則など、関係法令の趣旨や内容を踏まえて刑事事件として取り上げるべきものがあれば、法と証拠に基づいて適切に対処していくものと承知しております。
○竹詰仁君　今の政府の答弁がそうだなというふうにお聞きいたしました。
　この偽情報とか偽画像は、これまで例えば選挙においてもこういった課題になっているということで、実は今日この会議の後、また各党協議会ということで選挙に関する各党協議会もあるんですけれども、私はこの偽画像、偽情報対策というのは、やっぱり早くやれるものをやっていただかないと、もう世の中的な、社会的な影響力が非常に大きいというふうに思いますので、これはもう是非待たずにやっていただきたいというふうに思います。
　大臣にもう一度、大臣の答弁の中でもう一度御答弁いただきたいのは、このディープフェイク対策、今後考えていくということじゃなくて、もうすぐにやらなきゃいけないという意味で、大臣の見解、改めて教えてください。
○国務大臣（城内実君）　我が国においては、ディープフェイクポルノであれ、選挙に係るディープフェイクであれ、これを悪用した事案の対応については、個別の事案ごとに刑法などの既存の法令にのっとり適正に処理、対処されるべきものと考えております。
　その上で、これまで答弁しているとおり、本法案におきましては、ＡＩ政策の司令塔機能を強化するとともに、内閣府が関係省庁と連携して、ＡＩに関する情報収集や権利利益を侵害する事案の分析や調査を実施することとなっております。
　また、本法案第十三条に基づき整備する指針におきましては、ＡＩ開発者が違法なディープフェイクなどの不適切な出力の抑制に努めることや、ＡＩ開発者及び事業者が、偽情報、誤情報の作成、流通を抑制するために、電子透かしや来歴管理等を記入することなどを明記することを検討しているところであります。
　本法案が成立した暁には、関係省庁や有識者の皆様の意見を聞きつつ、政府が一丸となって既存の法令やガイドラインの遵守、徹底や、ＡＩ開発者等による自主的取組の促進、新たな技術の開発導入など、総合的に対策を進め、迅速かつ適切にディープフェイクの対応を図ってまいりますが、ただ、当然、もう既に関係省庁会議もございますので、試行的に、今後このディープフェイク問題について、どういう対応をするかということはもう既に着手しておりますし、今後、今申し上げた体制ができて、更に総合的に対策を取り組んでまいる所存でございます。