maxzt/OpenJA huggingface dataset:
○田中（健）委員　ありがとうございます。
　今、超党派でオンラインカジノ対策の議員立法も提出をするということで、皆さんが汗をかいているところでありますので、力を合わせてこの撲滅につなげていきたいと思っていますので、どうぞよろしくお願いいたします。
　官房長官、ありがとうございました。こちらで退席していただいて結構でございます。
○大岡委員長　官房長官、御退席いただいて結構です。
○田中（健）委員　引き続きまして、がらっと変わりますが、富士山登山による救助要請の増加について伺いたいと思います。
　近年、閉山中にもかかわらず富士山登山を行い、遭難するケースが後を絶ちません。中には同一人物が短期間で二回も行ってそれぞれ救助されるといった事例も発生しています。こうした救助には膨大なコストがかかっておりまして、さらに、現場で活動する救助隊員の命も危険にさらされています。
　現行の消防組織法では、救助活動は基本的に無償とされていますが、閉山期における無謀な登山や明らかに自己責任が問われる行為まで無償で対応すべきなのかといった、国民の理解を今得られる状況ではなくなっているんじゃないかと感じています。
　閉山期間中の登山で遭難した場合には、明確に自己責任として救助費用を原則自己負担とする制度を設けるべきではないかと考えますが、お伺いいたします。
○鳥井政府参考人　お答えいたします。
　消防組織法第八条におきまして、市町村の消防に要する費用につきましては当該市町村がこれを負担しなければならない旨を規定しております。これは、消防や救助など消防の任務として市町村の活動に要した費用について経費負担の原則を規定したものでございます。
　その上で、山岳遭難に係る救助費用を原則自己負担とすることにつきましては、山岳遭難以外の救助活動の場合との均衡、救助活動を行う他の機関との関係、有料か無料かの線引きをどうするか、実際に救助を必要とする方が救助要請をちゅうちょしてしまう可能性があることなど、多くの課題があるものと認識をいたしております。
○田中（健）委員　もちろん多くの課題はあるんですけれども、課題があっても、どうしたらいいかというのを是非考えていただきたいと思っています。
　閉山期の富士山の登山というのは、法的に明確じゃないんですね。禁止でもないですし。そして、五合目に、駄目だと書いてはあるんですけれども、しかしながら、それが法的には明記されていないということで、やはり禁止するなら違反者には明確なペナルティー、罰則をかけるべきだと思いますし、あくまで冒険であるという登山の理念を尊重して、登山を認めるならあくまで自己責任、しかしレスキューは自己負担、そういった考えを私は明確にした方がいいと思っています。
　その上で、夏季以外の登山を全面的に禁止するというのはなかなか難しいので、無許可登山を原則禁止する。つまり、許可制の登山制度というものも導入をして、国立公園法や観光立国推進の観点から、整合的な法整備をこれから進めていく必要があるんじゃないかと考えますが、政府としての考えをお伺いします。
○飯田政府参考人　お答え申し上げます。
　富士山などの国立公園における登山利用の在り方につきましては、我が国の国立公園において、国以外の者が管理、所有する土地が多く含まれており、登山道の管理者、土地所有者や関係行政機関などの合意形成の下で、公園の利用実態や地理的条件などの実情を踏まえて検討する必要があるところであります。
　こうしたことを踏まえまして、富士山におきましても、様々な関係者が参画する富士山における適正利用推進協議会が設置されており、この協議会の議論を踏まえて、夏山期間以外における登山については、登山道の管理者である静岡県と山梨県がそれぞれ通行止めを行っているものと承知しています。
　環境省としても、引き続き、協議会への参画などを通じ、適切に対応していく所存であります。
○田中（健）委員　おっしゃってもらったように、日本の山々は、それぞれ権利関係も違いますので、厳密なルールというのは全てに適用は難しいと思いますが、富士山というのは外国人がこれから殺到する時期を迎えます。そして、今回の二回救助された方も中国人であったということで、なかなか私たちの感覚、性善説が通じない状況でありますから、やはり富士山というのは国際基準に合わせていく必要があるんじゃないかと思っています。
　つまり、アメリカでは、登山には事前許可が必要でありますし、無許可登山は即時摘発の対象となります。さらに、登山保険への加入が義務化されておりますし、外国人観光客への保険加入確認などもされています。
　こういったことの制度化というのは検討がされているのかを伺いたいと思いますし、また、富士山は、国際的な管理基準に基づいた登山ルールを整備する必要があると考えますので、環境省のみならず、観光庁も含めた政府の一体的な取組を要望いたしますが、いかがでしょうか。
○長崎政府参考人　お答え申し上げます。
　富士山を始めとする山岳地域は、我が国の魅力的な観光資源でございまして、世界的にも注目が高まっております。アドベンチャーツーリズムの舞台としても注目され、多くの訪日外国人旅行者の人気を得ているというのは御承知のとおりでございます。
　一方、山小屋に泊まらず夜通しで一気に山頂を目指すいわゆる弾丸登山でありますとか、閉山中の登山道への不法侵入、こういった問題も生じているというのは観光庁も承知しております。
　こうした中、地元におきましては、これまで、例えば、山梨県側におきましては、入場規制、入山料の徴収、さらには、安全誘導員、巡回指導員の配置でありますとか、静岡県側におきましては、登山ルールの必修学習、さらに、事前登録、安全誘導員の配置等々の対策が講じられ、観光庁としても必要な財政支援というのを行っております。また、本年からは静岡県側でも入山料が徴収されることになるなど、更なる対策というのが講じられる予定というふうに承知しております。
　委員御指摘の国際的な管理基準というのがあるというふうには観光庁は承知しておりませんけれども、いずれにしましても、登山に関するルール化、制度化につきましては、これまでの従来の取組、これを踏まえながら、地元の関係者におきましても協議が引き続きなされているところでございまして、こういった結果を踏まえて、我々として、環境省を始め関係省庁と連携しながら、必要な支援の在り方というのを検討してまいりたいと考えております。
○田中（健）委員　ありがとうございます。
　地元の富士宮の市長や、また静岡県知事からも、この問題は国と連携して取り組んでいきたいというお話がありましたので、是非力を合わせてこの課題に取り組んでいただきたいと思います。
　以上で質問を終わります。ありがとうございました。
 ――――◇―――――
○大岡委員長　次に、内閣提出、盗難特定金属製物品の処分の防止等に関する法律案を議題といたします。
　趣旨の説明を聴取いたします。坂井国家公安委員会委員長。
 ―――――――――――――
　盗難特定金属製物品の処分の防止等に関する法律案
 〔本号末尾に掲載〕
 ―――――――――――――
○坂井国務大臣　ただいま議題となりました盗難特定金属製物品の処分の防止等に関する法律案につきまして、その提案理由及び内容の概要を御説明いたします。
　この法律案は、特定金属製物品の窃取を防止するためには盗難特定金属製物品の処分を防止することが重要であることに鑑み、特定金属くず買受業について買受けの相手方の氏名等の確認を義務づける等の措置を講ずるとともに、併せて指定金属切断工具を隠して携帯する行為を禁止すること等をその内容としております。
　以下、項目ごとにその概要を御説明いたします。
　第一は、盗難特定金属製物品の処分の防止のための特定金属くず買受業に係る措置であります。
　その一は、特定金属くず買受業を営もうとする者は、営業所ごとに、氏名、住所等を当該営業所の所在地を管轄する都道府県公安委員会に届け出なければならないこととするものであります。
　その二は、特定金属くず買受業を営む者は、特定金属くずの買受けを行おうとするときは、一定の場合を除き、買受けの相手方の本人確認を行うとともに、当該本人確認に係る事項等に関する記録を作成し、当該記録を一定期間保存しなければならないこととするものであります。
　その三は、特定金属くず買受業を営む者は、特定金属くずの買受けを行った場合には、当該買受けの内容等の記録を作成し、当該記録を一定期間保存しなければならないこととするものであります。
　その四は、特定金属くず買受業を営む者は、買受けに係る特定金属くずが盗難特定金属製物品に由来するものである疑いがあると認めたときは、警察官にその旨を申告しなければならないこととするものであります。
　第二は、指定金属切断工具の隠匿携帯の禁止であります。これは、何人も、業務その他正当な理由による場合を除いては、指定金属切断工具を隠して携帯してはならないこととするものであります。
　第三は、特定金属製物品の盗難の防止に資する情報の周知であります。これは、都道府県警察の本部長等は、特定金属製物品の盗難の防止に資する情報を、太陽光発電設備を設置する者等に周知するよう努めなければならないこととするものであります。
　なお、この法律の施行日は、盗難特定金属製物品の処分の防止のための特定金属くず買受業に係る措置については公布の日から起算して一年を超えない範囲内において政令で定める日、指定金属切断工具の隠匿携帯の禁止及び特定金属製物品の盗難の防止に資する情報の周知については公布の日から起算して三月を超えない範囲内において政令で定める日としております。
　以上が、この法律案の提案理由及びその内容の概要であります。
　何とぞ、慎重御審議の上、速やかに御賛同賜らんことをお願いいたします。
○大岡委員長　これにて趣旨の説明は終わりました。
　次回は、来る二十三日金曜日午前八時五十分理事会、午前九時委員会を開会することとし、本日は、これにて散会いたします。
 午後零時十四分散会
令和七年五月二十日（火曜日）
 午前十時開会
 ─────────────
 出席者は左のとおり。
 委員長 和田　政宗君
 理　事
 磯崎　仁彦君
 酒井　庸行君
 山本　啓介君
 木戸口英司君
 竹谷とし子君
 委　員
 青木　一彦君
 石井　浩郎君
 今井絵理子君
 太田　房江君
 友納　理緒君
 山谷えり子君
 石垣のりこ君
 石川　大我君
 奥村　政佳君
 鬼木 誠君
 河野　義博君
 片山　大介君
 柴田 巧君
 竹詰 仁君
 井上　哲士君
 大島九州男君
 国務大臣
 国務大臣
 （内閣府特命担
 当大臣（科学技
 術政策）） 城内 実君
 副大臣
 内閣府副大臣 辻 清人君
 防衛副大臣 本田　太郎君
 大臣政務官
 内閣府大臣政務
 官 友納　理緒君
 事務局側
 常任委員会専門
 員 岩波　祐子君
 政府参考人
 内閣府男女共同
 参画局長 岡田　恵子君
 内閣府科学技術
 ・イノベーショ
 ン推進事務局統
 括官 渡邊　昇治君
 内閣府科学技術
 ・イノベーショ
 ン推進事務局審
 議官 徳増　伸二君
 警察庁生活安全
 局長 檜垣　重臣君
 個人情報保護委
 員会事務局長 佐脇紀代志君
 デジタル庁審議
 官 井幡　晃三君
 総務省大臣官房
 地域力創造審議
 官 望月　明雄君
 総務省大臣官房
 審議官 近藤　玲子君
 総務省大臣官房
 審議官 下仲　宏卓君
 法務省大臣官房
 審議官 堤 良行君
 法務省大臣官房
 審議官 吉田　雅之君
 文部科学省大臣
 官房学習基盤審
 議官 日向　信和君
 文部科学省大臣
 官房審議官 奥野 真君
 文部科学省大臣
 官房審議官 松浦　重和君
 文部科学省大臣
 官房文部科学戦
 略官 中原　裕彦君
 経済産業省大臣
 官房審議官 奥家　敏和君
 防衛省大臣官房
 サイバーセキュ
 リティ・情報化
 審議官 家護谷昌徳君
 防衛装備庁装備
 政策部長 坂本　大祐君
 ─────────────
 本日の会議に付した案件
○政府参考人の出席要求に関する件
○人工知能関連技術の研究開発及び活用の推進に関する法律案（閣法第二九号）（衆議院送付）
○参考人の出席要求に関する件
 ─────────────
○委員長（和田政宗君）　ただいまから内閣委員会を開会いたします。
　政府参考人の出席要求に関する件についてお諮りいたします。
　人工知能関連技術の研究開発及び活用の推進に関する法律案の審査のため、本日の委員会に、理事会協議のとおり、内閣府男女共同参画局長岡田恵子君外十七名を政府参考人として出席を求め、その説明を聴取することに御異議ございませんか。
 〔「異議なし」と呼ぶ者あり〕
○委員長（和田政宗君）　人工知能関連技術の研究開発及び活用の推進に関する法律案を議題といたします。
　政府から趣旨説明を聴取いたします。城内内閣府特命担当大臣。
○国務大臣（城内実君）　ただいま議題となりました人工知能関連技術の研究開発及び活用の推進に関する法律案につきまして、提案理由及びその内容の概要を御説明いたします。
　人工知能関連技術は、その適正かつ効果的な活用によって行政事務及び民間の事業活動の著しい効率化及び高度化、並びに新産業の創出をもたらすものとして経済社会の発展の基盤となる技術であるとともに、安全保障の観点からも重要な技術であります。近年、人工知能関連技術をめぐる国際的な競争が激化する中、我が国において、人工知能関連技術の研究開発を行う能力を保持するとともに、関連産業の国際競争力を向上させるための取組が不可欠となっております。
　この法律案は、このような背景を踏まえ、人工知能戦略本部を内閣に設置するとともに、政府が人工知能基本計画を定め、これを推進するなどの所要の措置を講ずることにより、人工知能関連技術の研究開発及び活用の推進に関する施策の総合的かつ計画的な推進を図り、もって国民生活の向上及び国民経済の健全な発展に寄与することを目的とするものであります。
　以下、この法律案の内容につきまして、その概要を御説明いたします。
　第一に、人工知能関連技術の研究開発及び活用の推進について、基本理念及び国の責務等を定めております。
　第二に、基本的施策として、研究開発の推進、施設及び設備等の整備及び共用の促進、人工知能関連技術の研究開発及び活用の適正性の確保、人材の確保、教育の振興、情報収集及び調査研究等の実施、国際協力の推進等を規定しております。
　第三に、政府は、基本理念にのっとり、基本的施策を踏まえ、人工知能基本計画を定めるものとしております。
　第四に、人工知能基本計画の推進体制として、内閣に人工知能戦略本部を設置することとし、内閣総理大臣を本部長とするなど組織、所掌事務等を規定しております。
　以上のほか、所要の規定の整備を行うこととしております。
　以上が、この法律案の提案理由及びその内容の概要でございます。
　何とぞ、慎重御審議の上、速やかに御賛同あらんことを切にお願い申し上げます。
○山谷えり子君　自由民主党、山谷えり子でございます。
　質問の時間をいただき、感謝いたします。
　人工知能関連技術の研究開発及び活用の推進に関する法律案、日本初のＡＩ関連法、推進法案であります。
　今、社会の様々な場でＡＩの利用が急速に進んでいます。しかし、日本は、ＡＩの分野で世界的に後れを取っている。ＡＩへの投資、開発を進め、国民の生活水準の向上や経済の健全な発展に資するよう、さらに、世界にも貢献していく国としたいものです。
　イノベーションの推進とリスク管理のバランスを取ったこの法案は世界のモデルになり得るということですが、改めて、本法案の提出の目的、効果、必要性についてお考えをお示しください。
○国務大臣（城内実君）　お答えいたします。
　ＡＩは、我が国の経済社会の発展に必要となる基盤技術であるとともに、安全保障の観点からも不可欠な技術であります。一方で、ＡＩがもたらす様々なリスクも懸念されており、多くの国民がＡＩに対して不安を感じているとともに、我が国のＡＩの研究開発と活用は他の主要国と比べて低迷している状況であります。このような状況を克服していくためには、柔軟かつ適切にリスクへの対応を行うとともに、安全、安心なＡＩの開発を進めることで国民の皆様のＡＩに対する不安を払拭し、ＡＩの研究開発と活用を強力に進めていくことが重要と考えております。
　こうしたＡＩにつきまして、これまで我が国においては、既存の刑法や個別の業法等によりＡＩに係るリスクに対応するとともに、ＡＩ戦略の策定などを通じまして政策の推進を図ってきたところであります。
　他方で、昨今のＡＩの技術進展の状況等を踏まえますと、既存の法令等による対応に加えて、ＡＩ政策の司令塔機能を強化するとともに、ＡＩ関連技術の研究開発と活用の推進に係る施策を総合的かつ計画的に推進する必要があることから、今般のＡＩ法案を提出させていただいたところであります。
○山谷えり子君　本日はＡＩ関連法についての審議ですので、チャットＧＰＴをいろいろ活用してみたいと考えています。
　まず、城内大臣のこの意気込みはいかがですかとチャットＧＰＴに聞きましたところ、強い意欲を示していますとあって、何月何日にこういう記者会見をやったというのがずらっと書かれておりまして、そして、法案に対して積極的な姿勢を示し、日本がＡＩ技術の分野で世界をリードするための取組を進めていますというふうに結ばれています。
　また、国会質疑において三十分でどういう質問をしたらいいですかというのも聞いてみました。そうしましたら、非常に細かくて、一番、総論に対して五分、二番、ＡＩ利活用の促進に関して五分、リスク、規制、透明性に関して十分、人権、倫理、プライバシーへの配慮に関して五分、国際連携、技術革新、今後の展望について五分と書いてありまして、必要であればパワーポイントやスライドの要約資料も作成可能ですと、非常に細かい項目も出ているんですね。
　そして、この法案への取組、何点だと思いますかと聞きましたら、七十五点と書いてありまして、評価ポイントは、イノベーション推進とリスク対応の両立を目指す姿勢、国際協調と柔軟性のある制度設計、それから司令塔機能の強化とあります。
　では、課題と懸念、減点要素は何ですかと聞くと、罰則規定の欠如による実効性の懸念、リスク対応の具体性不足、市民の権利保護への配慮不足というのが書いてありまして、なるほどと思う一方、データをどこからどう取って組み合わせたのかなという違和感がある部分もございます。出典先が書いてあるものもないものもあります。回答は必ずしも正しいとは限りませんとも書いてあるんです。
　例えば、法案をチャットＧＰＴに作らせる、国の方向性を決めることに使うと、ディスインフォメーションとかディープフェイクとか、あるいは外国からの干渉など、意図が入った場合に恐ろしいことになるということは肝に銘じなきゃいけないかなというふうにも思いましたけれども、今、このチャットＧＰＴのもろもろもろもろ、城内大臣はどんな感想をお持ちになられましたか。
○国務大臣（城内実君）　感想を申し上げますと、ＡＩは、ある程度の出力によって、必ずしも全部ディープフェイクではなくて、適切な客観的事実に基づく情報を出力し提供してくれている反面、やはりそれが全てが全部正しいとは限りませんし、誤情報、偽情報も時々混入するやに伺って、認識しておりますので、そういった点からは、やはり、最終的には人間が、人間中心のＡＩということをうたっておりますので、人間がしっかりとチェックする、しないとその分リスクの対応に追われることになるのではないかと思いますが。
　ただ、他方で、数年前に比べて、出力する、出てくる情報の精度はかなり上がって、どうしてこんなことまで分かっているのかなという。例えば、私自身について数年前に問いただしたら半分ぐらいが全く偽情報だったんですが、最近はかなり正確に出力が出ていますので、そういう点では相当程度進歩しているなというふうな感想であります。
○山谷えり子君　成立すれば、基本理念の下、ＡＩ戦略本部が基本計画を策定し、施策を進めていくわけですけれども、この基本計画の考え方、作成へのプロセス、スケジュール、御説明いただけますでしょうか。
○国務大臣（城内実君）　お答えします。
　委員御指摘のＡＩ基本計画は、各府省庁によるＡＩの研究開発から活用に至るまでの幅広い施策を政府として一体的かつ横断的に進めるために策定するものであります。
　具体的には、本法案に定める基本理念や基本的施策を踏まえまして、ＡＩの研究開発、活用の推進に関する施策の基本的方針や、その基本的方針の下で政府が総合的かつ計画的に講ずべき施策等について定めることとしております。
　また、その策定に当たりましては、全ての閣僚から成るＡＩ戦略本部での議論に加えまして、有識者の御意見を伺うなどのプロセスを丁寧に進めていきたいと考えております。
　他方で、ＡＩの進展の速さを踏まえますとできる限り早期に策定する必要があると認識しており、本法案が成立した暁には、まずは本年、本年内の策定を目指して関係府省庁で一丸となって精力的に取り組んでいく考えであります。
○山谷えり子君　ありがとうございます。スピード感を持って、そして関係省庁の連携、よろしくお願いいたします。
　発展が見込まれるＡＩ活用の分野についてチャットＧＰＴでまた聞いてみたんですね。そうしましたら、八分野挙げられていまして、一、医療、バイオヘルス、二、製造業、三、農業、漁業、四、教育、五、交通、モビリティー、六、金融、七、創作、エンタメ、メディア、八、行政、公共サービスと書いてありまして、それぞれにまた細かく書いてございます。
　例えば、医療、バイオヘルスだと画像診断、ロボット手術など、そして交通、モビリティーですと自動運転車、それから金融などではクレジットスコア、ローンの審査、資産運用、行政、公共サービスでは災害予測と対応、避難支援などといろいろ書いてありまして、確かに効率化、生産性上がることが期待されるわけですけれども、しかし、ＡＩを組み込んだ製品などが間違った判断をする、またＡＩによる差別的な取扱いが起きる可能性もある。
　生成ＡＩによる証券口座乗っ取りとか詐欺とかいろいろ今あるわけですけれども、命に関わる事故やミスがあった場合、責任の所在、救済、補償についてどう考えるか、今後どういうふうに検討していくか、お教えください。
○国務大臣（城内実君）　ＡＩの利活用によって生じる損害に対する責任の考え方を救済や補償の在り方を含めて明確化させていくことは、ＡＩの開発や利活用を促進していく上で非常に重要な視点だと考えております。
　こうした観点から、個別の分野につきましては、例えば自動運転車が事故等を起こした場合の責任制度や社会的ルールの在り方等につきましては産学官の関係者によって検討を行い、今後検討を深めるべき事項等が整理されているものと認識しております。
　今後、司令塔たるＡＩ戦略本部の下で、自動運転車以外の様々な分野についても、ＡＩの利活用によって生じる損害に対する責任の捉え方、考え方を明確化させるべく、関係省庁と緊密に連携しながらしっかりと取り組み、検討を深めてまいる考えであります。
○山谷えり子君　本当に驚きの進化とどう向き合っていくか、速い、速く進展をするＡＩでございます。今見えているリスクだけがリスクではない、情報収集と対応、臨機応変の素早さが求められていくというふうに思っております。
　続きまして、教育についてお伺いしたいと思います。
　個別最適化学習の支援ということが言われているところですけれども、基本計画に教育をどう位置付けていくのか。多くの学生生徒がＡＩを使っている状況でございます。
　今回質問するに当たって、ちょっと中学生たちにヒアリングをしてみたんですね。使っているかと聞きますと、多くの中学生が使っているよって。例えば最近どんなことに使ったのと聞きましたら、浅草に社会科見学に行くから浅草について調べろって先生から言われたから、それをチャットＧＰＴで出してもらった。でも、チャットＧＰＴっぽいから、もっと中学生っぽくやってと言ったら、またそれを出してくれた。それから、浅草で外国人の観光客と会うかもしれない、そのときに浅草の魅力を三十くらいの英単語で説明してと言うと、またさっと出てくると、すごく便利だと言うんですね。
　私は、いや、それじゃ記憶に定着しないでしょうと言ったら、それはすぐ忘れればいいんだと、また必要なら出してもらえば、チャットＧＰＴで聞けばいいんだし、一生それが必要なければそれでいいじゃないという答えを聞きまして、いや、何というか、学びへの姿勢が変わってきているし、これからも変わっていくだろうなというふうに思いました。
　脳科学、発達心理学の立場からは様々な研究が出ておりまして、例えば東北大学加齢医学研究所教授の川島隆太先生、「スマホが学力を破壊する」、私も読みましたけれども、インターネットを使う時間が長いほど前頭葉、側頭葉の発達が止まって、情報伝達の役割を果たす部分、脳全体にわたって止まると、自尊心、自己肯定感、感情抑制力が低くなると。ほかにもいろいろな研究、欧米でもなされておりまして、記憶力や集中力、探求心が低くなるとも言われております。
　昨年十二月、文科省は、生成ＡＩ利活用ガイドライン、初等中等教育段階におけるガイドラインで、ＡＩは使い方によって人間の能力を補助、拡張し、可能性を広げると捉えるべきと記しておりますけれども、楽観的過ぎないかなというふうに思います。また、先生も御指導本当に困っておられます。
　これから学習指導要領の議論もあると思いますけれども、デジタル学習やＡＩの取扱いについては、発達年齢、段階を踏まえて、脳科学者、心理学者、教育者、保護者など加えながら慎重によく検討してほしいと思いますが、どのように考えを整理していかれるのでしょうか。
○政府参考人（日向信和君）　お答えいたします。
　生成ＡＩを始めとする様々なデジタル技術が急速に普及する中、デジタル化の負の側面等の顕在化も指摘されており、それらに適切に対応していくことが重要であると考えております。
　現在、中央教育審議会におきまして、生成ＡＩを始めデジタル技術が飛躍的に発展する中で、デジタル化による負の側面も踏まえ、情報活用能力の抜本的向上を図る方策について、情報モラルやメディアリテラシーなどの育成強化も含め、具体的な検討を行っているところです。
　例えば、フィルターバブルなどのデジタル化社会の負の側面に対し情報モラルの育成など、情報技術を適切に扱うことができるようにすることなど具体的な議論を進めていただいているところでございまして、このような議論を踏まえながら引き続きしっかりと検討を進めてまいりたいと考えております。
○山谷えり子君　教育のデジタル化は、今、先進的に進めた諸国で見直しの動きが進んでいます。
　城内大臣も先日、四月十一日の衆議院の内閣委員会で、脳科学的にも、デジタルよりも紙で調べたり調査した方が脳科学の分野で記憶に定着しやすいということが既に証明されておりますとも答弁されておりますので、教育の場でのデジタル教育やＡＩの利活用についてはしっかりした、いろいろ複合的な視点から考えながら検討をしていただきたいというふうに思っております。
　さて、ＡＩ学習用の言語のデータベース、コーパスの整備についてでございます。
　ＡＩは英語の大規模言語モデルが軸となっていると言ってもいい現状でありまして、日本語は英語に変換されて、解析して日本語にして出力されることも多い。
　日本語、文化、表現のニュアンスは非常に繊細でありまして、日本語のデータベースも増えてきてはおりますけれども、例えばチャットＧＰＴで赤、赤の色、伝統色について尋ねると、緋色、朱色、紅色、紅、赤紅、濃紅、えんじなんて出てきます。雪の表現、言葉、言い回しを聞きますと、粉雪、綿雪、ぼたん雪、細雪、吹雪、みぞれなんて出てきますけれども。
　なかなか出てきているなという部分と、いや、もっともっとあるだろうという部分とあるわけでございますけれども、日本語のデジタル基盤整備事業はどうなっているのか、また今後どんなふうに取り組んでいくのか、方向性をお示しください。
○政府参考人（中原裕彦君）　お答え申し上げます。
　文化庁におきましては、国立国語研究所が過去に整備しました現代日本語書き言葉均衡コーパスにつきまして、令和六年度から五年計画で直近二十年分の約一億語分のデータを追加しまして、言語コーパスの充実を図る事業というのを実施させていただいてございます。
　この事業は、現代日本語の書き言葉の縮図となりますよう、統計的手法によりまして対象を選択し、品詞名、用法、修飾関係、意味などの情報を付与したデータベースを作成するものでございます。これらのデータは、信頼度が高く、大規模言語モデルを基にＡＩで生成される日本語の的確性を高めるファインチューニングなどでの活用も想定しております。
　今後も、本事業の着実な実施に向けて取り組んでまいります。
　また、方言と申しますのは、その地域の文化の基盤を成すものでございますけれども、その衰退が著しく、消滅の危機にあるとユネスコに認定されているものもございます。そのため、文化庁におきましては、そうした方言の保存、継承にも取り組み、記録を蓄積してまいりました。
　加えて、全国的に方言の衰退が進んでいる現状を踏まえまして、今後は大規模言語モデルでの活用も想定した全国方言の記録及びデータベースの作成の計画にも着手してまいりたいと存じます。
○山谷えり子君　着実な実施をお願いしたいと思います。
　基本理念として掲げるのが、人間中心のＡＩなんですけれども、ちょっと抽象的過ぎて何を意味しているのかよく分からない部分がありますので、具体的に説明をお願いします。
○政府参考人（渡邊昇治君）　人間中心についてお答えをいたします。
　この概念は、二〇一九年の三月に、内閣府の方で人間中心のＡＩ社会原則というのを作りまして、これが、一つこれ日本の中で割とメジャーになったきっかけだと思うんですけれども、そこで言われていることを申し上げますと、ＡＩが基本的人権を侵さないとか、あるいはＡＩは人間の能力を拡張するのに役立つとか、あるいはＡＩをどう利用するかは人間が決めるとか、あるいは情報弱者をつくらないと、こういったことが人間中心の概念になっておりますが、これ具体的な例を二つほど御説明をしたいというふうに思います。
　一つは、この人権を例に取って御説明しますと、差別的な発言をＡＩに作らせようとすると、ＡＩの方でそれを拒否するというのが一つございます。これはどういう技術かといいますと、何通りかパターンがあるんですけれども、そもそも偏見、差別的な情報をＡＩが学習しないようにすると、これはＡＩ開発者が努力するというのがございます。それともう一つは、フィルターを使いまして、何か不適切な質問に対しては、それをフィルターではじくとか、あるいはその不適切な出力をフィルターではじくと、こういう技術がございます。こういうことで、人権を侵害しないような努力というのを開発者はやっています。
　もう一つの例は、これは私が最近体験したものなんですけれども、私がある数学の問題をＡＩに解かせようとすると、ＡＩは、あっ、なかなか難しくていい問題ですねと、じゃ、一緒に考えましょうかという回答が来まして、いや、分からないから質問したのに一緒にって言われても。ただ、これ、そのＡＩ開発者の方に聞いたところ、要はやっぱり人間にも考えさせる、人間をサポートするというのがそのＡＩの重要な部分なので、そういうパターンで答えているんじゃないかというふうに言われました。
　こういう形で、人間がＡＩ依存症に安易に陥らないように、そういうＡＩ開発者の方で工夫はされているということでございまして、こういう取組を是非政府としても推奨させていただきたいというふうに考えております。
○山谷えり子君　ありがとうございます。大分具体的に説明をしていただきまして、ありがとうございます。
　また、チャットＧＰＴに人間中心のＡＩについて聞いたんですね。五点明示されておりまして、一が倫理性の重視、プライバシーの尊重、公平性、透明性、説明責任、差別やバイアスを防ぐ設計が求められる。二番、人間の福祉の促進。三番、人間の関与と制御の維持、意思決定において人間の最終判断を尊重する、例えば自動運転でも緊急停止ボタンが人にある、完全な自律よりも協働を目指す。四番、透明性と説明可能性、ＡＩの判断や行動が理解できるように説明されること、利用者や関係者がＡＩの仕組みや限界を知ることができる設計。五、インクルーシブな設計、特定の層に偏らず、誰もが恩恵を受けられるように開発される、弱者や少数派にも配慮したアルゴリズム設計。
　まあ本当になるほどなとは思うんですが、しかし、ＡＩの開発者、事業者、提供者、利用者に対して適切に自主的に取り組むようにと言われてもなかなか難しいんではないかなと、今本当にかなり具体的に御説明いただいたんですけれども、それがそれぞれの皆様に徹底されるかというと、なかなか難しいかなというふうに思います。
　また、情報提供の場合、これはＡＩで作成しましたというクレジットを入れる必要もあるんじゃないかなとか、いろんなふうに思うんですが、どんなデータを入れてこうなったという明示も必要で、人間中心といっても、本当にどこまでも難しいと思いますが、この今の現状をどのように皆様に理解してもらう努力をしていこうとお思いですか。
○政府参考人（渡邊昇治君）　最近のＡＩは、先ほどちょっと御紹介がありましたけれども、出典、この回答の出典はここですというのを表示するようなＡＩが結構メジャーになりつつありまして、そういうことによって、信頼できる情報かどうかを改めて人間がもう一度確認をするということができるようになっています。こういう技術を私どもとしては広報していきたい、広報活動をしっかりやっていきたいというのもございますし、分かりやすいコンテンツを作ってリテラシー教育に貢献をしていきたいというふうに思っています。
　ただ、一つ私どもの悩みは、ＡＩ技術とか倫理問題に詳しい方というのは、詳しいので、すごく難しく、難しい言葉を使う傾向がございまして、こういうＡＩ技術とか倫理とか法律とか政策とか、すごく幅広い知識を持っていて、しかもそれを分かりやすく教えると、そういう方をやっぱり増やしていくということも大変重要だと思っていまして、そういう活動に是非取り組んでいきたいというふうに思います。
○山谷えり子君　続きまして、海外の悪質な事業者への対応についてお聞きいたします。
　協力責務があるといっても、これ、悪質な事業者に対しては大丈夫かなと思うんですが、いかがでしょうか。
○政府参考人（渡邊昇治君）　私どもの法案が成立いたしますと、不正な目的あるいは不適切な利用によって被害が生じた場合には国としてしっかり調査をするということになると思いますけれども、これ、当然、その事業者が外国籍事業者、日本に法人を持たない、あるいは事業所を持たない場合であっても調査をしていきたいというふうに思います。仮に友好国ではない国の企業が問題を起こした場合には、なかなか難しい問題がございますけれども、可能な限りの手段を尽くして調査等を実施してまいりたいというふうに考えております。
　また、なかなかその調査で正確なことが分からなかったとしても、こういう懸念があるものがはやり始めているということをしっかり情報提供させていただくということが重要かなというふうに思っております。
○山谷えり子君　実効性を高めていくように、不断の見直し、努力をお願いしたいというふうに思います。
　続きまして、日本のマーケットだけでは狭うございます。日本は東南アジアとのつながりも強くて、衆議院の参考人の意見聴取で、東京大学大学院工学系研究科人工物工学研究センター松尾豊教授などは、例えば東南アジアの諸言語をつなぐ大規模言語モデル、ラージ・ランゲージ・モデル、ＬＬＭができればビジネスも増える、日本がイニシアチブを取っていくべきではないかと述べられておりますけれども、民間の取組の支援、日本の強みを生かす勝ち筋を求めていくことについては、政府はどう考え、取り組んでいかれますでしょうか。
○政府参考人（奥家敏和君）　お答え申し上げます。
　国内の事業者により開発されたＡＩを海外に展開していくことは、若い技術者などの活躍の場を広げるとともに、我が国の産業競争力の強化の観点からも重要であるというふうに認識しています。
　御指摘のとおり、特に東南アジアは有望な市場と認識しております。経済産業省では、これまで、マレーシア工科大学やバンドン工科大学における日本のトップＡＩ専門家によるＡＩ人材育成プログラムの実施、また、アジアのＩＴサービス関連業界団体の全体会合、こちらにおいて日本のトップＡＩスタートアップを紹介し、協業を提案すると。さらに、グローバルサウス補助金を活用しまして、我が国の優れたＡＩ開発企業と東南アジアの現地ユーザー企業とのマッチング、そして実証、こういった取組をしています。
　具体的な実証事業の一例としまして、日本のフィンテック企業のココペリ、こちらがＡＩスタートアップのイライザと連携しまして、ビジネスマッチングプラットフォームにタイ語と日本語を理解した生成ＡＩを搭載してタイへの展開を進めていると、こういった事業に支援をしているというところでございます。
　引き続き、こうした取組を推進して、国内事業者の東南アジア展開を促進していきたいというふうに考えています。
○山谷えり子君　力強く未来を切り開いていただきたいと思います。
　生産年齢人口減少の中に、ＡＩ技術が経済に対する貢献というのは大きいと思います。しかし、リスクも不安も大きいわけでありまして、二〇二五年二月四日の内閣府のＡＩ戦略会議発表の中間とりまとめの中の意識調査では、ＡＩには規制が必要が七七％、悪用や犯罪に対して法的対策の強化の必要が六六％と出まして、既存法で対応できない場合、速やかに法的措置も考えていく必要があると考えます。
　ＡＩの活用戦略を確かなものとしていくために、既存法令、ソフトロー、ガイドラインでの対応、関係省庁の連携、ますます重要でありますが、最後に、城内大臣、審議を通じて感じていらっしゃることをお伝えください。
○国務大臣（城内実君）　まず、この本法案、ＡＩのイノベーションの促進とリスクの対応、これ両立を図るということでありまして、やはり我が国が目指すべきは、世界で最もＡＩを開発、活用しやすい国となることを目指すことであって、そういう意味でこれは非常に重要な法案であり、しっかり丁寧に審議を進めていく考えであります。
　まずは、本委員会においてこの法案をお認めいただけるよう、その趣旨はもちろんのこと、実施する取組内容についてもまずはやはり御理解いただけるよう尽くしていきたいというふうに思います。
　その上で、この本法案が成立した暁には、研究開発の推進、人材育成等、本法案に規定された施策等を全力で進めていくことが大事ではないかなというふうに考えております。その際、やはり我々が人間であり日本人であることをしっかりと意識し、それを誇りに持って取組を進めていく考えであります。
　例えば、ＡＩ研究開発については、ＡＩは国民生活や経済社会に密接に関係することから、やはり日本語で、先ほど山谷委員の御指摘にあったように、日本語を重視して、日本の文化や商習慣等を正確に回答できる、日本人の心、日本人の情緒を持った国産ＡＩをしっかりと開発していくことが私自身は重要だというふうに認識しております。
　いずれにしましても、国際社会の中で我が国がリーダーシップを発揮できるような形でＡＩ政策の推進を図ってまいる考えであります。
○山谷えり子君　司令塔をしっかりし、よろしくお願いいたします。
　ありがとうございました。
○石川大我君　おはようございます。立憲民主・社民・無所属の石川大我でございます。
　私のこれからの質問は、チャットＧＰＴなど生成ＡＩは使っていないということをまず初めに申し上げたいというふうに思っております。人力で作らせていただきました。
　ＡＩ新法ですけれども、このＡＩというものがこれからの我々の社会をより良い方向に導いてくれるのか、それとも悪い方向に導いてしまうのかというのは、なかなか分からないところがあるというふうに思います。
　もちろん、私はこのチャットＧＰＴなど使って、そして生成ＡＩを使って、ＡＩというものがより良い日本の国、そして世界というものをつくっていただきたいなというふうに思っております。当然、それは世界が平和になり、あるいは差別とか貧困というものがなくなり、そして世界の人々が豊かに暮らすというような未来像を夢見ていることは、もうこれは間違いないと、皆さんがそう思っていることは間違いないと思うんですが、今日の質問は、少しやはり心配な部分というのがありますので、是非その辺りも聞かせていただきたいというふうに思います。
　まず、ＡＩの平和利用についてお伺いをしたいと思います。
　ＡＩを活用したことによって平和な社会が来たんだということになればいいんですけれども、それが、五十年後、百年後の皆さんが今日の議論を聞いたときに、ああ、あそこでこの議論をしていたから世界が平和になったんだというふうに思っていただけるような、そんな五十年後、百年後の皆さんに向けた質問でもあるのかなと思っておりますけれども、このＡＩを活用したことによって安全保障環境が悪化してしまっては仕方がないということで、私たち日本は、憲法前文そして九条の平和主義を持つ国として、ＡＩの利用の限界についてまず政府の考えを教えてください。
○副大臣（本田太郎君）　お答えいたします。
　現在、科学技術が急速に進展する中、ＡＩはその有用性から、諸外国においては民生分野に加え安全保障分野における活用が進んでいます。
　防衛省も、防衛力の抜本的強化に当たり、ＡＩを積極的に活用することとしています。具体的には、防衛省においては、一般行政事務から装備技術、部隊運用まで、広範多岐にわたる分野でＡＩを活用していくこととしています。
　なお、我が国は一貫して憲法の基本原理である平和主義の理念の下で防衛政策の推進に努めてまいりました。これからも、ＡＩの活用においてもこのやり方は変わることはございません。
○石川大我君　法文の三条を見ますと、基本理念で、安全保障の観点からも重要な技術であることに鑑み、人工知能関連技術の研究開発を行う能力を保持するとともに、人工知能関連技術に関する産業の国際競争力を向上させることを旨として行うというふうに書いてあります。
　ＡＩに関連する防衛産業についても積極的に購入などを含めて検討されるのか、また日本企業がＡＩに関する防衛産業の一翼を担うということを期待をしているのかということをお答えください。
○副大臣（本田太郎君）　ＡＩを含む科学技術の急速な発展が安全保障の在り方を根本的に変化をさせ、従来の戦闘様相が大きく変化する中におきまして、我が国にとって新しい戦い方に対応できるかどうかが今後の防衛力を構築する上で大きな課題となっております。
　このような認識の下、防衛省では、ＡＩ等の先端技術を取り扱う企業、中でもスタートアップ企業との連携を重視しておりまして、具体的な施策といたしましては、経済産業省の支援を得て、防衛産業へのスタートアップ活用に向けた合同推進会等において防衛省・自衛隊とスタートアップのマッチングを推進すること、また、早期装備化事業のための取組においては、自衛隊の装備品への活用を念頭に優れたスタートアップの技術の活用を図ること、さらには、安全保障技術研究推進制度において、防衛分野での将来における研究開発に資することを期待してスタートアップの先進的な基礎研究を支援すること、また、政府全体の取組に倣い、技術力のあるスタートアップ企業が一定の要件を満たせば随意契約を結ぶことを可能とする制度を昨年十二月に導入したことなどが挙げられます。
　こうした取組が功を奏し、現在防衛省では、ＡＩや無人機、ドローン、宇宙などの各種のスタートアップ企業との間で契約を締結しており、防衛省としてこうした取組を今後も進めてまいります。
　同時に、ＡＩの活用に伴う課題やリスクについては、政府においても、また国際社会においても様々な議論が行われていることに留意する必要があり、この点も踏まえつつ、ＡＩ等の先端技術の活用について防衛産業に関わる企業とのコミュニケーションを密にして対話を進めていく方針であります。
○石川大我君　今お伺いして、かなり前のめりなのではないかなというふうに不安に思います。
　令和六年七月のこの防衛省作成の防衛省ＡＩ活用推進基本指針について副大臣からも御説明がありましたけれども、新しい戦い方に対応できるかどうかが今後の防衛力を構築する上で大きな課題であるですとか、人員の効率的な活用など、ＡＩの意義をも強調しまして、これ、ＡＩを軍事利用を際限なくすることの危険性というのは非常にあるんじゃないかというふうに思っております。
　平和国家日本として許されない一線というのはこれどういうふうに捉えておるんでしょうか。
○副大臣（本田太郎君）　防衛省は、意思決定の迅速化や情報収集・分析能力の向上などの効果を狙いとして、各種の分野においてＡＩの活用を重点的に推進することとし、様々な事業を進めているところであります。
　そして、この際、昨年七月に策定した防衛省ＡＩ活用推進基本方針においても、ＡＩが行うのは人間の判断のサポートであって、その活用に当たっては人間の関与を確保する必要があると記載されているとおり、ＡＩ活用推進に当たっては人間中心の考え方の下で進めることが不可欠であると認識しています。
　防衛省といたしましては、ＡＩ事業者ガイドラインも参考としつつ、人間の関与に係る議論を含め、政府内、国際社会などの議論にも注意を払い、ＡＩの活用に取り組んでまいる、そのような考え方で進めております。
○石川大我君　昨日の防衛省さんとの打合せの中でも、国際規約を守るとか、あと、先ほどからお話しになっている人間中心の考え方というようなお話が出ているんですが、ここから先はもうやれないと、平和国家としてここはやらないんだというようなお話は最後まで出ませんでした。
　例えば、ＡＩが独自に判断をして相手を攻撃するような自律型のそういった防衛装備品というんですかね、そういったものは、これはさすがに駄目だと、そういうようなことはあるんでしょうか。
○政府参考人（家護谷昌徳君）　近年、急速な技術の発展を背景にしまして、ＡＩの軍事的な利用に関する議論が活発化しております。我が国としましても、関連する議論及び国際的なルール作りに積極的かつ建設的に参加してきたところでございます。
　我が国としては、国際人道法の原則は、新興技術を活用するものを含めましてあらゆる兵器に適用されるべきであるとの立場でございます。防衛省・自衛隊においても、当然のことながら、国際法や国内法により使用が認められていない装備品の研究開発を行うことはございません。
○石川大我君　まあある意味それは当たり前のことで、この指針を見ますと、最後のところにはこう書いてあります。我々は今、ＡＩの活用により効率的で将来を自らつくり出す組織となるのか、後れを取って非効率で旧態依然の組織となるのかの分岐点であると、どちらを選び取るかは今後の我々の努力に懸かっているというふうに書いてあって、ＡＩを活用することが効率的で、将来を自らつくり出す組織ですばらしいんだと、後れを取ると非効率で旧態依然の組織となるというふうに、これ果たして、ＡＩというものを、行け行けどんどんで、バスに乗り遅れるなと言わんばかりに活用することがいいのかということをしっかりやっぱり憲法の原則、平和国家としての原則に基づいて見極めをしっかりしていくことが大切だと思いますが、いかがですか。
○副大臣（本田太郎君）　防衛省におきましては、装備品も含めてですけれども、一般行政事務から装備の技術、部隊の運用、広範多岐にわたる分野でＡＩの活用を推進していこうと考えているところでありまして、おっしゃったとおり、その平和国家である日本の憲法、これに反する、又は国際議論に反する形でのＡＩの活用を考えているわけではありません。
○石川大我君　先ほど、五十年後、百年後の方々が今日の議論を聞いたときに、あのときＡＩ使うというふうに言ったからこうなっちゃったんだになるのか、あるいは、あのときＡＩをしっかり使うというふうに方針を定めたからこのいい未来になったんだというふうになるのかはまだ分からないというふうに思うわけです。
　そういった意味では、私たちの先人の知恵であるところの平和憲法や基本的人権の尊重など、憲法との整合性、そういったものをしっかりと、その場その場でしっかり判断をしていただき、しっかりと、憲法をこれ超えているんじゃないかというものがあるようであればしっかりと立ち止まるということ、あるいは戻ってくるということも非常に大切だということを御指摘をさせていただきたいと思います。
　次の質問に移ります。
　ここで、防衛副大臣、本田副大臣は、これ以降の答弁ございませんので、御配慮をお願いいたします。
○委員長（和田政宗君）　本田副大臣は退席なさって結構です。
○石川大我君　そして、この次に、ＡＩによるネガティブな側面ちょっと幾つか、本当は楽しいことでもっと話したいんですけれども、ネガティブなことを少しお話をしたいと思います。
　ＡＩが学習するデータ、アルゴリズムによりバイアスが生じ、また増幅される問題というのが衆議院でも議論をされております。危険なものだというふうに認識をしています。私たちの無意識な偏見とか差別にこれ沿っているとなおのこと気付きにくいということになるということですけれども、これは人間社会でも繰り返しなされてきたことですが、ＡＩと人間が言わば共謀するというか、お互いにその差別や偏見を高め合ってしまうということで、差別や偏見というものがより強化されてしまうという問題があるということです。
　このバイアスの確認、修正について、城内大臣はＡＩ開発者が必要な措置を講じるよう方針に盛り込むと答弁されていますが、そのバイアスにどうやって気付くかというところがまた問題だと思います。チェックする人の多様性を確保するですとか、違うＡＩで今度チェックをするというようなこともあるようです。相互検証、ピアレビューのようなこととか、工夫が必要だというふうにも思っております。
　また、ＳＮＳなどについて、アテンションエコノミー、フィルターバブル、エコーチェンバーなどの問題が指摘をされています。特に、昨年来、選挙を含めて、その負の影響が急速に強まっていると思われます。偏りが増幅されて、信念が強化をされて、少数の人たちが過激化していきます。その極端な意見というものがマスコミで面白おかしく取り上げられると。あるいは、著名人や、あるときは我々国会議員がこういったものを拡散して、そういった情報にまた基づいて人々が行動して、現実社会に対して悪い影響をもたらすということは我々経験をしてきたところです。選挙や、あるいは女性支援団体たたきというのも今非常に問題になっていますが、そういった問題についても被害があります。
　実はここにもＡＩが大きく関わっておりまして、ユーザーの抱く偏りにマッチした情報に触れやすくなってしまっていると。その反復で一定程度固まってしまうと、異なる意見、情報というものを目にしても受け付けなくなって信念を強めるということで、ＡＩのリスクというのは将来の問題ではなく現在の問題でもあるということだと思います。それが加速しているんではないかというふうに感じられますが、対策が必要だと考えますが、大臣のお考えをお示しください。
○国務大臣（城内実君）　お答えします。
　今のいわゆるバイアスの話とか、アテンションエコノミーという御指摘ございましたけど、まず、本法案に基づきまして国が整備する指針では、このバイアスの問題も含めまして、ＡＩによる不適切な出力をできる限り抑制する工夫をＡＩ開発者等に求めていく考えであります。
　また、ＡＩ開発者が講じる工夫としては、例えば、そもそもバイアスのあるデータを学習させない、そして、出力結果を評価するツールをしっかり開発して不公正なバイアスがないかしっかり点検すると、そして、ＡＩ同士を対話させ、ＡＩにＡＩをチェックさせると、様々な方法が想定されます。
　その際、何がバイアスかが判断しにくい微妙なケースが多々あるとは承知しておりますが、他国で開発された評価ツールでは日本の文化、習慣、歴史等を正確に反映できていない可能性があるため、こういった点では、国産のＡＩ、国産の評価ツールの開発や、複数のツールを言わば併用、比較していくことが重要だというふうに考えております。
　また、ＡＩが関わるような社会問題を含めたＡＩの利活用に関する諸課題への対応につきましては、これまでもＡＩ戦略会議あるいはＡＩ制度研究会において様々な議論をしっかりやってきたところであります。
　こうした議論を踏まえまして、今回提出しているＡＩ法案の一つの特徴といたしましては事業者の自主的な取組を尊重しているところなんですが、これに対して事業者に対する規制は必要であるという意見もあるとは承知しておりますが、いずれにしても、今回の法案による事業者の自主的な取組を促進しつつ様々な創意工夫を推進することとしておりまして、国といたしましても、本法案に基づく情報収集等により、そうした中での好事例を展開していくと同時に、リスクに対する対応はしっかり取り組んでまいる考えであります。
○石川大我君　是非よろしくお願いしたいと思います。
　そのほかにも、対応策として、プロファイリングされた興味、関心というものや嗜好とは異なるものをあえて表示をさせるランダム性を入れるとか、選挙やパンデミック時などの特定の期間には行政とかマスコミ、研究機関などの信頼性の高い情報を上位に表示をさせるとか、そういったような様々な工夫あると思いますので、是非そういったところも御検討いただけるということで、確認ですが、大臣、よろしいですか。
○国務大臣（城内実君）　今後、戦略本部の下でしっかりとした対応をつくっていく考えでありますので、有識者の方々とも、あるいは関係省庁とも連携しながら、石川委員御指摘のことも踏まえて、しっかり対応していく考えであります。
○石川大我君　是非よろしくお願いしたいと思います。
　次の問題です。
　ＳＮＳ上のデマとか誹謗中傷の問題でこのＡＩが活用されてしまっているという例なんですけれども、例えばチャットＧＰＴに気に食わない相手の投稿についてのファクトチェックをさせるんだそうです。ファクトチェックするのはかぎ括弧付きのファクトチェックですけれども、気に食わない相手の投稿について、さもファクトチェックをしているようにＡＩに、チャットＧＰＴにさせるんですね。そうすると、その答え、チャットＧＰＴの答えにＳＮＳ上の流れているデマが反映されて、それで、そのファクトチェックを、忖度をするというか、空気を読んでというか、その質問者の意図を酌んで、質問者の主張に沿った形でチャットＧＰＴが答えてくれちゃうんだそうですね。
　そうすると、その得た者がファクトチェックだというふうに言って、それを世の中に表示すると。そうすると、その偏見を含んだ形のファクトチェックというものもある意味作れるようになってしまうという、非常に難しい問題だなというふうにもあります。
　そうなると、やっぱり学校教育、これ衆議院でも論じられておりますけれども、やっぱりこれ、教育の問題、リテラシーの問題、大人への教育啓発というものを、やっぱり薄いと思いますので、そういったところ非常に必要だなというふうにも思っております。
　例えば、ＡＩを活用して、偏った発信をするユーザーを検知し、柔らかく働きかけて、聞く耳を持つようであれば、人間のオペレーターにつないで適切な相談体制につなぐとか加害者プログラムといったところにつないでいくとか、フィルターバブル、エコーチェンバーにはまり込んでしまう前に引き戻していくというような取組が必要なのではないかということも言われておりますが、こうしたことを専門家とか民間の方々と協力して進めていくということ大切だと思いますが、いかがでしょうか。