○参考人（市川類君）　御紹介ありがとうございます。一橋大学、東京科学大学で特任教授をしております市川と申します。
　まず、参考人としてお招きいただきまして非常に光栄に存じます。
　私は元々は、長らく霞が関で役人をやっておりまして、役所の中でもずっと長らく技術とかイノベーション政策に取り組んでおりました。その中では、デジタルとかＡＩ技術もその際にもやっておりました。その関心が高じて、今では大学でイノベーションとかＡＩ政策に係る教育研究に取り組んでいると、こういう立場でおります。
　私のそのイノベーション政策の関心といいますと、どういった研究開発をやるかというよりは、むしろ、社会とイノベーションがどういう関係にあるのかと、こういう関心がありまして、一つは、もちろんどういった社会であればイノベーションが進むんだろうと、こういう話もあるんですけれども、もう一つは、技術、イノベーションがどんどん進んでいく、そうするといろんな制度ができてくるよねと、それがどういうふうなメカニズムで動くのかという、こういう関心を持っておりまして、特にＡＩ政策は、リスクのガバナンスも含めてそういったところが動いているものですから、かれこれこの十年くらいずっと世界のＡＩガバナンス政策の動向を見て、世界各国がどういうメカニズムでこういうことが議論され、動いているのか、その中から学び取れることは何かと、こういうことをやっておりました。
　今回、本法案に関しましては、先ほど大屋参考人と同じく、私自身は政策立案とか戦略会議とかには全く参加しておりませんので、元役人であるということも含めて、忖度するつもりは全くないのですけれども、原則としては評価、現時点のものとしては評価できるものではないかなという観点から、まず、特に論点になるような三つのポイントと、あと今後取り組むべき課題として、たくさんやることはあると思うんですけど、余り議論されていなさそうだなという点を三点ほど意見を述べさせていただければなというふうに思っています。
　まず、これはもう皆さん、各参考人の方々がおっしゃっておりますけれども、今回、ＡＩ戦略本部をつくるということになっておりまして、これ自身については、やはり昨今のＡＩ技術の重要性の増大、それからそれの社会的なインパクトの大きさを踏まえると、非常に適切なものなのではないかなと思います。
　ＡＩ政策全体で申し上げますと、実はこの数か月くらいで世界が大きく変わっております。チャットＧＰＴが出た後、二〇二三年、二四年は、何かすごい技術が出てきたよね、そのためにこれちょっと規制しないと危ないんじゃないかというのが特に欧米を中心に動いていましたが、二五年になってから大きく方向が変わっています。
　それは、もちろんトランプ政権になって方向転換されたのももちろんなんですが、欧州も、今や英国も含めて、世界各国、ＡＩ技術を使って自国の産業競争力を強化しようという方向に全て動いてしまっています。もちろん、ＡＩガバナンスは引き続き重要なんですが、こういったすごい技術の政策の流れの中、かつ、もう言うまでもなく、世界各国、主要国は今イノベーション政策の最重要政策としてＡＩ政策を打ってきております。アメリカももう一丁目一番地になっています。という流れの中で、日本がどうするかということになっております。
　日本の政策体制につきましては、チャットＧＰＴが出てきた二三年以降、ＡＩ戦略会議も含めて、体制は整ってきているとは思うんですけれども、過去から踏まえると、実は日本でＡＩ戦略を作ったというのが二〇一七年のＡＩ技術戦略なんですが、これは非常に世界的にも早い戦略を作っているんですが、その後、体制が変わり、また一から作って、ＡＩ戦略二〇一九を作り、また審議会の体制を変え直して二〇二二を作った。それぞれは非常にいいんですけれど、事務局の体制も含めて非常に不確実なところで動いてきたかなというところの反省が個人的には外から見ていて思います。そういった中で、今回法定をして、位置付けをしてきたというところには非常に意義があるんではないかなと思うのが一点目でございます。
　それから二点目でございますけれども、今回法案の中にＡＩガバナンスに係る政策の方針を明記したということは非常に重要だと思います。
　その際、やはりもう当然、ＡＩ技術というのは非常に有用な技術である一方、それがゆえに、すごい強力であるがゆえに、使い方によってはリスクが生じる。リスクというのは、いいことに使ったつもりなんだけど悪影響してしまったという非意図的なリスクと、これは何でも使える技術なんで悪い方に使うという人もいると、この両方のリスクをどう抑えるかというこの二つになってくるわけですけれども、それに対して対応していくということが重要なんですが、やはりＡＩ技術というのは、何でも使えるという技術、汎用技術と言われますけれど、ということと、それからもう一つは、どんどんやっぱり技術が進んでくるので、いろんな使い方が更にどんどん増えてくる、こういう話になってきて、事前のリスクを特定するというのがかなり難しい、絶対ゼロとは言いませんけど、難しいというのがあります。
　例えば、ＡＩが、第三次ＡＩブームが出てきて、ＡＩがすごいぞと、ディープラーニングがすごいぞというのが出てきて、これは面白いと言いつつも、やっぱりＡＩ倫理が重要なんではないかというのが二〇一五、六年くらいからもう議論が起きています。
　で、何かもうありそうだよねと言いながら、例えば、二〇一八年に欧州が一番初めのＡＩリスク、当時、ＡＩ倫理なんですけれども、レポートを出しているんですけど、そのとき書かれているリスクの内容というのが、自動運転のトロッコ問題が問題じゃないかというのが筆頭にあるんですね。今議論されているようなＡＩリスクは当時はやっぱり予想できなかった。その後、中国で社会スコア、社会的スコアみたいなの使ったり、あるいは監視カメラを使って人を追跡したりしているのを見て、欧州では、あんなことに使ったら駄目じゃないかといって法案に記載し、アメリカで黒人を差別しているようなＡＩが出ているといって、それは駄目だといって法案出して、その後、二〇二一年にＡＩ法案ができたと、こういう流れになっています。
　なので、やはりアンテナを高く張って世界各国の事例を見ていくというところは非常に重要なんですけれども、完全に事前から予測できることはない。したがって、やらなきゃいけないのは、できるだけアンテナを高く張ってリスクを見つつもアジャイルに対応していくという政府内体制をつくっていく、これらをちゃんとやっていくということが非常に重要という意味で、今回の法案のところはそこが書かれているという意味でいいかなと思っています。
　それから第三点目でございますが、先ほど大屋参考人からも話ありましたけど、やはり規制をどうするのかというのは非常に大きな世界的な論点になります。
　これは、一つは、ＡＩといったときにかなり文化的な、によって見方が異なるというのを私は見ております。ＡＩって、工学的に考えると、人間が目標なりインプットを入れて、それに対して期待するようなアウトプットで出してきて、場合によってはそれに基づいて行動を行うような機械、システムなんですね。それがもちろん間違った使い方をすると変な結果になるし悪影響を及ぼすというのは先ほど申したとおりですけど、もう一つの見方があって、これは、ＡＩって人工知能だろうと、知能だよねと、人間の知能に匹敵するようなのが今後出てくるんだろうと。そうすると、人間社会を壊してしまうんじゃないかというやはりイメージを持ちます。本当にそうなるかというのはもう専門家たちが山のように議論しているが、答えというのは出ていません。
　だから、やはりそれをすごく気にすると、ＡＩの開発自体をちゃんと規制しないといけない、ＡＩ自体ですね、使い方以前にという話が出てきて、その中でＡＩ、規制をしなきゃいけない、不安があるし、規制をしなきゃできないというのが特に欧米で議論がなされています。
　一方で、内閣府の資料を見ると、日本では、何でしたっけ、社会的にＡＩに対する不安感がある。これは、ちょっと私、どうやって調査をしたかは完全には理解していないですけど、あり得べしだなと思っておりますが、先ほどのようなそのＡＩが何か人類を超えてしまうから怖いというのでは多分ないと思っていて、これは、ＡＩに限らず新興技術が世の中に出てくると、やはり何か怖いよねと思うのは社会としての当然の反応として出てきます。
　特にそれは、若い人は全く気にしないんですね。どんどん技術を入れていこうというところがあるんですけど、ここでダグラス・アダムズの法則と書いていますけど、若い人はどんどん技術を取り入れていくんですけど、やっぱり中高齢者は今までの技術でいいんじゃないかという思いがあるので、そうすると技術に対して否定的になる、したがって社会受容性が落ちるということが言われています。
　当然ながら、日本というのは一九七〇年代くらいは若い人がすごく多かったので、日本って新技術をどんどん取り入れる国として世界的に有名だったわけですね。が、今はもう、これは自慢してもいいのかもしれないですけど、日本は高齢化社会です。だから、その際に、やはり新技術に対して否定的なところが、側面が出てきているだろう、その中でどうしていくのかというのが多分我々に掲げられた課題の一つではないかなというふうに思います。
　そういった中で、いろいろＡＩの規制については、私ここに書きましたように五つくらい、最先端ＡＩ技術をどう規制するのか、あるいはＡＩ一般全体の使い方についてちゃんとガイドラインを作っていくのかという話と、特に重要技術の分野で、ＡＩに置き換えると変なことしてしまったらまずいよねって、この辺りの話、それからあとは、データコンテンツ、著作権とか個人情報保護法とかこういったところが今のままでいいんですかって議論が当然出てくる。刑法に関しても、今まで想定してこなかったような悪用が、使われる、悪用されるんじゃないですか、そうするとどうするんですかというふうなところがある。
　特にこの三、四、五みたいなことは、今後ＡＩ戦略本部でどう議論していくかというところが課題だと思っていますが、特に一みたいなＡＩをどう規制するかというような話は、この三の動きの中で、カリフォルニア州でも提案されたけど否決になり、欧州はもうＡＩ法を作っちゃいました。ただ、今、ＡＩ法を作ったそばからＡＩの手続の、法の手続の簡素化だという形に振れておりまして、かなり時代の流れで法規制という、現時点での法規制というのは難しい状況になっているのかなというのが私の理解です。
　という以上の三点を踏まえて三点ほど、今後の重点課題という形でまとめさせていただきました。もちろん、いろんな施策はこれまでも行われていると思いますが、その中でも余り議論されていないかなという点を挙げたつもりでございます。
　一つは、やはり今回ＡＩ法を出したということは、何で出したかというと、やはり社会的にＡＩという技術が非常に重要になってきている、じゃ、そのときに、政府はどうしているんだという話をちゃんと取り組まないといけない課題なのかなというふうに思っています。
　今回、ＡＩ戦略本部ということができて、これをちゃんと動かすことも重要なんですけど、やはり国家全体としてＡＩをどう位置付けるかというふうな、もう少し俯瞰的な立場からＡＩ以外も含めた戦略をちゃんと進めていく必要があるんだということを思っているのが一点ございますし、あとは、もうこれも、今回ＡＩガバナンスとしていろんな体制、関係省庁間との連携をやっていくということは、これは重要なんですけど、その際にも、もうたくさん言われているので言う必要はないかと思っていますが、アジャイルガバナンスをどうするか、マルチステークホルダープロセスをどうやって実現していくのか、これは当然課題です。
　それに加えて、やはり重要な話としては、政府自らがちゃんとＡＩの利活用を促進していくということの重要性について触れたいと思っております。
　今まで、例えば経産省とかが、民間の研究開発とか、ＤＸ、ＡＩ含むＤＸの推進とか、あるいはガイドラインの策定とか、こういったことをして、民間にやれやれと言っているわけですが、じゃ、振り返ってみて、政府がどれだけやっているのかといったところでいうと、いろんな評価はあるんでしょうし、最近デジタル庁が取り組み始めたというところもありますけれども、政府がまずＡＩ頑張っているのというところが非常に重要なところの論点なのではないかなというふうに思っております。
　本来はやはり、またアメリカとかで見ていくと、もちろんそのアメリカの政策の対象が、やはり政府自らのところが一番やりやすいというのは当然あるんですが、やはり、まずやるのは、政府でＡＩ人材をどんどん活用していって、政府内のＡＩを促進し、調達を通じて民間企業に促進するという、そういった戦略が大きく書かれているわけですね。そういったところが非常に重要かなというふうに思っております。
　あとは、ＡＩの外交体制というのが非常に重要です。
　日本の産業競争力は遅れているといいますけれども、実は、国際外交のところで見ると、広島ＡＩプロセスも含めて、日本って非常によくやっているんではないかなというふうなところが評価をされているんではないかと思います。これをやっていく際には、またやはり役所の体制をちゃんと強化していく必要があるのかなと思います。
　最後、時間もなくなりましたのでまとめたいと思いますけれども、これは皆さんも言っていますように、やはり人材が、ＡＩ戦略って基本的にはもう研究、コンピューター資源を整備し、データを整備し、人材をして、あと、ベンチャーと利活用促進策をつくれば大体仕上がるわけですが、日本に関しては、単にＡＩ人材が全くやはり律速、ＡＩの進め方にあって律速になっているということと、若者人口が減っているという、そういう流れの中で、あとは先ほど言ったように、やはり高齢者にちゃんと理解してもらう、あるいは高齢者も使っていく、かつＡＩを使っていくという世界をつくっていくには、実はＡＩ戦略の今人材戦略というのは、ＡＩ戦略、二〇一九年のとき作ったもので、それが二〇二五年に切れることになっているんですね。そういうことを踏まえますと、やはり新しい戦略本部が人材、広い意味での人材をどうするのかということが重要なんではないかなと思います。
　時間を超過して申し訳ございませんが、以上で終わらせていただきたいと思います。ありがとうございました。