Market Flash
生成AIの衝撃

No3～生成AIの表と裏～

2023.0５

Market Flash2023.5～ 生成AI の衝撃～
生成AIのテーマと取り上げてから3か月、この短期間に生成AIに関する議論は白熱し、様々なリスクに警鐘を鳴らす人・企業が出ている一方で、積極的に取り入れている人・企業もある。
その火付け役となったChatGTPについてはここ数か月の間でいろいろ試された結果として、やや期待外れ（間違った答えが多いなど）という声も多く聞かれるが、ChatGTPを使用した検索エンジン「Bing」はその欠陥を補ったものになっているなど、生成AIを利用した様々なAIの開発は超高速で進んでいることから、ChatGTPが社会にもたらした影響は計り知れない。と同時に、その開発スピードがあまりにも早いことから「悪者が悪用するのを防ぐ方法が見つからない」という大きな問題を抱えている。その意味で、イーロンマス
ク氏が提唱した、「半年間開発を止めるべき」という主張は正しいのかもしれない。
各国も生成AIに対する規制について議論されているが、まだ統一した方向性は見いだせていない。
今月は、この生成AIで議論になっているいくつかのリスク・問題点についてまとめると同時に各国の生成AIに対する規制に関する考え方などについてまとめてみた。
生成AIのリスクや問題点の前に、生成AIの利用分野について簡単にまとめてみよう。3月4月とChatGTPを中心とした生成AIについてみてきたが、検索エンジンに限らず他の分野でも生成AIの利用が進んでいる。
＜生成AIの利用分野＞
１．会話型検索エンジン
これは先月のレポートでもみてきたが、マイクロソフトは5月に対話型の人工知能（AI）を搭載した検索エンジン「Bing（Bing）」の一般公開を始めた。この検索エンジンは今までの検索とは違って、知りたいことを会話型で尋ねるとAIが検索機能を使って知りたいことをまとめてくれる。例えば、これまで「京都の名所」と検索した場合は、京都の名所が個別に表示され、検索者はそれを一つ一つ開いて確認して自分なりの回答（名所めぐりのスケジュールなど）を作り上げる必要があるが、このBingであれば、「京都のおすすめ観光スポットはどこ」と尋ねると、具体的な旅行観光スポットを列挙してくれる。ただ、Bingは検索エンジンであり、ChatGTPのようにより具体的にスケジュールを立てるというものではなく、検索結果をわかりやすくまとめて、かつ、その結果はどのサイトから検索したものか示してくれるので、検索手間がかなり省けるのが特徴だ。
今後はもっとChatGTPの対話型AIの機能を取り入れた検索エンジンが出てくることであろう。その意味で、Googleの今後の動向が注目される。

本資料の内容は作成基準日のものであり、将来予告なく変更されることがあります。また、本資料は信頼できると判断した情報等をもとに作成しておりますが、正確性、完全性を保障するものではありません。
.

2Market Flash2023.5～ 生成AI の衝撃～
２．メール生成AI
現在のビジネス社会においてメールか欠かせないツールである一方、メールの作成・返信にかかる時間は生産性の妨げにもなっています。一般社団法人日本ビジネスメール協会が２０２２年６月に調査した結果によると、１日平均のメール送信数は16.27通、受信数は66.87通。メールを1通書くのに平均6分5秒、メールを1通読むのに平均1分24秒かかっているという。そうすると、1日のメール送受信にかかわる総時間はなんと3時間12分もメールの送受信にかかっていることになる。
メール生成AIは以下の点でメリットがある。
（１）自動化されたメール作成：AIは、既存のデータやテンプレートを使用してメールを自動的に生成するため、時間と手間を節約することができる。特に、繰り返し行われる類似のメールや返信メールの作成に便利である。
（２）言語の正確性と一貫性：メール生成AIは、文法ルールや表現の一貫性を守ることができ、これにより、メールの品質やプロフェッショナリズムが向上する。
（３）カスタマイズ可能性：AIモデルは、特定の文脈や目的に合わせてカスタマイズすることができる。例
えば、特定の業界や顧客に適したメールスタイルや言い回しをカスタマイズすることができる。
こうしたメール生成AIによって、新規メールの作成や受信したメールに対する返信メール作成をある程度定型的に作成することができる。これは生産性向上につながる有力な手段になりえるだろう。

３．プレゼン資料作成AI
プレゼン資料AIとは、自分自身がプレゼン資料として作成したいテーマを一分入力すれば、AIがプレゼンテーション資料を自動生成してくれる仕組みである。プレゼンテーションの目次を作成し、各項目についても説明ページを作成してくれる。
プレゼン資料AIの特徴としては、（１）テンプレートベースのデザイン: プレゼン資料作成AIは、事前に設計されたテンプレートを使用してプロフェッショナルなデザインを提供。これにより、デザインスキルに自信のないユーザーでも魅力的な資料を作成することができる。
（２）自動的なデータ整理と可視化: プレゼン資料作成AIは、データを分析し、適切な形式で視覚化することができる。グラフやチャート、図表などを自動的に生成し、情報をわかりやすく伝える助けとなる。
（３）自然言語処理による文章生成: AIは、与えられたテキストやキーポイントに基づいて自動的に文章を生成することができ、プレゼン資料の説明や要点の整理が容易になる。
（４）スライドの自動配置とレイアウト: プレゼン資料作成AIは、スライドの配置やレイアウトを自動的に最適化することができる。テキストや画像の配置の最適な位置やサイズを判断し、美しいプレゼン資料を作成する手助けとなる。
（５）多言語対応: プレゼン資料作成AIは、複数の言語に対応しているため異なる言語のプレゼンテーションを作成する際にも便利である。
このようにプレゼン資料作成AIは、短時間で効果的なプレゼンテーション資料を作成することができ、手書きでスライドを作成する手間を省き、時間を節約することができ、生産性向上に役立つものである。

本資料の内容は作成基準日のものであり、将来予告なく変更されることがあります。また、本資料は信頼できると判断した情報等をもとに作成しておりますが、正確性、完全性を保障するものではありません。
.

3Market Flash2023.5～ 生成AI の衝撃～
４．画像生成AI
画像生成AIとは、（１）スタイル転送: 画像生成AIは、ある画像のスタイルや特徴を別の画像に転送することができる。例えば、有名な画家のスタイルを元に、他の画像をそのスタイルで再現することができる。
（２）画像修復: 画像生成AIは、ダメージを受けたりノイズの多い画像を修復することができる。例えば、ぼやけた画像を復元したり、欠損部分を補完したりすることが可能。
（３）画像合成: 画像生成AIは、複数の画像を合成して新しい画像を生成することができる。例えば、背景を変更したり、オブジェクトを追加したりすることができる。
（４）画像変換: 画像生成AIは、画像を他の形式やスタイルに変換することができる。例えば、写真を絵画風に変換したり、カートゥーン風に変換したりすることができる。
これらの例は、画像生成AIが実現できるさまざまな応用の一部であるが、これらの技術は、デザイン、芸術、写真編集などの領域で利用され、創造的な表現や画像処理の改善に役立っている。
その一方で、学習された他人の画像の著作権の問題や画像生成AIで作成した画像自身の著作権の問題が発生しており、実際にアメリカではいくつかの訴訟問題になっている。
この著作権の問題は各国も法的解釈が違うためそれぞれの対応を迫られている。
５．生成AIの図表画像解析
これまでみてきたAIは、文字情報をインプット情報として入力することで、アウトプット情報として文章、メール、プレゼン資料を生成するものであった。これに加えて最近では図表や画像をインプット情報として入力し、その内容を解析する能力を備えたAIも登場している。
例えば、ある統計分析のグラフをインプットすると、それを解析して解説をしてくれるのである。また、ある写真をインプットしてその写真の異常なところを探させることもできる。
以上は、生成AIの主な機能を説明したものであるが、生成AIは日々進化し我々社会生活へも大きな変化をもたらそうとしている。
その他の機能も含めて生成AIの機能としては下記の表なものが考えられる。

本資料の内容は作成基準日のものであり、将来予告なく変更されることがあります。また、本資料は信頼できると判断した情報等をもとに作成しておりますが、正確性、完全性を保障するものではありません。
.

4Market Flash2023.5～ 生成AI のリスク～＜AIゴッドファーザーの警鐘＞
AIの研究をけん引し、この分野で「ゴッドファーザー」と呼ばれたジェフリー・ヒントン氏がグーグルを退職したというニュースが話題になった。
ヒントン氏は、コンピューター上で人間の脳の神経回路を数学的に模倣する「ニューラルネットワーク」の研究を主導した人物。1972年、英エディンバラ大学の大学院生だったヒントン氏はこのアイデアを支持して研究を進めた。当時信じる研究者はほとんどいなかったが、その後ニューラルネットワークが同氏のライフワークになった。1980年代、同氏は米カーネギーメロン大学のコンピュータサイエンスの教授だったが、その後カナダに移り、トロント大学で教鞭をとった。最近はグーグルで研究部門の副社長とエンジニアリングフェローを務めていた。
グーグルやオープンAIといった企業が、大量のテキストデータから学習するニューラルネットワークの構築を始めた時点でヒントン氏は、ニューラルネットワークが機械の言語理解・生成能力を向上させ得る手法だと考えたものの、依然として人間が言語を扱う方法には劣ると感じていた。
だが2022年にグーグルやオープンAIがより膨大な量のデータを使用してシステムを構築するようになった。
これにより同氏の見解は変化した。「ある部分でAIはまだ人間にかなわないが、別の部分では人間の知能を上回っているとも考えるようになった」という。
22年までグーグルはAIを一般に公開することに慎重だった。つまりAIの危険性を認識しており「適切な管理者」として振る舞っていた。しかし、米マイクロソフトが検索エンジン「Bing」にオープンAIの大規模言語モデルを導入した。主力事業を脅かされる状況になったグーグルは、すぐさまこの競争に参加した。ヒントン氏は「巨大IT（情報技術）企業は止めることができない競争に巻き込まれているかもしれない」と述べた。
同氏によれば、AIはしばしば、膨大なデータの中から予期しない振る舞いを学んでしまう。このことは、個人や企業がコンピューターコードを生成させるだけならば問題ない。しかしそのコードを実際に実行することを許可した場合は問題だと危惧している。完全自律型兵器（キラーロボット）が現実のものになることに恐怖を感じているという。
また、「悪者がAIを悪用するのを食い止める方法がなかなか見つからない」と述べ。生成AIなどの急速な普及に警鐘を鳴らしている。
また、ヒントン氏は、AIが人間よりも賢くなるにはあと30～50年以上かかると考えていたという。「だがはっきり言う。今はそう思わない」（同氏）。「グーグルやマイクロソフトなどが繰り広げるAI競争は、世界規模の競争にエスカレートしていく。何らかの規制がなければ、それは止まらない」と指摘している。
このような警鐘はヒルトン氏に限ったことではない。イーロンマスク氏らが呼び掛けて米非営利団体が6か月にわたり開発を中止することを求める署名活動を3月には始め、欧米などでも規制に向けた動きが広がっている。（各国の規制については後述）
生成AIの開発・利用についての規制問題は後述するとして、まず、具体的に訴訟が起こっている著作権の問題について簡単にまとめてみた

本資料の内容は作成基準日のものであり、将来予告なく変更されることがあります。また、本資料は信頼できると判断した情報等をもとに作成しておりますが、正確性、完全性を保障するものではありません。
.

5Market Flash2023.5～ 生成AI のリスク～＜著作権問題＞
１．著作権の法的論点
前述した画像生成AIによって作成された画像についての著作権に関しての法的解釈は各国によって異なるが、いずれも以下のような点が論点となっている。
（１）「学習データの権利問題」
AIの学習に他人の画像や文章を勝手に収集して利用することができるか
米国ではフェアユース規定、EUでは非営利での利用に限定など、解釈は各国で異なっている。日本国内においては著作権法30条の4にある「情報解析としての利用」に該当し、権利侵害に該当しない可能性が高いと考えられ、欧米と比べて非常に寛容な法体系となっている。
（２）「生成物の著作権問題」
生成系AIを利用して自動生成した生成物に著作権は発生するか、発生するならば誰の権利になるか
AIによる創作物には著作権は発生しないのが基本。しかし、生成者の意に沿った画像にするために、「長く複雑な入力文により生成する」「複数回の試行錯誤から生成して選択する」「生成された画像を人間がさらに加工する」といった、人による創作の意図や創作的寄与が入ると著作権が発生すると考えられる。この点に関して弁財米国ではいくつかの訴訟で議論されている。
（３）「その他権利侵害の懸念」
生成系AIを利用して画像や文章を作成・利用することは著作権・肖像権らの観点で懸念はないか
生成系AIを使って既存著作物と同一／類似の著作物が出力された場合の権利侵害は「依拠性＝ユーザーが当該既存画像を模倣しようとしたのかどうか」が判断の分かれ目となると考えられる。例えば、著名な画家や作家の名前を入力して既存著作物と同一／類似の画像を生成させるようなことが該当する。また、特定の作者の作品だけで学習させた生成系AIを提供した提供者も責任を問われる可能性が高いと考えられる。
２．米国での訴訟例
これら各種の生成AIは作家や漫画家、イラストレーター、プログラマーなど各方面の知的財産権を侵害し、その職業を脅かしている、という訴えや苦情は以前から聞かれた。
そして今年1月、米国で画像生成AIの合法性を争う集団訴訟が起こされた。
原告側の代表は、漫画家のSarah Andersen、コンセプト・デザイナーのKarla Ortiz、そして画家・イラストレーターのKelly McKernanの3氏。
一方、被告となったのは英Stability AI、米Midjourney、米Deviantartの3団体。
Stability AIは、世界的に使われている画像生成AI「Stable Diffusion」や「Dream Studio」などを開発・提供する業者。
Midjourneyも同じく世界的な画像生成AI「Midjourney（製品名と組織名が同じ）」を開発・提供する研究団体。
Deviantartは本来オンラインのアーティスト・コミュニティだが、2022年末に「DreamUp」と呼ばれる画像生成AIを自らリリースしてこの分野に参入した。米国の団体だが、イスラエルのウェブ開発企業「Wix.com」の傘下にある。

本資料の内容は作成基準日のものであり、将来予告なく変更されることがあります。また、本資料は信頼できると判断した情報等をもとに作成しておりますが、正確性、完全性を保障するものではありません。
.

6Market Flash2023.5～ 生成AI のリスク～＜原告側の主張＞
原告側の訴えによれば、画像生成AIは世界中で数百万人ものアーティストが描いた数十億枚もの各種画像をウェブ上から収集し、これを機械学習の教材（「学習用データ」と呼ばれる）として無断で使用している。これらAIが生成する作品はアーティストの著作権を侵害すると同時に、アート市場での新たな競合関係を作り出すことによって、アーティスト（つまり人間）を市場から締め出しているという。
例えば「Stable Diffusion」のような画像生成AIを使用する際には、ユーザーが特定のアーティストの描画スタイル、つまり画法のようなものを指定してリクエストできる。特定のイラストレーターの氏名（Aさん）を指定し、「Aさんの描画スタイルでこれこれこういう絵柄のイラストを描いてください」とリクエストすると、画像生成AIはまさにAさんが描いたかのようなイラスト作品を出力する。しかも無料でやってくれる。
この結果、過去にAさんに雑誌や書籍、ゲーム等に使うイラストの仕事を依頼していた出版社やゲーム会社などが最近は画像生成AIを使ってイラストを作成してしまうので、こうしたイラストレーターに舞い込んでくる仕事が目立って減少しているという。
また漫画家やデザイナーなど他の職種でも、多かれ少なかれ同じような事が起きているという。しかも画像生
成AIの業者らは、元はと言えば自分達の作品を無断で使って、そういうことをやっている。とてもではないが我慢できない、というのが原告側の起訴理由だ。
原告側によれば、画像生成AIが実際にやっていることは学習用データとされる多数の画像を複製して、それらをコラージュ、つまり組み合わせている作業だという。基本的にはアーティストが描いたオリジナル作品のコピーに過ぎないから、著作権の侵害に当たるということだ。
＜被告側の主張＞
被告側のStability AIなど画像生成AI業者は原告側の訴えを真っ向から否定している。
こうした業者らによれば、画像生成AIが実際にやっていることは、「Dimension Reduction（次元削減）」や「Diffusion Model（拡散モデル）」などの特殊な技術を使って「Latent Space（潜在空間）」と呼ばれる数学的な空間における「AI独自の描画スタイル」を導き出すことだという。
この独自の描画スタイルによって新たな画像を生成しているので、オリジナル作品のコピーには当たらない。
従ってアーティストの著作権は侵害していないという。
ただ、これらの専門用語はいずれも情報科学や物理学の先端理論に由来しているため、一般人はおろか知的財産権などを専門とする法律の専門家にも対処するのが難しいと見られている。もしも裁判が始まれば、その審理は容易に決着しそうもないという。
このような訴訟はプログラマーの世界でも起こっている。これらの訴訟を通じて各国の法的論点が明らかになり、何らかの規制・ガイドラインを示されていくものと思われる。
生成AIの権利侵害を告発する動きは報道業界にも広がっている。
今年2月、ニューズコープ傘下のダウジョーンズは、世界的な人気を誇るOpenAIのテキスト生成AI「ChatGPT」が経済紙ウォールストリート・ジャーナル（WSJ）の記事を無断で利用している、と非難した（
ダウジョーンズはWSJの発行元）。
「ウォールストリート・ジャーナルの記事をAIのトレーニング（機械学習）のために利用したいと考える者は誰でもダウジョーンズからそのためのライセンス（利用許諾権）を得なければならない」とする公式コメン
トを同社は出した。
ただこのような主張が通るとすれば生成AIは何ら進歩しないものとなるだろう。
本資料の内容は作成基準日のものであり、将来予告なく変更されることがあります。また、本資料は信頼できると判断した情報等をもとに作成しておりますが、正確性、完全性を保障するものではありません。
.

7Market Flash2023.5～ 生成AI のリスク～＜各国の著作権の規定＞
対話型サービス「チャットＧＰＴ」など生成ＡＩ（人工知能）による著作物の使用に対し、日本は先進諸国で最も法規制が緩く、ＡＩがほぼ無条件に著作物を「学習」できる状態となっている。イラストレーターや音楽家らは著作権が侵害されるとの懸念を強めており、専門家らは、新たなルール作りが必要だと指摘している。
イラストや漫画などの創作活動を行う人たちでつくる「クリエイターとＡＩの未来を考える会」は、「ＡＩによる著作物の無断学習が創作活動に悪影響を与えている」と訴えた。さらに、著作物の学習について定めた著作権法３０条の４に、権利者から事前に許可を得る仕組みがないことなどを問題として挙げた。
３０条の４は２０１８年の法改正で盛り込まれ、ＡＩが文章や画像を学習する際、営利・非営利を問わず著作物を使用できるとしている。違法に取得した著作物でもＡＩが学習すること自体は「合法」だ。
使用できないケースとして「著作権者の利益を不当に害する場合」との規定もある。だが、文化庁は「市販のデータセットをコピーする」など限定的な例しか示していない。さらに、権利者が希望すれば学習対象から除外できる「オプトアウト」もない。

日本に比べ、欧州の先進国や欧州連合（ＥＵ）では、権利者を保護する方向で法整備が進んでいる。
英国では合法的に取得した著作物であれば、非営利目的の研究に自由に利用できる。一方、商業目的の場合は権利者の許可が必要となる。
ＥＵでは１９年、学術研究目的の著作物使用を可能とする一方、それ以外の分野についてはオプトアウトなどを設けるよう加盟国に指令を出した。フランスやドイツなどでは指令に基づく規定が導入され、権利者の保護を図っている。
一方、米国では、著作物一般に適用される「フェアユース」（公正な利用）の規定に基づき、司法がその都度、権利侵害の有無を判断する。その際には「利用された量や重要性」「著作物の潜在的な市場または価値に対する影響」など４要件が基準となる。カナダもほぼ同様に、「フェアディーリング」（公正な取引）の規定で個別に判断される。

本資料の内容は作成基準日のものであり、将来予告なく変更されることがあります。また、本資料は信頼できると判断した情報等をもとに作成しておりますが、正確性、完全性を保障するものではありません。
.

8Market Flash2023.5～ 生成AI のリスク～＜各国の規制＞東京大学教授の横山広美女史は生成AIを社会システムを変えるほどの破壊的イノベーションとしているが、一方で、不正行為や悪用が懸念され、これまで以上に格差を広げ、人間の尊厳を傷つける可能性があるとしている。
生成AIによって急激に対応を迫られている理由として、「多点・多目的開発」：競争が過熱激化すると同時に、多目的に開発が進んでおり、波及先が広い。
「スピード」：万能細胞やゲノム編集ベビーなど科学技術の開発は初期段階からアセスメントをする重要性が認識されているが、この生成AIの開発はあまりにもスピードが速く社会的に浸透するアセスメント（影響評価）をすることなく開発が進められている。
「世界同時経験」：世界中の大人数の人々が効果をほぼ同時に、かつ直接に経験している。と指摘。
そして、予防的規制を作成するために重要な点として、（１）「倫理的な問題」を把握し、開発の初期段階から関与すること（２）開発される技術や製品の質を管理し、将来にわたって製造責任を担うこと（３）社会との対話を継続して行うことを挙げている。

横山女史を含む研究者が世界36のAIガイドラインを分析し、共通する8項目をAI倫理を測定する8つの尺度「オクタゴンメジャメント」というレーダーチャートの形式で可視化した。

本資料の内容は作成基準日のものであり、将来予告なく変更されることがあります。また、本資料は信頼できると判断した情報等をもとに作成しておりますが、正確性、完全性を保障するものではありません。
.

9Market Flash2023.5～ 生成AI のリスク～今月行われた広島G7においてもAIの開発・利用に関しての網羅的な方針が示された。
Chat（チャット）GPTに代表される汎用的な人工知能（AI）の活用を巡って年内に著作権保護や偽情報対策などを含むG7としての見解をまとめることで合意した。
担当閣僚による枠組み「広島AIプロセス」を立ち上げ、AIの開発や利活用、規制などについて議論し、年内にその結果を報告する。G7主導による国際ルールづくりを急ぐ。
岸田文雄首相は19日の討議で「『人間中心の信頼できるAI』を構築するためにも、閣僚レベルの合意に基づき、国際枠組みの早期設立に向けて協力を得たい」と呼びかけた。
「特に生成AIは経済社会への影響が甚大であり、G7が一致して切迫感をもって対応すべきだ」とも述べた。
G7における統一した規制がどこまで進むかはやや疑問がある。というのも、現在進んで切る各国のAIに対する規制の方向感がかなり違っている。
EUにおいては、2020年からAI規制に関する議論が進んでおり、ChatGTPの出現によりその議論はさらに加速化され、今年後半には政治的合意に至り、施行したい意向である。
AIのリスクを4段階に分け、EUが高リスクと判断したAIを公開前に評価する仕組みをつくる。
生成AIはインターネット上のデータから学習し、高度な文章や精巧な画像などをつくることができる。
欧州委員会のベステアー氏はAIの生成物に「メード・ウィズAI」「これは本当の写真ではない」といったラベルをつけて区別する案を提示した。
提供する企業は「なぜAIがそう判断をしたか」「どのような倫理基準を設けているか」を開示すべきだとしている。
米国においては、AIをめぐる政府方針を発表し、安全性を確認する基本的な責任は企業にあると明確にした。
ChatGTPを開発したオープンAIはじめ生成AIの主要4社をホワイトハウスに呼び、直接要請した。その上で、研究開発を後押しするため、1憶4000億ドル（約190億円）を投じ、AIの国立研究機関を7つ立ち上げることも表明した。
日本においては、松本剛明総務相も、規制を設けるとすれば開発段階ではなく、利用段階にすべきだとの考えを示している。
産業育成と国民の保護の両立を狙う。
このように各国のAIに対する規制の姿勢は異なるが、AI規制のポイントとしては右の表の点があげられている。

本資料の内容は作成基準日のものであり、将来予告なく変更されることがあります。また、本資料は信頼できると判断した情報等をもとに作成しておりますが、正確性、完全性を保障するものではありません。
.

10Market Flash2023.5～ 生成AI のリスク～＜EUのAI規制の概要＞
規制内容
欧州AI規則案においては、規制対象となる行為について、リスクベースアプローチが採用されており、AIシステムに関連する危険性が高ければ高いほど、より厳格な規制が課せられる仕組みとなっている。具体的には、以下の四つに区分される。
（ⅰ） 禁止されるAIシステム（ⅱ） ハイリスクAI（ⅲ） 透明性義務を伴うAI（ⅳ） 最小限リスク／リスクなし（１）禁止されるAIシステム
欧州AI規則案では、一定のAIシステムが「禁止されるAIシステム」に分類され、「禁止されるAIシステム」を市場に投入し、サービスとして提供しまたは使用する行為は原則として禁止される① サブリミナル技術を使用し、身体的・精神的危害を引き起こすもの② 子供や精神障害のある人の脆弱性を悪用し、身体的・精神的危害を引き起こすもの③ 自然人の信用性を評価等するものであって、特定の自然人やその人の属するグループ全体を不利益に取り扱うこと等につながるようなもの④ 法執行の目的で、公の場所で遠隔地のリアルタイムの生体識別システムを使用する行為＊サブリミナル効果（サブリミナルこうか）とは、意識と潜在意識の境界領域より下に刺激を与えることで表れるとされている効果のことを言い、視覚、聴覚、触覚の3つのサブリミナルがあるとされる 。

本資料の内容は作成基準日のものであり、将来予告なく変更されることがあります。また、本資料は信頼できると判断した情報等をもとに作成しておりますが、正確性、完全性を保障するものではありません。
.

11Market Flash2023.5～ 生成AI のリスク～
ハイリスクAI（２） ハイリスクAIの類型
次に、欧州AI規則案では、人の安全や権利に影響を及ぼすリスクが高いAIは「ハイリスクAI」に分類されており、「ハイリスクAI」システムの提供や利用にあたっては、プロバイダー等に重い義務が課されている。

（３）最小限リスク／リスクのないAIシステム
上記のリスクグループに該当しないAIシステムは、一般的に適用される法律を遵守して開発および使用することができ、欧州AI規則案上、プロバイダーおよびユーザーが特に遵守すべき法的義務として定められた事項はない。

このような各国のAIに対する規制の議論と今回広島サミットで合意したG7としての統一した国際ルールつくりとどのように統合していけるかは注目に値する。生成AIはその間もさらに進化するであろう。
生成AIがもたらした社会的影響は今回見てきたような問題点ばかりではなく様々な分野で「生成AIの表と裏」がある。教育分野においては、奥深い知識を取得できることや知識がないものでも新しい分野に挑戦できる「表」の面がある一方で、レポートをChatGTPを利用してそのままコピペするなど学生の知識向上に全くつながらない「裏」の面もある。ここでは教育の在り方が問われてくる。
プログラムの分野で見れば、簡単なプログラム生成については時間を大幅に省け素人でも簡単に作業を効率化できる「表」の面と、詐欺などに利用するプログラムの作成も問い方によっては作成できてしまう「裏」の面もある。
その分野においても、生成AIは生産性向上、作業時間大幅な削減に寄与するという「表」の面と、人間の仕事を奪ってしまう「裏」の面がある。
AIのゴッドファーザーであるヒントン氏が言ったように「悪者に悪用されない方法」を示す国際ルールが不可欠である。
本資料の内容は作成基準日のものであり、将来予告なく変更されることがあります。また、本資料は信頼できると判断した情報等をもとに作成しておりますが、正確性、完全性を保障するものではありません。
.

12