生成AIにおけるライセンスリスク及びセキュリティリスク

こんにちは！
このカレンダーを企画しているPromotion SGのメンバーである森田と申します。
本日は、生成AIにおけるライセンスリスク及びセキュリティリスクについて触れていきます。
分かり易いよう心がけてはおりますが、難しい点などがありましたら著者の力不足ですので、先にお詫び致します。

## 生成AIにおけるライセンスリスク

生成AIにおけるライセンスとしては特に気を付けるべきことはライセンスが不明確によるリスクです。

生成AIの使用に関するライセンスが不明確な場合、コンテンツの生成と共有において法的問題が発生する可能性があります。

具体的には、コンテンツが他の著作物に酷似している場合、著作権侵害の懸念が生じる可能性があります。AIを使用して生成されたコンテンツが他の著作物を無断でコピーまたは模倣している場合、係争に発展する可能性があります。

また、一部のAIプロバイダーは、生成されたコンテンツの使用に関する制約を設けている場合があります。これらの制約に違反すると、係争に発展する懸念があります。

さらに、生成AIに個人情報が含まれている場合には、個人日本においては個人情報保護法が該当します。諸外国においては、GDPR（ヨーロッパ）、HIPAA及びCCPA（アメリカ）、PIPEDA（カナダ）、DPA（イギリス）といった法律にも注意が必要です。

なお、AIを使用して生成されたコンテンツを詐欺や不正な目的で利用する場合には、刑事事件として取り扱われる可能性があります。

加えて、倫理的な側面でもリスクを考慮しておくことも重要です。具体的には、生成AIが人種、性別、宗教、性的指向などに関連する差別的なコンテンツを生成する可能性があるため、倫理的な観点からのリスクも考慮する必要があります。生成AIの使用に際しては、倫理的なガイドラインや規制を全社レベルで周知徹底することが重要です。

## 生成AIにおけるセキュリティリスク

生成AIは非常に便利で活用することで業務効率が上がるなどの効用がある一方で、自社の情報を扱うが故に気を付けておくべきこともあります。ここでは、主にセキュリティリスクとなることを挙げます。

<dl>
<dt>（１）データの漏洩</dt>
これは釈迦に説法ではありますが、生成AIモデルをトレーニングするために大量のデータが必要であり、これらのデータは機密情報を含むことがあります。データの漏洩は重大なセキュリティリスクです。
そのためにも、データの適切な保護、暗号化、アクセス制御をしっかりと全社レベルとして対策していかなければなりません。

<dl>
<dt>（２）生成AIモデルの攻撃</dt>
攻撃者は生成AIモデルを攻撃することで、誤った情報を生成させる恐れがあります。これにより、偽造情報を広めるリスクが生じます。
これらの対策としては、モデルのセキュリティを強化するために、ロバストネスの向上、モデルの監視、入力データの検証などが必要だと考えます。

<dl>
<dt>（３）悪意のあるコンテンツの生成</dt>
生成AIは悪意のある利用にも使われる恐れも潜んでいます。具体的には、ヘイトスピーチ、偽造書類、詐欺などが考えられます。生成A Iモデルの使用に関するガイドラインや規制を設け、それらが適切に運用されているのか監査を定期的にしていくことが重要です。

<dl>
<dt>（４）フィッシング攻撃</dt>
生成AIを悪用したリアルなフィッシング詐欺のメッセージ及びウェブページを生成する攻撃も起きています。とりわけ、AI音声詐欺が顕著に現れています。セキュリティー企業として有名なマカフィーの5月に発表した報告書によると、米国や日本、英国など7カ国において、7カ国平均で10人に1人がAI音声詐欺に遭遇し、このうち77％が実際にお金を失ったと回答したとのことです。国別の遭遇率では、インドが20％と最も高く、米国が14％と続き、日本は3％と最も低かったようです。
これらの対策として、ユーザー教育やメールフィルタリングなどの対策は重要であると考えます。

<dl>
<dt>（5）自己増殖のリスク</dt>
生成AIが自己増殖し、コンテンツの生成を繰り返す場合、コンテンツの品質やコントロールが難しくなるといったリスクが潜んでいます。
適切な制御と監視が必要です。

----
## English Summury

I'm Youhei MORITA who is a member of promotion SG.
Today, I mentiond to License Risks and Security Risks in AI Generation.

1.License Risks in AI Generation:

The risk associated with unclear licenses in the use of AI generation.
The potential for legal issues when licenses for AI-generated content are unclear.
Concerns about copyright infringement, especially when AI-generated content closely resembles other copyrighted material.
Possibility of disputes arising if AI-generated content violates usage terms set by AI providers.
Compliance with data protection laws such as the Personal Information Protection Law (Japan), GDPR (Europe), HIPAA/CCPA (USA), PIPEDA (Canada), DPA (UK), and others is necessary.

2.Security Risks in AI Generation:

The risk of data leaks, necessitating data protection, encryption, and access control measures.
The possibility of attacks on the AI model itself, allowing for the generation of false information.
Risks related to the generation of malicious content, requiring the application of guidelines and regulations and regular audits.
Reports of an increase in phishing attacks involving AI-generated messages, highlighting the importance of user education and measures like email filtering.

The risk of self-propagation in AI generation, leading to challenges in maintaining content quality and control.
To address these risks, it is essential to acquire appropriate licenses, comply with legal requirements, implement data protection measures, enhance security, establish and communicate ethical guidelines, provide user education, and maintain monitoring procedures.