責任あるAI開発のためのAzure OpenAIガイド: 制限付きアクセスと倫理規定

この記事は、Azure OpenAI Serviceのドキュメント「Responsible AI（責任あるAI）」の4つのページ「Use cases for Azure OpenAI Service（わかりやすさに関するメモ）」「Limited access（制限付きアクセス）」「Code of conduct（倫理規定）」「Data, privacy, and security（データ、プライバシー、セキュリティ）」の4つのドキュメントを要約して日本語化したものです。

今回は以下の2つです。
<ul>
 	<li>「<a href="https://learn.microsoft.com/en-us/legal/cognitive-services/openai/limited-access?context=%2Fazure%2Fcognitive-services%2Fopenai%2Fcontext%2Fcontext">Limited access（制限付きアクセス）</a>」</li>
 	<li>「<a href="https://learn.microsoft.com/ja-jp/legal/cognitive-services/openai/code-of-conduct?context=%2Fazure%2Fcognitive-services%2Fopenai%2Fcontext%2Fcontext">Code of conduct（倫理規定</a>）」</li>
</ul>
についてです。
<h2>制限付きアクセス</h2>
Microsoftは、個人や社会の権利を保護し、透明な人間とコンピュータの相互作用を促進することを目的として、責任あるAIに取り組んでいます。そのため、現在Azure OpenAIへのアクセスや利用を制限しており、コンテンツフィルタや不正使用の監視の変更ができる機能へのアクセスも制限しています。
<h3>登録プロセス</h3>
Azure OpenAIは登録が必要であり、現在は承認された企業顧客とパートナーにのみ提供されています。Azure OpenAIを利用したい顧客は、登録フォームを提出する必要があります。

顧客は、サービスを利用するすべてのユースケースについて登録フォームで選択しておく必要があります（最初の登録フォームの質問22で希望するモデルを選択した後、選択可能なユースケースがフォームに表示されます）。初回オンボーディング後に追加のユースケースを追加したい場合は、このフォームを使用して追加のユースケースを提出する必要があります。Azure OpenAIの利用は、登録フォームで選択されたユースケースに限定されます。Microsoftは、顧客にこの情報を再確認することを求める場合があります。こちらで例示されるユースケースや避けるべきユースケースについて詳しく読むことができます。

サービスへのオンボーディング後にコンテンツフィルタを変更したり、不正使用の監視を変更したい顧客は、追加の適格性基準とシナリオ制限が適用されるため、こちらで登録する必要があります。

Azure OpenAIサービスへのアクセスは、Microsoftの独自の裁量に基づく適格性基準と審査プロセスに従って提供され、顧客はAzure OpenAIサービスのAzure利用規約を読んで理解したことを認める必要があります。

Azure OpenAIサービスは、Microsoft Azureサービスへの加入に関する規定、特にMicrosoft製品規約のAzure OpenAIセクションに基づいて顧客に提供されます。これらの利用規約を注意深く確認してください。これらの規約には、Azure OpenAIサービスの利用に関する重要な条件や義務が含まれています。

要約すると、Microsoftは責任あるAIの取り組みの一環として、Azure OpenAIサービスへのアクセスと利用を制限しています。登録プロセスを経て、承認された企業顧客とパートナーにのみ提供されます。顧客は利用するユースケースを登録フォームで選択し、必要に応じて追加のユースケースを提出します。また、コンテンツフィルタや不正使用の監視を変更する場合、追加の適格性基準とシナリオ制限が適用されます。Azure OpenAIサービスの利用には、Microsoft Azureサービスへの加入に関する規定に従う必要があります。

&nbsp;
<h2>倫理規定</h2>
以下の行動規範は、すべてのAzure OpenAIサービス実装が誠意をもって遵守すべき要件を定義しています。この行動規範は、Microsoft Online Services TermsのAcceptable Use Policyに加えて適用されます。
<h3>アクセス要件</h3>
Azure OpenAIサービスは登録が必要なLimited Accessサービスであり、承認されたエンタープライズ顧客およびパートナーにのみ提供されます。このサービスを利用したい顧客は、このフォームを通じて登録する必要があります。詳細は、「Azure OpenAIサービスへの限定アクセス」を参照してください。
<h3>Responsible AI軽減要件</h3>
Azure OpenAIサービスとのインテグレーションは、以下の要件を満たす必要があります。
<ul>
 	<li>有意義な人間の監督を実装する</li>
 	<li>入力および出力の強力な技術的制限を実装し、アプリケーションの意図した目的を超えた誤用の可能性を減らす</li>
 	<li>アプリケーションを徹底的にテストして望ましくない動作を見つけ、軽減する</li>
 	<li>フィードバックチャネルを確立する</li>
 	<li>シナリオ固有の追加軽減策を実装する</li>
</ul>
詳細については、「<a href="https://learn.microsoft.com/en-us/legal/cognitive-services/openai/transparency-note?context=/azure/cognitive-services/openai/context/context">Azure OpenAI透明性メモ</a>」を参照してください。
<h3>Azure OpenAIサービスとのインテグレーションは以下のような行為をしてはいけません。</h3>
<ul>
 	<li>Microsoftの<a href="https://www.microsoft.com/licensing/terms/product/ForOnlineServices/all">「AUP」（Acceptable Use Policy：使用許諾ポリシー）</a>に違反する方法での使用や、法律や規制によって禁止されている行為や他人の権利に違反する行為は禁止</li>
 	<li>この行動規範に反する方法での使用 (例: Limited Access要件、Responsible AI軽減要件、Content要件等)</li>
 	<li>サービスを利用する際にMicrosoftに報告した使用目的を超える行為</li>
 	<li>年齢制限以下の個人とのやり取りが法律や規制によって禁止されている場合、そのようなやり取りは禁止</li>
 	<li>この行動規範で禁止されているコンテンツとのやり取りや生成は禁止</li>
 	<li>禁止されたコンテンツと並行して表示されるか、そのコンテンツを収益化することは禁止</li>
 	<li>各個人の法的地位、財務状況、生活機会、雇用機会、基本的人権、身体的または精神的損傷に影響を与える場合、適切な人間監督なしに決定を下さないこと</li>
 	<li>明示的な同意が得られない限り、人々に関する機密情報を推測したりすることは禁止</li>
 	<li>この行動規範で禁止されているエロティック、ロマンチック、伴侶を求める目的でのチャットボットの使用は禁止</li>
 	<li>特定の人物を許可なく再現するチャットボットの使用は禁止</li>
 	<li>明示的に娯楽目的であると明記されていない限り、特別な知識や洞察力を持っていると主張するチャットボットの使用は禁止</li>
 	<li>エンドユーザーが監督なしに独自のチャットボットを作成できるようにするチャットボットの使用は禁止</li>
</ul>
<h3>コンテンツ要件</h3>
我々は、個人や社会に害を与える可能性のあるコンテンツを生成するためのサービスの使用を禁止しています。コンテンツポリシーは、プラットフォームの安全性を向上させることを目的としています。

これらのコンテンツ要件は、OpenAIによって開発され、Azure OpenAIでホストされているすべてのモデルの出力に適用されます。これには、GPT-3やCodexモデルなどのサービスへの入力として提供されるコンテンツや、サービスから出力されるコンテンツが含まれます。
<h4>悪用と虐待</h4>
<h5>児童性的搾取と虐待</h5>
Azure OpenAIサービスは、児童性的搾取や虐待を描写・特徴付け・促進するコンテンツを禁止しています。これには、児童を性的対象とするコンテンツも含まれます。
<h5>グルーミング</h5>
Azure OpenAIサービスは、児童のグルーミング（特に性的搾取を目的とした大人による児童との関係構築）を描写または使用するコンテンツを禁止しています。これには、性的搾取、人身売買、その他の搾取を目的とした児童とのコミュニケーションが含まれます。
<h5>非合意的な性的コンテンツ</h5>
Azure OpenAIサービスは、非合意的な性的活動を描写・特徴付け・促進するコンテンツを禁止しています。
<h5>性的勧誘</h5>
Azure OpenAIサービスは、性的サービスの商業的な勧誘を描写・特徴付け・促進・使用するコンテンツを禁止しています。これには、実際の性的活動の奨励や調整も含まれます。
<h5>人身売買</h5>
Azure OpenAIサービスは、人身売買を描写・使用するコンテンツを禁止しています。これには、個人の募集、交通手段の提供、強制労働、家庭内奴隷、性的奴隷、強制結婚、強制的な医療処置などの搾取の促進や支払いが含まれます。
<h5>自殺と自傷行為</h5>
Azure OpenAIサービスは、自傷行為や自殺を描写・賞賛・支持・促進・栄光・励起・指導するコンテンツを禁止しています。
<h4>暴力的なコンテンツと行為</h4>
<h5>過度な暴力や残虐行為</h5>
Azure OpenAIサービスは、過度な暴力や残虐行為を描写・特徴付け・促進するコンテンツを禁止しています。
<h5>テロリズムと暴力的な過激派</h5>
Azure OpenAIサービスは、テロ行為を描写するコンテンツや、テロ組織・テロリスト・暴力的なテロイデオロギーを賞賛・支持するコンテンツ、テロ活動を奨励するコンテンツ、テロ組織やテロ原因に援助を提供するコンテンツ、テロ組織への勧誘に協力するコンテンツを禁止しています。
<h5>暴力的な脅迫・扇動・暴力の美化</h5>
Azure OpenAIサービスは、他人に対する暴力的な脅迫や扇動を主張・促進するコンテンツを禁止しています。
<h4>有害なコンテンツ</h4>
<h5>ヘイトスピーチと差別</h5>
Azure OpenAIサービスは、実際や認識された人種、民族、国籍、性別、性自認、性的指向、宗教的所属、年齢、障害状況、カースト、または他の制度的な偏見や疎外感と関連する特徴に基づいて、個人や集団に対する攻撃、誹謗、脅迫、品位を傷つける言動、排除を禁止しています。
<h5>いじめと嫌がらせ</h5>
Azure OpenAIサービスは、個人や集団に対する脅迫、恫喝、侮辱、品位を傷つける言葉、肉体的な危害を助長する行為や、ストーカー行為などの虐待的な行為を含むコンテンツを禁止しています。
<h5>詐欺、デマ、不誠実な活動</h5>
Azure OpenAIサービスは、公共利益に悪影響を与える可能性のある故意の詐欺行為や、健康、安全、選挙の整合性、市民参加に関するデマや不正確なコンテンツを禁止しています。また、Azure OpenAIサービスは、偽のアカウント、自動化された不誠実な活動、不正確な情報や権限を得るためのなりすまし、明確な許可なく代表としての主張などの不誠実なやり取りを禁止しています。
<h5>アクティブなマルウェアやエクスプロイト</h5>
Azure OpenAIサービスは、悪意のある実行ファイルの配布、DoS攻撃の組織、C&amp;Cサーバーの管理など、技術的な被害をもたらす違法なアクティブ攻撃やマルウェアキャンペーンを直接支援するコンテンツを禁止しています。
<h4>追加のコンテンツポリシー</h4>
Azure OpenAIサービスは、モデルの制約やシナリオの制約により、望ましくないコンテンツが生成される可能性が高いシナリオや、システムが人々や社会への潜在的な悪影響を適切に管理できない方法で適用されるシナリオでの使用を禁止しています。上記の制限事項に限らず、Microsoftは、人々や社会に対する特定の害を防ぐために、上記のコンテンツ要件を改訂・拡大する権利を留保しています。

これには、性的に露骨なコンテンツ（合意に基づくポルノグラフィックコンテンツや性行為の詳細な説明）や、政治プロセスに影響を与える可能性のあるコンテンツ（選挙、法律の成立、キャンペーン活動のコンテンツなど）が含まれます。

私たちは時々、個人情報を探るための質問や、センシティブなトピックや時事問題に関する意見を求めるトピックに対するサービスの対応能力を制限することがあります。

Azure OpenAIサービスの使用は、他の個人、組織、社会に大きな害を与える活動や、適用されるAzure法的条件やMicrosoft製品条件と相反する目的でのサービス使用を含むが、これに限定されない活動での使用を禁止しています。
<h4>悪用の報告</h4>
Azure OpenAIサービスが、不正行為や違法行為、あなた自身や他人の権利を侵害する行為、これらのポリシーに違反する方法で使用されていると疑われる場合、悪用報告ポータルで報告することができます。これにより、違反行為が適切に対処されるようになります。

要するに、Azure OpenAIサービスでは、個人や社会に害を与える可能性のあるコンテンツや行為に対して厳格なポリシーが設けられています。これには、性的搾取、暴力的なコンテンツ、ヘイトスピーチ、詐欺、マルウェアなどが含まれます。サービスの利用者は、これらのポリシーに従って行動することが求められ、違反があった場合は報告することができます。これにより、Azure OpenAIサービスの安全性が向上し、より安全なプラットフォームが提供されることになります。
<h2>まとめ</h2>
この記事では、Azure OpenAIサービスの「制限付きアクセス」と「倫理規定」について説明しています。制限付きアクセスでは、エンタープライズ顧客やパートナーのみが承認された形で利用できることが説明されています。また、倫理規定では、サービスの使用に関するさまざまな禁止事項が詳述されており、個人や社会に害を与えるコンテンツや行為に対して厳格なポリシーが適用されていることが明らかになっています。これらの情報を理解することで、Azure OpenAIサービスを適切かつ責任ある方法で利用するための指針が提供されています。