Azure OpenAI Service の利用を VNet 経由に限定する方法

本家 OpenAI ではなく [Azure OpenAI Service を利用するメリット](https://learn.microsoft.com/ja-jp/azure/cognitive-services/openai/overview#comparing-azure-openai-and-openai)はいくつかありますが、その一つに **プライベートネットワーク内に閉じて利用することができる** という特徴があります。
すなわち、インターネットを経由しない経路で OpenAI を利用することができるということで、これによってセキュリティポリシーの厳しい企業においても利用条件をクリアできる (少なくともネットワークに関して) ものと思われます。

[Azure OpenAI Service](https://learn.microsoft.com/ja-jp/azure/cognitive-services/openai/overview) は [Azure Cognitive Service](https://learn.microsoft.com/ja-jp/azure/cognitive-services/what-are-cognitive-services) の一員であり、その構築方法は他の Cognitive Service と同様です。

とはいえ、Azure OpenAI Service 特有の観点もあるかと思いますので、構築方法を以下に紹介したいと思います。


## 前提

* Azure OpenAI Service をデプロイ済み
  * リージョンは `East US` とします。
  * 動作確認用に少なくとも 1つのモデルをデプロイしておきます。
    * 本記事では `gpt-4-0314` という名前でデプロイしたモデルを使用します。
* API クライアントとして Linux [仮想マシン](https://learn.microsoft.com/ja-jp/azure/virtual-machines/overview)を[仮想ネットワーク](https://learn.microsoft.com/ja-jp/azure/virtual-network/virtual-networks-overview)内にデプロイ済み
  * リージョンは `Japan East` とします。
  * 仮想ネットワークにおける[サブネット](https://learn.microsoft.com/ja-jp/azure/virtual-network/network-overview#virtual-network-and-subnets)の CIDR は `10.3.0.0/24` とします。
  * 予め `pip install openai` を実行しておきます。


## 免責

* 本記事では基本的に Azure Portal を使って操作します。CLI 等を使った操作の説明はありません。
* 本記事の内容は執筆時点のものです。将来的に変更が発生して、本記事での説明が適用できなくなる可能性があります。
* 本記事において、Azure OpenAI Service への API リクエストには [REST](https://learn.microsoft.com/ja-jp/azure/cognitive-services/openai/reference) ではなく [OpenAI Python Library](https://github.com/openai/openai-python) を用います。


## 構成

### Before

Azure OpenAI Service の利用を仮想ネットワーク経由に限定する前の構成です。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-before.drawio.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/4a596ff2-0f04-2365-9c92-3f836075e79c.png)

IaaS である仮想マシンは仮想ネットワークと[ネットワーク セキュリティ グループ](https://learn.microsoft.com/ja-jp/azure/virtual-network/network-security-groups-overview?toc=%2Fazure%2Fnetworking%2Ffundamentals%2Ftoc.json)で保護することができる一方、PaaS である Azure OpenAI Service をネットワークのレベルで保護するサービスはありません。(簡易なファイアウォール機能はあります。)
さらに、Azure OpenAI Service の API 認証方式は現状 [API キー認証](https://learn.microsoft.com/ja-jp/azure/cognitive-services/openai/reference#authentication) と [Azure Active Directory 認証](https://learn.microsoft.com/ja-jp/azure/cognitive-services/openai/how-to/managed-identity)の 2種類ですが、使用しない認証方式を無効化することはできません。
当然 API キーも十分な複雑さを持ってはいるものの (解析されるまでの時間: 数世紀〜10000+世紀)、これではセキュリティとして不十分であると考えるユーザーもいるでしょうし、企業のセキュリティポリシーに適合しないケースもあるでしょう。

### After

こちらが、Azure OpenAI Service の利用を仮想ネットワーク経由に限定した構成です。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-after.drawio.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/7be11b49-6e28-a8de-36bc-e96139d64466.png)

Azure OpenAI Service のネットワークアクセスを無効にした上で、任意の仮想ネットワークからのアクセスのみ受け付けられるよう、当該仮想ネットワーク向けに[プライベート エンドポイント](https://learn.microsoft.com/ja-jp/azure/private-link/private-endpoint-overview?toc=%2Fazure%2Fnetworking%2Ffundamentals%2Ftoc.json)を提供します。
また、Azure OpenAI Service の API に対するインターネットアクセスをする場合と同じエンドポイントの FQDN が使えるよう、[プライベート DNS ゾーン](https://learn.microsoft.com/ja-jp/azure/dns/private-dns-privatednszone)で名前解決を行います。
これであれば、セキュリティとして多くの企業が受け入れられるレベルなのではないでしょうか。

そしてこの構成は、簡単に構築することができます。以下に手順を説明します。

## 手順

```
1. Azure OpenAI Service のネットワークを無効にする
2. プライベート エンドポイントを作成する
3. 仮想ネットワーク内からプライベート エンドポイント経由で Azure OpenAI Service を使用する
```

※1, 2 は順不同ですが、構築にミスがあったときの切り分けのしやすさから、この順番を採用しています。

### 1. Azure OpenAI Service のネットワークを無効にする

まず、デプロイ済みとなっている Azure OpenAI Service のリソースを Azure Portal で開きます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00001.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/675c26c3-ad18-cf6b-9b96-5af6073290dc.png)

画面左のメニューから `ネットワーク` を開きます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00002.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/ef59d71b-ab8e-ae26-0ab9-ec35291abb9f.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00003.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/bcd6a526-b312-a8c0-f564-7b02b17a3b60.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00004.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/de19f473-9338-8403-4b3d-aa7cd4a55120.png)

特にネットワークの制限を設定していない場合、 `Firewalls and virtual networks` タブにおいて、許可するアクセス元としては `すべてのネットワーク` が選択されているはずです。

この状態で、仮想マシンからインターネット経由で `ChatCompletion` API をコールします。

コードは以下の通りです。
`openai.api_base` と `openai.api_key` は環境変数から取得するようにしています。

```python
#!/usr/bin/env python3

import os
import openai
openai.api_type = "azure"
openai.api_base = os.getenv("OPENAI_API_BASE")
openai.api_version = "2023-03-15-preview"
openai.api_key = os.getenv("OPENAI_API_KEY")

prompt = "Hello world!"

messages = [
    {"role":"system","content":"You are an AI assistant that helps people find inform\
ation."},
    {"role":"user","content":prompt}
]

response = openai.ChatCompletion.create(
  engine="gpt-4-0314",
  messages = messages,
  temperature=0.7,
  max_tokens=1600,
  top_p=0.95,
  frequency_penalty=0,
  presence_penalty=0,
  stop=None)

print(response.choices[0].message.content)
```

実行結果は以下の通りです。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00005.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/833fc043-9dbd-a134-73af-edc9f9085b97.png)

正しく結果が返ってくることが確認できました。

ここから、ネットワークを無効にしていきます。
許可するアクセス元 `無効` を選択し、 `Save` をクリックします。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00006.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/796c022b-43d5-a42c-0425-3a09e1ed7d20.png)

変更が適用されるまで、数分待ちます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00007.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/92155acc-7249-b347-edf4-dbe29dbc6d90.png)

更新中......

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00008.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/f1dc79ff-b60b-38e1-503d-269498f695cf.png)

変更が適用されました。

先ほどコールした API を再びコールします。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00009.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/33aa3b7d-db8c-50ce-95f5-a79aba9dc5fb.png)

`openai.error.PermissionError: Public access is disabled. Please configure private endpoint.` と返ってきました。これで、パブリックアクセスが無効となったことを確認できました。


### 2. プライベート エンドポイントを作成する

仮想ネットワーク側から Azure OpenAI Service を利用できるように、プライベート エンドポイントを作成します。
プライベート エンドポイントの作成手順は一つではありません。ここで示す方法は一例である旨、ご了承ください。

まず、Azure OpenAI Service のネットワーク (先の手順で使用した画面) を開き、 `プライベート エンドポイント接続` タブに切り替えます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00010.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/f1516662-3221-4cd0-4dfe-67e9eb551458.png)

ここで `＋ プライベート エンドポイント` をクリックし、プライベート エンドポイント作成を開始します。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00011.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/999ea63a-3193-1869-c31c-e10cd11f0482.png)

API クライアントとなる VM は `Japan East` リージョンの仮想ネットワークにデプロイされているため、リージョンの設定はそれに合わせて `Japan East` とします。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00012.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/bab4d910-cca5-550f-cc59-930b0833c897.png)

`リソース` に関して、特に変更はありません。先に進めます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00013.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/0a8ff3e4-15c1-7f19-85ad-e87520d3ece4.png)

`仮想ネットワーク` の設定を行います。
プライベート エンドポイントをデプロイする仮想ネットワークを選択します。
本記事では API クライアントとなる VM が接続している仮想ネットワークおよびサブネットを使用します。

`プライベート IP 構成` について、基本的に FQDN でアクセスするため、 `IP アドレスを動的に割り当てる` で良いでしょう。
もし独自の DNS を構築・設定して利用する場合や、当該仮想ネットワークの IP アドレス管理を厳密に行っている場合は、 `IP アドレスを静的に割り当てる` の方が都合が良いかもしれません。

`アプリケーション セキュリティ グループ` は本記事では設定しません。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00014.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/8698c17c-ef72-8ebd-f8e9-4a902b7479c6.png)

`DNS` の設定は、デフォルト値のままで構いません。先に進めます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00015.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/af259075-cfb8-4df2-6d1b-c95e947d83b8.png)

`タグ` は必要に応じて付与してください。先に進めます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00016.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/d50f7f69-bb02-7b27-6a5e-b2e5176be3c8.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00017.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/13ffd191-c0b6-8429-a907-fa017c4713d8.png)

`作成` をクリックして、プライベート エンドポイントのデプロイを開始します。

参考までに、ここで API クライアントとなる Linux 仮想マシン側のリソースグループの状況を確認しておきましょう。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00018.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/3487bf53-37a0-a496-bfee-2b3b75358533.png)

デプロイを進めます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00019.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/163cd0c4-4975-54d0-b1f6-f7636f5c54ea.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00020.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/0c5322c3-f11e-e34b-ea8b-d7c0d0bd689b.png)

ここで、再度 API クライアントとなる Linux 仮想マシン側のリソースグループの状況を確認します。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00021.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/475c380f-7916-b308-f2b1-687dd5d83753.png)

`privatelink.openai.azure.com` というプライベート DNS ゾーンが作成されました。
既に当該 Azure OpenAI Service の FQDN への A レコードが作成されており、それがプライベート エンドポイントの IP アドレスに向けられています。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00021-2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/71214526-a7a2-2719-f8ab-6dc99d54b5e1.png)

したがって、API クライアントとなる Linux 仮想マシンが Azure OpenAI Service のエンドポイントをコールした場合、インターネットではなくプライベート エンドポイントに対してコールする形になります。

Azure OpenAI Service 側のリソースグループも見てみましょう。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00022.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/5e310484-b206-295d-0dd1-8e808377c485.png)

[ネットワーク インターフェース](https://learn.microsoft.com/ja-jp/azure/virtual-network/network-overview?toc=%2Fazure%2Fvirtual-machines%2Ftoc.json#network-interfaces)とプライベート エンドポイントが作成されました。
このネットワーク インターフェースはプライベート エンドポイントにアタッチされており、指定された仮想ネットワークおよびサブネットにデプロイされており、プライベート エンドポイントの IPv4 アドレスが振られています。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00022-2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/33651c4f-3c50-b459-a6a3-d005d5e969b2.png)

また、プライベート エンドポイントの `DNS の構成` から、当該ネットワーク インターフェースに対して、元々 Azure OpenAI Service に付与されていた FQDN が割り振られていることが確認できます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00026.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/ba612fa0-f4e6-65ac-8821-b2e8a48ffa34.png)

元々 Azure OpenAI Service に付与されていた FQDN について、Linux 仮想マシンで `nslookup` を実行してみましょう。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00028.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/a52bf1ee-d464-5736-c4ee-1dc140ce7deb.png)

プライベート エンドポイントにアタッチされているネットワーク インターフェースに付与されている IP アドレスとなっていることが確認できます。
`canonical name` 、つまり `CNAME` が別で存在していて、先ほどの `DNS の構成` ではこちらも同じ IP アドレスを指していました。

試しにこの `CNAME` に対しても `nslookup` を実行してみます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00027.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/fa75addd-ac88-a6d9-5cfd-2cfac4f476da.png)

同じ IP アドレス (プライベート エンドポイントにアタッチされているネットワーク インターフェースに振られている IPv4 アドレス) を指しています。

後述しますが、API クライアントが API をコールする際に使用するのは元々の FQDN の方です。 `CNAME` の方は使いません。


### 3. 仮想ネットワーク内からプライベート エンドポイント経由で Azure OpenAI Service を使用する

API クライアントとなる Linux 仮想マシン上で作成した Python スクリプトを、一切書き換えることなく (`openai.api_base` も `openai.api_key` も変更せず)、再度実行します。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00029.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/ce07b1b5-e735-4dbc-ecb7-84fa05d4faa6.png)

Azure OpenAI Service の `ChatCompletion` を、プライベート エンドポイント経由で実行することができました。


## 補足

8 点補足を行います。

```
1. 仮想ネットワーク外から API をコールした場合
2. プライベート エンドポイントの FQDN
3. 独自 DNS サーバーを利用する場合
4. 許可するアクセス元 は 無効 ではなく 選択したネットワークとプライベート エンドポイントでもよいのか
5. インターネット経由での Azure OpenAI Studio の操作
6. インターネット経由での API 操作
7. API キー で細かな認可は可能か
8. Azure RBAC で細かな認可は可能か
```

### 仮想ネットワーク外から API をコールした場合

この状態で、仮想ネットワーク外から API をコールした場合に、どのような挙動になるかを確認します。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00031.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/4b4300ff-3139-fbb0-df87-e0f4890b8a15.png)

`ChatCompletion` はエラーとなりました。(`NewConnectionError`)
これで、Azure OpenAI Service のエンドポイントがネットワーク的に保護されていることが確認できました。


### プライベート エンドポイントの FQDN

プライベート エンドポイントが正しく構成されていれば、元々 Azure OpenAI Service に付与されていた FQDN を使って API コールをすることができるのは、説明した通りです。

`CNAME` を使う必要はありません。もとい、`CNAME` を使うと Azure OpenAI Service にアクセスできません。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-00030.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/c8a812aa-33af-c7c2-8bf7-7e4ba5cca644.png)

`SSLError` となります。


### 独自 DNS サーバーを利用する場合

オンプレミスのクライアントから ExpressRoute 等を経由して Azure OpenAI Service を使う場合などで、オンプレミスのクライアントが独自の DNS を使用するケースがあると思われます。
この場合、上記のプライベート DNS ゾーンを参考にして `CNAME` を設定し、かつ、DNS フォワーダーまたは Azure DNS Private Resolver を使用することになります。
詳しくは以下のリンクを参照してください。

* [DNS フォワーダーを使用しているオンプレミスのワークロード](https://learn.microsoft.com/ja-jp/azure/private-link/private-endpoint-dns#on-premises-workloads-using-a-dns-forwarder)
* [Azure DNS Private Resolver とは](https://learn.microsoft.com/ja-jp/azure/dns/dns-private-resolver-overview)


### 許可するアクセス元 は 無効 ではなく 選択したネットワークとプライベート エンドポイントでもよいのか

良いです。
簡易なファイアウォールが利用できますので、プライベート エンドポイントを経由せずに API コールさせたい、あるいは Azure OpenAI Studio を使わせたい端末がある場合は、こちらを選択し、ソース IP アドレスや CIDR を許可してください。


### インターネット経由での Azure OpenAI Studio の操作

別の懸念事項として、インターネット経由で万一 Azure OpenAI Studio を不正利用されてしまった場合に、何ができて何ができないのかということが挙げられると思います。
以下、検証結果を紹介します。

#### TL;DR

* できないこと
  * 微調整されたモデルの表示
  * Playground でのプロンプト実行
    * Completions playground, Chat playground (Preview) ともに不可
* できること
  * Azure OpenAI Studio を開く
  * 画面を遷移する
  * モデル一覧の表示
  * モデルのデプロイ
  * 通知の表示
  * デプロイしたモデルの一覧表示
  * デプロイしたモデルの詳細表示
  * デプロイしたモデルの削除
  * 表示言語の切り替え
* 未確認
  * モデルの微調整
    * 使用している Azure サブスクリプション ではモデルの微調整が有効化されていないため
  * Testing and training dataset (テストおよびトレーニングのデータセット)
    * モデルの微調整が利用できないため, また jsonl ファイルを用意していないため

#### 検証

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10000.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/388b2a94-1c0b-0ea9-f7bf-19c5086a7953.png)

Azure OpenAI Studio を開きます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10001.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/1340f5a2-9155-328b-d19e-7cf8a28a185c.png)

画面左のメニューを展開します。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10002.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/e0a11803-1a90-1ccb-1414-bc051ba9e8d8.png)

Models 画面へ遷移します。

このとき、通知が来たので開きます。「微調整されたモデルを取得できなかった」とのことでした。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10003.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/2feac268-b6a2-20ca-e892-6255f6f05ae6.png)

モデルの一覧は表示できます。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10004.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/907d7bce-2661-d4af-7a09-26a95a1066e7.png)

モデルをデプロイします。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10005.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/278a5bb9-d51a-e3c9-0399-b875b4d317ca.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10006.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/a9de0b50-1bda-327c-604b-435481a8f158.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10007.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/dd68af1b-8311-bf9f-47e1-bcc9b7ab3847.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10008.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/91d63109-af0e-b9ca-b8c2-8c6bf2b57982.png)

モデルのデプロイに成功しました。

デプロイされたモデルを確認するため、 Deployments 画面へ移動します。
まず、デプロイされたモデルのリストが表示されました。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10009.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/c3422eb0-fdf6-4bcc-298a-be540bca7eec.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10010.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/749ed73c-bfe9-d281-79e3-f3113c6f2e6f.png)

デプロイされたモデルの詳細を確認することができました。

デプロイされたモデルを削除します。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10011.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/d9906b76-4f62-25ca-21b5-6093578d93b6.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10012.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/e5543016-6292-991e-f665-688eaca3a058.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10013.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/e822550d-564d-af5f-6c5d-8052fd5c10aa.png)

デプロイされたモデルの削除に成功しました。

次に、デプロイ済みのモデルを実行してみたいと思います。

Completions playground 画面に移動します。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10014.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/6ba933d2-ca76-8753-66c6-eb9257eb1fbb.png)

Completion を実行します。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10015.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/82ffcffc-4c78-9711-befd-680b5e5607be.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10016.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/19156a76-ff2b-b5bd-9523-96847b45a0b3.png)

`Completions call failed:AccessDenied` と表示され、実行することができませんでした。

次に、Chat playground (Preview) に移動します。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10017.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/1e6b7ef4-092a-3145-11a0-49c5a997786c.png)

ChatCompletion を実行します。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10018.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/55066b79-548f-3f47-af48-68a64c3913a9.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10019.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/72201f1e-3949-3c34-441d-3da4de41d648.png)

`Public access is disabled. Please configure private endpoint.` とチャットで返ってきました。

エラーハンドリングの実装が独特なものになりそうです。

最後に、表示言語の設定変更を試します。

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10020.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/e1d115a5-f39e-2ee1-af95-f0413aca3584.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10021.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/86f71c56-e67d-9881-e805-05616e851bde.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10022.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/32cb4555-cb51-1b5e-da56-ac8074e4f455.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10023.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/2212871f-f50c-d4ca-b7da-95b669b9bb6f.png)

![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10024.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/7377d7d9-036c-04d0-ec83-eca774669ab7.png)

表示言語の設定変更ができました。


### インターネット経由での API 操作

プライベート エンドポイント経由にアクセスを限定した後も、Azure OpenAI Studio ではモデルの一覧表示を含むいくつかの操作を、インターネット経由で行うことができました。
ここで、インターネット経由で同様の API 操作が可能なのかを検証します。

当該仮想ネットワークの外にある端末から、以下のコードを実行します。

```python
#!/usr/bin/env python3

import os
import openai
openai.api_type = "azure"
openai.api_base = os.getenv("OPENAI_API_BASE")
openai.api_version = "2023-03-15-preview"
openai.api_key = os.getenv("OPENAI_API_KEY")

response = openai.Model.list()

print(response)
```


![How-to-limit-the-use-of-Azure-OpenAI-Service-via-VNet-10025.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/17549/9699338f-da29-86d7-936d-d394f9dcd96a.png)

少なくともモデルの一覧表示はできないことが分かりました。


### API キー で細かな認可は可能か

できません。

### Azure RBAC で細かな認可は可能か

できません。


## まとめ

Azure OpenAI Service の利用を仮想ネットワーク経由に限定する方法について解説しました。
ユーザー企業のセキュリティポリシーに適合させるためにこのような構成にする必要があるケースもあるかと思いますが、簡単にできますので、必要に応じて構成し、Azure OpenAI Service を使い始めてみてください。

## See also

* [Azure Cognitive Services 仮想ネットワークを構成する](https://learn.microsoft.com/ja-jp/azure/cognitive-services/cognitive-services-virtual-networks?context=%2Fazure%2Fcognitive-services%2Fopenai%2Fcontext%2Fcontext&tabs=portal)
* [マネージド ID を使用して Azure OpenAI Service を構成する方法](https://learn.microsoft.com/ja-jp/azure/cognitive-services/openai/how-to/managed-identity)
* [Azure 組み込みロール](https://learn.microsoft.com/ja-jp/azure/role-based-access-control/built-in-roles)
  * [Cognitive Services 共同作成者](https://learn.microsoft.com/ja-jp/azure/role-based-access-control/built-in-roles#cognitive-services-contributor)
  * [Cognitive Services ユーザー](https://learn.microsoft.com/ja-jp/azure/role-based-access-control/built-in-roles#cognitive-services-user)
* [Microsoft.CognitiveServices | Azure リソース プロバイダーの操作](https://learn.microsoft.com/ja-jp/azure/role-based-access-control/resource-provider-operations#microsoftcognitiveservices)
* [OpenAI Python Library](https://github.com/openai/openai-python)