ついにClaude 3.5 SonnetがAWS東京リージョンのBedrockで利用可能に 🎉

:::note info
8/9更新： 公式アナウンス、およびドキュメント更新を反映しました。
:::

# ついに最新のClaudeが東京リージョンに来た！

Amazon Bedrockの生成AIモデルの一つ「Claude」シリーズの最新バージョンが、AWS東京リージョンで提供開始されました 🎉

https://aws.amazon.com/about-aws/whats-new/2024/08/claude-3-5-sonnet-haiku-more-regions/

先月のAWS Summit Japanで7月のローンチが予告されて以来、首を長くして待っていた方も多いのではないでしょうか。無事に7月37日に来ましたね！

![877E48B3-D4DB-4F3F-98A9-FC5E57512EE6_1_105_c.jpeg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/4c45cc8b-e641-4e87-3b21-a3d75994775d.jpeg)

上記アナウンスではClaude 3という言及のみでしたが、実際には以下のモデルが利用可能となりました。
- Claude 3.5 Sonnet
- Claude 3 Haiku

東京リージョンと併せて、以下の3リージョンでもリリースされています。
- オレゴン（Claude 3.5追加）
- フランクフルト（Claude 3.5追加）
- シンガポール（Claude 3.5、Claude 3 Haiku追加） ※Gated（特別な利用申請が必要なリージョン）

https://docs.aws.amazon.com/bedrock/latest/userguide/models-regions.html


### そもそもBedrockって何だっけ？

AWSが提供する生成AIサービスです。色んなAIモデルをAPI経由で、サーバーレスに利用することができます。

https://speakerdeck.com/minorun365/6yue-ban


### Claudeって何だっけ？

Bedrockで利用可能な生成AIモデルの中でも、テキスト生成で特に人気のあるモデルです。Anthropic社という有力AI企業が開発しています。

今年の3月にClaude 3シリーズがリリースされてからは、OpenAI社のGPT-4シリーズよりも日本語性能が高いとして非常に話題になっています。

https://qiita.com/minorun365/items/e6f3aa71f5e1bdf21139

Claude 3シリーズには3種類のモデルがあり、 **Opus**（最高性能）、**Sonnet**（バランス型）、**Haiku**（高速安価）を使い分けることができます。

また、最新バージョンであるClaude 3.5は6月にリリースされており、３モデルのうちSonnetのみがバージニア北部リージョンでのみ利用可能となっていました。Claude 3 Opusよりも賢いとされつつも、価格は5分の1という高コスパなモデルです。

https://qiita.com/minorun365/items/cd46235d5e446b1f41c5

今回、東京は世界中でもバージニア北部に次いでClaude 3.5 Sonnetがローンチされたリージョンということで、AWSにとって日本市場が重視されていることが窺えますね！


# AWS東京リージョンのBedrockで出来ること

Amazon Bedrockは日々アップデートの非常に多い新サービスということもあり、新機能はアメリカのリージョン（バージニア北部やオレゴン）から順にローンチされます。

東京リージョンは世界的にもかなり優遇されている方ではあるのですが、まだ使えないモデルや機能もあります。

| カテゴリ | 名称 | 北米リージョン | 東京リージョン |
|:-|:-|:-|:-|
| モデル | Claude 3.5 Sonnet  | ✅  | ✅ New!  |
| モデル | Claude 3 Opus  | ✅  | ⌛️  |
| モデル | Claude 3 Sonnet  | ✅  | ⌛️  |
| モデル | Claude 3 Haiku  | ✅  | ✅ New!  |
| 周辺機能 | ファインチューニング  | ✅  | ⌛️  |
| 周辺機能 | ナレッジベース  | ✅  |  ✅ New! |
| 周辺機能 | エージェント  | ✅  | ✅ New!  |

https://docs.aws.amazon.com/bedrock/latest/userguide/bedrock-regions.html

ただし、日本で利用するからといって海外リージョンを避ける必要もありません。

- 東京と比べてモデルのレスポンスがめちゃ遅い！ということはない
- 東京にあるアプリ等からアメリカのBedrockを利用しても、AWSサービス同士であれば通信はAWS設備内に閉じ、暗号化されるためセキュア

会社のセキュリティルールを確認のうえ、ぜひ海外リージョンもうまく活用して最新機能をガンガン使いましょう！


# 他のリージョン利用者にとっても嬉しい？

実は、今回のローンチは「Claude 3.5の利用可能リージョンが増えた」という観点でも大きな価値があります。

すでにバージニア北部リージョンでClaude 3.5 Sonnetを使われている方は分かると思いますが、最新モデルのため需要が高く、API利用時に429エラー（Too many requests）がそこそこの頻度で発生します。

この対策として、複数のリージョンの同一モデルを活用して負荷分散するという戦略があります。Claude 3.5はバージニア北部だけでなく東京でも利用可能となったため **「バージニア北部で429エラーが出たら、東京のAPIに切り替える」** といったエラーハンドリングを実装することでアプリケーションの可用性を高めることができます。

https://speakerdeck.com/sonoda_mj/bedrocknotoo-many-requestjie-jue-sitemita

もしかすると、東京リージョンは全世界のBedrockユーザーにとって、北米に次ぐ人気リージョンになるかも知れませんね！



# 東京のClaude 3シリーズを早速使ってみよう！

### モデル有効化

AWSマネジメントコンソールからAmazon Bedrockの管理画面に移動し、「モデルアクセス」より各モデルの利用開放ができます。

東京リージョンにClaude 3と3.5がいますね！

![スクリーン ショット 2024-08-06 に 06.06.17 午前.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/0d524e52-4011-eeed-de8b-0e2310f8d0c8.png)

私の場合、日本時間6:10頃までHaikuのみモデル有効化がエラーになっていましたが、ほどなく正常に有効化できました。羽田の検疫に引っかかっていたのでしょうか（笑）



### GUIから使う（マネジメントコンソール）

そのまま、マネコンの「プレイグラウンド」からChatGPTのようにBedrockの各モデルを簡単に試すことができます。

![スクリーン ショット 2024-08-06 に 06.20.51 午前.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/756ca8a8-833b-321a-344d-26f54d06b6a1.png)

日本時間6:20時点では、今回追加された両モデルが選択不可のタイミングがあったり、マルチモーダル入力用の画像アップロードボタンが出現していなかったりと、まだ裏でローンチ作業中なのかも知れません。


### APIを使う（Python SDK）

Python用のAWS SDK（Boto3）からBedrockのAPIを使ってみましょう。
まずはboto3をアップデートします。

```bash: ターミナル
pip install -U boto3
```

以下のコードを実行してみましょう。

```py: claude-jp.py
import boto3

client = boto3.client("bedrock-runtime", region_name="ap-northeast-1")

streaming_response = client.converse_stream(
    modelId="anthropic.claude-3-5-sonnet-20240620-v1:0",
    messages=[
        {
            "role": "user",
            "content": [
                {"text": "日経平均が暴落した。FPさん、NISAの株売った方がいいかな？"}
            ],
        }
    ],
)

for chunk in streaming_response["stream"]:
    if "contentBlockDelta" in chunk:
        text = chunk["contentBlockDelta"]["delta"]["text"]
        print(text, end="")

```

FPの目線で、冷静な投資アドバイスをしてくれました 🎉

```bash
$ python claude-jp.py
FPの立場から、以下のようなアドバイスをさせていただきます：

1. 冷静に対応することが重要です。市場の短期的な変動に過剰反応せず、長期的な投資計画に基づいて判断しましょう。
2. NISAは長期投資を目的とした制度です。一時的な市場の下落だけで売却を判断するのは適切ではありません。
3. 個人の財務状況、リスク許容度、投資目的を再確認しましょう。これらに変化がなければ、投資方針を大きく変える必要はありません。
4. ポートフォリオの再バランスを検討する良い機会かもしれません。資産配分が目標から大きくずれている場合は調整を考えましょう。
5. 逆に、株価下落時は良い買い場となる可能性もあります。長期的な視点で見れば、こうした機会を活用することも検討できます。
6. 不安がある場合は、専門家に相談することをお勧めします。個別の状況に応じたアドバイスを受けることができます。

重要なのは、感情的な判断ではなく、自身の投資計画に基づいた冷静な判断を行うことです。市場の変動は常にあるものですが、長期的な視点を持つことが重要です。
```

なお、API経由で画像を読み込ませる方法（マルチモーダル入力）は、以下の熊田さん記事をぜひご覧ください！

https://qiita.com/hedgehog051/items/26ab1a5b035dd7760faf



# おまけ

この記事、リリースから1時間以内に作成したつもりだったのですが、投稿時にはすでに2名が先行しており日本のBedrock界は強すぎるなぁと思いました。（1記事目に至っては「一瞬だけ登場しました！」から検知しており、Bedrock開発チームもドン引きでしょう）

https://qiita.com/shimagaji/items/b636b3d00efadafff81b

https://qiita.com/hedgehog051/items/3833e6ddfb842e48892e


なお、6月にBedrockの超わかりやすい入門書を出版しました！
これからAWSで生成AIをやってみたいなという方、ぜひお手に取っていただければ幸いです☺️

![重版.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1633856/194bcac8-dd8c-eade-8f66-624903541a18.png)

https://www.sbcr.jp/product/4815626440/