Amazon Bedrockをすぐに触れるPlaygroundを試してみる：Chat編

本記事は [Amazon Bedrock Advent Calendar 2023 by ナレコム](https://qiita.com/advent-calendar/2023/bedrock-knowledgecommunication) の7日目の記事です。

Amazon Bedrock Advent Calendar 2023 by ナレコム ではAmazon Bedrockの基本的な概要から具体的な各モデルの作り方や事例紹介などを行っていきます。

### はじめに
Amazon Bedrockには、すぐにAmazon Bedrockを試したい人が簡単に使えるPlaygroundが用意されています。プログラミング不要で、コンソール上でモデルを選ぶだけで使うことができます。

主な特徴は以下です。
- プログラム不要ですぐに試せる
- 複数のモデルから選ぶことができる
- 2つのモデル比較が出来る

Amazon Bedrockではモデルプロバイダー側に情報が渡ることがなく、自社環境にプライベートコピーしたモデルを利用することができます。その上で、どのモデルを選ぶかが重要となってきますが、Playgroundでは複数モデルに触ることができ、用途に合わせたモデルを選ぶことができます。

3つあるPlaygroundのChatでは様々な言語処理タスクをターンバイターンのインターフェースで簡単に実験できます。多くの事前トレーニングされたモデルを試すことができます。

2023年12月現在バージニア北部リージョンで、PlaygroundのChatとして選択できるモデルは以下となります。

| モデル名                          | 概要・特徴 |
|-----------------------------------|------------|
| Jurassic-2 Ultra (AI21 Labs)      | 高度なテキスト生成能力を持つ大規模言語モデル。複雑なテキスト処理や自然言語理解に適している。 |
| Jurassic-2 Mid (AI21 Labs)        | 中規模の言語モデルで、テキスト生成と処理のバランスが取れている。一般的な自然言語処理タスクに適用可能。 |
| Titan Text G1 - Lite (Amazon)     | 軽量版のテキスト処理モデル。基本的な言語処理タスクに最適で、リソースの限られた環境でも使用可能。 |
| Titan Text G1 - Express (Amazon)  | 高速なテキスト処理が可能なモデル。即時応答が求められるアプリケーションに適している。 |
| Claude (Anthropic)               | 高度なテキスト理解と生成に特化した言語モデル。幅広いテキストベースのアプリケーションに対応。 |
| Claude Instant (Anthropic)        | Claudeの即時応答版。リアルタイムのテキスト処理に最適化されている。 |
| Llama 2 Chat 13B (Meta)           | 対話型のテキスト生成に特化したモデル。自然な会話スタイルのテキスト生成が可能。 |
| Llama 2 Chat 70B (Meta)           | Llama 2 Chat 13Bの大規模版。より複雑な対話と内容生成に対応。 |


### Playgroundの使い方

#### 事前準備

Amazon Bedrockでは利用したいモデルに対して事前に利用申請を行う必要があります。多くのモデルは申請すれば即座に利用することができます。

Amazon Bedrockのコンソール左メニューから「Model access」を選択します。
右上の「**Manage model access**」をクリックして、利用してみたいモデルにチェックを入れて「Save changes」をクリックします。
一覧で Access status が「**Access granted**」となったモデルが利用可能となります。

#### Step1

Amazon Bedrockのコンソールにアクセスし、Overviewのページに移動します。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/61189/c9852c93-2e32-7476-54de-a2c47653242f.png)

画面下にある「Chat」の **Open chat playground** をクリックします。

#### Step2：モデル選択

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/61189/35f8b1db-9cc8-d834-d855-4c3730a5a7b3.png)

モデルはAI21 Labs・Amazon・Anthropic・Metaの4つから選ぶことができ、更に各プロバイダーから提供されているモデルを選択します。
どのモデルにするかは、上記モデル概要を参考に選択してください。

#### Step3：Playground

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/61189/f0303db2-513b-49e2-4fa8-345265c1cceb.png)

モデルを選択するとこのような画面が表示されます。チャットウィンドウから文字入力することで利用できます。
モデルによっては日本語を利用することもできます。

#### Step4：モデル比較

Playgroundの機能で面白いのが、モデル比較をすることができます。
右上の「Compare mode」を有効にすると、2つ目のモデルを選択することができます。最大で３つまで比較可能です。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/61189/de5dfd8b-169a-150b-57aa-a20058ec847f.png)

1回で3つのモデルを比較することができ、上図の様に複数プロバイダーの比較や中規模モデルと大規模モデルの比較を簡単に行うことができます。

参考までに **Hello world** に対する回答は以下のようになっております。それぞれのモデルごとに動作が違うのがわかります。

:::note info
**AI21 Labs: Jurassic-2 Ultra**
はじめまして！何か話したいことや質問はありますか？何でも聞いてください、手伝えることがあればうれしいです。（It's a pleasure to meet you. Is there anything you would like to talk about or ask me? I'm here to help with any questions you might have.）
:::

:::note info
**Meta: Llama 2 Chat 70B**
私のウェブサイトへようこそ！ここに来てくれて本当に嬉しいです。まだサイトを作成中なので、すべてが完全に動作するようになるまで少し待ってください。その間、私のブログをチェックしてみたり、連絡フォームを使ってメッセージを送ってみてください。あなたとつながるのを楽しみにしています！（Welcome to my website! I'm so glad you're here. I'm still in the process of building my site, so please bear with me as I get everything up and running. In the meantime, feel free to check out my blog or shoot me a message using the contact form. I can't wait to connect with you!）
:::

:::note info
**Amazon: Titan Text G1 - Express**
こんにちは！今日はどのようにお手伝いしましょうか？（Bot: Hi! How can I help you today?）
:::

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/61189/c614af43-6e73-65ff-f56a-e5952ccdae1f.png)

更にLatencyやToken数といった比較もできます。

### まとめ

この記事では、Amazon BedrockのPlaygroundの中でも特に注目すべきChat機能を紹介しました。Playgroundを使うことで、Amazon Bedrockが提供する多彩なモデルの機能と柔軟性を直接体験することが可能です。これにより、ユーザーは自分のプロジェクトやニーズに最適なモデルを選択できるようになります。

特に注目すべき点は、Playgroundを使用することで、未チューニングのモデルが実際の環境でどれだけのパフォーマンスを発揮するかを事前に確認できることです。これは、開発初期段階での時間とリソースの節約につながります。

最終的に、Amazon BedrockのPlaygroundは、新しいモデルを試す際のリスクを最小限に抑えつつ、最適な選択を行うための実践的なプラットフォームを提供します。開発を始める前にPlaygroundで十分な検証を行うことで、開発の効率化と成功率の向上が期待できます。

---

また、ナレッジコミュニケーションでは  **「[Musubite](https://recruiting.musubite-job.com/features/company/knowledge-communication)」** というエンジニア同士のカジュアルトークサービスを利用しています！この記事にあるような生成AI 技術を使ったプロジェクトに携わるメンバーと直接話せるサービスですので興味がある方は是非利用を検討してください！

https://recruiting.musubite-job.com/features/company/knowledge-communication