Amazon Bedrock 一般提供開始！

## はじめに
株式会社NTTデータ デザイン＆テクノロジーコンサルティング事業本部の@nttd-kashiwabarayです。
本日Amazon Bedrockが一般提供開始されましたので、簡単に記事を書かせていただきます。

## Amazon Bedrockが一般提供開始
本日9月28日にAmazon Bedrockが一般提供されました。以下がAWSブログの記事となります。ただし、現状は <B>US East（バージニア北部）とUS West（オレゴン）のみで利用可能</B>なようで、<B>東京リージョンはまだ一般提供とはなっていない</B>ようです。また、近日MetaのLlama2についても利用可能になると発表されています。

https://aws.amazon.com/jp/blogs/aws/amazon-bedrock-is-now-generally-available-build-and-scale-generative-ai-applications-with-foundation-models/

## Amazon Bedrockの概要
Amazon Bedrockは<B>複数の基盤モデルから用途に最適なものを選択</B>し、<B>APIで利用可能な基盤</B>となります。Amazonが提供するAmazon Titanモデルの他、AI21labsが提供するJurassic-2，Anthropicが提供すco:hrereが提供するCommand & Embed、Stability.aiが提供するStable Diffusionが利用可能なサービスとなります。

特にAnthropicについては、先日Amazonが戦略的提携を結ぶことが発表されました。AnthoropicはOpen AIの元従業員が2021年に設立した会社でAIの安全性を重視しています。Constitutional AIに基づいてモデルを訓練することで安全性を担保しており、入力可能なトークン数は10万超えまで拡張されています。

Amazon TitanモデルはAmazonの20年以上の経験にもとづいて開発されており、Amazon Titan Textはようやくやテキスト生成など、言語タスクを自動化しています。Amazon Titan Embeddingsは検索やリコメンドの精度を向上します。Sable Diffusionは以下の記事のようにAWS上で開発されている基盤モデルとなります。
https://aws.amazon.com/jp/blogs/machine-learning/stability-ai-builds-foundation-models-on-amazon-sagemaker/
https://aws.amazon.com/jp/solutions/case-studies/stability-ai-2022-aws-reinvent-video/

なお、Amazon SageMaker JumpStartはAmazon Bedrockで扱っていない基盤モデルも提供しているため、合わせて活用を検討したいサービスとなります。
https://aws.amazon.com/jp/sagemaker/jumpstart/getting-started/?awsf.sagemaker-jumpstart-filter-product-type=product-type%23foundation-model

## Amazon Bedrockの画面イメージ
マネージメントコンソールからBedrockの画面に遷移してみます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3120881/80dba138-40cc-fe6a-ddfd-81f3afb793f1.png)

左側のナビゲーションウインドウのModel Accessからアクセスするモデルを有効にして活用していく必要があります。このあたりの活用についてはまた別途ブログで記事を書きたいと思います。

## Amazon Bedrockのデータプライバシー
生成AIで一番気になるのはデータがLLMのトレーニング等に活用されないかどうかという点ですが、<B>プロンプト、入力候補、データなどはサービスの改善には活用されない</B>ということで安心して活用することができます。データがサードパーティーのモデルプロバイダーにも共有されることもありません。

## Amazon Bedrockの料金体系
Amazon Bedrockの料金体系は以下の参考URLに詳細がありますが、テキストについては処理された入力トークンごと、および出力トークンごとに課金され、テキスト埋め込みモデルは処理された入力トークン毎の課金となります。画像は生成されたイメージ毎の課金となるようです。9/28時点の価格表を以下に掲載しますが、価格は必ずAWSホームページの最新のものをご確認ください。

■Amazon
On-Demand pricing for model inference:
|Amazon Titan models |Price for 1000 input tokens  |Price for 1000 output tokens  |
|---|---|---|
|Titan Text-Lite  |$0.0003 |$0.0004  |
|Titan Text-Express  |$0.0013  |$0.0017  |
|Titan Embeddings  |$0.0001  |N/A  |

Pricing for model customization (fine-tuning):
|Amazon Titan |Price to train 1000 tokens  |Price to store each custom model per month  |Price to infer from a custom model for 1 model unit per hour(with no-commit Provisioned Throughput Pricing) |
|---|---|---|---|
|Titan Text-Lite  |$0.0004 |$1.95  |$7.10 |
|Titan Text-Express  |$0.0008  |$1.95  |$20.50 |

Provisioned Throughput pricing:
|Amazon Titan models |Price per hour per model with no commitment  |Price per hour per model unit for 1-month commitment |Price per hour for 6-month commitment |
|---|---|---|---|
|Titan Text-Lite  |$7.10 |$6.40  |$5.10 |
|Titan Text-Express  |$20.50  |$18.40 |$14.80 |
|Titan Embeddings  |N/A |$6.40 |$5.10 |

■Anthoropic
On-demand pricing:
|Anthropic models |Price for 1000 input tokens  |Price for 1000 output tokens  |
|---|---|---|
|Craude Instant |$0.00163  |$0.0551  |
|Craude |$0.01102  |$0.03268  |

Provisioned Throughput pricing:
|Anthropic models |Price per hour per model unit for 1-month commitment  |Price per hour for 6-month commitment  |
|---|---|---|
|Craude Instant |$39.60  |$22.00  |
|Craude |$63.00  |$35.00  |

■Cohere
On-Demand pricing:
|Cohere models |Price for 1000 input tokens  |Price for 1000 output tokens  |
|---|---|---|
|Command |$0.0150  |$0.020  |

■AI21 Labs
|AI21 models |Price for 1000 input tokens  |Price for 1000 output tokens  |
|---|---|---|
|Jurassic-2 Mid  |$0.0125  |$0.0125  |
|Jurassic-2 Ultra  |$0.0188  |$0.0188  |

■Stability AI
On-demand pricing: Image model offered by Stability are priced per image, depending on step count and image resolution.
|Stability AI model |Image Resolution  |Standard quality(<51 steps) | Premium quality(>51 steps)
|---|---|---|---|
|SDXL0.8 |512x512 or smaller  |$0.018 per image  |$0.036 per image |
|SDXL0.8  |Larger than 512x512  |$0.036 per image  |$0.072 per image |

Provisioned Throughput pricing:
|Stability AI model |Price per hour per model unit for 1-month commitment  |Price per hour for 6-month commitment |
|---|---|---|
|SDXL1.0 |$49.86  |$46.18 |

参考URL：https://aws.amazon.com/jp/bedrock/pricing/

## まとめ
待ちに待ったBedrockの一般提供開始ですが、まだUS East（バージニア北部）とUS West（オレゴン）のみで利用可能ということで、東京リージョンでの一般提供開始が待ち遠しい限りです。Llama2も近日公開になるということで、今後のBedrockの更なる拡充に期待しています。またどこかでAmazon Bedrockの検証についてもブログに記載できればと思います。

## 仲間募集

NTTデータ テクノロジーコンサルティング事業本部 では、以下の職種を募集しています。

<details><summary>1. クラウド技術を活用したデータ分析プラットフォームの開発・構築(ITアーキテクト/クラウドエンジニア)</summary>

クラウド／プラットフォーム技術の知見に基づき、DWH、BI、ETL領域におけるソリューション開発を推進します。
https://enterprise-aiiot.nttdata.com/recruitment/career_sp/cloud_engineer

</details>

<details><summary>2. データサイエンス領域（データサイエンティスト／データアナリスト）</summary>

データ活用／情報処理／AI／BI／統計学などの情報科学を活用し、よりデータサイエンスの観点から、データ分析プロジェクトのリーダーとしてお客様のDX／デジタルサクセスを推進します。
https://enterprise-aiiot.nttdata.com/recruitment/career_sp/datascientist

</details>

<details><summary>3.お客様のAI活用の成功を推進するAIサクセスマネージャー</summary>

DataRobotをはじめとしたAIソリューションやサービスを使って、
お客様のAIプロジェクトを成功させ、ビジネス価値を創出するための活動を実施し、
お客様内でのAI活用を拡大、NTTデータが提供するAIソリューションの利用継続を推進していただく人材を募集しています。
https://nttdata.jposting.net/u/job.phtml?job_code=804

</details>

<details><summary>4.DX／デジタルサクセスを推進するデータサイエンティスト《管理職/管理職候補》</summary>
データ分析プロジェクトのリーダとして、正確な課題の把握、適切な評価指標の設定、分析計画策定や適切な分析手法や技術の評価・選定といったデータ活用の具現化、高度化を行い分析結果の見える化・お客様の納得感醸成を行うことで、ビジネス成果・価値を出すアクションへとつなげることができるデータサイエンティスト人材を募集しています。

https://nttdata.jposting.net/u/job.phtml?job_code=898

</details>


## ソリューション紹介

<details><summary> Trusted Data Foundationについて</summary><div>

～データ資産を分析活用するための環境をオールインワンで提供するソリューション～
https://enterprise-aiiot.nttdata.com/tdf/
最新のクラウド技術を採用して弊社が独自に設計したリファレンスアーキテクチャ（Datalake+DWH+AI/BI）を顧客要件に合わせてカスタマイズして提供します。
可視化、機械学習、DeepLearningなどデータ資産を分析活用するための環境がオールインワンで用意されており、これまでとは別次元の量と質のデータを用いてアジリティ高くDX推進を実現できます。

</div></details>


<details><summary> TDF-AM（Trusted Data FoundationⓇ - Analytics Managed Service）について</summary><div>

～データ活用基盤の段階的な拡張支援（Quick Start) と保守運用のマネジメント（Analytics Managed）をご提供することでお客様のDXを成功に導く、データ活用プラットフォームサービス～
https://enterprise-aiiot.nttdata.com/service/tdf/tdf_am
TDFⓇ-AMは、データ活用をQuickに始めることができ、データ活用の成熟度に応じて段階的に環境を拡張します。プラットフォームの保守運用はNTTデータが一括で実施し、お客様は成果創出に専念することが可能です。また、日々最新のテクノロジーをキャッチアップし、常に活用しやすい環境を提供します。なお、ご要望に応じて上流のコンサルティングフェーズからAI/BIなどのデータ活用支援に至るまで、End to Endで課題解決に向けて伴走することも可能です。

</div></details>


<details><summary>NTTデータとTableauについて </summary><div>

ビジュアル分析プラットフォームのTableauと2014年にパートナー契約を締結し、自社の経営ダッシュボード基盤への採用や独自のコンピテンシーセンターの設置などの取り組みを進めてきました。さらに2019年度にはSalesforceとワンストップでのサービスを提供開始するなど、積極的にビジネスを展開しています。

これまでPartner of the Year, Japanを4年連続で受賞しており、2021年にはアジア太平洋地域で最もビジネスに貢献したパートナーとして表彰されました。
また、2020年度からは、Tableauを活用したデータ活用促進のコンサルティングや導入サービスの他、AI活用やデータマネジメント整備など、お客さまの企業全体のデータ活用民主化を成功させるためのノウハウ・方法論を体系化した「デジタルサクセス」プログラムを提供開始しています。
https://enterprise-aiiot.nttdata.com/service/tableau

</div></details>


<details><summary>NTTデータとAlteryxについて </summary><div>
Alteryxは、業務ユーザーからIT部門まで誰でも使えるセルフサービス分析プラットフォームです。

Alteryx導入の豊富な実績を持つNTTデータは、最高位にあたるAlteryx Premiumパートナーとしてお客さまをご支援します。

導入時のプロフェッショナル支援など独自メニューを整備し、特定の業種によらない多くのお客さまに、Alteryxを活用したサービスの強化・拡充を提供します。

https://enterprise-aiiot.nttdata.com/service/alteryx

</div></details>

<details><summary>NTTデータとDataRobotについて </summary><div>
DataRobotは、包括的なAIライフサイクルプラットフォームです。

NTTデータはDataRobot社と戦略的資本業務提携を行い、経験豊富なデータサイエンティストがAI・データ活用を起点にお客様のビジネスにおける価値創出をご支援します。

https://enterprise-aiiot.nttdata.com/service/datarobot

</div></details>

<details><summary> NTTデータとInformaticaについて</summary><div>

データ連携や処理方式を専門領域として10年以上取り組んできたプロ集団であるNTTデータは、データマネジメント領域でグローバルでの高い評価を得ているInformatica社とパートナーシップを結び、サービス強化を推進しています。
https://enterprise-aiiot.nttdata.com/service/informatica

</div></details>

<details><summary>NTTデータとSnowflakeについて </summary><div>
NTTデータでは、Snowflake Inc.とソリューションパートナー契約を締結し、クラウド・データプラットフォーム「Snowflake」の導入・構築、および活用支援を開始しています。

NTTデータではこれまでも、独自ノウハウに基づき、ビッグデータ・AIなど領域に係る市場競争力のあるさまざまなソリューションパートナーとともにエコシステムを形成し、お客さまのビジネス変革を導いてきました。
Snowflakeは、これら先端テクノロジーとのエコシステムの形成に強みがあり、NTTデータはこれらを組み合わせることでお客さまに最適なインテグレーションをご提供いたします。

https://enterprise-aiiot.nttdata.com/service/snowflake

</div></details>