エンタープライズ AI のためのオープン・プラットフォーム (OPEA) を紹介

https://www.intel.com/content/www/us/en/developer/articles/news/introducing-the-open-platform-for-enterprise-ai.html

エンタープライズ AI のためのオープン・プラットフォーム (OPEA) を紹介

•生成 AI 実装の断片化に対するソリューション
https://www.intel.com/content/www/us/en/developer/articles/news/introducing-the-open-platform-for-enterprise-ai.html#inpage-nav-undefined

•エンタープライズにとって重要なポイントを評価する
https://www.intel.com/content/www/us/en/developer/articles/news/introducing-the-open-platform-for-enterprise-ai.html#inpage-nav-1

•生成 AI という未開の地に拓かれた明るい道
https://www.intel.com/content/www/us/en/developer/articles/news/introducing-the-open-platform-for-enterprise-ai.html#inpage-nav-2

•著者について
https://www.intel.com/content/www/us/en/developer/articles/news/introducing-the-open-platform-for-enterprise-ai.html#inpage-nav-3

著者: Rachel Roumeliotis

![1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3490396/031d683e-4f8c-416f-95e7-6d34af8715bf.png)
画像提供: https://opea.dev/

オープンソース・プロジェクトは AI イノベーションを急速に推し進めました。その成果の 1 つが、生成 AI の登場です。生成 AI は現在、目まぐるしいイノベーションの状態にあり、急速な進化の副産物として手法やツールの断片化が起きています。この断片化が企業にとっては生成 AI 導入の障壁となり、ビジネスにもたらす膨大な価値の妨げとなっている事実も否めません。こうした価値の最大化を担う開発者は、生成 AI を組み込もうとなると、目もくらむような数の選択肢に直面します。この初期段階でオープンソースのコラボレーションを活用すれば、強力かつ具体的なフレームワークを確立して、そこからカスタマイズ構成が可能な生成 AI ソリューションを構築し、評価することができます。これを念頭に置いて、インテルは業界パートナーと連携し、エンタープライズ AI のためのオープン・プラットフォーム (OPEA) を立ち上げました。
http://opea.dev/

OPEA は LF AI & Data Foundation のサンドボックス・レベルに分類される新しいプロジェクトです。OPEA のミッションは、エコシステム全体にわたる最高レベルのイノベーションを通じた、複数プロバイダー協働のオープンで強力かつカスタマイズ構成が可能な生成 AI ソリューションを実現するオープン・プラットフォームの構築です。
https://lfaidata.foundation/

「OPEA は幅広いコミュニティーの支援を受けて、現在の RAG の導入やスケーリングに伴う重要な課題に取り組むと同時に、生成 AI が企業や人々の日常生活にもたらす潜在的な価値を引き出し、イノベーションの次のフェーズに向けプラットフォームを確立します」 (インテル コーポレーション 副社長 ソフトウェア & 先端技術事業本部担当 兼 戦略実行事業部長、Melissa Evers)
 
![2.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3490396/ddc3e45f-2229-4a7a-96a3-152353ae282e.jpeg)
OPEA 構想の理念(画像提供: https://opea.dev/)

＜生成 AI 実装の断片化に対するソリューション＞
OPEA では、検索拡張生成 (RAG) を中心に、必要な機能を含む生成 AI ワークフローを包括的かつ単純明快に表しています。このワークフローは、次のビルディング・ブロック (オープン / 独自) で構成されています。 
　• 生成 AI モデル – 大規模言語モデル (LLM)、大規模ビジョンモデル (LVM)、マルチモーダル・モデルなど
　• 取り込み / データ処理
　• 埋め込みモデル / サービス
　• インデックス作成 / ベクトル型 / グラフ型データストア
　• 取得 / ランク付け
　• プロンプトエンジン
　• 安全策
　• メモリーシステム

![3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3490396/2bb87878-7444-4c52-8e54-4b236803d2e9.png)
RAG フローのリファレンス実装 (画像提供: https://opea.dev/)

今後数カ月のうちに、オープンソース・コミュニティーとエンタープライズ・パートナーが開発者のニーズに対応するよう、このフレームワークへの追加と進化を行う予定ですが、現時点ではインテルがすぐに使えるリファレンス実装のセットを OPEA GitHub リポジトリーに置いています。これらの実装には次のフレームワークが含まれています。
https://github.com/opea-project

　• インテル® Xeon® 6 プロセッサー + インテル® Gaudi® 2 アクセラレーターでのチャットボット
https://github.com/opea-project/GenAIExamples/blob/main/ChatQnA/README.md
 
　• インテル® Gaudi® 2 アクセラレーターでのドキュメント要約
https://github.com/opea-project/GenAIExamples/blob/main/DocSum/README.md
　
  • インテル® Gaudi® 2 アクセラレーターでの視覚的 Q&A (VQA)
https://github.com/opea-project/GenAIExamples/blob/main/VisualQnA/README.md
 
　• Visual Studio Code でのコード生成用に設計された、インテル® Gaudi® 2 アクセラレーター上で動作する Copilot
https://github.com/opea-project/GenAIExamples/blob/main/CodeGen/README.md

＜エンタープライズにとって重要なポイントを評価する＞
このカスタマイズ構成が可能なフレームワークは、OPEA が開発者にもたらす提供物のうち最初の一部にすぎません。これと同列に存在するのが評価フレームワークで、インテルはすでに OPEA GitHub リポジトリーで入手できるようにしています。これによってパフォーマンス、信頼性、拡張性、耐障害性などの観点から生成 AI フローの体系的な格付け / 評価が可能となり、エンタープライズの実稼働に適合していると確保できます。
https://github.com/opea-project

評価カテゴリーについて見ていきましょう。
パフォーマンスは、実際のユースケースを使用した一連のブラックボックス・ベンチマークに基づき、「meets benchmark (ベンチマークに適合)」から「exceeds minimum acceptable performance (許容可能な最低限のパフォーマンスを超過)」まで格付けされます。
機能は、相互運用性、AI 手法、導入の選択肢、使いやすさを含めた、システム・コンポーネントの必須機能とオプション機能の評価です。
信頼性は、品質、セキュリティー、安定性を保証するフローの機能を見るもので、アクセス制御およびコンフィデンシャル・コンピューティング、信頼できる実行環境などの機能によって評価されます。
エンタープライズ適合性は、ソリューションをエンタープライズ環境に導入するための本稼働のニーズに重点を置き、まずはパフォーマンス、機能、信頼性の観点から最小要件を満たしているかで評価します。その後、ドキュメント、認証、サポート対応に関する評価を考慮に入れます。
OPEA はコミュニティーと連携して、この自己評価の規程に基づいたテストのほか、要求に応じて評価と格付けを提供します。

＜生成 AI という未開の地に拓かれた明るい道＞
OPEA には、評価、開発、導入のための標準化されたプラットフォームを確立することで、生成 AI を次のレベルに引き上げる力があります。すでに、Anyscale、Cloudera、DataStax、Domino Datalabs、Hugging Face、IBM、KX Systems、MariaDB Foundation、MinIO、Qdrant、Red Hat、Redis、SAS、Yellowbrick Data、Zilliz をはじめとする強力なパートナーが一団となってこのプロジェクトに投資しています。
オープン・エコシステムはインテルのアプローチの基盤を成すものです。インテルは、オープン・エコシステムが作り上げる対等な活動の場によって、複数のプレイヤーが協働で革新的なソリューションを素早く効率的に開発できると確信しています。オープンソース開発はソフトウェア開発にとっての重要なカギです。そのような考えから、インテルはこのプラットフォームをオープンソース・コミュニティーと共有し、皆様との連携によるプラットフォームの発展と拡張を通じて開発者のニーズに対応し、ビジネスに生成 AI の価値をもたらすことができる期待しています。
参加をご希望のかたは、こちらからアクセスしてください。https://opea.dev/ (英語)

＜著者について＞
Rachel Roumeliotis: インテル コーポレーション、オープンソース戦略担当ディレクター
20 年以上にわたって技術者の教育に携わり、インテルに入社する前は O’Reilly Media でコンテンツ戦略担当副社長を務めていました。テクニカルコンテンツの収集と制作に従事し、オープンソースから AI、セキュリティー、設計など、多様なコミュニティーと関わってきた経歴を持ちます。多数の技術カンファレンスで議長を務めましたが、特に思い入れがあったのは O'Reilly 主催の OSCON です。このイベントの議長は 5 年間務めました。その後、2020年の春に O’Reilly のカンファレンス・プログラムは仮想環境に移行しています。Google、IBM、Microsoft など、多数の企業と連携してきた経験を活かし、さまざまな事例を開発者に伝えてきました。出身はマサチューセッツ州で、テレビ番組「mystery box」と SF 小説、ホラー小説、ファンタジー小説のファンです。

＜製品とパフォーマンスに関する情報＞
性能は、使用状況、構成、その他の要因によって異なります。詳細については、https://www.Intel.com/PerformanceIndex/ (英語) を参照してください。

関連情報：
インテル® Gaudi® 3 アクセラレーター
https://www.intel.co.jp/content/www/jp/ja/products/details/processors/ai-accelerators/gaudi.html