パート 2: OpenVINO™ を使用した AI 医療アシスタントのカスタマイズ

この記事は、Medium に公開されている「Part Two: Customizing the AI-Powered Medical Assistant with OpenVINO™」の日本語参考訳です。原文は更新される可能性があります。原文と翻訳文の内容が異なる場合は原文を優先してください。
https://medium.com/openvino-toolkit/part-two-customizing-the-ai-powered-medical-assistant-with-openvino-fc6b41c255e3

この記事の PDF 版は下記からご利用になれます。
https://www.isus.jp/wp-content/uploads/pdf/openvino_34_part2-customizing-ai-powered-medical-assistant-with-openvino.pdf

パート 1 では、AI 医療アシスタントの起動と実行の基本について説明しました。このパート 2 では、異なる業界向けにアシスタントをカスタマイズし、基本キットを使用してさまざまなモデルを統合する方法を説明します。

1. 異なる業界向けにアシスタントをカスタマイズ
ヘルスケア・アプリケーション:

患者とのコミュニケーションを強化し、診察を効率化します。
可能性があるアプリケーション:

病院の救急科: 救急受診の患者をトリアージし、予備情報を収集して、貴重な時間を節約します。
プライマリー・ケア・クリニック: 定期検診を効率化します。
遠隔医療プラットフォーム: シームレスでインタラクティブなリモート診察を提供します。

2. 基本キットを使用
OpenVINO™ ツールキットは、AI モデルの効率的な最適化とデプロイに不可欠です。ツールキットを活用する方法を次に示します。

モデルの最適化:

モデルを変換および最適化して、パフォーマンスを向上させ、リソースの使用量を削減します。
デプロイの柔軟性:

さまざまなインテルのハードウェアとデバイスに最適化されたモデルをデプロイします。

3. さまざまなモデルを統合
適切なモデルの選択:

アプリケーションの特定のニーズに基づいてモデル (例: ASR モデル、チャットモデル) を選択します。
統合の手順:

チュートリアル・セクションでモデルの設定と最適化について説明した手順と同様の手順に従います。

4. 統合とカスタマイズのベスト・プラクティス
効率的なモデルの統合:

ハードウェアの機能に基づいて適切なデータ精度 (例: int8、int4) を選択します。
よくある落とし穴の回避:

モデルとデプロイの環境間の互換性を確保します。
追加情報:

サポートと情報の詳細は、ドキュメントおよびコミュニティー・フォーラムを参照してください。

5. システムプロンプトのカスタマイズ
AI 医療アシスタント向けに作成された最初のシステムプロンプトを次に示します。
![openvino_34_figure1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3490396/d795e058-ff47-5f49-6097-657fb89b4eb2.png)

AI 医療アシスタントでシステムプロンプトが適切に機能するためのルールは、次のように要約できます。

カスタム AI アシスタントの役割と目的を強調する。
AI アシスタントが示すべきでない回答を提供して、AI アシスタントが示す回答の対象を制限する。
ユーザーから収集する情報と回避する質問を制限する。
ユーザー・エクスペリエンス向上のために、ユーザーに対する質問の総数を制限する。
ある台湾のインテルのイノベーターは、これらのルールに従ってシステムプロンプトを置き換え、台湾の地元の情報をサポートする新しいモデルを追加して、適切に機能する「ツアーガイド」AI アシスタントを作成しました。その様子を次に示します。
![openvino_34_figure2.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3490396/cca31e6c-7f6d-2a29-e880-a0900108caf8.gif)

まとめ
これらのヒントと洞察により、さまざまなアプリケーション向けに AI アシスタントをカスタマイズし、追加のモデルを効率的に統合できるようになります。必要なすべての手順と技術的な詳細を含む、AI 医療アシスタントの設定と実行に関する包括的なガイドは、パート 1 を参照してください。新たな可能性を探り、実験を行い、皆さんの創造力でイノベーションを推進してください。コーディングを楽しみましょう!

関連情報
パート 1: OpenVINO™ を使用した AI 医療アシスタントの作成: ヘルスケアの変革
https://www.isus.jp/products/openvino/part1-crafting-ai-powered-medical-assistant-with-openvino/
エッジ AI リファレンス・キット (英語)
https://www.intel.com/content/www/us/en/developer/topic-technology/edge-5g/open-potential.html?cid=sem&campid=2024_ao_nex_in_iotgde_iotgaiie_consid_text-link_brand_phrase_cd_q2-in-nex-ai-inference_3500228789_google_b2b_oos_mixed-pbm_intel&ad_group=brand_brand_b2b1-awa_phrase&intel_term=edge+ai&sa360id=43700080361570446&gad_source=1&gclid=CjwKCAjwko21BhAPEiwAwfaQCLkcd326NdteVbNMScJ1lW9GoFRy6u6vZmDw5EK62LiVmZ9GyMH3bRoCDjIQAvD_BwE&gclsrc=aw.ds
OpenVINO™ モデルサーバー GitHub* リポジトリー (英語)
https://github.com/openvinotoolkit/model_server
OpenVINO™ ドキュメント (英語)
https://docs.openvino.ai/
https://docs.openvino.ai/notebooks
Jupyter* Notebook (英語)
https://docs.openvino.ai/notebooks
インストールとセットアップ (英語)
https://docs.openvino.ai/instal
製品ページ (英語)
https://openvino.ai/

著者紹介
Anisha Udayakumar (英語) は、インテル コーポレーションの AI ソフトウェア・エバンジェリストで、OpenVINO™ ツールキットを担当しています。インテルでは、OpenVINO™ の機能を紹介することにより、開発者コミュニティーを強化し、開発者が AI プロジェクトを改善できるように支援しています。インドの大手 IT 企業でイノベーション・コンサルタントを務めた経歴を持ち、革新的なソリューションのために新しいテクノロジーを活用することをビジネスリーダーに伝えてきました。その専門知識は AI、クロス・リアリティー、5G にまで及び、特にコンピューター・ビジョンに情熱を注いでいます。世界的な小売クライアント向けに、サステナビリティーの目標を推進するビジョンベースのアルゴリズム・ソリューションを開発したこともあります。彼女は生涯学習者かつイノベーターであり、テクノロジーの変革の影響を探求して共有することに専念しています。
https://www.linkedin.com/in/anisha-uday/

Zhuo Wu は、インテル コーポレーションの AI エバンジェリストで、OpenVINO™ ツールキットを担当しています。研究対象はディープラーニング・テクノロジーから 5G 無線通信技術まで多岐にわたり、コンピューター・ビジョン、マシンラーニング、エッジ・コンピューティング、IoT システム、無線通信物理層アルゴリズムに貢献してきました。これまで、自動車、銀行、保険などさまざまな業界の企業に、エンドツーエンドのマシンラーニングおよびディープラーニング・ベースのソリューションを提供してきました。4G-LTE および 5G 無線通信システムに関する広範な研究も行っており、中国のベル研究所で研究員として勤務していたときに複数の特許を取得しています。上海大学の准教授時代には、主任研究者としていくつかの研究プロジェクトを先導しました。

＜OpenVINO™ ツールキットとは＞
AI を加速する無償のツールである OpenVINO™ ツールキットは、インテルが無償で提供しているインテル製の CPU や GPU、VPU、FPGA などのパフォーマンスを最大限に活用して、コンピューター・ビジョン、画像関係をはじめ、自然言語処理や音声処理など、幅広いディープラーニング・モデルで推論を最適化し高速化する推論エンジン / ツールスイートです。

OpenVINO™ ツールキット・ページでは、ツールの概要、利用方法、導入事例、トレーニング、ツール・ダウンロードまでさまざまな情報を提供しています。ぜひ特設サイトにアクセスしてみてください。

https://www.intel.co.jp/content/www/jp/ja/internet-of-things/openvino-toolkit.html

◆法務上の注意書き

インテルのテクノロジーを使用するには、対応したハードウェア、ソフトウェア、またはサービスの有効化が必要となる場合があります。

絶対的なセキュリティーを提供できる製品またはコンポーネントはありません。

実際の費用と結果は異なる場合があります。

© Intel Corporation. Intel、インテル、Intel ロゴ、その他のインテルの名称やロゴは、Intel Corporation またはその子会社の商標です。
* その他の社名、製品名などは、一般に各社の表示、商標または登録商標です