OpenVINO™ ノートブック・チームのメンバーからの重要な情報: パート 1

この記事は、Medium に公開されている「Key Insights From the Team Lead Behind OpenVINO™ Notebooks: Part 1」の日本語参考訳です。原文は更新される可能性があります。原文と翻訳文の内容が異なる場合は原文を優先してください。
https://medium.com/openvino-toolkit/key-insights-from-the-team-lead-behind-openvino-notebooks-part-1-9d16a23b0fbd

この記事の PDF 版は下記からご利用になれます。
https://www.isus.jp/wp-content/uploads/pdf/openvino_22_key-insights-from-the-team-lead-part-1.pdf

![openvino_22_figure1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3490396/3c2f942f-a350-540b-74cd-1aee2e540f53.png)
OpenVINO™ (英語) は、さまざまなデバイス上でのディープラーニング・モデルのデプロイを合理化する能力により、AI コミュニティーで爆発的な人気を得ました。その結果として、AI の能力を実際のユースケースや業界にもたらす上で重要な役割を果たしています。しかし、このような革新的なツールにはよくあることですが、ユーザーはその複雑さと可能性について多くの疑問や興味を持つことになります。ここで OpenVINO™ ノートブックの出番です。
https://www.intel.com/content/www/us/en/developer/tools/openvino-toolkit/overview.html

OpenVINO™ ノートブック (英語) は、OpenVINO™ の深い機能と AI 開発者の日々のニーズとの間の架け橋として機能し、ツールキットの可能性を理解し、テストし、活用するためのインタラクティブなプラットフォームを提供します。OpenVINO™ エコシステムに足を踏み入れようとしている初心者であっても、デプロイプロセスを合理化したいと考えている経験豊富な専門家であっても、求めるノートブックが見つかるはずです。
https://github.com/openvinotoolkit/openvino_notebooks
![openvino_22_figure2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3490396/dd130475-e35d-8321-7fb7-f7fb8b659c5d.png)

この言葉をそのまま受け取るかどうかは、この記事を読んだ後に決めてください。開発者が OpenVINO™ ノートブックを使用して AI の旅を開始または進める方法について知るため、インテル コーポレーションの AI エバンジェリスト、Paula Ramos (英語) は、OpenVINO™ ノートブック・チームのメンバー数名と話をする機会を得ました。そして、ノートブックの舞台裏から、進化するロードマップ、開発中に直面する課題まで、さまざまなことについて話し合いました。
https://www.linkedin.com/in/paula-ramos-41097319/

最初の会話は、OpenVINO™ ノートブック・チームのマネージャーの Andrei Kochin (英語) と行われました。その洞察力に富んだチャットの模様を紹介します。
https://www.linkedin.com/in/andrei-kochin/

Paula Ramos: こんにちは、Andrei。まずあなた自身について、そして AI を使い始めたきっかけについて教えてください。

Andrei Kochin: 私の担当分野は、インテルのハードウェアでの推論の最適化に関心がある開発者にとっての旅の始まりとなる、OpenVINO™ と OpenVINO™ ノートブックのモデル変換段階です。

私の個人的な AI とのかかわりは、私の担当分野ではなかった以前の仕事から始まりました。その仕事とは、古典的なマシンラーニング・ソリューションをベースとした、いくつかのパイロット・プロジェクトでした。成功したユースケースの 1 つに、駐車場のセキュリティー・システムとして社内で使用されたナンバープレート認識があります。従業員の認証されたナンバープレートに基づいてゲートが自動的に開くものです。

Paula Ramos: 現在のマシンラーニングのリソースと比較して非常に時間がかかる時代の話ですね。参考になります。では次に、最近目にする新しい AI のトレンド、アルゴリズム、テクノロジーについて教えてください。

Andrei Kochin: ユースケースはよりシンプルになり、AI はますます強力になっています。以前は、ほとんどのことを自分たちで行わなければなりませんでした。自分たちで利用できるモデルを設計し、特定のユースケースについては微調整する必要がありました。

既存の AI モデルの能力を活用すると、AI の助けを借りてより多くのプロジェクトを試すことができます。例えば、ナンバープレート認識には、Open Model Zoo (英語) のモデルを利用できます。Ultralytics の YOLOv8 (英語) などのツールと OpenVINO™ ノートブックを利用すると、非常に簡単に作業を開始できます。
https://github.com/openvinotoolkit/open_model_zoo
https://github.com/openvinotoolkit/openvino_notebooks/tree/main/notebooks/230-yolov8-optimization

以前は、このマシンラーニングをゼロから行うのに数カ月以上かかりましたが、今は OpenVINO™ ノートブックを使用してすぐに試すことができます。そして、ラップトップで問題なく実行できます。もちろん、最近の強力になったラップトップでの話です。

Paula Ramos: 開発者が簡単な方法で作業を再現できる場所があるのは素晴らしいことです。OpenVINO™ チームが OpenVINO™ ノートブックを作成した動機を聞いてもいいですか。

Andrei Kochin: はい。秘密でも何でもありませんから。より多くのユーザーを引き付け、ユーザーが製品に興味を持ったら、アプリケーションのデプロイに役立つドキュメントやチュートリアルを新規ユーザーに提供することが非常に重要になります。インタラクティブなチュートリアルより優れたドキュメントは想像できません。実際には、ほぼそのまま使用できるデモ・アプリケーションです。モデルをカスタマイズまたは変更することで、デプロイシナリオで使用できます。ユースケースによっては、独自のシナリオに合わせてモデルを微調整することもできます。

チュートリアルが最新のものであることを確認するため、定期的にノートブックを自動実行しています。我々はノートブックそのものを簡素化し、よりスタンドアロンにする取り組みを続けています。この方向に進むということは、Google Colab やその他のインフラストラクチャーでの実行に適したノートブックが増え、単一のノートブックをダウンロードして試せるようになるということを意味します。

リポジトリーの一部のノートブックは完全なリポジトリーをシステムにダウンロードする必要がありますが、我々はノートブックのコードを提供するだけで済むように取り組んでいます。それがノートブックと呼ばれる理由であり、始めるために必要なのは 1 つのノートブックだけです。

Paula Ramos: Google Colab とスタンドアロンのデモの話が出ました。特定の環境をインストールすることなく、エンタープライズ・クラウド・システムを利用して OpenVINO™ ノートブックを実行できるようになるまで、まだかかりそうですか。

Andrei Kochin: まだいくつかの依存関係があります。少なくとも OpenVINO™ をインストールするための依存関係があります。この先、依存関係のリストを簡素化して、ある時点で OpenVINO™ をインストールするだけでモデルを試せるようにすることを考えています。ただし、ユーザー・エクスペリエンスを強化するために使用しているもの (例えば、モデル生成、イメージ、サウンドの入力プロンプトとなるいくつかの単純なボタンとテキストフィールドを提供する Gradio など) には、いくつかの外部の依存関係も必要です。

単純なアプリケーションを作成している場合は、依存関係を OpenVINO™ と運用環境に制限することができますが、デモのユースケースでは、いくつかの外部ライブラリーのコンポーネントがまだ必要です。

Paula Ramos: 先ほど、Ultralytics の YOLOv8 の話がありましたが、Hugging Face の Optimum は OpenVINO™ を使用して推論を行っている (英語) という話もあります。このようにパートナーと協力することで、コミュニティーのエンゲージメントと開発者のエクスペリエンスはどのように向上するのでしょうか。
https://huggingface.co/docs/optimum/intel/inference

Andrei Kochin: Hugging Face には、‘optimum-intel’ という名前の共同スタッフがいて、OpenVINO™ の能力を活用するための優れたパイプラインを実際に提供しています。Optimum Intel は、INT8 精度への量子化などの、モデルの最適化に役立ちます。メモリーサイズが限られているマシンにデプロイでき、モデルサイズも管理しやすくなります。これらの新しいモデルに効果的に対処することは、モデルに慣れているユーザーにとって利点があります。これらのノートブックで推論を最適化することにより、新しい開発者がインテルのハードウェア上で OpenVINO™ を利用するのに役立ちます。

オリジナルのノートブックにも貢献しています。例えば、Ultralytics が YOLOv8 を公開したとき、OpenVINO™ で YOLOv8 を使用する方法のノートブックを追加しました。これは、現在でも我々のリポジトリーの中で最も人気の高いノートブックの 1 つです。

Paula Ramos: チームが YOLOv8 やその他の AI のトレンドに急速に取り組んでいることが分かりました。最新の AI のトレンドを常に把握し、リソースを管理できるようにするためにチームに奨励していることはありますか。

Andrei Kochin: タイムリーなイベントの通知や、どんなトレンドがあるという指摘は、エンジニアに全て委ねています。また、アーキテクチャー・チームの意見も取り入れています。我々は、AI のトピックに関する議論について AI フォーラムを常にチェックしています。何かが話題になったときは、OpenVINO™ で試してすぐに対処します。AI コミュニティーに OpenVINO™ の認知度が高まるだけでなく、開発者がインテルのハードウェアで AI ソリューションを高速化するのにも役立ちます。我々の目標は、タイムリーなトレンドのイベントに効果的に対応することです。

Paula Ramos: チームは日常的にどのような種類の問題や課題に直面していますか。

Andrei Kochin: 以前遭遇した課題の 1 つは、コミット前フェーズ中に実行できない夜間ビルドやその他のリソースを大量に消費するノートブックの問題に対処することでした。当初は社内のマシンで計画していましたが、現在では GitHub のマシンに任せることで、量子化などのリソースを消費するタスクをローカルで実行できるようになりました。これにより、ノートブックの品質と健全性が確実に維持されます。

我々が日常的に直面しているほかの課題には、実際の依存関係が含まれます。例えば、Transformers の新しいバージョンの導入です。新しいバージョンがリリースされるたびに、ノートブックとの依存関係が問題になる可能性があります。我々は、これらの問題を解決するための継続的な統合システムをセットアップしています。このシステムにより、ユーザー・エクスペリエンスや機能が損なわれないように、問題にタイムリーに対処できます。

Paula Ramos: これらのプロジェクトやノートブックのオープンソースの性質を考えると、開発者はどのようにリポジトリーに貢献できるでしょうか。

Andrei Kochin: ノートブック・リポジトリーの Good First Issue (英語) 内に、開発者が参照できる問題のリストがあります。貢献したい開発者は、ノートブックで現在カバーされていないモデルを選択して試すことができます。開発者が従うべき貢献のガイドライン (英語) も参照してください。
https://github.com/openvinotoolkit/openvino_notebooks/issues?q=is%3Aissue+is%3Aopen+label%3A%22good+first+issue%22
https://github.com/openvinotoolkit/openvino_notebooks/blob/main/CONTRIBUTING.md

ほかの方法として、Google Summer of Code などのイベントを通じて、外部から貢献することもできます。

Paula Ramos: 素晴らしい話をありがとうございました。最後に、開発者に伝えたいことはありますか。

Andrei Kochin: メッセージは非常にシンプルです。ユースケースがある場合、AI の最適化が必要な場合、AI の経験を積むのが好きな場合は、OpenVINO™ を試してみてください。

【著者紹介】
Paula Ramos (英語) は、インテル コーポレーションの AI エバンジェリストです。AI のエンスージアストであり、2000年代の初めからコンピューター・ビジョンの分野で働いてきました。詳細は、Medium でフォロー (英語) してください。
https://www.linkedin.com/in/paula-ramos-41097319/
https://medium.com/@paularamos_5416

＜OpenVINO™ ツールキットとは＞
AI を加速する無償のツールである OpenVINO™ ツールキットは、インテルが無償で提供しているインテル製の CPU や GPU、VPU、FPGA などのパフォーマンスを最大限に活用して、コンピューター・ビジョン、画像関係をはじめ、自然言語処理や音声処理など、幅広いディープラーニング・モデルで推論を最適化し高速化する推論エンジン / ツールスイートです。

OpenVINO™ ツールキット・ページでは、ツールの概要、利用方法、導入事例、トレーニング、ツール・ダウンロードまでさまざまな情報を提供しています。ぜひ特設サイトにアクセスしてみてください。

https://www.intel.co.jp/content/www/jp/ja/internet-of-things/openvino-toolkit.html

【法務上の注意書き】
インテルのテクノロジーを使用するには、対応したハードウェア、ソフトウェア、またはサービスの有効化が必要となる場合があります。

絶対的なセキュリティーを提供できる製品またはコンポーネントはありません。
実際の費用と結果は異なる場合があります。

© Intel Corporation. Intel、インテル、Intel ロゴ、その他のインテルの名称やロゴは、Intel Corporation またはその子会社の商標です。
* その他の社名、製品名などは、一般に各社の表示、商標または登録商標です