LeapMindがOKIとの共創でAIエッジ時代を加速するエッジ端末に適したディープラーニング技術を得意とする 2012 年創業の LeapMind（リープマインド）。高い推論精度と応答性を維持しながら、コンパクトかつローパワーなハードウエア実装を実現する、独自の「極小量子化」技術が特長だ。この技術を産業分野などに幅広く応用していくため、同社は沖電気工業（以下、OKI）と AI エッジパートナーを結び、エッジ用ハードウエアの一つとして、OKI の AIエッジコンピューター「AE2100」を採用した。

センサーを使って装置や環境からデータを集め、それらのデータを分析し、価値を創出する IoT（Internet of Things）が、実際の応用フェーズへと移ってきた。その過程で明らかになってきたのがエッジ処理の重要性だ。装置やセンサーに近いところ（エッジ側）で分析処理を行うことで、サーバーやクラウドへのデータ・トラフィックを削減しながら遅延のないフィードバックを実現できるからだ。そのためいわゆるエッジコンピューティングが、現在の IoT アーキテクチャーの潮流の一つになっている。
さらに最近になって、エッジ部分にディープラーニングを応用しようという動きが加速してきた。従来のパターンマッチングや機械学習といった手法に対して、画像や音声などの認識精度を高めるのが狙いである。
2012 年 に 創 業 し た LeapMind は、エ ッ ジ 部 分 に お け る
ディープラーニング技術の先駆けともいえる AI ベンチャー企業の一社だ。サーバーやクラウドに比べてコンピューティング・リソースや使える電力が限られるエッジにおいても、高速かつ高精度な推論を実現する独自の軽量化技術を強みとしている。また、上流ネットワークとの接続がない環境にも対応しており、オフラインでもエッジ側だけで処理を完結できるのも同社のソリューションの特長である。
「当社は、『機械学習を使った今までにないデバイスをあまねく世に広める』をミッションに、コンパクトかつローパワーな組み込み向けディープラーニング技術の提供や共同研究を行っています」と、LeapMind の安村修一氏は説明する。業種や業界を問わず、画像解析のほか、音声解析や時系列解析

LeapMind 株式会社
General Manager,Co-development Divisionなど、幅広い応用を手掛けているという。

安村 修一氏推論モデルサイズを最大 99％削減
LeapMind は、DNN（Deep Neural Network）の「極小量子化」に強みを持っている。
DNN は、入力層、複数の中間層（隠れ層）、および出力層で構成されている。ある層のノードと次の層のノードは重み付きシナプスで結ばれており、一般的にはこの重みは 32 ビット浮動小数点で表現されるが、計算量が多くなってしまい、リソースが限られる組み込み用途には向いていない。
1

LeapMind では、活性化関数を 2 ビット＋重みを 1 ビットで表現するなど、DNN の大幅な軽量化を実現する方式を開発した（図 1）。
「推論モデルの軽量化に関しては、ビット数削減のほかに、シナプスを省略する枝切り（プルーニング）などのさまざまな手法が提案されていますが、当社の極小量子化は性能や精度の面でも世界トップレベルと考えています」と安村氏は説明する。

モデルサイズを大幅に圧縮

精度は同等

モデルサイズの比較
（MB）

精度の比較
（％）

108100998.530

約%削減67590.590.989.4■MobileNet V2■Imnet V2■Quantized
Lmnet V15042.73620■MobileNet V2■Imnet V2250.089■Quantized
Lmnet V10※各モデルの実行には同一 FPGA ボードを使用※CIFAR-10 を使ってデータ検証

最高で 99％もの推論モデルの小型化を実現する LeapMind の極小量子化技術の例

この技術を応用した推論器のソフトウエアを「Blueoil（ブルーオイル）」として提供しており、従来の軽量化環境に対してモデルサイズの 99％削減を実現した例もあるという。その場合でも認識精度はわずか 1％程度の低下にとどまっており、実用的に問題ないことが確認されている。
推論モデルの軽量化はエッジのハードウエア実装に多くのメリットをもたらす。ロジックサイズの小型化、消費電力の低減、メモリ容量の削減などが図れるため、リソースの限られるエッジに最適といえる。マイクロコンピューターのコアを内蔵した最もローエンドの FPGA（Field Programmable
Gate Array）デバイスでも、十分な性能が得られる場合が多いという。
同社はこの極小量子化技術を軸に、すべてのモノにディープラーニングを組み込む「DoT（DeepLearning of Things）」の実現を掲げながら、ディープラーニングのコンサルティングに始まり、データ作成、推論モデル構築、モデル圧縮、ハードウエア向け最適化、IP 開発、実装、チューニングまで、一連の開発をトータルで提供している。

OKI と AI エッジパートナーシップを提携
LeapMind は、同社のソリューションを載せるエッジハードウエアとして、これまでの FPGA、ASIC（Application Speciﬁc Integrated Circuit）、ハード IP などの実装方法に加え、OKI が開発したAI エッジコンピューター「AE2100」（図 2）を選択肢の一つに追加した。
「産業分野で多くの実績を持つ OKI が推進する AI エッジコンピューティングの考え方に賛同し、今回パートナーシッ
プ を 結 ぶ 運 び に な り ま し た。OKI の『AE2100』
は、産業用として開発されただけあって信頼性が高く、入出力イン タ フ ェ ー ス も 豊 富 で、エ ッ ジ コ ン
ピューティングに最適なハードウエアの一つと捉えています」と安村氏は理由を説明する。

OKI が開発した AI エッジコンピューター「AE2100」の外観

2

ここで「AE2100」の概要について説明しておこう。「AE2100」は、AI エッジに最適化された小型の産業用コンピューターで、Intel Atom E3950 プロセッサーをベースに、AI アクセラレーターである「インテル ® Movidius™ Myriad™ X VPU（Vision Processing Unit）」をオプションで搭載できる。
センサーやアクチュエーターなどの接続用に複数の I/O ポートを備えているほか、OKI が開発した920MHz 帯マルチホップ無線「SmartHop」を利用できるのも特長だ。
ソフトウエアとしては、IoT の実行環境として Microsoft の「Azure IoT Edge」と、ディープラーニングのツールキット（オプティマイザー）としてインテルの「OpenVINO™ ツールキット」が用意される。なお、LeapMind では、アプリケーションや顧客要件に応じて、OpenVINO™ ツールキットとBlueoil とを使い分けていく考えだ。
OKI では、AI を必要とする顧客に対してより幅広いソリューションを提供するために、「AE2100」を中心にエコシステムの構築を進めている。57 社が OKI の AI エッジパートナーとして名を連ねており（2020 年 2 月末時点）、LeapMind もその一社である。

ディープラーニングをあまねく世に広める
安村氏は今後の取り組みを次のように展望する。「ディープラーニングや AI に対する注目が高まっている中で、さまざまなアイデアやニーズを具体的な価値へとつなげていくことがこれからの課題です。当社の強みである軽量化技術にとどまらず、実運用までカバーするワンストップサービスを通じて、ディープラーニングをあまねく世に広めていきたいと考えています」。
また、とくに産業分野への応用に関しては、AI エッジコンピューティングを推進する OKI との「共創」に期待していると述べている。
AIエッジの時代に向けて、独自の技術力に裏打ちされたLeapMindのこれからの取り組みが注目される。

パートナー企業 概要

LeapMind 株式会社

所在地：東京都渋谷区円山町 28-1 渋谷道玄坂スカイビル 3F
設立：2012 年

従業員数：70 名（2020 年 3 月 12 日時点）

事業内容：ソフトウエアとハードウエアの両領域での、ディープラーニングのコンサルティング、モデル構築、実装、運用と、半導体 IP の開発
https://leapmind.io/

お問い合わせ●この印刷物は日経 BP の許可により「日経 xTECH SPECIAL」<https://special.nikkeibp.co.jp/atclh/NXT/19/oki1003/p6/> から抜粋したものです。禁無断転載

3