Open Neural Network Exchange

Open Neural Network Exchangeとは、オープンソースで開発されている機械学習や人工知能のモデルを表現する為の代表的なフォーマットである。実行エンジンとしてONNX Runtimeも開発されている。

1. 概要
-----

機械学習、特にニューラルネットワークモデルは様々なフレームワーク上で学習され、また様々なハードウェア上で実行される。各環境に特化したモデルは他のフレームワーク・ハードウェアで利用できず相互運用性を欠いてしまう。また実装者は環境ごとにサポートをおこなう必要があり大きな労力を必要とする。

ONNXはモデルを記述する統一インターフェースを提供し、これらの問題を解決する。各フレームワークは学習したモデルをONNX形式で出力する。各ハードウェアはONNX実行環境を提供することで、どのフレームワークで学習されたかを問わずモデル推論を実行する。このように相互運用可能なモデルフォーマットとしてONNXは開発されている。

2017年に開発が開始された。

2. 開発背景
-------

以下の特性を補完する意図にて開発が進められた。

2.1. フレームワークの相互運用性
------------------

開発工程や機械学習の高速処理、ネットワークの基本設計における柔軟性やモバイルデバイスでの推論などの特定の段階において、開発者が複数のフレームワークでのデータのやり取りを簡単に行えるようにする。

2.2. 最適化の共有
-----------

ハードウェアベンダーなどは、ONNXを対象に調整を行うことで、複数のフレームワークにおけるニューラルネットワークのパフォーマンスを一度に改善することができる。

3. 沿革
-----

2017年9月に、FacebookとMicrosoftは、PyTorchやCaffe2などの機械学習フレームワーク間において相互運用を可能にする為の取り組みとして、このプロジェクトを始動した。その後、IBM、Huawei、Intel、AMD、ARM、Qualcommがこの取り組みに対して積極的な支援を表明した。

2017年10月に、MicrosoftはCognitive ToolkitおよびProject Brainwaveプラットフォームにおいて、ONNXのサポートを発表した。

2019年11月、ONNXはLinux Foundation AIの卒業生プロジェクトとして承認された。

4. 構成
-----

ONNXは、推論に焦点を当て、拡張可能な計算グラフモデル、組み込み演算子、および標準データ型の定義を提供する。

それぞれのデータフローグラフは、有向非巡回グラフを形成するノードのリストになっている。ノードには入力と出力があり、各ノードが処理を呼び出すようになっている。メタデータはグラフを文書化する。組み込み演算子は、ONNXをサポートする各フレームワークで利用可能である。

グラフは Protocol Buffers を使用して拡張子 .onnx のバイナリファイルとして保存可能である。このファイルは様々な機械学習のライブラリから読み書き可能である。

ONNX仕様は2つのサブ仕様、IRとOperatorからなる。この2つの仕様はそれぞれバージョニングされており、ONNX仕様のバージョンはこの2つのサブ仕様の特定版を指定したものとなっている。2021-12-22現在の最新バージョンは version 1.10.2 であり、これはIR v8とOperator v15-v2-v1 から成る。

4.1. ONNX IR
------------

Open Neural Network Exchange Intermediate Representation  はONNXの基本データ型と計算グラフを定義するサブ仕様である。ONNX IRは計算グラフを構成する Model, Graph, Node 等の要素、入出力 Tensor, Sequence, Map およびデータ FLOAT, INT8, BFLOAT16 等の基本データ型を定義する。2021-12-22現在の最新バージョンは version 8 である。

ONNX IRが定義する要素として以下が挙げられる。

Graph: 計算グラフを表現する要素。Graph入出力を指定するinput/initializer/output、計算ノード群を指定するnode、メタデータを収納するname/doc_string/value_info、の属性をもつ。
Node: 計算ノードを表現する要素。Node入出力を指定するinput/output、演算子とそのパラメータを指定するdomain/op_type/attribute、メタデータを収納するname/doc_string/value_info、の属性をもつ。すなわちGraphに収納された各Nodeが入出力をもった演算  になっており、Node/Graph入出力名に基づいてNode群がグラフ構造を取っている。

4.1.1. 拡張演算子
------------

ONNX IRはONNX Operatorで定義される標準演算子に追加して、独自の拡張演算子を受け入れられるように設計されている。これによりONNXの "//Extensible/拡張可能//" 特性を実現している。拡張演算子セットを Model の opset_import 属性に指定することで実行エンジン側へ拡張演算子の利用を通知する仕組みである。ONNXを受け取った実行エンジンは opset_import を確認し、指定された演算子セット全てをサポートしていれば受け入れ、そうでなければ Model 全体を拒絶する。

4.2. ONNX Operator
------------------

ONNXのビルトイン演算子はサブ仕様 Operator specifications により定義される。3種類の演算子セットai.onnx, ai.onnx.ml, ai.onnx.training が定義されており、ai.onnx がデフォルトである。2022年12月12日現在、ai.onnx の最新バージョンは version 18 である。

例えばOpset ai.onnx v15ではRNN系演算子として [1] 、[2] 、[3] が定義されている。

4.2.1. 量子化
----------

ONNXは入出力の量子化やそれに対する操作を演算子として持つ。[4]はスケール・シフトパラメータに基づく線形量子化をおこなう。[5]は入力ベクトルのmin/maxに基づく動的uint8量子化をおこなう。int8入力に対する演算には[6]、[7]、[8]、[9]などがある。

5. ONNX Runtime
---------------

ONNX Runtime  は様々な環境におけるONNXモデルの推論・学習高速化を目的としたオープンソースプロジェクトである。フレームワーク・OS・ハードウェアを問わず単一のRuntime APIを介してONNXモデルを利用できる。またデプロイ環境に合わせた最適化を自動でおこなう。ONNX Runtimeは設計方針としてアクセラレータ・ランタイム抽象化とパフォーマンス最適化の両立を掲げており、ONNXモデルの自動分割と最適アクセラレータによるサブモデル実行によりこれを実現している。

ONNX Runtimeがサポートする最適化には以下が挙げられる。

モデル量子化: 8-bit Model Quantization
グラフ最適化: //Basic// , //Extended// , //Layout//  の三段階対応するバックエンドに関しては#ONNXバックエンドを参照。

6. ONNXモデル
----------

ONNXのモデルはPythonスクリプトから生成したり、他のフレームワークから変換したりすることで作ることができる。他のフレームワークからの変換には以下のような方法が存在する：

ONNXMLTools - 様々なフレームワークからの変換を行う。
PyTorchの標準ONNXエクスポータ 
tf2onnx - TensorFlowからの変換を行う。
sklearn-onnx  - scikit-learnからの変換を行うまたONNXのモデル集としては以下が存在する；

ONNX Model Zoo

7. ONNXバックエンド
-------------

ONNX Runtime は共有ライブラリの Execution Providers によって多数のバックエンドをサポートしている。これにはIntel の OpenVINO バックエンド  及び oneDNN バックエンド、NVIDIAの CUDA バックエンド  及び TensorRT バックエンド 、AMDの ROCm バックエンド及び MIGraphX バックエンド、Windows の DirectML バックエンド 、macOS / iOS の CoreML バックエンド、Android の NNAPI バックエンド、Microsoft Azure向けの Azure バックエンドなどが存在する。

また ONNX からNVIDIA GPU向けのTensorRTバイナリ  を生成するものとして NVIDIA の Polygraphy や trtexec も存在する。

また OONX を LLVM の MLIR によってコンパイルするための onnx-mlir も存在する。

8. 例
----

線形回帰モデルの学習結果として が得られたとして、それを ONNX ファイルに保存する Python での実装例。 import numpy as np import onnx from onnx import TensorProto, numpy_helper from onnx.helper import make_model, make_node, make_graph, make_tensor_value_info

A = numpy_helper.from_array, "A") B = numpy_helper.from_array, "B") X = make_tensor_value_info Y = make_tensor_value_info

graph = make_graph, make_node, ], "Linear Regression", [X], [Y], [A, B]) onnx.save, "2x_3.onnx")<WtXmlEndTag />

それを ONNX Runtime を使い実行する Python での実装例。 import numpy as np import onnxruntime as ort ort_sess = ort.InferenceSession y = ort_sess.run})[0]

9. 脚注
-----

9.1. 出典
-------

10. 関連項目
--------

Neural Network Exchange Format
Comparison of deep learning software

11. 外部リンク
---------

[10]
[11]