人工知能のコンテキストで「推論」という用語が使われる場合、予測を行うためにトレーニング済みのニューラル ネットワーク モデルを実行するプロセスを指します。ハイブリッド推論とは、これらのトレーニング済みモデルを「エッジ」(物理デバイスでローカル) または「クラウド」(Azure VM でリモート) で実行する機能を表します。クラウドは無限のサイズやコンピューティングなどの利点をもたらしますが、レイテンシー、経済性、セキュリティに関してはエッジが有利になる場合があるため、どちらも実行できることは強力なコンセプトとなります。