質問: 自分のこれまで深層学習に関する知識と感覚だと、訓練・学習**時間が超長く**、GPUを多量必要としますが、 もしかして、これは単に『**訓練・学習**』段階の話で、 実際応用段階では(一枚の画像を認識する時に)非常に早いでしょうか。 ----例えば、GPUはもう要らないとか。 宜しくお願い致します。
回答: 一枚の画像を認識するというのは順伝播を一回やるということと同じです。 学習時には順伝播、逆伝播を何百、何千epochとやることを考えれば、確かに予測(認識)は相対的にかなり高速にできます。 が、大規模な行列演算をやる必要があることには変わりなく、予測はproductで走りますからここの効率はとてもシビアな問題です(イニシャルコスト・ランニングコストに響いてくる)。 CPUでやるよりGPUでやった方が安上がりだから使うのでしょうし、「GPUはもう要らない」という事態は発生しないかと(ただし「GPUなんかない貧弱な環境で走らせたい」というニーズは、それなりにあるでしょうね)。 参考: NVIDIA、ディープラーニング推論の能力をハイパースケール データセンターに拡大|NVIDIA 推論(予測)でもCPUの190倍を主張していますね。