1. 单精度浮点数运算速度单精度浮点数,也就是FP32,tensorflow里面的tf.float32,是我们最常用的数据精度,也是各个深度学习框架默认的数据精度。可以看出,在这项性能...
这里,我们列出了英伟达近年来各种适合深度学习的显卡的详细参数,并作出一些说明,方便大家根据自己的需求挑选适合自己的显卡。直接上图(小编整理了好半天)。
怎么看这张图呢,主要看几个关键的性能指标。
1. 单精度浮点数运算速度
单精度浮点数,也就是FP32,tensorflow里面的tf.float32,是我们最常用的数据精度,也是各个深度学习框架默认的数据精度。可以看出,在这项性能指标上,各个显卡的差距都不是很大。综合性价比,这里推荐2080Ti, 2080以及1080Ti。
2. 显存大小
显存即显卡内存,决定了我们一次读入显卡进行运算的数据多少(batch size)和我们能够搭建的模型大小(网络层数、单元数),是对深度学习研究人员来说很重要的指标,可以看到RTX 8000拥有48GB的最大显存,Tesla V100 32GB版具备32GB显存,不过这些卡的价格都太昂贵了,这里小编更推荐2080Ti以及1080Ti。如果确实需要大显存,更实惠的方案是购买两张TITAN RTX,并通过Nvlink组成双卡实现显存共享,享受48GB和两张卡的算力。
3.半精度浮点数运算速度
如果对运算的精度要求不高,那么就可以尝试使用半精度浮点数进行运算。这个时候,Tensor核心就派上了用场。Tensor Core专门执行矩阵数学运算,适用于深度学习和某些类型的HPC。Tensor Core执行融合乘法加法,其中两个4*4 FP16矩阵相乘,然后将结果添加到4*4 FP16或FP32矩阵中,最终输出新的4*4 FP16或FP32矩阵。NVIDIA将Tensor Core进行的这种运算称为混合精度数学,因为输入矩阵的精度为半精度,但乘积可以达到完全精度。Tensor Core所做的这种运算在深度学习训练和推理中很常见。所以,购买具备Tensor Core的显卡战未来吧。英伟达宣称使用Tensor Core进行矩阵运算可以轻易的在训练时达到2-5倍的提速,同时降低一半的内存访问和存储。不仅提升运算速度,还能把显存占用减半,这样的好事就是由Tensor