如何将模型装载到多张GPU？
#18
by
shaunxu
- opened
我有4张T4。启动的时候使用CUDA_VISIBLE_DEVICES=0,1,2,3。但是发现模型仍然仅加载到第一张GPU上？如何能够让模型加载到4张GPU？
模型不到1G，一张gpu卡就能放下，不用加载到多张卡。
多卡并行参考：https://github.com/shibing624/text2vec/blob/master/examples/computing_embeddings_multi_gpu_demo.py
shibing624
changed discussion status to
closed