File size: 143 Bytes
6c9cbc5
 
 
 
 
 
 
1
2
3
4
5
6
7
8
torchrun \
    --nnodes=1:3\
    --nproc_per_node=2\
    --rdzv_id=1\
    --rdzv_backend=c10d\
    --rdzv_endpoint="ib1:8880"\
    train_ms.py