Upload fsdp_slrum.sh with huggingface_hub

fsdp_slrum.sh

@@ -0,0 +1,58 @@
+#!/bin/bash
+#SBATCH --job-name=olmo2-sft-v5-
+#SBATCH --partition=AISS2024110101
+#SBATCH --nodes=2                            # 节点数可根据你想用的调整
+#SBATCH --ntasks-per-node=8                 # 每节点 8 个进程（即 8 GPU）
+#SBATCH --gpus-per-node=8
+#SBATCH --cpus-per-task=8                   # 每个 GPU 分配 8 CPU 核
+#SBATCH --time=48:00:00
+#SBATCH --output=logs/%x-%j.out
+
+# ======= 环境激活 ========
+module load cuda/12.1                       # 根据集群环境选择
+source /home/projects/protein/zyk/.bashrc # 你的 conda 环境名
+
+# ======= 通用分布式参数 ========
+GPUS_PER_NODE=8
+NNODES=$SLURM_NNODES
+NODE_RANK=$SLURM_NODEID
+MASTER_ADDR=$(scontrol show hostnames "$SLURM_JOB_NODELIST" | head -n 1)
+MASTER_PORT=29501
+
+export NCCL_ASYNC_ERROR_HANDLING=1
+export TORCH_NCCL_BLOCKING_WAIT=1
+
+# ======= 启动训练 =========
+torchrun \
+  --nnodes=$NNODES \
+  --nproc_per_node=$GPUS_PER_NODE \
+  --node_rank=$NODE_RANK \
+  --master_addr=$MASTER_ADDR \
+  --master_port=$MASTER_PORT \
+  train5.py \
+    --batch-size 1 \
+    --model_path "/AIRvePFS/ai4science/users/ai4science/users/zyk/seminat_backup/model/OLMo-2-0425-1B" \
+    --decoder_layers 1 \
+    --encoder_layers 1 \
+    --mlp False \
+    --position_embedding_type "absolute" \
+    --base "pretrained" \
+    --save_path "ckp/sft-v5-1e4-1sample-resume" \
+    --save_name "sft-v5-1e4-1sample-resume" \
+    --data_type SemiNATForMultiRoundMaskInputStream \
+    --run_name "olmo2-1b-sft-v5-1sample" \
+    --epochs 10 \
+    --chunk_size_limit 5 \
+    --save_steps 10000 \
+    --lr 5e-4 \
+    --weight_decay 0.1 \
+    --eps 1e-8 \
+    --dtype bf16 \
+    --betas 0.9 0.95 \
+    --warmup_ratio 0.1 \
+    --data_path "/AIRvePFS/ai4science/users/ai4science/users/zyk/seminat/data/olmo2_sft_prob_multi_0621_86w_1sample.jsonl" \
+    --max_length 2048 \
+    --data_processess_num 8 \
+    --attn_implementation "flash_attention_2" \
+    --use_wandb \
+    "$@"