fix: eqbench-ja-run/serve_test.sh (JA-D1 + JA-D2 + JA-M1 patches)

eqbench-ja-run/serve_test.sh

@@ -7,7 +7,11 @@
 # アダプタを動的にロードする形式を使用する。
 #
 # ポート: 8000
-# VRAM使用量: ~3GB（1.2B bf16、GPU_UTIL=0.10で残りをJudge用に確保）
+# VRAM: ~3GB (1.2B bf16, GPU_UTIL=0.10 で残りを Judge 用に確保)
+#
+# [Fix-JA-M1] MAX_MODEL_LEN: 4096 → 32768
+#   EQ-Bench3 は max_tokens=12000 を要求するため 4096 では Fatal
+#   ただし Judge と同居するため GPU_UTIL は低く抑える
 # =============================================================================
 
 set -euo pipefail
@@ -17,16 +21,18 @@ LORA_REPO="${TEST_LORA_REPO:-YUGOROU/TeenEmo-LFM2.5-1.2B-DPO}"
 LORA_NAME="${TEST_LORA_NAME:-teenemo-dpo}"
 PORT="${TEST_PORT:-8000}"
 HOST="${VLLM_HOST:-0.0.0.0}"
-GPU_UTIL="${TEST_GPU_UTIL:-0.10}"  # 1.2Bは軽量。judge用にVRAMを残す
-MAX_MODEL_LEN="${TEST_MAX_MODEL_LEN:-4096}"
+GPU_UTIL="${TEST_GPU_UTIL:-0.10}"  # Judge 用に VRAM を残す
+# [Fix-JA-M1] EQ-Bench3 の max_tokens=12000 + プロンプト長を考慮
+MAX_MODEL_LEN="${TEST_MAX_MODEL_LEN:-32768}"
 DTYPE="${VLLM_DTYPE:-auto}"
 HF_TOKEN="${HF_TOKEN:-}"
 
 echo "=== TeenEmo 受験者サーバー起動 ==="
 echo "  ベースモデル    : ${BASE_MODEL}"
-echo "  LoRAアダプタ   : ${LORA_REPO} (name=${LORA_NAME})"
+echo "  LoRAアダプタ    : ${LORA_REPO} (name=${LORA_NAME})"
 echo "  ポート          : ${PORT}"
-echo "  GPU 使用率      : ${GPU_UTIL} (judge用にVRAMを確保)"
+echo "  GPU 使用率      : ${GPU_UTIL} (judge 用に VRAM を確保)"
+echo "  最大コンテキスト: ${MAX_MODEL_LEN} (EQ-Bench3: max_tokens=12000 対応)"
 echo ""
 
 exec vllm serve "${BASE_MODEL}" \