YUGOROU commited on
Commit
5d77114
·
1 Parent(s): f414594

fix: Fix-SP1 を eqbench-vast に正しく適用(eqbench-ja-run の誤変更を取消)

Browse files

前のコミットで誤って非アクティブな eqbench-ja-run を変更していた。
アクティブなパイプラインである eqbench-vast に Fix-SP1 を適用し直す。

Changes:
- eqbench-vast/setup_eqbench_vast.sh: Fix-SP1パッチを統合
- patch_system_prompt.py を patch ループに追加(3ファイル体制)
- PATCH_OK 判定を 2 → 3 に更新
- patch_system_prompt.py を Fix-B1・Fix-C1 の後に適用
- eqbench-vast/README.md: Fix-SP1 をテーブルと説明セクションに追記
- eqbench-ja-run/setup_eqbench_run.sh: 誤変更を main に戻す
- eqbench-ja-run/README.md: 誤変更を main に戻す

eqbench-ja-run/README.md CHANGED
@@ -10,24 +10,6 @@ TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアッ
10
  | JA-D1 | 🔴 Fatal | scenario_master_prompt 等 9 ファイルが差し替えられていなかった(scenario_prompts / notes の 2 ファイルのみ) | 全 12 ファイルを差し替え |
11
  | JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | setup 時に patch_benchmark.py / patch_conversation.py を自動適用 |
12
  | JA-M1 | 🔴 Fatal | serve_test.sh の MAX_MODEL_LEN=4096 → EQ-Bench3 は max_tokens=12000 を要求するためクラッシュ | 32768 に修正 |
13
- | Fix-SP1 | 🟠 Major | Baseモデルはフォーマット指示に従えないため EQ-Bench3 パーサがセクション見出しを検出できずスコアが極端に低下(8.30) | `conversation.py` の会話開始時にシステムプロンプトを注入するパッチ(`patch_system_prompt.py`)を自動適用 |
14
-
15
- ## Fix-SP1: システムプロンプト注入(Baseモデル対応)
16
-
17
- Baseモデルは事後学習を経ていないため、EQ-Bench3が要求するセクション形式(`# I'm thinking & feeling` 等)を自然には出力しません。
18
- `patch_system_prompt.py` は `core/conversation.py` の会話開始時にシステムプロンプトを注入し、Baseモデルでも正しいフォーマットで応答できるよう誘導します。
19
-
20
- **デフォルト動作:** TeenEmoのアイデンティティ + セクション見出し形式の指示をシステムプロンプトとして注入します。
21
-
22
- **カスタマイズ:** 環境変数 `TEENEMO_SYSTEM_PROMPT` でシステムプロンプトを上書きできます。空文字列を設定すると注入を無効化できます。
23
-
24
- ```bash
25
- # カスタムシステムプロンプトを使用する場合
26
- export TEENEMO_SYSTEM_PROMPT="あなたはロールプレイの参加者です。必ず以下の英語見出しで回答してください..."
27
-
28
- # 注入を無効化する場合(Instructモデル評価時など)
29
- export TEENEMO_SYSTEM_PROMPT=""
30
- ```
31
 
32
  ## モデル構成
33
 
 
10
  | JA-D1 | 🔴 Fatal | scenario_master_prompt 等 9 ファイルが差し替えられていなかった(scenario_prompts / notes の 2 ファイルのみ) | 全 12 ファイルを差し替え |
11
  | JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | setup 時に patch_benchmark.py / patch_conversation.py を自動適用 |
12
  | JA-M1 | 🔴 Fatal | serve_test.sh の MAX_MODEL_LEN=4096 → EQ-Bench3 は max_tokens=12000 を要求するためクラッシュ | 32768 に修正 |
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
13
 
14
  ## モデル構成
15
 
eqbench-ja-run/setup_eqbench_run.sh CHANGED
@@ -80,7 +80,7 @@ echo "[setup] [Fix-JA-D2] コードパッチを適用中..."
80
  PATCH_DIR="${WORKSPACE}/eqbench-patch"
81
  mkdir -p "${PATCH_DIR}"
82
  PATCH_OK=0
83
- for pf in patch_benchmark.py patch_conversation.py patch_system_prompt.py; do
84
  if curl -sfL \
85
  -H "Authorization: Bearer ${HF_TOKEN}" \
86
  "${HF_BASE}/${PATCH_REPO}/resolve/main/patch/${pf}" \
@@ -91,16 +91,13 @@ for pf in patch_benchmark.py patch_conversation.py patch_system_prompt.py; do
91
  fi
92
  done
93
 
94
- if [ "${PATCH_OK}" -eq 3 ]; then
95
  cd "${WORKSPACE}/eqbench3"
96
  python3 "${PATCH_DIR}/patch_benchmark.py"
97
  python3 "${PATCH_DIR}/patch_conversation.py"
98
- # [Fix-SP1] Baseモデルのフォト追従のためシステムプロンプトを注入
99
- # TEENEMO_SYSTEM_PROMPT 環境変数でカスタマイズ可能(未設定時はデフォルト使用)
100
- python3 "${PATCH_DIR}/patch_system_prompt.py"
101
- echo "[setup] ✅ コードパッチ完了(Fix-B1 / Fix-C1 / Fix-SP1)"
102
  else
103
- echo "[setup] ❌ パッチ取得失敗(${PATCH_OK}/3)。PATCH_REPO=${PATCH_REPO} を確認してください。"
104
  fi
105
  cd "${WORKSPACE}"
106
 
 
80
  PATCH_DIR="${WORKSPACE}/eqbench-patch"
81
  mkdir -p "${PATCH_DIR}"
82
  PATCH_OK=0
83
+ for pf in patch_benchmark.py patch_conversation.py; do
84
  if curl -sfL \
85
  -H "Authorization: Bearer ${HF_TOKEN}" \
86
  "${HF_BASE}/${PATCH_REPO}/resolve/main/patch/${pf}" \
 
91
  fi
92
  done
93
 
94
+ if [ "${PATCH_OK}" -eq 2 ]; then
95
  cd "${WORKSPACE}/eqbench3"
96
  python3 "${PATCH_DIR}/patch_benchmark.py"
97
  python3 "${PATCH_DIR}/patch_conversation.py"
98
+ echo "[setup] ドパチ完了"
 
 
 
99
  else
100
+ echo "[setup] ❌ パッチ取得失敗。PATCH_REPO=${PATCH_REPO} を確認してください。"
101
  fi
102
  cd "${WORKSPACE}"
103
 
eqbench-vast/README.md CHANGED
@@ -9,9 +9,25 @@ TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価する Vast.ai セッ
9
  |---|--------|------|------|
10
  | JA-D1 | 🔴 Fatal | scenario_master_prompt 等 10 ファイルが差し替えられていなかった | 全 12 ファイルを差し替え |
11
  | JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | patch_benchmark.py / patch_conversation.py を自動適用 |
 
12
 
13
  コードパッチの詳細は [teememo-eq-bench-ja](https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja) の `patch/` を参照。
14
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
15
  ## セットアップ
16
 
17
  ```bash
 
9
  |---|--------|------|------|
10
  | JA-D1 | 🔴 Fatal | scenario_master_prompt 等 10 ファイルが差し替えられていなかった | 全 12 ファイルを差し替え |
11
  | JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | patch_benchmark.py / patch_conversation.py を自動適用 |
12
+ | Fix-SP1 | 🟠 Major | Baseモデルはフォーマット指示に従えないため EQ-Bench3 パーサがセクション見出しを検出できずスコアが極端に低下(8.30) | `conversation.py` の会話開始時にシステムプロンプトを注入するパッチ(`patch_system_prompt.py`)を自動適用 |
13
 
14
  コードパッチの詳細は [teememo-eq-bench-ja](https://huggingface.co/datasets/YUGOROU/teememo-eq-bench-ja) の `patch/` を参照。
15
 
16
+ ## Fix-SP1: システムプロンプト注入(Baseモデル対応)
17
+
18
+ Baseモデルは事後学習を経ていないため、EQ-Bench3が要求するセクション形式(`# I'm thinking & feeling` 等)を自然には出力しません。
19
+ `patch_system_prompt.py` は `core/conversation.py` の会話開始時にシステムプロンプトを注入し、Baseモデルでも正しいフォーマットで応答できるよう誘導します。
20
+
21
+ **カスタマイズ:** 環境変数 `TEENEMO_SYSTEM_PROMPT` でシステムプロンプトを上書き、または無効化できます。
22
+
23
+ ```bash
24
+ # カスタムシステムプロンプトを使用する場合
25
+ export TEENEMO_SYSTEM_PROMPT="あなたはロールプレイの参加者です。..."
26
+
27
+ # 注入を無効化する場合(Instructモデル評価時など)
28
+ export TEENEMO_SYSTEM_PROMPT=""
29
+ ```
30
+
31
  ## セットアップ
32
 
33
  ```bash
eqbench-vast/setup_eqbench_vast.sh CHANGED
@@ -86,7 +86,7 @@ echo "[setup] [Fix-JA-D2] コードパッチを適用中..."
86
  PATCH_DIR="${WORKSPACE}/eqbench-patch"
87
  mkdir -p "${PATCH_DIR}"
88
  PATCH_OK=0
89
- for pf in patch_benchmark.py patch_conversation.py; do
90
  if curl -sfL \
91
  -H "Authorization: Bearer ${HF_TOKEN}" \
92
  "https://huggingface.co/datasets/${PATCH_REPO}/resolve/main/patch/${pf}" \
@@ -97,13 +97,16 @@ for pf in patch_benchmark.py patch_conversation.py; do
97
  fi
98
  done
99
 
100
- if [ "${PATCH_OK}" -eq 2 ]; then
101
  cd "${WORKSPACE}/eqbench3"
102
  python3 "${PATCH_DIR}/patch_benchmark.py"
103
  python3 "${PATCH_DIR}/patch_conversation.py"
104
- echo "[setup] ドパチ完了"
 
 
 
105
  else
106
- echo "[setup] ❌ パッチファイル取得失敗。PATCH_REPO=${PATCH_REPO} を確認してください。"
107
  fi
108
 
109
  # ── serve_test_vast.sh DL ────────────────────────────────────
 
86
  PATCH_DIR="${WORKSPACE}/eqbench-patch"
87
  mkdir -p "${PATCH_DIR}"
88
  PATCH_OK=0
89
+ for pf in patch_benchmark.py patch_conversation.py patch_system_prompt.py; do
90
  if curl -sfL \
91
  -H "Authorization: Bearer ${HF_TOKEN}" \
92
  "https://huggingface.co/datasets/${PATCH_REPO}/resolve/main/patch/${pf}" \
 
97
  fi
98
  done
99
 
100
+ if [ "${PATCH_OK}" -eq 3 ]; then
101
  cd "${WORKSPACE}/eqbench3"
102
  python3 "${PATCH_DIR}/patch_benchmark.py"
103
  python3 "${PATCH_DIR}/patch_conversation.py"
104
+ # [Fix-SP1] Baseモデルのフォト追従のためシステムプロンプトを注入
105
+ # TEENEMO_SYSTEM_PROMPT 環境変数でカスタマイズ可能(未設定時はデフォルト使用)
106
+ python3 "${PATCH_DIR}/patch_system_prompt.py"
107
+ echo "[setup] ✅ コードパッチ完了(Fix-B1 / Fix-C1 / Fix-SP1)"
108
  else
109
+ echo "[setup] ❌ パッチファイル取得失敗(${PATCH_OK}/3)。PATCH_REPO=${PATCH_REPO} を確認してください。"
110
  fi
111
 
112
  # ── serve_test_vast.sh DL ────────────────────────────────────