YUGOROU commited on
Commit
f414594
·
1 Parent(s): 65380d0

feat: Fix-SP1 — integrate system prompt patch into setup pipeline

Browse files

Updates setup_eqbench_run.sh to download and apply patch_system_prompt.py
(Fix-SP1) from teememo-eq-bench-ja alongside existing patches Fix-B1 and
Fix-C1.

Changes in setup_eqbench_run.sh:
- patch loop now fetches 3 files: patch_benchmark.py, patch_conversation.py,
patch_system_prompt.py
- PATCH_OK threshold updated 2 → 3
- patch_system_prompt.py applied after Fix-B1 and Fix-C1
- Success message updated to list all three fix IDs

Changes in README.md:
- Fix-SP1 added to the issue table (Major severity)
- New section 'Fix-SP1: システムプロンプト注入' with env var documentation
and examples for customisation and disabling the injection

eqbench-ja-run/README.md CHANGED
@@ -10,6 +10,24 @@ TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアッ
10
  | JA-D1 | 🔴 Fatal | scenario_master_prompt 等 9 ファイルが差し替えられていなかった(scenario_prompts / notes の 2 ファイルのみ) | 全 12 ファイルを差し替え |
11
  | JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | setup 時に patch_benchmark.py / patch_conversation.py を自動適用 |
12
  | JA-M1 | 🔴 Fatal | serve_test.sh の MAX_MODEL_LEN=4096 → EQ-Bench3 は max_tokens=12000 を要求するためクラッシュ | 32768 に修正 |
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
13
 
14
  ## モデル構成
15
 
 
10
  | JA-D1 | 🔴 Fatal | scenario_master_prompt 等 9 ファイルが差し替えられていなかった(scenario_prompts / notes の 2 ファイルのみ) | 全 12 ファイルを差し替え |
11
  | JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | setup 時に patch_benchmark.py / patch_conversation.py を自動適用 |
12
  | JA-M1 | 🔴 Fatal | serve_test.sh の MAX_MODEL_LEN=4096 → EQ-Bench3 は max_tokens=12000 を要求するためクラッシュ | 32768 に修正 |
13
+ | Fix-SP1 | 🟠 Major | Baseモデルはフォーマット指示に従えないため EQ-Bench3 パーサがセクション見出しを検出できずスコアが極端に低下(8.30) | `conversation.py` の会話開始時にシステムプロンプトを注入するパッチ(`patch_system_prompt.py`)を自動適用 |
14
+
15
+ ## Fix-SP1: システムプロンプト注入(Baseモデル対応)
16
+
17
+ Baseモデルは事後学習を経ていないため、EQ-Bench3が要求するセクション形式(`# I'm thinking & feeling` 等)を自然には出力しません。
18
+ `patch_system_prompt.py` は `core/conversation.py` の会話開始時にシステムプロンプトを注入し、Baseモデルでも正しいフォーマットで応答できるよう誘導します。
19
+
20
+ **デフォルト動作:** TeenEmoのアイデンティティ + セクション見出し形式の指示をシステムプロンプトとして注入します。
21
+
22
+ **カスタマイズ:** 環境変数 `TEENEMO_SYSTEM_PROMPT` でシステムプロンプトを上書きできます。空文字列を設定すると注入を無効化できます。
23
+
24
+ ```bash
25
+ # カスタムシステムプロンプトを使用する場合
26
+ export TEENEMO_SYSTEM_PROMPT="あなたはロールプレイの参加者です。必ず以下の英語見出しで回答してください..."
27
+
28
+ # 注入を無効化する場合(Instructモデル評価時など)
29
+ export TEENEMO_SYSTEM_PROMPT=""
30
+ ```
31
 
32
  ## モデル構成
33
 
eqbench-ja-run/setup_eqbench_run.sh CHANGED
@@ -80,7 +80,7 @@ echo "[setup] [Fix-JA-D2] コードパッチを適用中..."
80
  PATCH_DIR="${WORKSPACE}/eqbench-patch"
81
  mkdir -p "${PATCH_DIR}"
82
  PATCH_OK=0
83
- for pf in patch_benchmark.py patch_conversation.py; do
84
  if curl -sfL \
85
  -H "Authorization: Bearer ${HF_TOKEN}" \
86
  "${HF_BASE}/${PATCH_REPO}/resolve/main/patch/${pf}" \
@@ -91,13 +91,16 @@ for pf in patch_benchmark.py patch_conversation.py; do
91
  fi
92
  done
93
 
94
- if [ "${PATCH_OK}" -eq 2 ]; then
95
  cd "${WORKSPACE}/eqbench3"
96
  python3 "${PATCH_DIR}/patch_benchmark.py"
97
  python3 "${PATCH_DIR}/patch_conversation.py"
98
- echo "[setup] ドパチ完了"
 
 
 
99
  else
100
- echo "[setup] ❌ パッチ取得失敗。PATCH_REPO=${PATCH_REPO} を確認してください。"
101
  fi
102
  cd "${WORKSPACE}"
103
 
 
80
  PATCH_DIR="${WORKSPACE}/eqbench-patch"
81
  mkdir -p "${PATCH_DIR}"
82
  PATCH_OK=0
83
+ for pf in patch_benchmark.py patch_conversation.py patch_system_prompt.py; do
84
  if curl -sfL \
85
  -H "Authorization: Bearer ${HF_TOKEN}" \
86
  "${HF_BASE}/${PATCH_REPO}/resolve/main/patch/${pf}" \
 
91
  fi
92
  done
93
 
94
+ if [ "${PATCH_OK}" -eq 3 ]; then
95
  cd "${WORKSPACE}/eqbench3"
96
  python3 "${PATCH_DIR}/patch_benchmark.py"
97
  python3 "${PATCH_DIR}/patch_conversation.py"
98
+ # [Fix-SP1] Baseモデルのフォト追従のためシステムプロンプトを注入
99
+ # TEENEMO_SYSTEM_PROMPT 環境変数でカスタマイズ可能(未設定時はデフォルト使用)
100
+ python3 "${PATCH_DIR}/patch_system_prompt.py"
101
+ echo "[setup] ✅ コードパッチ完了(Fix-B1 / Fix-C1 / Fix-SP1)"
102
  else
103
+ echo "[setup] ❌ パッチ取得失敗(${PATCH_OK}/3)。PATCH_REPO=${PATCH_REPO} を確認してください。"
104
  fi
105
  cd "${WORKSPACE}"
106