feat: Fix-SP1 — integrate system prompt patch into setup pipeline
Browse filesUpdates setup_eqbench_run.sh to download and apply patch_system_prompt.py
(Fix-SP1) from teememo-eq-bench-ja alongside existing patches Fix-B1 and
Fix-C1.
Changes in setup_eqbench_run.sh:
- patch loop now fetches 3 files: patch_benchmark.py, patch_conversation.py,
patch_system_prompt.py
- PATCH_OK threshold updated 2 → 3
- patch_system_prompt.py applied after Fix-B1 and Fix-C1
- Success message updated to list all three fix IDs
Changes in README.md:
- Fix-SP1 added to the issue table (Major severity)
- New section 'Fix-SP1: システムプロンプト注入' with env var documentation
and examples for customisation and disabling the injection
eqbench-ja-run/README.md
CHANGED
|
@@ -10,6 +10,24 @@ TeenEmo-LFM2.5-1.2B-DPO を EQ-Bench3 日本語版で評価するセットアッ
|
|
| 10 |
| JA-D1 | 🔴 Fatal | scenario_master_prompt 等 9 ファイルが差し替えられていなかった(scenario_prompts / notes の 2 ファイルのみ) | 全 12 ファイルを差し替え |
|
| 11 |
| JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | setup 時に patch_benchmark.py / patch_conversation.py を自動適用 |
|
| 12 |
| JA-M1 | 🔴 Fatal | serve_test.sh の MAX_MODEL_LEN=4096 → EQ-Bench3 は max_tokens=12000 を要求するためクラッシュ | 32768 に修正 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
|
| 14 |
## モデル構成
|
| 15 |
|
|
|
|
| 10 |
| JA-D1 | 🔴 Fatal | scenario_master_prompt 等 9 ファイルが差し替えられていなかった(scenario_prompts / notes の 2 ファイルのみ) | 全 12 ファイルを差し替え |
|
| 11 |
| JA-D2 | 🔴 Fatal | benchmark.py / conversation.py のコードパッチ未適用 → スコア全0 | setup 時に patch_benchmark.py / patch_conversation.py を自動適用 |
|
| 12 |
| JA-M1 | 🔴 Fatal | serve_test.sh の MAX_MODEL_LEN=4096 → EQ-Bench3 は max_tokens=12000 を要求するためクラッシュ | 32768 に修正 |
|
| 13 |
+
| Fix-SP1 | 🟠 Major | Baseモデルはフォーマット指示に従えないため EQ-Bench3 パーサがセクション見出しを検出できずスコアが極端に低下(8.30) | `conversation.py` の会話開始時にシステムプロンプトを注入するパッチ(`patch_system_prompt.py`)を自動適用 |
|
| 14 |
+
|
| 15 |
+
## Fix-SP1: システムプロンプト注入(Baseモデル対応)
|
| 16 |
+
|
| 17 |
+
Baseモデルは事後学習を経ていないため、EQ-Bench3が要求するセクション形式(`# I'm thinking & feeling` 等)を自然には出力しません。
|
| 18 |
+
`patch_system_prompt.py` は `core/conversation.py` の会話開始時にシステムプロンプトを注入し、Baseモデルでも正しいフォーマットで応答できるよう誘導します。
|
| 19 |
+
|
| 20 |
+
**デフォルト動作:** TeenEmoのアイデンティティ + セクション見出し形式の指示をシステムプロンプトとして注入します。
|
| 21 |
+
|
| 22 |
+
**カスタマイズ:** 環境変数 `TEENEMO_SYSTEM_PROMPT` でシステムプロンプトを上書きできます。空文字列を設定すると注入を無効化できます。
|
| 23 |
+
|
| 24 |
+
```bash
|
| 25 |
+
# カスタムシステムプロンプトを使用する場合
|
| 26 |
+
export TEENEMO_SYSTEM_PROMPT="あなたはロールプレイの参加者です。必ず以下の英語見出しで回答してください..."
|
| 27 |
+
|
| 28 |
+
# 注入を無効化する場合(Instructモデル評価時など)
|
| 29 |
+
export TEENEMO_SYSTEM_PROMPT=""
|
| 30 |
+
```
|
| 31 |
|
| 32 |
## モデル構成
|
| 33 |
|
eqbench-ja-run/setup_eqbench_run.sh
CHANGED
|
@@ -80,7 +80,7 @@ echo "[setup] [Fix-JA-D2] コードパッチを適用中..."
|
|
| 80 |
PATCH_DIR="${WORKSPACE}/eqbench-patch"
|
| 81 |
mkdir -p "${PATCH_DIR}"
|
| 82 |
PATCH_OK=0
|
| 83 |
-
for pf in patch_benchmark.py patch_conversation.py; do
|
| 84 |
if curl -sfL \
|
| 85 |
-H "Authorization: Bearer ${HF_TOKEN}" \
|
| 86 |
"${HF_BASE}/${PATCH_REPO}/resolve/main/patch/${pf}" \
|
|
@@ -91,13 +91,16 @@ for pf in patch_benchmark.py patch_conversation.py; do
|
|
| 91 |
fi
|
| 92 |
done
|
| 93 |
|
| 94 |
-
if [ "${PATCH_OK}" -eq
|
| 95 |
cd "${WORKSPACE}/eqbench3"
|
| 96 |
python3 "${PATCH_DIR}/patch_benchmark.py"
|
| 97 |
python3 "${PATCH_DIR}/patch_conversation.py"
|
| 98 |
-
|
|
|
|
|
|
|
|
|
|
| 99 |
else
|
| 100 |
-
echo "[setup] ❌ パッチ取得失敗。PATCH_REPO=${PATCH_REPO} を確認してください。"
|
| 101 |
fi
|
| 102 |
cd "${WORKSPACE}"
|
| 103 |
|
|
|
|
| 80 |
PATCH_DIR="${WORKSPACE}/eqbench-patch"
|
| 81 |
mkdir -p "${PATCH_DIR}"
|
| 82 |
PATCH_OK=0
|
| 83 |
+
for pf in patch_benchmark.py patch_conversation.py patch_system_prompt.py; do
|
| 84 |
if curl -sfL \
|
| 85 |
-H "Authorization: Bearer ${HF_TOKEN}" \
|
| 86 |
"${HF_BASE}/${PATCH_REPO}/resolve/main/patch/${pf}" \
|
|
|
|
| 91 |
fi
|
| 92 |
done
|
| 93 |
|
| 94 |
+
if [ "${PATCH_OK}" -eq 3 ]; then
|
| 95 |
cd "${WORKSPACE}/eqbench3"
|
| 96 |
python3 "${PATCH_DIR}/patch_benchmark.py"
|
| 97 |
python3 "${PATCH_DIR}/patch_conversation.py"
|
| 98 |
+
# [Fix-SP1] Baseモデルのフォーマット追従のためシステムプロンプトを注入
|
| 99 |
+
# TEENEMO_SYSTEM_PROMPT 環境変数でカスタマイズ可能(未設定時はデフォルト使用)
|
| 100 |
+
python3 "${PATCH_DIR}/patch_system_prompt.py"
|
| 101 |
+
echo "[setup] ✅ コードパッチ完了(Fix-B1 / Fix-C1 / Fix-SP1)"
|
| 102 |
else
|
| 103 |
+
echo "[setup] ❌ パッチ取得失敗(${PATCH_OK}/3)。PATCH_REPO=${PATCH_REPO} を確認してください。"
|
| 104 |
fi
|
| 105 |
cd "${WORKSPACE}"
|
| 106 |
|