Update README.md
Browse files
README.md
CHANGED
|
@@ -23,8 +23,21 @@ This is a merge of pre-trained language models created using [mergekit](https://
|
|
| 23 |
|
| 24 |
[Aratako/Ninja-v1-RP-WIP](https://huggingface.co/Aratako/Ninja-v1-RP-WIP)をベースに、Task Vectorの加算・Model Stockによるマージを行い指示追従能力と表現力を強化したロールプレイ用モデルです。
|
| 25 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 26 |
## マージの詳細
|
| 27 |
-
まず、[Aratako/Ninja-v1-RP-WIP](https://huggingface.co/Aratako/Ninja-v1-RP-WIP)に対し、以下4
|
| 28 |
|
| 29 |
- [senseable/WestLake-7B-v2](https://huggingface.co/senseable/WestLake-7B-v2)
|
| 30 |
- [SanjiWatsuki/Kunoichi-DPO-v2-7B](https://huggingface.co/SanjiWatsuki/Kunoichi-DPO-v2-7B)
|
|
|
|
| 23 |
|
| 24 |
[Aratako/Ninja-v1-RP-WIP](https://huggingface.co/Aratako/Ninja-v1-RP-WIP)をベースに、Task Vectorの加算・Model Stockによるマージを行い指示追従能力と表現力を強化したロールプレイ用モデルです。
|
| 25 |
|
| 26 |
+
ベースモデルの学習に関する詳細は元モデルのモデルカードを参照してください。
|
| 27 |
+
|
| 28 |
+
## プロンプトフォーマット
|
| 29 |
+
Vicunaのchat templateを利用してください。また、設定などを渡すシステムプロンプトは最初の`USER: `より前に入力されることを想定しています。
|
| 30 |
+
|
| 31 |
+
また、マルチターンの対話を行う場合各ターンのアシスタントの応答の末尾に`eos_token`（`</s>`）を必ずつけてください。
|
| 32 |
+
|
| 33 |
+
```
|
| 34 |
+
{ロールプレイの指示、世界観・あらすじの説明、キャラの設定など}
|
| 35 |
+
USER: {userの最初の入力}
|
| 36 |
+
ASSISTANT:
|
| 37 |
+
```
|
| 38 |
+
|
| 39 |
## マージの詳細
|
| 40 |
+
まず、[Aratako/Ninja-v1-RP-WIP](https://huggingface.co/Aratako/Ninja-v1-RP-WIP)に対し、以下4つの英語RP用モデルのTask Vectorを0.8倍して加算し、4種類のTask Vector加算モデルを作成しました。
|
| 41 |
|
| 42 |
- [senseable/WestLake-7B-v2](https://huggingface.co/senseable/WestLake-7B-v2)
|
| 43 |
- [SanjiWatsuki/Kunoichi-DPO-v2-7B](https://huggingface.co/SanjiWatsuki/Kunoichi-DPO-v2-7B)
|