Aratako commited on
Commit
4feda31
1 Parent(s): 5bce587

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +49 -0
README.md CHANGED
@@ -1,3 +1,52 @@
1
  ---
2
  license: apache-2.0
 
 
 
 
 
 
 
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
+ task_categories:
4
+ - text-generation
5
+ language:
6
+ - ja
7
+ tags:
8
+ - not-for-all-audiences
9
+ - nsfw
10
+ size_categories:
11
+ - n<1K
12
  ---
13
+
14
+
15
+ # Rosebleu-1on1-Dialogues-RP
16
+
17
+ [@matsuxr](https://huggingface.co/matsuxr)さんが公開している[Rosebleuデータセット](https://gitlab.com/open_contents_datasets/Rosebleu)を加工した[Aratako/Rosebleu-1on1-Dialogues](https://huggingface.co/datasets/Aratako/Rosebleu-1on1-Dialogues)を元に、キャラクターや作品の設定などを付け加えたうえで、ロールプレイ的な文脈になるように加工したデータセットです。
18
+
19
+ LLMのファインチューニングにおけるロールプレイングタスクの学習を想定しています。
20
+
21
+ OpenAI APIのように`role`と`content`のペアの形式となっており、`tokenizer.apply_chat_template()`によって簡単に各モデルのチャットテンプレートのデータセットへと変換可能です。
22
+
23
+ ## データセットの詳細
24
+ 各キャラの設定や各作品の世界観・あらすじなどをWikipediaやニコニコ大百科からまとめ、ロールプレイ向けにシステムメッセージへと埋め込んでいます。
25
+
26
+ 現在、以下の2パターンのデータセットを用意してあります。主に地の文の処理方法が異なります。
27
+
28
+ 1. Rosebleu-1on1-Dialogues-RP-v1.jsonl
29
+ 地の文を必ずuser側に入れるようにし、LLMの出力となるassistant側はセリフのみとなるようにしています。このデータで学習されたモデルは状況描写などを行わずセリフのみを出力するようになるかもしれません。
30
+ 3. Rosebleu-1on1-Dialogues-RP-v2.jsonl
31
+ 地の文をそれぞれの作品の主人公側に入れるようにしています。これは、地の文の多くが主人公視点で書かれていたためです。主人公がassistant側となる場合、assistant側に地の文が入ります。なお、主人公を含まない2キャラの対話の場合は地の文を省いています。なお、こちらは一部最初のuserロールの発話が空白となっているものがあります。mistralのチャットテンプレートを想定しておりその場合はこのままでも問題ないですが、他のテンプレートで利用する場合は加工してください。(最初の1ターンを削除するなど)
32
+
33
+ ## 制約
34
+ 本来ロールプレイのためのデータとして存在すべきである「シーンのシチュエーション」の情報が含まれていません。同様に、キャラの設定や世界観・あらすじなども全てのシーンで同じものを使っており、そのシーンに適したものではない可能性が高いです。
35
+
36
+ また、地の文の処理もこれが最適だとは思っておらず、より良い処理の方法があると思います。
37
+
38
+ ## Rosebleuデータセットについて
39
+ 元データセットから概要文を引用します。
40
+
41
+ > Rosebleuブランドの代表を務められていた青猫様にご提供いただいた、 解散したRosebleuブランドのゲームタイトルのうち、権利譲渡等を行っていない10タイトルについてのシナリオから作成したデータセットです。JSONL形式になっています。主には大規模言語モデルのファインチューニング用途を想定していますが、LICENSEに違反しない用途ならばどんな用途でも問題ありません。
42
+ > https://ja.wikipedia.org/wiki/Rosebleu
43
+
44
+ ## 注意
45
+ Rosebleuデータセットは成人向け美少女ゲームのシナリオから作成されており、本データセット中にもセクシャルな描写を含むテキストが存在します。
46
+
47
+ ## ライセンス
48
+ 元のデータセットはapache-2.0ライセンスで配布されています。以下、引用です。
49
+
50
+ > 「学習用データセットに加工したものは、自由に配布頂いてかまいません。 利用目的について営利・非営利の制限は不要です。」という内容でお預かりしたので、APACHE LICENSE, VERSION 2.0とします。(C)Rosebleu
51
+
52
+ 本データセットも元データセットと同様にapache-2.0ライセンスの元公開いたします。