![](https://cdn-avatars.huggingface.co/v1/production/uploads/6348501e50fe0799927c3667/QIcq2tIrJrrH9LKG6P35O.jpeg)
Aratako/ArrowPro-7B-RobinHood-toxic-GGUF
Updated
•
125
•
2
おーぷん2ちゃんねる対話コーパス を Huggingface Datasets 向けに変換したものになります。
all-corpus
: livejupiter
, news4vip
, newsplus
サブセットを連結したもの
dialogue
: 対話データ (list[dict]
)speaker
: 話者番号。1
または 2
。content
: 発言内容board
: 連結元のサブセット名livejupiter
: オリジナルのデータセットでの livejupiter.tsv
から変換されたデータ。
dialogue
: 対話データ (list[dict]
)speaker
: 話者番号。1
または 2
。content
: 発言内容news4vip
: オリジナルのデータセットでの news4vip.tsv
から変換されたデータ。
newsplus
: オリジナルのデータセットでの newsplus.tsv
から変換されたデータ。
ranking
: 応答順位付けタスク用データ (オリジナルデータセットでの ranking.zip
)
train
と test
split があり、それぞれはオリジナルデータセットの dev.tsv
と test.tsv
に対応します。dialogue
: 対話データ (list[dict]
)speaker
: 話者番号。1
または 2
。content
: 発言内容next
: 対話の次に続く正解の応答 (dict
)speaker
: 話者番号。1
または 2
content
: 発言内容random
: ランダムに選ばれた応答 9 個 (list[str]
)また、all-corpus
, livejupiter
, news4vip
, newsplus
にはそれぞれ名前に -cleaned
が付与されたバージョンがあり、これらのサブセットではオリジナルのデータセットで配布されていた NG ワードリストを利用してフィルタリングされたものです。
オリジナルのデータセットでは各発言内の改行は __BR__
に置換されていますが、このデータセットではすべて \n
に置き換えられています。
(オリジナルのデータセットの説明より)
おーぷん2ちゃんねるの「なんでも実況(ジュピター)」「ニュー速VIP」「ニュース速報+」の3つの掲示板をクロールして作成した対話コーパスです. おーぷん2ちゃんねる開設時から2019年7月20日までのデータを使用して作成しました.
オリジナルのデータセット を参照。
-cleaned
ではないサブセットでは、非常に不適切な表現が多いため注意が必要です。
from datasets import load_dataset
ds = load_dataset(
"p1atdev/open2ch",
name="all-corpus",
)
print(ds)
print(ds["train"][0])
# DatasetDict({
# train: Dataset({
# features: ['dialogue', 'board'],
# num_rows: 8134707
# })
# })
# {'dialogue': {'speaker': [1, 2], 'content': ['実況スレをたてる', 'おんj民の鑑']}, 'board': 'livejupiter'}