metadata
num rows: 3206606
file size: 2.09 GB
license: apache-2.0
task_categories:
- question-answering
- text-generation
language:
- zh
size_categories:
- 1M<n<10M
describe
非常navie的场景对话，但可能出现真实场景信息，比如XX医院，XX医生
对纯指令数据质量要求较高的需要进一步清洗，只用来健康场景finetune maybe enough
from
format
{
"instruction": null,
"input": "不知道，我是在09年8月份,白天出了很多的汗,晚上睡觉突然醒来,看房子天晕地转,过了大约也就一分钟的样子,就不转了.但头向左转动就又转,左边头皮还发麻.第二天起来,人没有精神,过了段时间.病情时轻时重,好像是躺在床上向右人就一上晕了.但时间不长.有一天开了一天的车,晚上先是有点头晕,走路不稳,上床休息,但突然后脑根部特别疼,到了第二天也不疼了.到现在也没有疼过.现在就是躺下和起床特别晕(头向右和头向上或向下),走路不稳.特别是站久了,就要倒了感觉.另外平常,脑袋感觉昏沉沉的,有时眼睛看东西跟不上速度,要晕的,晕的时候是脑袋里跟一片去飘过的。",
"output": "你得的是颈椎间盘突出，可以先做保守治疗。",
"history": [
[
"但，很多医生看了片子，说是张口位片枢椎似乎有些旋转移位 ，不知有没有啊。",
"枢椎旋转移位不太可能，你的片子不是很清楚。请咨询我院骨科。"
],
[
"好的，谢谢大夫，祝您新春愉快。",
"不客气！"
]
]
}
usage
from datasets import load_dataset
ds = load_dataset("ticoAg/Medical-Dialogue-System")
process script
data_dir = Path("medical_dialog\data\processed-chinese")
raw_train_ds = loadJS(data_dir.joinpath("train_data.json"))
raw_test_ds = loadJS(data_dir.joinpath("test_data.json"))
raw_valid_ds = loadJS(data_dir.joinpath("validate_data.json"))
raw_ds = raw_train_ds + raw_test_ds + raw_valid_ds
_ds = []
for i in tqdm(raw_ds):
_diag = [{"role": dialog[:2], "content": dialog[3:]} for dialog in i]
meta_data = sft_meta(input=_diag[0]['content'], output=_diag[1]['content'])
if len(_diag[1]['content']) <= 6: continue # 过滤掉太短的单次回复
if len(_diag) > 2:
meta_data['history'] = [[_diag[2*idx]['content'], _diag[2*idx+1]['content']] for idx in range(len(_diag)//2)][1:]
meta_data = sortDict(meta_data)
_ds += [meta_data]