从hf上load GOIC的数据集都会遇到这个问题
#1
by
Kuaixueshiqing
- opened
麻烦帮忙看一下是不是上传的数据格式有一些问题？
这是COIG-PC-Lite还是COIG-PC？
Actually,error !
This comment has been hidden
same error here, with COIG-PC (I will try -Lite later)
00043-000-000-machine-reading-comprehension.jsonl
其中task_type字段：
"task_type": {"major": "阅读理解", "minor": "问答"}
其他文件，例如（随便挑了第一个）00001-001-000-named_entity_recognition.jsonl
其中task_type字段：
"task_type": {"major": ["信息抽取"], "minor": ["命名实体识别"]}
因此，应该是阅读理解任务的task_type格式错误了，导致load_dataset过程中解析错误，不确定其他任务有没有类似的问题~