Align splits with DDT
#1
by
KennethEnevoldsen
- opened
Currently the training set contains documents which are in the test set of DDT. This prevent cross-training on the two dataset without contamination. I would recommend aligning the two.
The following split should work:
{
"test": [
"nw/0005",
"nw/0112",
"nw/0119",
"nw/0043",
"nw/0096",
"nw/0091",
"nw/0042",
"nw/0079",
"nw/0090",
"nw/0093",
"nw/0102",
"nw/0029",
"nw/0008",
"nw/0086",
"nw/0103",
"nw/0065",
"nw/0101",
"nw/0001",
"nw/0061",
"nw/0113",
"nw/0104"
],
"dev": [
"mz/0354",
"mz/0353",
"mz/0245",
"nw/1042",
"nw/0472",
"mz/0470",
"nw/0647",
"nw/0975",
"mz/0355",
"nw/0850",
"nw/1270",
"nw/1041",
"nw/0741",
"nw/1277",
"nw/0794",
"nw/0940",
"nw/0925",
"mz/0411",
"nw/0729",
"nw/1175",
"nw/0873",
"nw/0689",
"nw/1001"
],
"train": [
"nw/1144",
"nw/0883",
"nw/1182",
"nw/0184",
"nw/0538",
"nw/0479",
"nw/0848",
"nw/0843",
"nw/0473",
"nw/0708",
"nw/0992",
"nw/0449",
"mz/0431",
"nw/1390",
"nw/0998",
"nw/1063",
"nw/0644",
"nw/0395",
"nw/0949",
"nw/0573",
"nw/1062",
"mz/0438",
"nw/1265",
"nw/1032",
"nw/0388",
"nw/0670",
"mz/0428",
"mz/0327",
"nw/0780",
"mz/0643",
"nw/0307",
"nw/0876",
"nw/0978",
"nw/1095",
"mz/0416",
"nw/0934",
"nw/0747",
"nw/0667",
"nw/0851",
"nw/0720",
"nw/1011",
"nw/0970",
"nw/0770",
"nw/0956",
"nw/1055",
"nw/1053",
"mz/0339",
"nw/1214",
"nw/1241",
"mz/0244",
"nw/0951",
"nw/1010",
"mz/0421",
"nw/0500",
"nw/1007",
"nw/0654",
"nw/0919",
"nw/1337",
"mz/0426",
"mz/0235",
"nw/1031",
"mz/0312",
"nw/0468",
"nw/0790",
"nw/0902",
"nw/1217",
"nw/0300",
"nw/1173",
"nw/0866",
"nw/0652",
"nw/0781",
"nw/0915",
"nw/0148",
"nw/0448",
"nw/0257",
"nw/1229",
"nw/1048",
"mz/0326",
"nw/0620",
"nw/1019",
"nw/0683",
"nw/0688",
"nw/0442",
"nw/0596",
"nw/0645",
"nw/0483",
"nw/1039",
"nw/0793",
"nw/1129",
"nw/1030",
"nw/0870",
"nw/0881",
"mz/0545",
"nw/0259",
"nw/0273",
"mz/0229",
"mz/0342",
"nw/0187",
"nw/0947",
"nw/1255",
"nw/0138",
"mz/0446",
"nw/1067",
"nw/0182",
"nw/1047",
"nw/0735",
"nw/0593",
"nw/1347",
"nw/1429",
"nw/1250",
"mz/0376",
"nw/0690",
"nw/0361",
"nw/0502",
"nw/0725",
"nw/0700",
"nw/0285",
"nw/1150",
"nw/0278",
"nw/1536",
"nw/0486",
"nw/0452",
"nw/1117",
"nw/0837",
"mz/0318",
"nw/0713",
"nw/0988",
"nw/1168",
"nw/1014",
"nw/0879",
"nw/1398",
"nw/1224",
"nw/0298",
"nw/1166",
"nw/1174",
"nw/1043",
"nw/0893",
"nw/0567",
"nw/0917",
"mz/0351",
"mz/0547",
"nw/0188",
"mz/0345",
"nw/0134",
"nw/0488",
"nw/0618",
"nw/0507",
"mz/0328",
"nw/1252",
"nw/0783",
"nw/0258",
"nw/0671",
"nw/1056",
"nw/0144",
"nw/1038",
"nw/0391",
"nw/0666",
"nw/0607",
"nw/1253",
"nw/1181",
"nw/1017",
"nw/1428",
"nw/1284",
"nw/0519",
"nw/0260",
"nw/0759",
"nw/0738",
"nw/0795",
"nw/0190",
"nw/0511",
"nw/0141",
"nw/1190",
"nw/0805",
"nw/0475",
"nw/1169",
"nw/0926",
"nw/0465",
"nw/0588",
"nw/1251",
"nw/0613",
"nw/0204",
"nw/0864",
"nw/1035",
"nw/0989",
"nw/0685",
"nw/0742",
"mz/0601",
"nw/1162",
"nw/0520",
"nw/0215",
"nw/0986",
"nw/0955",
"nw/0264",
"nw/0140",
"nw/0576",
"nw/0939",
"nw/0904",
"mz/0320",
"nw/1104",
"mz/0626",
"nw/1420",
"nw/0623",
"nw/0817",
"nw/0856",
"nw/1061",
"nw/0809",
"nw/0133",
"nw/0853",
"nw/1127",
"nw/1021",
"mz/0602",
"nw/0736",
"nw/0378",
"nw/0268",
"nw/0265",
"nw/0624",
"nw/0262",
"mz/0540",
"nw/0197",
"mz/0237",
"nw/1206",
"nw/0958",
"nw/1008",
"nw/0960",
"nw/0272",
"nw/1057",
"nw/1497",
"nw/0294",
"nw/1138",
"bn/0531",
"nw/0178",
"nw/0905",
"nw/1227",
"mz/0434",
"nw/0822",
"nw/0143",
"nw/1408",
"nw/1383",
"nw/0863",
"nw/0191",
"nw/0303",
"mz/0401",
"mz/0546",
"nw/0840",
"nw/0306",
"nw/0675",
"nw/1276",
"nw/0159",
"nw/1183",
"nw/1075",
"nw/0889",
"nw/0705",
"nw/1090",
"nw/1058",
"nw/1046",
"nw/0821",
"nw/0888",
"nw/0510",
"nw/0968",
"nw/1154",
"nw/0927",
"nw/0174",
"nw/0646",
"nw/1054",
"mz/0309",
"mz/0333",
"nw/1259",
"nw/1125",
"nw/0169",
"nw/0107",
"nw/0097",
"nw/0702",
"nw/0397",
"nw/0800",
"nw/1130",
"nw/0581",
"nw/0935",
"nw/0577",
"nw/0211",
"nw/0754",
"nw/0386",
"nw/0176",
"nw/0151",
"nw/1228",
"nw/0152",
"nw/0874",
"nw/0932",
"nw/0114",
"nw/0375",
"nw/1077",
"nw/0269",
"nw/0212",
"nw/0366",
"mz/0422",
"nw/1088",
"nw/0680",
"nw/0150"
]
}