Datasets:
Update divemt.py
Browse files
divemt.py
CHANGED
@@ -46,7 +46,7 @@ _ALL_FIELDS = ['unit_id', 'flores_id', 'item_id', 'subject_id', 'lang_id', 'doc_
|
|
46 |
'time_h', 'time_per_char', 'time_per_word', 'key_per_char',
|
47 |
'words_per_hour', 'words_per_minute', 'per_subject_visit_order',
|
48 |
'src_text', 'mt_text', 'tgt_text', 'aligned_edit', 'src_tokens', 'src_annotations',
|
49 |
-
'mt_tokens', 'mt_annotations', 'tgt_tokens', 'tgt_annotations'
|
50 |
]
|
51 |
|
52 |
_FLOAT_FIELDS = ["edit_time", "bleu", "chrf", "hter", "n_insert", "n_delete", "n_substitute",
|
@@ -59,7 +59,7 @@ _STR_FIELDS = ["unit_id", "item_id", "subject_id", "lang_id", "task_type", "tran
|
|
59 |
"src_text", "mt_text", "tgt_text", "aligned_edit"
|
60 |
]
|
61 |
|
62 |
-
_STR_SEQ_FIELDS = ['src_tokens', 'mt_tokens', 'tgt_tokens']
|
63 |
|
64 |
_LANG_ANNOTATIONS_FIELDS = ['src_annotations', 'mt_annotations', 'tgt_annotations']
|
65 |
|
|
|
46 |
'time_h', 'time_per_char', 'time_per_word', 'key_per_char',
|
47 |
'words_per_hour', 'words_per_minute', 'per_subject_visit_order',
|
48 |
'src_text', 'mt_text', 'tgt_text', 'aligned_edit', 'src_tokens', 'src_annotations',
|
49 |
+
'mt_tokens', 'mt_annotations', 'tgt_tokens', 'tgt_annotations', 'src_wmt22_qe', 'mt_wmt22_qe'
|
50 |
]
|
51 |
|
52 |
_FLOAT_FIELDS = ["edit_time", "bleu", "chrf", "hter", "n_insert", "n_delete", "n_substitute",
|
|
|
59 |
"src_text", "mt_text", "tgt_text", "aligned_edit"
|
60 |
]
|
61 |
|
62 |
+
_STR_SEQ_FIELDS = ['src_tokens', 'mt_tokens', 'tgt_tokens', 'src_wmt22_qe', 'mt_wmt22_qe']
|
63 |
|
64 |
_LANG_ANNOTATIONS_FIELDS = ['src_annotations', 'mt_annotations', 'tgt_annotations']
|
65 |
|