metadata
dataset_info:
features:
- name: clean_zh
sequence: string
- name: clean_en
sequence: string
- name: record
dtype: string
- name: zh2en
sequence: string
splits:
- name: train
num_bytes: 13263355893
num_examples: 165840
download_size: 6373670636
dataset_size: 13263355893
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
联合国语料中文的机翻英文
rt,翻译工具用的argostranslate,因为对齐之前需要做一次机翻,所以这里上传了一份,以便后续pipeline使用,其它语言也一样。注意不要直接拿这份去练机翻模型,因为它们不是人翻的。
在机翻之前,已经用脚本洗掉了一部分制表噪声和分隔符,所用函数如下:
def clean_paragraph(paragraph):
lines = paragraph.split('\n')
para = ''
table = []
for line in lines:
line = line.strip()
# 表格线或其他分割线
if re.match(r'^\+[-=+]+\+|-+|=+|_+$', line):
if not para.endswith('\n'):
para += '\n'
if len(table) > 0:
para += '\t'.join(table)
table = []
# 表格中的空行
elif re.match(r'^\|( +\|)+$', line):
para += '\t'.join(table) + ' '
table = []
# 表格中的内容行
elif re.match(r'^\|([^|]+\|)+$', line):
if len(table) == 0:
table = line[1:-2].split('|')
else:
arr = line[1:-2].split('|')
if len(arr) == len(table):
table = [table[i].strip() + arr[i].strip() for i in range(len(table))]
elif len(arr) > len(table):
table = [table[i].strip() + arr[i].strip() if i < len(table) else arr[i].strip() for i in range(len(arr))]
else:
table = [table[i].strip() + arr[i].strip() if i < len(arr) else table[i].strip() for i in range(len(table))]
# 正文内容
else:
para += ' ' + line
if len(table) > 0:
if not para.endswith('\n'):
para += '\n'
para += '\t'.join(table)
return re.sub(r'[ \t]{2,}', ' ', re.sub(r'\n{2,}', '\n', para)).strip()