README.md

metadata

dataset_info:
  features:
    - name: clean_zh
      sequence: string
    - name: clean_en
      sequence: string
    - name: record
      dtype: string
    - name: zh2en
      sequence: string
  splits:
    - name: train
      num_bytes: 13263355893
      num_examples: 165840
  download_size: 6373670636
  dataset_size: 13263355893
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

联合国语料中文的机翻英文

rt，翻译工具用的argostranslate，因为对齐之前需要做一次机翻，所以这里上传了一份，以便后续pipeline使用，其它语言也一样。注意不要直接拿这份去练机翻模型，因为它们不是人翻的。

在机翻之前，已经用脚本洗掉了一部分制表噪声和分隔符，所用函数如下：

def clean_paragraph(paragraph):
    lines = paragraph.split('\n')
    para = ''
    table = []

    for line in lines:
        line = line.strip()

        # 表格线或其他分割线
        if re.match(r'^\+[-=+]+\+|-+|=+|_+$', line):
            if not para.endswith('\n'):
                para += '\n'
            if len(table) > 0:
                para += '\t'.join(table)
                table = []
        # 表格中的空行
        elif re.match(r'^\|( +\|)+$', line):
            para += '\t'.join(table) + ' '
            table = []
        # 表格中的内容行
        elif re.match(r'^\|([^|]+\|)+$', line):
            if len(table) == 0:
                table = line[1:-2].split('|')
            else:
                arr = line[1:-2].split('|')
                if len(arr) == len(table):
                    table = [table[i].strip() + arr[i].strip() for i in range(len(table))]
                elif len(arr) > len(table):
                    table = [table[i].strip() + arr[i].strip() if i < len(table) else arr[i].strip() for i in range(len(arr))]
                else:
                    table = [table[i].strip() + arr[i].strip() if i < len(arr) else table[i].strip() for i in range(len(table))]
        # 正文内容
        else:
            para += ' ' + line
    if len(table) > 0:
        if not para.endswith('\n'):
            para += '\n'
        para += '\t'.join(table)
    return re.sub(r'[ \t]{2,}', ' ', re.sub(r'\n{2,}', '\n', para)).strip()