Update README.md

README.md

@@ -23,4 +23,48 @@ configs:
 ---
 # 联合国语料中文的机翻英文
 
-rt，翻译工具用的argostranslate，因为对齐之前需要做一次机翻，所以这里上传了一份，以便后续pipeline使用，其它语言也一样。注意不要直接拿这份去练机翻模型，因为它们不是人翻的。
+rt，翻译工具用的argostranslate，因为对齐之前需要做一次机翻，所以这里上传了一份，以便后续pipeline使用，其它语言也一样。注意不要直接拿这份去练机翻模型，因为它们不是人翻的。
+
+在机翻之前，已经用脚本洗掉了一部分制表噪声和分隔符，所用函数如下：
+
+```
+def clean_paragraph(paragraph):
+    lines = paragraph.split('\n')
+    para = ''
+    table = []
+
+    for line in lines:
+        line = line.strip()
+
+        # 表格线或其他分割线
+        if re.match(r'^\+[-=+]+\+|-+|=+|_+$', line):
+            if not para.endswith('\n'):
+                para += '\n'
+            if len(table) > 0:
+                para += '\t'.join(table)
+                table = []
+        # 表格中的空行
+        elif re.match(r'^\|( +\|)+$', line):
+            para += '\t'.join(table) + ' '
+            table = []
+        # 表格中的内容行
+        elif re.match(r'^\|([^|]+\|)+$', line):
+            if len(table) == 0:
+                table = line[1:-2].split('|')
+            else:
+                arr = line[1:-2].split('|')
+                if len(arr) == len(table):
+                    table = [table[i].strip() + arr[i].strip() for i in range(len(table))]
+                elif len(arr) > len(table):
+                    table = [table[i].strip() + arr[i].strip() if i < len(table) else arr[i].strip() for i in range(len(arr))]
+                else:
+                    table = [table[i].strip() + arr[i].strip() if i < len(arr) else table[i].strip() for i in range(len(table))]
+        # 正文内容
+        else:
+            para += ' ' + line
+    if len(table) > 0:
+        if not para.endswith('\n'):
+            para += '\n'
+        para += '\t'.join(table)
+    return re.sub(r'[ \t]{2,}', ' ', re.sub(r'\n{2,}', '\n', para)).strip()
+```