bot-yaya commited on
Commit
4514f78
1 Parent(s): 214452e

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +10 -2
README.md CHANGED
@@ -29,6 +29,14 @@ dataset_info:
29
  download_size: 3906189450
30
  dataset_size: 48622457871
31
  ---
32
- # Dataset Card for "rework_undl_text"
33
 
34
- [More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
 
 
 
 
 
 
 
 
 
29
  download_size: 3906189450
30
  dataset_size: 48622457871
31
  ---
32
+ # 联合国数字图书馆ODS里爬出来的平行语料 Parallel Corpus from United Nations Digital Library ODS(2000-2023)
33
 
34
+ 数据源链接(网站逻辑比起爬取这些数据时已经重构更新,可能会有不一致的情况):https://search.un.org/search?collection=ods&currentPageNumber=1&q=*&row=10&sort=relevance
35
+
36
+ pandoc转docx出的源文本,所用命令为:pandoc -i {filepath} -t plain -o {outpath} --strip-comments
37
+
38
+ 这些文本可能仍需一定的步骤去噪,比如去掉全是横线的分隔符、去掉表格元素,才能用于后续的翻译及对齐步骤
39
+
40
+ 旧版数据链接 https://huggingface.co/datasets/bot-yaya/undl_text
41
+
42
+ 因为旧版参数不当,处理的时候丢掉了一部分数据,所以重做了一份重新上传,建议是下载使用这份,而不是旧版