zetavg commited on
Commit
563e432
1 Parent(s): acb14a7

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +2 -2
README.md CHANGED
@@ -62,14 +62,14 @@ pretty_name: MLQA en-zh_tw
62
  其餘資訊,詳見:https://github.com/facebookresearch/mlqa。
63
 
64
  ## 原始資料集
65
- https://github.com/facebookresearch/mlqa,分別取其中 `dev` 與 `test` split 的 `context-zh-question-zh`、`context-zh-question-en`、`context-en-question-zh`,總共六個檔案。
66
 
67
  ## 轉換程序
68
  1. 由 [OpenCC](https://github.com/BYVoid/OpenCC) 使用 `s2twp.json` 配置,將簡體中文轉換為台灣正體中文與臺灣常用詞彙。
69
  2. 使用 Python 版本的 [pangu.js](https://github.com/vinta/pangu.js) 在中英文(全形與半形文字)之間加上空格。
70
  3. 將中英文資料集中的相同項目進行合併。
71
 
72
- 關於轉換的詳細過程,請見:https://github.com/zetavg/LLM-Research/blob/bba5ff7/MLQA_Dataset_Converter_(en_zh_tw).ipynb。
73
 
74
  ## 已知問題
75
  * 有些項目的 `title`、`paragraph` 的 `context`、問題或是答案可能會缺少其中一種語言的版本。
 
62
  其餘資訊,詳見:https://github.com/facebookresearch/mlqa。
63
 
64
  ## 原始資料集
65
+ https://github.com/facebookresearch/mlqa ,分別取其中 `dev` 與 `test` split 的 `context-zh-question-zh`、`context-zh-question-en`、`context-en-question-zh`,總共六個檔案。
66
 
67
  ## 轉換程序
68
  1. 由 [OpenCC](https://github.com/BYVoid/OpenCC) 使用 `s2twp.json` 配置,將簡體中文轉換為台灣正體中文與臺灣常用詞彙。
69
  2. 使用 Python 版本的 [pangu.js](https://github.com/vinta/pangu.js) 在中英文(全形與半形文字)之間加上空格。
70
  3. 將中英文資料集中的相同項目進行合併。
71
 
72
+ 關於轉換的詳細過程,請見:https://github.com/zetavg/LLM-Research/blob/bba5ff7/MLQA_Dataset_Converter_(en_zh_tw).ipynb
73
 
74
  ## 已知問題
75
  * 有些項目的 `title`、`paragraph` 的 `context`、問題或是答案可能會缺少其中一種語言的版本。