Erase unnatural whitespace and correct OCR errors

#2
.gitattributes CHANGED
@@ -58,5 +58,3 @@ j_researchcorpus_20240215.jsonl filter=lfs diff=lfs merge=lfs -text
58
  j_researchcorpus_20240220.jsonl filter=lfs diff=lfs merge=lfs -text
59
  j_researchcorpus_20240224.jsonl filter=lfs diff=lfs merge=lfs -text
60
  j_researchcorpus_20240225.jsonl filter=lfs diff=lfs merge=lfs -text
61
- j_researchcorpus_20240306.jsonl filter=lfs diff=lfs merge=lfs -text
62
- j_researchcorpus_20240316.jsonl filter=lfs diff=lfs merge=lfs -text
 
58
  j_researchcorpus_20240220.jsonl filter=lfs diff=lfs merge=lfs -text
59
  j_researchcorpus_20240224.jsonl filter=lfs diff=lfs merge=lfs -text
60
  j_researchcorpus_20240225.jsonl filter=lfs diff=lfs merge=lfs -text
 
 
README.md CHANGED
@@ -9,14 +9,12 @@ language:
9
  # J-ResearchCorpus
10
 
11
  **Update:**
12
- - 2024/3/16
13
- 言語処理学会第30回年次大会(NLP2024)を含む、論文 1,343 本のデータを追加
14
  - 2024/2/25
15
  言語処理学会誌「自然言語処理」のうち CC-BY-4.0 で公開されている論文 360 本のデータを追加
16
 
17
 
18
  ## 概要
19
- - CC-BY-* ライセンスで公開されている日本語論文や学会誌等から抜粋した**高品質なテキストのデータセット**です。言語モデルの事前学習や RAG 等でご活用下さい。
20
  - 今後も CC-BY-* ライセンスの日本語論文があれば追加する予定です。
21
 
22
  ## データ説明
@@ -28,16 +26,15 @@ language:
28
 
29
  ## データソース・ライセンス
30
 
31
- - **テキスト総文字数 : 約 3,900 万文字**
32
 
33
  |data source|num records|license|note|
34
  |:----|:----|:----|:----|
35
- |言語処理学会 年次大会発表論文集アーカイブ|1,924|cc-by-4.0|・2021年から2024年の論文を抜粋(※言語処理学会に確認したところ2020年以前のものは CC-BY-4.0 ではないとのこと)|
36
  |言語処理学会誌「自然言語処理」|363|cc-by-4.0|・CC-BY-4.0公開となっている2009年以降のものを抜粋|
37
  |東京女子医科大学雑誌|96|cc-by-4.0| |
38
  |リスク研究(日本リスク学会)|100|cc-by-4.0| |
39
  |日本熱電学会誌|11|cc-by-4.0| |
40
- |デジタルアーカイブ学会誌|744|cc-by-4.0| |
41
 
42
 
43
  ## テキスト抽出例
 
9
  # J-ResearchCorpus
10
 
11
  **Update:**
 
 
12
  - 2024/2/25
13
  言語処理学会誌「自然言語処理」のうち CC-BY-4.0 で公開されている論文 360 本のデータを追加
14
 
15
 
16
  ## 概要
17
+ - CC-BY-* ライセンスで公開されている日本語論文や学会誌等から抜粋した良質なテキストのデータセットです。言語モデルの事前学習や RAG 等でご活用下さい。
18
  - 今後も CC-BY-* ライセンスの日本語論文があれば追加する予定です。
19
 
20
  ## データ説明
 
26
 
27
  ## データソース・ライセンス
28
 
29
+ - **テキスト総文字数 : 約 2,800 万文字**
30
 
31
  |data source|num records|license|note|
32
  |:----|:----|:----|:----|
33
+ |言語処理学会 年次大会発表論文集アーカイブ|1,325|cc-by-4.0|・2021年から2023年の論文を抜粋(※言語処理学会に確認したところ2020年以前のものは CC-BY-4.0 ではないとのこと)|
34
  |言語処理学会誌「自然言語処理」|363|cc-by-4.0|・CC-BY-4.0公開となっている2009年以降のものを抜粋|
35
  |東京女子医科大学雑誌|96|cc-by-4.0| |
36
  |リスク研究(日本リスク学会)|100|cc-by-4.0| |
37
  |日本熱電学会誌|11|cc-by-4.0| |
 
38
 
39
 
40
  ## テキスト抽出例
j_researchcorpus_20240316.jsonl → j_researchcorpus_20240225.jsonl RENAMED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:101ab5bd63f02e8e84c9d62d5f9c14b5fcbec6cdd918a3fb53e6bd4702e5088b
3
- size 76941691
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fe47b0c722da19479c1981e53728a71710d736400bb3130992e26264eab25215
3
+ size 90893377