Update README.md
Browse files
README.md
CHANGED
@@ -15,10 +15,10 @@ dataset_info:
|
|
15 |
download_size: 8903954435
|
16 |
dataset_size: 15215273427
|
17 |
---
|
18 |
-
#
|
19 |
* 개요
|
20 |
-
- 이 데이터셋은
|
21 |
-
- 이 데이터셋을 제작한 주요 취지는
|
22 |
- dataset map을 사용하실때는 반드시 streaming=True를 사용하셔야 합니다. 컴퓨팅 파워가 엄청 좋지 않다면, 램이 터질 수 있습니다.
|
23 |
|
24 |
* 데이터 구조
|
|
|
15 |
download_size: 8903954435
|
16 |
dataset_size: 15215273427
|
17 |
---
|
18 |
+
# 영어 위키 데이터셋(En_wiki)
|
19 |
* 개요
|
20 |
+
- 이 데이터셋은 영어 위키 데이터를 기반으로 만들어졌습니다. 원본 위키 데이터를 처리하기 위해 wikiextractor.py를 사용하여 텍스트 형식으로 변환하였습니다.
|
21 |
+
- 이 데이터셋을 제작한 주요 취지는 영어 자연어 처리 연구와 애플리케이션 개발에 사용할 수 있는 광범위한 텍스트 데이터를 제공하기 위함입니다.
|
22 |
- dataset map을 사용하실때는 반드시 streaming=True를 사용하셔야 합니다. 컴퓨팅 파워가 엄청 좋지 않다면, 램이 터질 수 있습니다.
|
23 |
|
24 |
* 데이터 구조
|