kowikitext-20240301 / README.md
teneriffa's picture
Update README.md
1773da4 verified
metadata
license: cc-by-sa-4.0
language:
  - ko

https://github.com/lovit/kowikitext 에 있는 코드를 사용하여 만든 한국어 위키피디아(https://ko.wikipedia.org) 데이터셋입니다.

데이터셋의 데이터 원본은 https://dumps.wikimedia.org/kowiki/20240301/kowiki-20240301-pages-articles-multistream.xml.bz2https://dumps.wikimedia.org/kowiki/20240301/kowiki-20240301-pages-articles-multistream-index.txt.bz2 입니다.

데이터에 대한 저작원은 한국어 위키피디아 저작권인 CC-BY-SA-4.0 이 동일하게 적용됩니다.

kowikipedia_20240301.train 은 8GB 로 매우 커서 zip 으로 압축했습니다.