meaecosystem/pustaka

🇮🇩 Bahasa Indonesia · 🇬🇧 English · 🇯🇵 日本語 · 🇨🇳 中文 · 🇰🇷 한국어

---

Bahasa Indonesia

Pustaka adalah korpus teks terbuka berskala besar yang dikembangkan oleh MEA Ecosystem, dimulai dengan fokus penuh pada Bahasa Indonesia. Corpus ini disusun dari beberapa sumber publik berkualitas — web crawl yang telah difilter, ensiklopedia, berita, forum, hingga lexicon bahasa gaul — lalu diproses ulang melalui pipeline pembersihan (deteksi bahasa, filter panjang dokumen, deteksi boilerplate/spam, dan deduplikasi) sebelum dirilis.

Pustaka dibangun untuk digunakan siapa saja — baik untuk pretraining model bahasa, penelitian NLP, maupun eksperimen pribadi — dan dirilis secara terbuka di bawah Hugging Face.

Statistik

Sumber	Dokumen	Karakter (approx)	Status
CulturaX (id)	22.353.087	~58,73 Miliar	✅ Selesai
Indo4B	17.889.547	~4,95 Miliar	✅ Selesai
CC-News ID	2.622.291	~5,54 Miliar	✅ Selesai
Wikipedia ID	520.330	~0,95 Miliar	✅ Selesai
Kaskus WebText	31.737	~0,11 Miliar	✅ Selesai
Kamus Alay (slang)	15.006 pasangan kata	—	✅ Selesai
OSCAR-2301 (id)	—	—	⏸️ Belum termasuk (menunggu approval akses)
Total	~43,4 Juta dokumen	~70,3 Miliar karakter	(di luar OSCAR & Kamus Alay)

Sumber & Lisensi

Sumber	Deskripsi	Lisensi
CulturaX (subset id)	Web crawl gabungan mC4 + OSCAR, telah dibersihkan & dedup MinHash	Mengikuti lisensi asal (mC4 + OSCAR), non-komersial kecuali dinyatakan lain — lihat halaman dataset
OSCAR-2301 (subset id)	Web crawl tambahan, snapshot berbeda dari CulturaX	CC0, dengan syarat penggunaan tambahan dari OSCAR — lihat halaman dataset
SEACrowd/Indo4B (via repost parquet)	Campuran teks formal & percakapan dari 12 sumber	CC0
Wikipedia ID	Ensiklopedia bahasa Indonesia	CC BY-SA 3.0 / GFDL
CC-News ID (Wikidepia)	Berita CommonCrawl 2016-2021, difilter bahasa Indonesia	Mengikuti lisensi CommonCrawl
Kaskus WebText (Wikidepia)	Teks forum Kaskus, difilter minimal 3 cendol (karma)	Untuk riset, cek ketentuan penggunaan sumber asal
Kamus Alay	Lexicon slang-formal Bahasa Indonesia	MIT

Catatan penting: setiap subset mengikuti lisensi sumber aslinya masing-masing. Sebelum menggunakan Pustaka untuk keperluan komersial, periksa lisensi tiap subset yang relevan dengan kebutuhan Anda.

Struktur Data

meaecosystem/pustaka/
├── corpus-bahasa-indonesia/
│   ├── culturax/
│   │   └── culturax_shard_XXXXX.txt.gz
│   ├── oscar/
│   ├── indo4b/
│   ├── wikipedia/
│   ├── ccnews/
│   ├── kaskus/
│   └── kamus_alay/
│       └── kamus_alay.txt.gz   (format: slang<TAB>formal, satu pasangan per baris)
├── tokenizer/
│   └── tokenizer.json          (BPE, vocab 64.000 — lihat bagian Tokenizer)
└── _progress/                   (metadata internal untuk resume pipeline)

Setiap file .txt.gz berisi satu dokumen per baris (kecuali kamus_alay, yang berformat TSV).

Cara Menggunakan

from datasets import load_dataset

# Load satu subset (streaming, direkomendasikan untuk corpus besar)
ds = load_dataset(
    "meaecosystem/pustaka",
    data_files="corpus-bahasa-indonesia/wikipedia/*.txt.gz",
    split="train",
    streaming=True,
)

for row in ds:
    print(row["text"][:200])
    break

Atau dengan pandas untuk file kecil seperti kamus_alay:

import pandas as pd
from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="meaecosystem/pustaka",
    repo_type="dataset",
    filename="corpus-bahasa-indonesia/kamus_alay/kamus_alay.txt.gz",
)
df = pd.read_csv(path, sep="\t", names=["slang", "formal"], compression="gzip")

Tokenizer

Pustaka menyertakan tokenizer BPE (vocab 64.000) yang dilatih khusus dari sampel corpus ini — mencakup Bahasa Indonesia dan kode program. Tokenizer ini bukan dimaksudkan untuk model produksi manapun, melainkan sebagai alat ukur standar untuk menghitung jumlah token di seluruh corpus Pustaka, dan disertakan agar hasil penghitungan token dapat direproduksi oleh siapa saja.

Metodologi Pembersihan

1. Deteksi bahasa — fastText lid.176, ambang kepercayaan minimum 0,65 untuk label id
2. Filter panjang — dokumen di bawah 200 karakter atau di atas 300.000 karakter dibuang
3. Filter boilerplate/spam — heuristik rasio simbol-huruf, rasio huruf kapital, dan deteksi baris berulang (menu navigasi, cookie notice, dsb.)
4. Deduplikasi — exact-dedup menggunakan hash xxhash64 di seluruh corpus (lintas sumber)

Kontak & Kontribusi

Dikembangkan oleh Evan (M. Evan Almunawar) sebagai bagian dari MEA Ecosystem. Pertanyaan, laporan masalah, atau saran dapat disampaikan melalui halaman diskusi dataset ini di Hugging Face.

---

English

Pustaka is a large-scale open text corpus developed by MEA Ecosystem, starting with a full focus on Indonesian. The corpus is assembled from several high-quality public sources — filtered web crawls, encyclopedic text, news, forums, and a colloquial-slang lexicon — then reprocessed through a cleaning pipeline (language detection, document-length filtering, boilerplate/spam detection, and deduplication) before release.

Pustaka is built to be freely usable by anyone — for language model pretraining, NLP research, or personal experimentation — and is released openly on Hugging Face.

Statistics

Source	Documents	Characters (approx)	Status
CulturaX (id)	22,353,087	~58.73B	✅ Done
Indo4B	17,889,547	~4.95B	✅ Done
CC-News ID	2,622,291	~5.54B	✅ Done
Wikipedia ID	520,330	~0.95B	✅ Done
Kaskus WebText	31,737	~0.11B	✅ Done
Kamus Alay (slang)	15,006 word pairs	—	✅ Done
OSCAR-2301 (id)	—	—	⏸️ Not yet included (awaiting access approval)
Total	~43.4M documents	~70.3B characters	(excluding OSCAR & Kamus Alay)

Sources & Licensing

Source	Description	License
CulturaX (id subset)	Combined mC4 + OSCAR web crawl, cleaned & MinHash-deduplicated	Follows upstream licenses (mC4 + OSCAR); non-commercial unless stated otherwise — see dataset page
OSCAR-2301 (id subset)	Additional web crawl, different snapshot from CulturaX	CC0, with OSCAR's additional terms of use — see dataset page
SEACrowd/Indo4B (via parquet repost)	Formal + colloquial text mix from 12 sources	CC0
Wikipedia ID	Indonesian-language encyclopedia	CC BY-SA 3.0 / GFDL
CC-News ID (Wikidepia)	CommonCrawl news 2016-2021, filtered to Indonesian	Follows CommonCrawl's terms
Kaskus WebText (Wikidepia)	Kaskus forum text, filtered to 3+ cendol (karma)	For research use; check upstream terms
Kamus Alay	Indonesian slang-to-formal lexicon	MIT

Important: each subset follows its own upstream license. Before any commercial use, check the license of every subset relevant to your use case.

Data Structure

meaecosystem/pustaka/
├── corpus-bahasa-indonesia/
│   ├── culturax/
│   │   └── culturax_shard_XXXXX.txt.gz
│   ├── oscar/
│   ├── indo4b/
│   ├── wikipedia/
│   ├── ccnews/
│   ├── kaskus/
│   └── kamus_alay/
│       └── kamus_alay.txt.gz   (format: slang<TAB>formal, one pair per line)
├── tokenizer/
│   └── tokenizer.json          (BPE, 64,000 vocab — see Tokenizer section)
└── _progress/                   (internal pipeline metadata for resuming)

Each .txt.gz file contains one document per line (except kamus_alay, which is TSV-formatted).

Usage

from datasets import load_dataset

# Load a single subset (streaming recommended for large corpora)
ds = load_dataset(
    "meaecosystem/pustaka",
    data_files="corpus-bahasa-indonesia/wikipedia/*.txt.gz",
    split="train",
    streaming=True,
)

for row in ds:
    print(row["text"][:200])
    break

Or with pandas for small files like kamus_alay:

import pandas as pd
from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="meaecosystem/pustaka",
    repo_type="dataset",
    filename="corpus-bahasa-indonesia/kamus_alay/kamus_alay.txt.gz",
)
df = pd.read_csv(path, sep="\t", names=["slang", "formal"], compression="gzip")

Tokenizer

Pustaka includes a BPE tokenizer (64,000 vocab) trained specifically from a sample of this corpus — covering Indonesian text and source code. This tokenizer is not intended for any production model; it exists as a standardized measurement tool to count tokens across the Pustaka corpus, and is included so that token counts can be reproduced by anyone.

Cleaning Methodology

1. Language detection — fastText lid.176, minimum confidence threshold of 0.65 for the id label
2. Length filtering — documents under 200 characters or over 300,000 characters are dropped
3. Boilerplate/spam filtering — heuristics on symbol-to-letter ratio, uppercase ratio, and repeated-line detection (nav menus, cookie notices, etc.)
4. Deduplication — exact deduplication using xxhash64 across the entire corpus (cross-source)

Contact & Contributions

Developed by Evan (M. Evan Almunawar) as part of MEA Ecosystem. Questions, issue reports, or suggestions can be raised via this dataset's discussion page on Hugging Face.

---

日本語

Pustaka（プスタカ）は、MEA Ecosystem が開発した大規模なオープンテキストコーパスです。まずはインドネシア語に完全に焦点を当てて構築されています。このコーパスは、フィルタリング済みのウェブクロール、百科事典、ニュース、フォーラム、俗語辞書など、複数の高品質な公開ソースから構成され、公開前に言語検出・文書長フィルタリング・定型文/スパム検出・重複除去のクリーニングパイプラインを経て再処理されています。

Pustaka は、言語モデルの事前学習、NLP研究、個人的な実験など、誰でも自由に利用できることを目的として、Hugging Face 上でオープンに公開されています。

統計

ソース	ドキュメント数	文字数（概算）	状態
CulturaX (id)	22,353,087	約58.73億	✅ 完了
Indo4B	17,889,547	約4.95億	✅ 完了
CC-News ID	2,622,291	約5.54億	✅ 完了
Wikipedia ID	520,330	約0.95億	✅ 完了
Kaskus WebText	31,737	約0.11億	✅ 完了
Kamus Alay（俗語）	15,006語ペア	—	✅ 完了
OSCAR-2301 (id)	—	—	⏸️ 未収録（アクセス承認待ち）
合計	約4,340万件	約703億文字	（OSCAR・Kamus Alayを除く）

ソースとライセンス

ソース	説明	ライセンス
CulturaX（id サブセット）	mC4 と OSCAR を統合したウェブクロール、クリーニング済み・MinHash重複除去済み	元のライセンスに準拠（mC4 + OSCAR）。特記なき限り非商用 — データセットページを参照
OSCAR-2301（id サブセット）	CulturaX とは異なるスナップショットの追加ウェブクロール	CC0、OSCAR の追加利用規約あり — データセットページを参照
SEACrowd/Indo4B（parquet 再公開版経由）	12のソースからのフォーマル/口語混合テキスト	CC0
Wikipedia ID	インドネシア語版百科事典	CC BY-SA 3.0 / GFDL
CC-News ID (Wikidepia)	CommonCrawl 由来のニュース（2016〜2021年）、インドネシア語にフィルタリング済み	CommonCrawl の利用規約に準拠
Kaskus WebText (Wikidepia)	Kaskus フォーラムのテキスト、cendol（カルマ）3以上でフィルタリング	研究目的での利用向け、元ソースの利用規約を確認してください
Kamus Alay	インドネシア語の俗語⇔標準語辞書	MIT

重要: 各サブセットはそれぞれの元のライセンスに従います。商用利用の前には、関連するすべてのサブセットのライセンスを確認してください。

データ構造

meaecosystem/pustaka/
├── corpus-bahasa-indonesia/
│   ├── culturax/
│   │   └── culturax_shard_XXXXX.txt.gz
│   ├── oscar/
│   ├── indo4b/
│   ├── wikipedia/
│   ├── ccnews/
│   ├── kaskus/
│   └── kamus_alay/
│       └── kamus_alay.txt.gz   （形式: slang<TAB>formal、1行に1ペア）
├── tokenizer/
│   └── tokenizer.json          （BPE、語彙数64,000 — トークナイザーの項を参照）
└── _progress/                   （パイプライン再開用の内部メタデータ）

各 .txt.gz ファイルには1行につき1文書が含まれます（kamus_alay のみ TSV 形式）。

使い方

from datasets import load_dataset

# 単一サブセットの読み込み（大規模コーパスにはストリーミングを推奨）
ds = load_dataset(
    "meaecosystem/pustaka",
    data_files="corpus-bahasa-indonesia/wikipedia/*.txt.gz",
    split="train",
    streaming=True,
)

for row in ds:
    print(row["text"][:200])
    break

kamus_alay のような小さいファイルには pandas を使用:

import pandas as pd
from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="meaecosystem/pustaka",
    repo_type="dataset",
    filename="corpus-bahasa-indonesia/kamus_alay/kamus_alay.txt.gz",
)
df = pd.read_csv(path, sep="\t", names=["slang", "formal"], compression="gzip")

トークナイザー

Pustaka には、このコーパスのサンプルから専用に学習された BPE トークナイザー（語彙数64,000）が含まれています — インドネシア語テキストとソースコードの両方をカバーしています。このトークナイザーは、いかなる本番モデル向けのものでもありません。Pustaka コーパス全体のトークン数を計測するための標準ツールとして存在し、誰でもトークン数を再現できるように同梱されています。

クリーニング手法

1. 言語検出 — fastText lid.176、id ラベルの最小信頼度しきい値は0.65
2. 長さフィルタリング — 200文字未満または300,000文字を超える文書は除外
3. 定型文/スパムフィルタリング — 記号対文字比率、大文字比率、繰り返し行検出（ナビメニュー、Cookie通知など）に基づくヒューリスティック
4. 重複除去 — コーパス全体（ソース横断）で xxhash64 による完全一致重複除去

お問い合わせ・貢献

MEA Ecosystem の一環として Evan（M. Evan Almunawar） により開発されています。質問、問題報告、ご提案は Hugging Face 上の本データセットのディスカッションページからお寄せください。

---

中文

Pustaka（普斯塔卡）是由 MEA Ecosystem 开发的大规模开放文本语料库，首先完全聚焦于印度尼西亚语。该语料库整合了多个高质量公开来源——经过过滤的网络爬取数据、百科全书、新闻、论坛，以及俚语词典——并在发布前经过清洗流程（语言检测、文档长度过滤、样板/垃圾内容检测、去重）重新处理。

Pustaka 旨在供任何人自由使用——无论是用于语言模型预训练、NLP研究，还是个人实验——并在 Hugging Face 上公开发布。

统计数据

来源	文档数	字符数（约）	状态
CulturaX (id)	22,353,087	约587.3亿	✅ 已完成
Indo4B	17,889,547	约49.5亿	✅ 已完成
CC-News ID	2,622,291	约55.4亿	✅ 已完成
Wikipedia ID	520,330	约9.5亿	✅ 已完成
Kaskus WebText	31,737	约1.1亿	✅ 已完成
Kamus Alay（俚语）	15,006 组词对	—	✅ 已完成
OSCAR-2301 (id)	—	—	⏸️ 尚未收录（等待访问批准）
总计	约4,340万篇文档	约703亿字符	（不含 OSCAR 与 Kamus Alay）

来源与许可证

来源	描述	许可证
CulturaX（id 子集）	mC4 与 OSCAR 合并的网络爬取数据，已清洗并通过 MinHash 去重	遵循上游许可证（mC4 + OSCAR）；除非另有说明，否则为非商业用途 — 详见数据集页面
OSCAR-2301（id 子集）	与 CulturaX 不同快照的额外网络爬取数据	CC0，附带 OSCAR 的额外使用条款 — 详见数据集页面
SEACrowd/Indo4B（通过 parquet 转存版本）	来自12个来源的正式与口语混合文本	CC0
Wikipedia ID	印度尼西亚语百科全书	CC BY-SA 3.0 / GFDL
CC-News ID (Wikidepia)	2016-2021年 CommonCrawl 新闻，已过滤为印度尼西亚语	遵循 CommonCrawl 条款
Kaskus WebText (Wikidepia)	Kaskus 论坛文本，过滤至 cendol（威望值）3 以上	供研究使用，请查阅原始来源条款
Kamus Alay	印度尼西亚俚语与标准语对照词典	MIT

重要提示：每个子集均遵循各自的上游许可证。在进行任何商业用途之前，请查阅与您用途相关的每个子集的许可证。

数据结构

meaecosystem/pustaka/
├── corpus-bahasa-indonesia/
│   ├── culturax/
│   │   └── culturax_shard_XXXXX.txt.gz
│   ├── oscar/
│   ├── indo4b/
│   ├── wikipedia/
│   ├── ccnews/
│   ├── kaskus/
│   └── kamus_alay/
│       └── kamus_alay.txt.gz   （格式：slang<TAB>formal，每行一对）
├── tokenizer/
│   └── tokenizer.json          （BPE，词汇量64,000 — 详见分词器部分）
└── _progress/                   （用于恢复处理流程的内部元数据）

每个 .txt.gz 文件每行包含一个文档（kamus_alay 除外，其格式为 TSV）。

使用方法

from datasets import load_dataset

# 加载单个子集（大型语料库建议使用流式加载）
ds = load_dataset(
    "meaecosystem/pustaka",
    data_files="corpus-bahasa-indonesia/wikipedia/*.txt.gz",
    split="train",
    streaming=True,
)

for row in ds:
    print(row["text"][:200])
    break

对于像 kamus_alay 这样的小文件，可使用 pandas：

import pandas as pd
from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="meaecosystem/pustaka",
    repo_type="dataset",
    filename="corpus-bahasa-indonesia/kamus_alay/kamus_alay.txt.gz",
)
df = pd.read_csv(path, sep="\t", names=["slang", "formal"], compression="gzip")

分词器

Pustaka 包含一个专门从本语料库样本训练的 BPE 分词器（词汇量64,000）——涵盖印度尼西亚语文本和源代码。该分词器并非用于任何生产模型，而是作为标准化测量工具，用于统计整个 Pustaka 语料库的词元数量，并随附以便任何人都能复现词元统计结果。

清洗方法

1. 语言检测 — fastText lid.176，id 标签的最低置信度阈值为0.65
2. 长度过滤 — 剔除少于200字符或超过300,000字符的文档
3. 样板/垃圾内容过滤 — 基于符号与字母比例、大写字母比例，以及重复行检测（导航菜单、Cookie 通知等）的启发式规则
4. 去重 — 在整个语料库范围内（跨来源）使用 xxhash64 进行精确去重

联系与贡献

由 Evan（M. Evan Almunawar） 作为 MEA Ecosystem 的一部分开发。如有疑问、问题报告或建议，请通过本数据集在 Hugging Face 上的讨论页面提出。

---

한국어

Pustaka(푸스타카)는 MEA Ecosystem이 개발한 대규모 오픈 텍스트 코퍼스로, 인도네시아어에 전적으로 초점을 맞추어 시작되었습니다. 이 코퍼스는 필터링된 웹 크롤링 데이터, 백과사전, 뉴스, 포럼, 그리고 속어 사전 등 여러 고품질 공개 소스로 구성되며, 공개 전에 언어 감지, 문서 길이 필터링, 상용구/스팸 감지, 중복 제거를 포함한 정제 파이프라인을 거쳐 재처리됩니다.

Pustaka는 언어 모델 사전 학습, NLP 연구, 개인 실험 등 누구나 자유롭게 사용할 수 있도록 구축되었으며, Hugging Face에서 공개적으로 배포됩니다.

통계

소스	문서 수	문자 수 (약)	상태
CulturaX (id)	22,353,087	약 587.3억	✅ 완료
Indo4B	17,889,547	약 49.5억	✅ 완료
CC-News ID	2,622,291	약 55.4억	✅ 완료
Wikipedia ID	520,330	약 9.5억	✅ 완료
Kaskus WebText	31,737	약 1.1억	✅ 완료
Kamus Alay (속어)	15,006 단어 쌍	—	✅ 완료
OSCAR-2301 (id)	—	—	⏸️ 미포함 (접근 승인 대기 중)
합계	약 4,340만 건	약 703억 자	(OSCAR 및 Kamus Alay 제외)

출처 및 라이선스

출처	설명	라이선스
CulturaX (id 서브셋)	mC4와 OSCAR를 결합한 웹 크롤링, 정제 및 MinHash 중복 제거 완료	원본 라이선스를 따름(mC4 + OSCAR); 별도 명시가 없는 한 비상업적 용도 — 데이터셋 페이지 참조
OSCAR-2301 (id 서브셋)	CulturaX와 다른 스냅샷의 추가 웹 크롤링	CC0, OSCAR의 추가 이용 약관 있음 — 데이터셋 페이지 참조
SEACrowd/Indo4B (parquet 재게시 버전)	12개 출처의 격식체 및 구어체 혼합 텍스트	CC0
Wikipedia ID	인도네시아어 백과사전	CC BY-SA 3.0 / GFDL
CC-News ID (Wikidepia)	2016-2021년 CommonCrawl 뉴스, 인도네시아어로 필터링됨	CommonCrawl 약관을 따름
Kaskus WebText (Wikidepia)	Kaskus 포럼 텍스트, cendol(카르마) 3 이상으로 필터링됨	연구 목적 사용; 원본 출처 약관 확인 필요
Kamus Alay	인도네시아어 속어-표준어 사전	MIT

중요: 각 서브셋은 각자의 원본 라이선스를 따릅니다. 상업적 용도로 사용하기 전에 관련된 모든 서브셋의 라이선스를 확인하시기 바랍니다.

데이터 구조

meaecosystem/pustaka/
├── corpus-bahasa-indonesia/
│   ├── culturax/
│   │   └── culturax_shard_XXXXX.txt.gz
│   ├── oscar/
│   ├── indo4b/
│   ├── wikipedia/
│   ├── ccnews/
│   ├── kaskus/
│   └── kamus_alay/
│       └── kamus_alay.txt.gz   (형식: slang<TAB>formal, 줄당 한 쌍)
├── tokenizer/
│   └── tokenizer.json          (BPE, 어휘 64,000개 — 토크나이저 섹션 참조)
└── _progress/                   (파이프라인 재개를 위한 내부 메타데이터)

각 .txt.gz 파일은 한 줄에 하나의 문서를 포함합니다(kamus_alay 제외, TSV 형식).

사용 방법

from datasets import load_dataset

# 단일 서브셋 로드 (대용량 코퍼스는 스트리밍 권장)
ds = load_dataset(
    "meaecosystem/pustaka",
    data_files="corpus-bahasa-indonesia/wikipedia/*.txt.gz",
    split="train",
    streaming=True,
)

for row in ds:
    print(row["text"][:200])
    break

kamus_alay와 같은 작은 파일은 pandas를 사용할 수 있습니다:

import pandas as pd
from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="meaecosystem/pustaka",
    repo_type="dataset",
    filename="corpus-bahasa-indonesia/kamus_alay/kamus_alay.txt.gz",
)
df = pd.read_csv(path, sep="\t", names=["slang", "formal"], compression="gzip")

토크나이저

Pustaka에는 이 코퍼스의 샘플로부터 전용으로 학습된 BPE 토크나이저(어휘 64,000개)가 포함되어 있습니다 — 인도네시아어 텍스트와 소스 코드를 모두 다룹니다. 이 토크나이저는 어떠한 프로덕션 모델을 위한 것도 아니며, Pustaka 코퍼스 전체의 토큰 수를 측정하기 위한 표준화된 도구로서 존재하며, 누구나 토큰 수를 재현할 수 있도록 함께 제공됩니다.

정제 방법론

1. 언어 감지 — fastText lid.176, id 레이블에 대한 최소 신뢰도 임계값 0.65
2. 길이 필터링 — 200자 미만 또는 300,000자를 초과하는 문서는 제외
3. 상용구/스팸 필터링 — 기호 대 문자 비율, 대문자 비율, 반복 줄 감지(네비게이션 메뉴, 쿠키 알림 등)에 기반한 휴리스틱
4. 중복 제거 — 전체 코퍼스(출처 간)에 걸쳐 xxhash64를 사용한 정확 중복 제거

문의 및 기여

MEA Ecosystem의 일환으로 **Evan(M. Evan Almunawar)**이 개발했습니다. 질문, 문제 보고, 제안 사항은 Hugging Face의 이 데이터셋 토론 페이지를 통해 제출해 주시기 바랍니다.