ComerX/forge-1201-cpt-full

Forge 1.20.1 CPT Full

Полный производственный CPT-корпус (continued pretraining) по моддингу Minecraft: Java Edition Forge 1.20.1 / Forge 47.x, собранный по протоколу v8: только репозитории, чей gradle объявляет Minecraft 1.20.1 (переснифференно по исходным gradle-файлам), отфильтрованные по пермиссивным лицензиям, с глобальной дедупликацией. Предназначен для дообучения малых LM (1–4B): исходный код модов и API, патчи vanilla, фреймворк Mixin, системы маппингов имён, документация и русская локализация.

EN abstract. A production-grade continued-pretraining corpus for Minecraft Forge 1.20.1 modding: Java source of 500+ mods and parent APIs, vanilla patches, the Mixin framework, class/member mapping crosswalks (official ↔ SRG ↔ intermediary ↔ yarn), docs, and Russian localization strings. 1479 records, 50 897 744 tokens (Qwen/Qwen3.5-2B tokenizer), strictly Minecraft 1.20.1.

Состав корпуса

Категория	Записей	Токенов	Доля
cat1 — код модов (570+ репозиториев Forge 1.20.1)	1071	42 499 788	83.50%
cat2 — родительский API: Forge/FML, патчи vanilla (MinecraftForge, MCPConfig)	37	1 730 606	3.40%
cat3 — фреймворк Mixin (SpongePowered)	12	668 443	1.31%
cat5 — системы маппингов (5a crosswalk, 5b raw-выдержки)	120	4 071 789	8.00%
cat6 — README/документация	34	599 837	1.18%
cat7 — русская локализация (ru_ru.json)	205	1 327 281	2.61%

Итого: 1479 записей, 50 897 744 токенов, 200 542 024 символов (3.94 симв./токен). Записи cat6/cat7 помечены oversample=2 (компенсация малых долей); токенов с взвешиванием — 1 927 118.

Бюджет маппингов (v8): cat5 = 8.00% корпуса (цель 8% ±10% ✓); внутри cat5 — 5a crosswalk 60.3% (≥60% ✓), 5b raw-выдержки 39.7% (≤40% ✓).

Источники

• 881 репозиториев модов с GitHub, отобранных через Modrinth (топ по загрузкам среди forge+1.20.1, 25 307+ модов в категории): лицензии ограничены пермиссивным списком (MIT, LGPL-2.0/2.1/3.0, Apache-2.0, MPL-2.0, BSD, CC0, Zlib, ISC, Unlicense); вилки, архивы и «All Rights Reserved» отбраковывались; каждая загрузка проверялась сниффером версий по gradle-файлам.
• Сид-репозитории: MinecraftForge/MinecraftForge (LGPL-2.1), MCPConfig (Zlib, патчи vanilla + joined.tsrg), SpongePowered/Mixin (MIT), Tinkers' Construct / Create / JEI (MIT; ассеты Create ARR исключены).
• Маппинги: FabricMC/yarn 1.20.1+build.10 (CC0), официальные маппинги Mojang (client.txt — только выдержки, см. ниже).

Распределение лицензий (по записям)

Лицензия	Записей
MIT	771
LGPL-3.0-only	232
SEE-NOTICE	120
LGPL-2.1-only	86
MPL-2.0	79
Apache-2.0	66
LGPL-3.0-or-later	63
LGPL-2.1	22
CC0-1.0	15
LGPL-2.1-or-later	12
Unlicense	7
MIT (code; assets ARR excluded)	4
Zlib	2

SEE-NOTICE — записи cat5 (маппинги): производные от нескольких артефактов с разными лицензиями; SEE-REPO — источники, где LICENSE-файл не распознан, лицензия задекларирована на Modrinth и проверена при отборе. Общий ярлык — other / mixed-permissive-lgpl-mit-mpl-apache-cc0-zlib; точные условия — в поле license каждой записи.

Замечание о маппингах Mojang: официальные маппинги предоставляются «as-is»; их полное неизменённое распространение запрещено, поэтому в корпус включены только изменённые выдержки и производный crosswalk, а исходный client.txt в репозиторий не включён (доступен по официальному URL из source_url записей 5b-official). Использование регулируется EULA Minecraft.

Сбор и обработка

1. Modrinth discovery (топ-3200 по загрузкам, forge+1.20.1, пермиссивные лицензии, публичный GitHub-исходник); ветки резолвились через codeload без GitHub API.
2. Загрузка тарболлов в память (лимит 60 МБ), выборочное извлечение (*.java, *.java.patch, *.md, *.adoc, ru_ru.json; ≤1.5 МБ, без бинарных), чекпоинт-state.
3. Контроль версий: повторный сниффер gradle-файлов каждой репы через raw.githubusercontent; репозитории, не объявляющие ровно 1.20.1, исключены из корпуса (карантин).
4. Классификация (cat1/2/3/6/7), глобальная точная дедупликация sha256 по файлам, агрегация в записи ~280 КБ (round-robin по подкатегориям), MinHash-контроль околодубликатов записей (64 perm, Jaccard ≥ 0.92).
5. Токенизация каждой записи токенизатором Qwen/Qwen3.5-2B (словарь 248 070); n_tokens — точный подсчёт по тексту записи.
6. Бюджетирование cat5 (v8) с усечением 5b-выдержек по границе строки; мульти-шарды ≤100 МБ.

Файлы crosswalk/classes-1.20.1.tsv (7075 классов, 100% 4-путное покрытие official ↔ srg ↔ intermediary ↔ yarn ↔ obf) и crosswalk/members-1.20.1.tsv (86 920 членов) приложены как артефакты вне корпуса.

Схема данных (features)

Поле	Тип	Описание
id	string	Идентификатор записи (напр. cat1--SlimeKnights/TinkersConstruct--0007)
category	string	cat1…cat7
subcategory	string	Уточнение источника/слоя (напр. mod-create, 5a-crosswalk)
oversample	int64	Вес при обучении (1 или 2)
lang	string	en или ru (естественный язык контента)
source_url	string	URL источника (репозиторий/артефакт)
license	string	Лицензия источника
mc_version	string	1.20.1 (проверено сниффером gradle)
mapping_layer	string	Для cat5: crosswalk / official / srg / yarn, иначе null
n_files	int64	Число исходных файлов в записи
n_tokens	int64	Токенов Qwen/Qwen3.5-2B в text
text	string	Текст записи

Splits: train — 1479 записей в 2 шардах (data/shard-001.jsonl, data/shard-002.jsonl). Метаданные: manifest-00N.jsonl (без text), pack_summary.json, index.csv, полный отчёт — report.md.

Ограничения и целевое использование

• Доля cat1 (код модов) повышена относительно пилотного соотношения: пулы cat2/cat3/cat7 фиксированы по своей природе, cat1 масштабируется репозиториями. Жёсткое правило v8 (cat5 = 8% ±10%) выполнено точно.
• Часть multi-loader репозиториев содержит fabric-модули — приняты как доменно-релевантные (язык и API-паттерны общие).
• cat7 — строки локализации ru_ru.json (естественного русского текста в исходниках мало); для естественного русского см. планы расширения в отчёте.
• Код отражает снимки веток на дату сбора; API может отличаться в других версиях.
• Корпус не аффилирован с Mojang/Microsoft; товарные знаки принадлежат их владельцам. Контент третьих сторон распространяется на условиях их лицензий.

Citation

@misc{forge1201cptfull2026,
  title  = {Forge 1.20.1 CPT Full: a production continued-pretraining corpus for Minecraft Forge modding},
  author = {ComerX},
  year   = {2026},
  url    = {https://huggingface.co/datasets/ComerX/forge-1201-cpt-full}
}