Datasets:

ComerX
/

forge-1201-cpt-pilot

id string	category string	subcategory string	oversample int64	lang string	source_url string	license string	mc_version string	mapping_layer string	n_files int64	n_tokens int64	text string
cat1-create-000	cat1	mod-create	1	en	https://github.com/Creators-of-Create/Create/tree/mc1.20.1/dev/src/main/java/com/simibubi/create	MIT	1.20.1	null	22	74,981	"package com.simibubi.create;\n\nimport com.simibubi.create.content.contraptions.actors.contraptionC(...TRUNCATED)
cat1-create-001	cat1	mod-create	1	en	https://github.com/Creators-of-Create/Create/tree/mc1.20.1/dev/src/main/java/com/simibubi/create	MIT	1.20.1	null	70	77,023	"package com.simibubi.create;\n\nimport static net.minecraftforge.network.NetworkDirection.PLAY_TO_C(...TRUNCATED)
cat1-create-002	cat1	mod-create	1	en	https://github.com/Creators-of-Create/Create/tree/mc1.20.1/dev/src/main/java/com/simibubi/create	MIT	1.20.1	null	107	71,052	"package com.simibubi.create.api.equipment.goggles;\n\nimport com.simibubi.create.AllItems;\n\nimpor(...TRUNCATED)
cat1-create-003	cat1	mod-create	1	en	https://github.com/Creators-of-Create/Create/tree/mc1.20.1/dev/src/main/java/com/simibubi/create	MIT	1.20.1	null	49	74,089	"package com.simibubi.create.compat.jei.category;\n\nimport com.mojang.blaze3d.vertex.PoseStack;\nim(...TRUNCATED)
cat1-create-004	cat1	mod-create	1	en	https://github.com/Creators-of-Create/Create/tree/mc1.20.1/dev/src/main/java/com/simibubi/create	MIT	1.20.1	null	63	73,171	"package com.simibubi.create.content.contraptions;\n\nimport java.util.ArrayList;\nimport java.util.(...TRUNCATED)
cat1-create-005	cat1	mod-create	1	en	https://github.com/Creators-of-Create/Create/tree/mc1.20.1/dev/src/main/java/com/simibubi/create	MIT	1.20.1	null	70	74,998	"package com.simibubi.create.content.contraptions.bearing;\n\nimport javax.annotation.Nullable;\n\ni(...TRUNCATED)
cat1-create-006	cat1	mod-create	1	en	https://github.com/Creators-of-Create/Create/tree/mc1.20.1/dev/src/main/java/com/simibubi/create	MIT	1.20.1	null	59	71,577	"package com.simibubi.create.content.contraptions.mounted;\n\nimport java.util.ArrayList;\nimport ja(...TRUNCATED)
cat1-create-007	cat1	mod-create	1	en	https://github.com/Creators-of-Create/Create/tree/mc1.20.1/dev/src/main/java/com/simibubi/create	MIT	1.20.1	null	81	74,316	"package com.simibubi.create.content.decoration.copycat;\n\nimport java.util.ArrayList;\nimport java(...TRUNCATED)
cat1-create-008	cat1	mod-create	1	en	https://github.com/Creators-of-Create/Create/tree/mc1.20.1/dev/src/main/java/com/simibubi/create	MIT	1.20.1	null	53	77,539	"package com.simibubi.create.content.equipment.bell;\n\nimport java.util.ArrayList;\nimport java.uti(...TRUNCATED)
cat1-create-009	cat1	mod-create	1	en	https://github.com/Creators-of-Create/Create/tree/mc1.20.1/dev/src/main/java/com/simibubi/create	MIT	1.20.1	null	68	73,447	"package com.simibubi.create.content.equipment.symmetryWand.mirror;\n\nimport java.util.HashMap;\nim(...TRUNCATED)

End of preview. Expand in Data Studio

Forge 1.20.1 CPT Pilot

Компактный пилотный CPT-корпус (continued pretraining) по моддингу Minecraft: Java Edition Forge 1.20.1 / Forge 47.x, отфильтрованный и дедуплицированный. Предназначен для адаптации малых LM (1–4B) к домену: исходный код модов и API, патчи vanilla, фреймворк Mixin, системы маппингов имён, документация и русская локализация.

EN abstract. A filtered and deduplicated pilot continued-pretraining corpus for Minecraft Forge 1.20.1 modding: mod/API Java source, vanilla patches, the Mixin framework, class-name mapping systems (official/SRG/intermediary/yarn crosswalk), docs, and Russian localization strings. 99 records, 5 474 736 tokens (Qwen/Qwen3.5-2B tokenizer).

Состав корпуса

Категория	Записей	Токенов	Доля
cat1 — mod source code (Tinkers' Construct, Create, JEI, Forge test mods)	44	2 894 610	52.87%
cat2 — parent API: Forge/FML, vanilla patches (MinecraftForge, MCPConfig)	21	1 300 058	23.75%
cat3 — Mixin framework (SpongePowered)	12	668 443	12.21%
cat5 — mapping systems (5a crosswalk, 5b raw excerpts)	13	437 960	8.00%
cat6 — READMEs and docs	6	26 503	0.48%
cat7 — Russian localization strings (ru_ru.json)	3	147 162	2.69%

Итого: 99 записей, 5 474 736 токенов, 21 664 555 символов (3.96 симв./токен). Записи cat6/cat7 помечены oversample=2 (компенсация малых долей); токенов с взвешиванием — 173 665.

Бюджет маппингов (v8): cat5 = 8.00% корпуса (цель 8% ±10% ✓); внутри cat5 — 5a crosswalk 63.3% (≥60% ✓), 5b raw-выдержки 36.7% (≤40% ✓).

Источники и лицензии

Источник	Лицензия
MinecraftForge/MinecraftForge (ветка 1.20.x)	LGPL-2.1
MinecraftForge/MCPConfig (mcp_config 1.20.1 zip: патчи vanilla, joined.tsrg)	Zlib
SpongePowered/Mixin (master)	MIT
SlimeKnights/TinkersConstruct (1.20.1)	MIT
Creators-of-Create/Create (mc1.20.1/dev)	MIT (только код; ассеты All Rights Reserved исключены)
mezz/JustEnoughItems (1.20.1)	MIT
FabricMC/yarn 1.20.1+build.10 (mergedv2)	CC0
Mojang official mappings (client.txt 1.20.1)	только выдержки; см. замечание ниже

Общий ярлык лицензии — other / mixed-permissive-lgpl-2.1-mit-zlib, поскольку корпус собран из нескольких источников; точные условия — в таблице выше. Записи содержат поле license с лицензией источника.

Замечание о маппингах Mojang: официальные маппинги предоставляются «as-is»; их полное неизменённое распространение запрещено, поэтому в корпус включены только изменённые выдержки и производный crosswalk, а исходный client.txt в репозиторий не включён (доступен по официальному URL из source_url записей 5b-official). Использование маппингов регулируется EULA Minecraft.

Сбор и обработка

Загрузка снапшотов веток и артефактов маппингов (см. source_url записей).
Классификация файлов по категориям; отбраковка бинарных файлов, ассетов, файлов >1.5 МБ.
Точная дедупликация файлов по sha256 (удалено 257 дубликатов, в т.ч. пересечение патчей Forge и MCPConfig), контроль околодубликатов записей MinHash (datasketch, 128 perm, Jaccard ≥ 0.92): 0.
Агрегация файлов в записи ~280 КБ (round-robin по подкатегориям); капы категорий для пилотного масштаба.
Токенизация каждой записи токенизатором Qwen/Qwen3.5-2B (словарь 248 070); n_tokens — точный подсчёт по тексту записи.
Бюджетирование cat5 (v8) с усечением 5b-выдержек по границе строки.

Файл crosswalk/classes-1.20.1.tsv (7075 классов, 100% полное 4-путное покрытие official ↔ srg ↔ intermediary ↔ yarn ↔ obf) приложен в репозитории как артефакт вне корпуса.

Схема данных (features)

Поле	Тип	Описание
`id`	string	Идентификатор записи (напр. `cat1-tinkers-013`)
`category`	string	cat1…cat7
`subcategory`	string	Уточнение источника/слоя (напр. `mod-create`, `5a-crosswalk`)
`oversample`	int64	Вес при обучении (1 или 2)
`lang`	string	`en` или `ru` (естественный язык контента)
`source_url`	string	URL источника (репозиторий/артефакт)
`license`	string	Лицензия источника
`mc_version`	string	Всегда `1.20.1`
`mapping_layer`	string	Для cat5: `crosswalk` / `official` / `srg` / `yarn`, иначе null
`n_files`	int64	Число исходных файлов в записи
`n_tokens`	int64	Токенов Qwen/Qwen3.5-2B в `text`
`text`	string	Текст записи

Splits: train — 99 записей (data/shard-001.jsonl). Метаданные: data/manifest.jsonl, pack_summary.json, index.csv, полный отчёт — report.md.

Ограничения и целевое использование

Пилот: проверка формата, бюджета и покрытия; для продакшн-корпуса (~50M токенов) требуется полный проход по расширенному списку репозиториев.
Доли категорий отличаются от «продакшн»-целевых; cat7 (русский) ограничен строками локализации — естественного русского текста мало.
Код отражает конкретные снимки веток; API может отличаться в других версиях.
Корпус не связан с Mojang/Microsoft; товарные знаки принадлежат их владельцам.
Контент третьих сторон распространяется на условиях их лицензий (см. таблицу).

Citation

@misc{forge1201cptpilot2026,
  title  = {Forge 1.20.1 CPT Pilot: a filtered continued-pretraining corpus for Minecraft Forge modding},
  author = {ComerX},
  year   = {2026},
  url    = {https://huggingface.co/datasets/ComerX/forge-1201-cpt-pilot}
}

Downloads last month: 36

Number of rows:

Total file size:

35.7 MB