sqrtask/tamagotchi-models

Модели офлайн-тамагочи для браузера

Сборки, подготовленные для игры, где всё работает локально в браузере: маленькая LLM отвечает на вопросы о предмете («это предмет?», «влезает в куб 1 м?»), переводит слово на английский и описывает свойства, а SDXS рисует иконку. Исходные модели — чужие, здесь лежат только наши переделки для веба. Замеры и код — в репозитории проекта (appendix/tamagotchi/ и appendix/small_imagegen/).

Все файлы отдаются с CDN Hugging Face по частям (HTTP Range, ответ 206) и с Access-Control-Allow-Origin: *, так что их можно качать прямо из браузера в несколько потоков. Начинайте всегда с адреса https://huggingface.co/sqrtask/tamagotchi-models/resolve/main/<файл> — ссылка, на которую он перенаправляет, живёт около часа.

Что внутри

папка	что	размер	исходник и что изменено
gemma4-e2b-onnx/	gemma-4 E2B, сборка Google с дообучением под 2 бита (qat-mobile), ONNX для onnxruntime-web	декодер 0.80 ГБ + эмбеддинги 1.30 ГБ	onnx-community/gemma-4-E2B-it-qat-mobile-ONNX: таблицы RoPE обрезаны со 131 072 до 4 096 позиций (−195 МБ, ответы совпадают до 4-го знака); добавлен files.json — индекс строк таблиц эмбеддингов
gemma4-e2b-gguf/	gemma-4 E2B, GGUF Q3_K_M, 5 кусков для wllama / llama.cpp	2.54 ГБ	unsloth/gemma-4-E2B-it-GGUF: разрезан llama-gguf-split на куски по 512 МБ (кусок 2 — одна таблица постройных эмбеддингов, 1.32 ГБ, делить нельзя; меньше предела браузера в 2 ГБ на буфер)
sdxs/	SDXS-512-0.9: текстовый энкодер int8, U-Net, декодер TAESD	≈0.68 ГБ	IDKiro/sdxs-512-0.9: U-Net в int8 с масштабом на канал только для передачи (sdxsunet.pack + опись .pack.json, в браузере распаковывается unpack.js обратно в fp32); текст в int8

Сборку Google для WebGPU (LiteRT, MediaPipe) мы не меняли — она лежит у автора: litert-community/gemma-4-E2B-it-litert-lm, файл gemma-4-E2B-it-web.task (2.0 ГБ, только WebGPU).

Как грузить

GGUF (wllama 3, CPU): передать все пять кусков в loadModel([...]) по порядку; wllama сам соберёт модель. Для кэша префикса запроса нужны swa_full: true и checkpoint_min_step: 0.

ONNX (onnxruntime-web): два графа — decoder_model_merged_q2f16 и embed_tokens_q2f16. Целиком эмбеддинги в 32-битный WASM не помещаются (вместе с декодером — нехватка памяти). Вместо сессии эмбеддингов читайте строки по номеру токена из embed_tokens_q2f16.onnx_data (из OPFS или запросом Range). files.json → lazy:

• emb — обычные эмбеддинги: 2 бита, 1536 чисел в строке, строка упакована по 4 значения в байт (младшие биты — первое значение), масштаб fp16 на блок из 256, нулевая точка 2, множитель mul = √1536;
• ple — постройные эмбеддинги: 4 бита, 8960 чисел (35 слоёв × 256), нулевая точка 8, множитель 16;
• значение = (q − нулевая точка) × масштаб × mul; q_off/s_off — смещения упакованных строк и масштабов в файле данных.

files.json → kv_dims — размер головы для каждого входа KV-кэша (у слоёв глобального внимания 512, у локального 256). Декодер считает в fp16 — на WebGPU нужна видеокарта с shader-f16 и сборка ort.webgpu (новый WebGPU EP; старый JSEP 2-битные веса не умеет).

SDXS: text_encoder_int8.onnx и vae_decoder.onnx грузятся как есть; U-Net — граф sdxsunet.onnx плюс веса из sdxsunet.pack через unpack.js (восстанавливает .onnx.data в памяти и отдаёт его onnxruntime через externalData). Один шаг, параметры шага — в meta.json.

Замеры (CPU 4 ядра, Chromium 141, WASM; качество — нативно)

сборка	загрузка	память вкладки, пик	вопрос «да/нет» в браузере	качество
GGUF Q3_K_M (wllama, CPU)	2.54 ГБ	3.4 ГБ	1.65 с	«предмет + влезает в куб» верно в 100% из 175 слов; перевод с 8 языков 93%; съедобность 100%, материал 93%
ONNX qat-mobile (onnxruntime-web, CPU, эмбеддинги по строкам)	2.10 ГБ	3.1 ГБ	2.6–3.0 с	ответы совпадают с нативным onnxruntime
ONNX qat-mobile (WebGPU)	2.10 ГБ	≈1.3 ГБ в процессе GPU	не мерено (нет видеокарты)	—
SDXS	≈0.68 ГБ	—	5.6 с на иконку 512×512	—

Лицензии

• gemma-4 E2B (папки gemma4-e2b-onnx/, gemma4-e2b-gguf/) — Apache 2.0, как у исходных сборок; условия Google: https://ai.google.dev/gemma/docs/gemma_4_license.
• SDXS-512-0.9 (папка sdxs/) — CreativeML OpenRAIL++-M, как у IDKiro/sdxs-512-0.9; ограничения на использование из этой лицензии распространяются и на эти файлы.