Android/Termux Patch

Эта версия circuit_sparsity содержит патчи, позволяющие запускать модель на Android (Termux) без blobfile, без CUDA и без интернет‑доступа.

Что изменено

  • Частично отключён blobfile (он зависает на Android).
  • Заменён read_file_cached на обычное чтение через open().
  • Убраны все обращения к URL — загрузка моделей теперь только локальная.
  • Добавлен фильтр неизвестных полей в GPTConfig (исправляет ошибки с новыми ключами вроде ignore_dw_grad, afrac_approx и др.).
  • Исправлен путь к весам (bf.join → обычные строки).
  • Пример bracket_counting_example.py переписан в оффлайн‑режим (без скачивания viz_data).
  • Модель csp_yolo2 и csp_small теперь работают на CPU ARM64 без зависаний.
  • Убраны все зависимые части, требующие FlashAttention или GPU.

Зачем это нужно

Оригинальный проект не работает на Android из-за:

  • зависаний blobfile,
  • отсутствия CUDA,
  • попыток скачивать файлы с Azure,
  • несовместимых полей в конфиге моделей.

Этот форк делает проект полностью автономным и пригодным для запуска на телефоне.

Статус

✔ Модель загружается
✔ Inference работает
✔ Примеры запускаются оффлайн
✔ Поддержка Termux / Python 3.13

Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support