semvec/pypi-packages huggingface dataset:
EridaSpeed 0.1.0
ВУВ (Виртуальный Ускоритель Вычислений) - ускоряет работу и скорость обучения трансформерных нейросетей в x2-x6 раз (GPT2 - в 40 раз)
Requires Python: >=3.7

Пример использования , на примере GPT 2-й версии :

    from transformers import AutoModelForCausalLM

    model = AutoModelForCausalLM.from_pretrained(
        "gpt2",
        quantization_bits=8,       #биты для квантования
        sparsity_threshold=0.02    #обнуление малых весов (0.01 - 0.05)
    )

В разы ускоряет вычисления нейронных сетей (в основном рассматривается как для трансформеров)