- pytorch+cuda+bfloat16
- pytorch+cuda+float16+awq-4bit+gemm
- pytorch+cuda+float16+awq-4bit+gemv
- pytorch+cuda+float16+bettertransformer
- pytorch+cuda+float16+bnb-4bit+bettertransformer
- pytorch+cuda+float16+bnb-4bit
- pytorch+cuda+float16+bnb-8bit+bettertransformer
- pytorch+cuda+float16+bnb-8bit
- pytorch+cuda+float16+flash-attention-v2
- pytorch+cuda+float16+gptq-4bit+cuda-fp16
- pytorch+cuda+float16+gptq-4bit+exllama-v1
- pytorch+cuda+float16+gptq-4bit+exllama-v2
- pytorch+cuda+float16
- pytorch+cuda+float32
-
1.33 MB