Tiiny/ReluFalcon-40B-PowerInfer-GGUF
Updated • 5
• 5
Tiiny/ReluLLaMA-13B-PowerInfer-GGUF
Updated • 27
• 2
Tiiny/ReluLLaMA-7B-PowerInfer-GGUF
Updated • 149
• 14
Tiiny/ReluLLaMA-70B-PowerInfer-GGUF
Updated • 33
• 9
DevQuasar/PowerInfer.SmallThinker-3B-Preview-GGUF
Text Generation
• 3B • Updated • 36
• 1
DevQuasar-6/PowerInfer.SparseQwen2-7B-GGUF
Text Generation
• 8B • Updated • 73
HAO-K/50k-powerinfer-seq-cls
3B • Updated • 3
Text Classification
• 3B • Updated • 5
yangwooko/powerinfer-seq-cls-ywko
Text Classification
• 3B • Updated • 5
yangwooko/powerinfer-seq-cls-ywko_e5
Text Classification
• 3B • Updated • 5
qweasd9827/OPT-7b-powerinfer-gguf
bartowski/PowerInfer_SmallThinker-4BA0.6B-Instruct-GGUF
Text Generation
• 4B • Updated • 914
DevQuasar/PowerInfer.SmallThinker-21BA3B-Instruct-GGUF
Text Generation
• 22B • Updated • 38
• 1
DevQuasar/PowerInfer.SmallThinker-4BA0.6B-Instruct-GGUF
Text Generation
• 4B • Updated • 4