Ctrl+K
- BF16
- MXFP4_MOE
- Q3_K_M
- Q3_K_S
- Q4_K_M
- Q4_K_S
- Q5_K_M
- Q5_K_S
- Q6_K
- Q8_0
- UD-IQ1_M
- UD-IQ2_M
- UD-IQ2_XXS
- UD-IQ3_S
- UD-IQ3_XXS
- UD-IQ4_NL
- UD-IQ4_XS
- UD-Q3_K_M
- UD-Q3_K_S
- UD-Q3_K_XL
- UD-Q4_K_M
- UD-Q4_K_S
- UD-Q4_K_XL
- UD-Q5_K_M
- UD-Q5_K_S
- UD-Q5_K_XL
- UD-Q6_K
- UD-Q6_K_XL
- UD-Q8_K_XL
- 28.2 kB
- 95.8 kB
- 3.74 kB
- 1.14 GB xet
- 922 MB xet
- 918 MB xet
- 1.82 GB xet