| Name;Quant;Size;B;C;D;S;P | |
| alpindale/goliath-120b;Q6_K;120B;3;2;1;5;6 | |
| NousResearch/Nous-Hermes-Llama2-70b;Q6_K;70B;3;2;0;3.75;3.5 | |
| Sao10K/Euryale-1.3-L2-70B;Q6_K;70B;0;2;0;3;5.5 | |
| Xwin-LM/Xwin-LM-70B-V0.1;Q6_K;70B;0;1;2;5.5;5.25 | |
| NousResearch/Nous-Capybara-34B;F16;34B;0;0;3;3.5;2.5 | |
| mistralai/Mixtral-8x7B-Instruct-v0.1;F16;8x7B;0;2;0;5;5.5 | |
| Qwen/Qwen-72B-Chat;Q6_K;72B;3;2;0;2.5;2 | |
| upstage/SOLAR-10.7B-Instruct-v1.0;F16;10.7B;1;0;0;0.75;4 | |
| fblgit/una-xaberius-34b-v1beta;F16;34B;0;2;0;1.75;0.25 | |
| fblgit/una-cybertron-7b-v3-OMA;F16;7B;0;0;0;2;4.5 | |
| ChatGPT/12-2023;n/a;n/a;1;n/a;0;8;n/a | |
| elinas/chronos-70b-v2;Q6_K;70B;0;0;0;3;2.25 | |
| migtissera/SynthIA-70B-v1.5;Q6_K;70B;0;2;0;2.5;2.25 | |
| jondurbin/spicyboros-70b-2.2;Q6_K;70B;3;2;1;6.25;4.5 | |
| Brillibits/Instruct_Llama70B_Dolly15k;Q6_K;70B;3;0;0;2.25;0 | |
| DiscoResearch/DiscoLM-70b;Q6_K;70B;3;2;0;2.75;3.25 | |
| upstage/SOLAR-0-70b-16bit;Q6_K;70B;0;2;1.5;1.5;3.25 | |
| augtoma/qCammel-70-x;Q6_K;70B;0;2;0;5.5;1.25 | |
| garage-bAInd/Platypus2-70B;Q6_K;70B;3;2;0;1.5;1 | |
| jarradh/llama2_70b_chat_uncensored;Q6_K;70B;3;2;0;3.5;2.25 | |
| KaeriJenti/kaori-70b-v1;Q6_K;70B;3;1;0;3;2 | |
| NousResearch/Nous-Puffin-70B;Q6_K;70B;3;2;0;1.75;0 | |
| Sao10K/WinterGoddess-1.4x-70B-L2;Q6_K;70B;2;1.5;3;2.75;5.5 | |
| lizpreciatior/lzlv_70b_fp16_hf;Q6_K;70B;3;2;0;5.75;4.5 | |
| Doctor-Shotgun/mythospice-70b;Q6_K;70B;3;1;0;5.25;0.25 | |
| tiiuae/falcon-180B-chat;Q4_K_M;180B;3;0;0;5.25;5.5 | |
| nsfwthrowitaway69/Venus-120b-v1.0;Q6_K;120B;3;2;0;3.5;4.5 | |
| deepseek-ai/deepseek-llm-67b-chat;Q6_K;67B;3;2;0;3.5;1 | |
| allenai/tulu-2-dpo-70b;Q6_K;70B;0;0;0;4;3 | |
| epfl-llm/meditron-70b;Q6_K;70B;0;2;0;1.25;0 | |
| meta-llama/Llama-2-70b-hf;Q6_K;70B;0;2;0.5;1.25;0 | |
| ChuckMcSneed/Dicephal-123B;Q6_K;123B;0;0;1;2.25;2.25 | |
| Yukang/LongAlpaca-70B;Q6_K;70B;0;2;0;5;0.25 | |
| Yukang/Llama-2-70b-longlora-32k;Q6_K;70B;1;2;0;0.25;0 | |
| Qwen/Qwen-72B;Q6_K;72B;0;0;0;1;1.5 | |
| Yukang/LongAlpaca-70B-lora;Q6_K;70B;3;0;0;1;0 | |
| ChuckMcSneed/Dicephal-123B+longlora;Q6_K;123B;1;2;1;1;2.25 | |
| Xwin-LM/Xwin-LM-70B-V0.1+LongAlpaca-lora;Q6_K;70B;1;1;0;2;0.25 | |
| Xwin-LM/Xwin-LM-70B-V0.1+longlora;Q6_K;70B;0;1;3;2.75;0.5 | |
| Xwin-LM/Xwin-LM-70B-V0.1+chat-longlora;Q6_K;70B;1.5;0;0;3.25;1.25 | |
| Maximum;n/a;n/a;3;2;3;8;6 | |