Name;Quant;Size;B;C;D;S;P | |
alpindale/goliath-120b;Q6_K;120B;3;2;1;5;6 | |
NousResearch/Nous-Hermes-Llama2-70b;Q6_K;70B;3;2;0;3.75;3.5 | |
Sao10K/Euryale-1.3-L2-70B;Q6_K;70B;0;2;0;3;5.5 | |
Xwin-LM/Xwin-LM-70B-V0.1;Q6_K;70B;0;1;2;5.5;5.25 | |
NousResearch/Nous-Capybara-34B;F16;34B;0;0;3;3.5;2.5 | |
mistralai/Mixtral-8x7B-Instruct-v0.1;F16;8x7B;0;2;0;5;5.5 | |
Qwen/Qwen-72B-Chat;Q6_K;72B;3;2;0;2.5;2 | |
Maximum;n/a;n/a;3;2;3;8;6 | |