Name;Quant;Size;B;C;D;S;P;Type
stringlengths
26
112
budecosystem/genz-70b;Q6_K;70B;0;1.5;0;2.25;4.25;finetune
CohereForAI/c4ai-command-r-v01;F16;35B;0;0;2;7;4;finetune
Nexusflow/Starling-LM-7B-beta;F16;7B;0.5;0;0;4;1.5;finetune
wolfram/miqu-1-103b;Q5_K_M;103B;2.5;0;1;7.25;3;merge
crestf411/daybreak-miqu-1-70b-v1.0-hf;Q6_K;70B;3;2;3;6.25;4.5;finetune
ChuckMcSneed/ArcaneEntanglement-model64-70b;Q6_K;70B;3;2;1;7.25;6;merge
migtissera/Tess-70B-v1.6;Q6_K;70B;0;1;0;5.25;2.25;finetune
SF-Foundation/EinBase-70B-v0.1-full;Q6_K;70B;3;2;0;7;2.5;finetune
CohereForAI/c4ai-command-r-plus;Q6_K;104B;0;0;3;7;4.5;finetune
mistral-community/Mixtral-8x22B-v0.1;Q6_K;8x22B;3;1;0;0.75;0;base
alpindale/WizardLM-2-8x22B;Q6_K;8x22B;3;1;0;6.75;4.75;finetune
openbmb/Eurux-8x22b-nca;Q6_K;8x22B;3;2;3;4.5;4;finetune
mistralai/Mixtral-8x22B-Instruct-v0.1;Q6_K;8x22B;1;1;0;7.5;4.5;finetune
openbmb/Eurux-8x22b-kto;Q6_K;8x22B;3;2;0;4.75;5.25;finetune
miqu-120b-attenuated(experimental merge);Q5_K_M;120B;1;0;0;7.25;4.5;merge
goliath-120b-attenuated(experimental merge);Q6_K;120B;1;0;0;4;3;merge
meta-llama/Meta-Llama-3-70B-Instruct;Q6_K;70B;3;0;0;7.75;6;finetune
meta-llama/Meta-Llama-3-8B-Instruct;F16;8B;0;2;1;6;4.75;finetune
databricks/dbrx-instruct;Q6_K;16x12B;0;0;0;6.5;4.5;finetune
databricks/dbrx-base;Q6_K;16x12B;1;2;0;1.25;0;base
Qwen/Qwen1.5-110B-Chat;Q6_K;110B;0;0;0;7.5;4.5;finetune
meta-llama/Meta-Llama-3-70B;Q6_K;70B;2.5;1.5;0;1.25;0.5;base
jukofyork/Dark-Miqu-70B;Q6_K;70B;0;2;0;6.25;4.5;merge
llama3-123b-selfmerge;Q6_K;123B;3;0;0;1.5;0.25;base+merge
cognitivecomputations/dolphin-2.9.1-qwen-110b;Q6_K;110B;0;1;3;3.75;4.25;finetune
jondurbin/airoboros-dpo-110b-3.3;Q6_K;110B;0;0;2.5;5.25;5.25;finetune
jondurbin/airoboros-110b-3.3;Q6_K;110B;0;1.5;0;4.25;5.75;finetune
Maximum;n/a;n/a;3;2;3;8;6;