Name;Quant;Size;B;C;D;S;P;Type
stringlengths
26
112
budecosystem/genz-70b;Q6_K;70B;0;1.5;0;2.25;4.25;finetune
CohereForAI/c4ai-command-r-v01;F16;35B;0;0;2;7;4;finetune
Nexusflow/Starling-LM-7B-beta;F16;7B;0.5;0;0;4;1.5;finetune
wolfram/miqu-1-103b;Q5_K_M;103B;2.5;0;1;7.25;3;merge
crestf411/daybreak-miqu-1-70b-v1.0-hf;Q6_K;70B;3;2;3;6.25;4.5;finetune
ChuckMcSneed/ArcaneEntanglement-model64-70b;Q6_K;70B;3;2;1;7.25;6;merge
migtissera/Tess-70B-v1.6;Q6_K;70B;0;1;0;5.25;2.25;finetune
SF-Foundation/EinBase-70B-v0.1-full;Q6_K;70B;3;2;0;7;2.5;finetune
CohereForAI/c4ai-command-r-plus;Q6_K;104B;0;0;3;7;4.5;finetune
mistral-community/Mixtral-8x22B-v0.1;Q6_K;8x22B;3;1;0;0.75;0;base
alpindale/WizardLM-2-8x22B;Q6_K;8x22B;3;1;0;6.75;4.75;finetune
openbmb/Eurux-8x22b-nca;Q6_K;8x22B;3;2;3;4.5;4;finetune
mistralai/Mixtral-8x22B-Instruct-v0.1;Q6_K;8x22B;1;1;0;7.5;4.5;finetune
openbmb/Eurux-8x22b-kto;Q6_K;8x22B;3;2;0;4.75;5.25;finetune
miqu-120b-attenuated(experimental merge);Q5_K_M;120B;1;0;0;7.25;4.5;merge
goliath-120b-attenuated(experimental merge);Q6_K;120B;1;0;0;4;3;merge
meta-llama/Meta-Llama-3-70B-Instruct;Q6_K;70B;3;0;0;7.75;6;finetune
meta-llama/Meta-Llama-3-8B-Instruct;F16;8B;0;2;1;6;4.75;finetune
databricks/dbrx-instruct;Q6_K;16x12B;0;0;0;6.5;4.5;finetune
databricks/dbrx-base;Q6_K;16x12B;1;2;0;1.25;0;base
Qwen/Qwen1.5-110B-Chat;Q6_K;110B;0;0;0;7.5;4.5;finetune
meta-llama/Meta-Llama-3-70B;Q6_K;70B;2.5;1.5;0;1.25;0.5;base
jukofyork/Dark-Miqu-70B;Q6_K;70B;0;2;0;6.25;4.5;merge
llama3-123b-selfmerge;Q6_K;123B;3;0;0;1.5;0.25;base+merge
cognitivecomputations/dolphin-2.9.1-qwen-110b;Q6_K;110B;0;1;3;3.75;4.25;finetune
jondurbin/airoboros-dpo-110b-3.3;Q6_K;110B;0;0;2.5;5.25;5.25;finetune
jondurbin/airoboros-110b-3.3;Q6_K;110B;0;1.5;0;4.25;5.75;finetune
sophosympatheia/Midnight-Miqu-70B-v1.5;Q6_K;70B;0;2;0;5.75;4.5;merge
tdrussell/Llama-3-70B-Instruct-Storywriter;Q6_K;70B;3;0;3;7.75;4.25;finetune
crestf411/L3-70B-daybreak-abliterated-v0.4;Q6_K;70B;3;2;0;7.5;6;finetune
cognitivecomputations/dolphin-2.9.1-dbrx;Q6_K;16x12B;3;1;3;4;6;finetune
billyjoe/quill-72b-instruct;Q6_K;72B;1;1.5;0;6.75;5;finetune
cognitivecomputations/dolphin-2.9.2-qwen2-72b;Q6_K;72B;3;2;3;5.25;5;finetune
alpindale/magnum-72b-v1;Q6_K;72B;0;2;3;7;4.75;finetune
google/gemma-2-27b-it;BF16;27B;0;0.5;1;6.75;1.75;finetune
google/gemma-2-9b-it;BF16;9B;0;0.5;1;6.5;1.75;finetune
deepseek-ai/DeepSeek-V2-Chat-0628;BF16;21A236B;1;1;3;5.75;3.25;finetune
mistralai/Mistral-Large-Instruct-2407;Q6_K;123B;0;2;0;7.75;5.75;finetune
NeverSleep/Lumimaid-v0.2-123B;Q6_K;123B;0;2;3;8;3;finetune
meta-llama/Meta-Llama-3.1-70B-Instruct;Q6_K;70B;3;0;3;6.75;5.75;finetune
meta-llama/Meta-Llama-3.1-8B-Instruct;BF16;8B;0;0;2;6.5;3.75;finetune
mistralai/Mistral-Nemo-Instruct-2407;BF16;12B;0;2;3;6.75;5.25;finetune
NeverSleep/Lumimaid-v0.2-12B;BF16;12B;0;1;2;2.5;1.25;finetune
NeverSleep/Lumimaid-v0.2-70B;Q6_K;70B;1;2;3;6.5;3.5;finetune
SillyTilly/Meta-Llama-3.1-405B-Instruct;Q8_0;405B;3;0;3;6.25;4.5;finetune
dnhkng/RYS-XLarge;Q6_K;78B;0;0;3;5.25;2.25;finetune+merge
migtissera/Tess-3-Llama-3.1-405B;Q8_0;405B;3;2;3;4.5;4.5;finetune
migtissera/Tess-3-Mistral-Large-2-123B;Q6_K;123B;0;2;3;6.5;3.75;finetune
crestf411/L3.1-70B-sunfall-v0.6.1;Q6_K;70B;1;2;2.5;7.5;4.25;finetune
mistralai/Mistral-Large-Instruct-2407;BF16;123B;0;2;3;8;5.5;finetune
NousResearch/Hermes-3-Llama-3.1-70B;Q6_K;70B;3;2;3;6.75;5;finetune
NousResearch/Hermes-3-Llama-3.1-405B;Q8_0;405B;0;2;3;8;5.75;finetune
anthracite-org/magnum-v2-123b;Q6_K;123B;0;2;2;7;4.75;finetune
anthracite-org/magnum-v2-72b;Q6_K;72B;0;2;0;5.75;4.75;finetune
Sao10K/L3.1-70B-Euryale-v2.2;Q6_K;70B;3;2;3;7.5;2.5;finetune
anthracite-org/magnum-v3-34b;BF16;34B;3;1;0;4.5;4;finetune
CohereForAI/c4ai-command-r-08-2024;F16;32B;0;0;0;6;4.75;finetune
CohereForAI/c4ai-command-r-plus-08-2024;Q6_K;104B;0;1;2;7.25;5;finetune
FluffyKaeloky/Luminum-v0.1-123B;Q6_K;123B;0;2;3;7.5;5.25;merge
Qwen/Qwen2.5-72B-Instruct;Q6_K;72B;1;0;2;6.75;1.75;finetune
mistralai/Mistral-Small-Instruct-2409;BF16;22B;0;2;2;6;4;finetune
TheDrummer/Behemoth-123B-v1;Q6_K;123B;0;2;3;7.25;5.5;finetune
nvidia/Llama-3.1-Nemotron-70B-Instruct-HF;Q6_K;70B;0;1.5;3;7.5;4.75;finetune
anthracite-org/magnum-v4-123b;Q6_K;123B;3;2;3;7;4.5;finetune
TheDrummer/Behemoth-123B-v1.1;Q6_K;123B;0;2;3;7.5;5;finetune
Nexusflow/Athene-V2-Chat;Q6_K;72B;1;0;3;6.25;2.25;finetune
mistralai/Mistral-Large-Instruct-2411;Q6_K;123B;0;0;3;7.5;4.25;finetune
Maximum;n/a;n/a;3;2;3;8;6;