File size: 10,862 Bytes
a606895 d91ac54 de42c71 70bc925 e70fe85 6d63db1 b38964c bc74b9e 78acdc4 265e549 8fb9a56 a606895 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 |
Name;Quant;Size;B;C;D;S;P;Type
alpindale/goliath-120b;Q6_K;120B;3;2;1;6;6;merge
NousResearch/Nous-Hermes-Llama2-70b;Q6_K;70B;3;2;0;3.75;3.5;finetune
Sao10K/Euryale-1.3-L2-70B;Q6_K;70B;0;2;0;3;5;finetune+merge
Xwin-LM/Xwin-LM-70B-V0.1;Q6_K;70B;0;1;2;5.5;5.25;finetune
NousResearch/Nous-Capybara-34B;F16;34B;0;0;3;3.5;2.5;finetune
mistralai/Mixtral-8x7B-Instruct-v0.1;F16;8x7B;0;2;0;5;5.5;finetune
Qwen/Qwen-72B-Chat;Q6_K;72B;3;2;0;2.5;2;finetune
upstage/SOLAR-10.7B-Instruct-v1.0;F16;10.7B;1;0;0;0.75;4;finetune
fblgit/una-xaberius-34b-v1beta;F16;34B;0;2;0;1.75;0.25;finetune
fblgit/una-cybertron-7b-v3-OMA;F16;7B;0;0;0;2.5;3;finetune
ChatGPT/12-2023;n/a;n/a;1;n/a;0;8;n/a;finetune
elinas/chronos-70b-v2;Q6_K;70B;0;0;0;3;2.25;finetune
migtissera/SynthIA-70B-v1.5;Q6_K;70B;0;2;0;2.5;2.25;finetune
jondurbin/spicyboros-70b-2.2;Q6_K;70B;3;2;1;6.25;4.5;finetune
Brillibits/Instruct_Llama70B_Dolly15k;Q6_K;70B;3;0;0;2.25;0;finetune
DiscoResearch/DiscoLM-70b;Q6_K;70B;3;2;0;2.75;3.25;finetune
upstage/SOLAR-0-70b-16bit;Q6_K;70B;0;2;1.5;1.5;3.25;finetune
augtoma/qCammel-70-x;Q6_K;70B;0;2;0;5.5;1.25;finetune
garage-bAInd/Platypus2-70B;Q6_K;70B;3;2;0;1.5;1;finetune
jarradh/llama2_70b_chat_uncensored;Q6_K;70B;3;2;0;3.5;2.25;finetune
KaeriJenti/kaori-70b-v1;Q6_K;70B;3;1;0;3;2;finetune
NousResearch/Nous-Puffin-70B;Q6_K;70B;3;2;0;1.75;0;finetune
Sao10K/WinterGoddess-1.4x-70B-L2;Q6_K;70B;2;1.5;3;2.75;5.5;finetune+merge
lizpreciatior/lzlv_70b_fp16_hf;Q6_K;70B;3;2;0;5.75;4.5;merge
Doctor-Shotgun/mythospice-70b;Q6_K;70B;3;1;0;5.25;0.25;merge
tiiuae/falcon-180B-chat;Q4_K_M;180B;3;0;0;5.25;5.5;finetune
nsfwthrowitaway69/Venus-120b-v1.0;Q6_K;120B;3;2;0;3.5;4.5;merge
deepseek-ai/deepseek-llm-67b-chat;Q6_K;67B;3;2;0;3.5;1;finetune
allenai/tulu-2-dpo-70b;Q6_K;70B;0;0;0;4;3;finetune
epfl-llm/meditron-70b;Q6_K;70B;0;2;0;1.25;0;finetune
meta-llama/Llama-2-70b-hf;Q6_K;70B;0;2;0.5;1.25;0;base
ChuckMcSneed/Dicephal-123B;Q6_K;123B;0;0;1;2.25;2.25;base+merge
Yukang/LongAlpaca-70B;Q6_K;70B;0;2;0;5;0.25;finetune
Yukang/Llama-2-70b-longlora-32k;Q6_K;70B;1;2;0;0.25;0;finetune
Qwen/Qwen-72B;Q6_K;72B;0;0;0;1;1.5;base
Yukang/LongAlpaca-70B-lora;Q6_K;70B;3;0;0;1;0;finetune
ChuckMcSneed/Dicephal-123B+longlora;Q6_K;123B;1;2;1;1;2.25;merge
Xwin-LM/Xwin-LM-70B-V0.1+LongAlpaca-lora;Q6_K;70B;1;1;0;2;0.25;merge
Xwin-LM/Xwin-LM-70B-V0.1+longlora;Q6_K;70B;0;1;3;2.75;0.5;merge
Xwin-LM/Xwin-LM-70B-V0.1+chat-longlora;Q6_K;70B;1.5;0;0;3.25;1.25;merge
grimulkan/aurelian-alpha0.1-70b-rope8-32K-fp16;Q6_K;70B;0;1;0;1.25;2;finetune
ChuckMcSneed/DoubleGold-v0.1-123b-32k;Q6_K;123B;1;2;0;4.5;2.75;merge
Doctor-Shotgun/Mixtral-8x7B-Instruct-v0.1-LimaRP-ZLoss;F16;8x7B;0;2;0;4.75;4.75;finetune
ChuckMcSneed/WinterGoliath-123b;Q6_K;123B;3;2;2;5.5;6;merge
cognitivecomputations/dolphin-2.2-70b;Q6_K;70B;0;1;1;4.5;4.5;finetune
cognitivecomputations/MegaDolphin-120b;Q6_K;120B;0;1;1;5.75;5.25;merge
ChuckMcSneed/PMaxxxer-v1-70b;Q6_K;70B;3;1;1;6.75;4.75;merge
ChuckMcSneed/SMaxxxer-v1-70b;Q6_K;70B;2;1;0;7.25;4.25;merge
ChuckMcSneed/BenchmaxxxerSP-v1-123b(private);Q6_K;123B;1.5;2;1;6.75;5.25;merge
ChuckMcSneed/BenchmaxxxerPS-v1-123b;Q6_K;123B;3;2;1;7.25;5.25;merge
ChuckMcSneed/BenchmaxxxerMOE-v1-123b(private);Q6_K;2x70B;2;1;3;7.25;5;merge
ChuckMcSneed/BenchmaxxxerSS-v1-123b(private);Q6_K;123B;1.5;2;0.5;6.5;5.5;merge
grimulkan/aurelian-v0.5-70b-rope8-32K-fp16;Q6_K;70B;1;1;0;2.5;2.25;finetune
ChuckMcSneed/DoubleGold-v0.5-123b-32k;Q6_K;123B;1;1;2;3.25;1.5;merge
grimulkan/lzlv-longLORA-70b-rope8-32k-fp16;Q6_K;70B;3;2;0;3.5;3.75;merge
grimulkan/Goliath-longLORA-120b-rope8-32k-fp16;Q6_K;120B;0.5;1.5;1;3.75;4.5;merge
sophosympatheia/Aurora-Nights-70B-v1.0;Q6_K;70B;2.5;2;0;7.25;3.5;merge
sophosympatheia/Aurora-Nights-103B-v1.0;Q6_K;103B;3;2;0;7.25;4.25;merge
XWIN-32k-experimental(equivalent to grimulkan/Xwin-longLORA-70b-rope8-32k-fp16?);Q6_K;70B;0;1.5;1;3.5;3.75;merge
deepnight-research/Saily_220B;Q3_K_L;208B;0;2;1;2.75;1.75;merge
deepnight-research/saily_100b;Q6_K;118B;0;0;0;4.5;5.25;merge
sophosympatheia/Midnight-Rose-70B-v1.0;Q6_K;70B;0;0;0;4;5;merge
abacusai/Smaug-34B-v0.1;F16;34B;0;2;0;1.25;2.5;finetune
ChuckMcSneed/WinterGoddess-1.4x-70b-32k;Q6_K;70B;2.5;2;0;1.5;2.25;merge
ChuckMcSneed/WinterGoliath-123b-32k;Q6_K;123B;3;2;1;3.75;3.75;merge
alpindale/miquella-120b(old);Q5_K_M;120B;0;0;0;3.25;0.25;merge
miqudev/miqu-1-70b;Q5_K_M;70B;3;2;0;6.25;3.75;finetune
ICBU-NPU/FashionGPT-70B-V1.1;Q6_K;70B;0;1.5;0;1.75;4;finetune
ibivibiv/strix-rufipes-70b;Q6_K;70B;0;2;0;1;3.25;finetune
Chat-Error/fiction.live-Kimiko-V2-70B;Q6_K;70B;0;1.5;0;1;2.25;finetune
MayaPH/GodziLLa2-70B;Q6_K;70B;1.5;0;1;1.75;4.75;finetune
WizardLM/WizardLM-70B-V1.0;Q6_K;70B;0;1;0;5.5;5.5;finetune
Mikael110/llama-2-70b-guanaco-qlora;Q6_K;70B;0;2;0;4.75;5;finetune
ChuckMcSneed/Gembo-v1-70b;Q6_K;70B;2.5;1.5;3;7.5;5.25;merge
Qwen/Qwen1.5-72B-Chat;Q5_K_M;72B;0;0;0;6;4.5;finetune
abacusai/Smaug-72B-v0.1(Alpaca format);Q5_K_S;72B;0.5;0.5;0.5;0.75;0.5;finetune
abacusai/Smaug-72B-v0.1(llama chat format);Q6_K;72B;0;0;0;0.5;2.5;finetune
ShinojiResearch/Senku-70B-Full;Q6_K;70B;0;1.5;3;3.75;3.75;finetune
Undi95/Miqu-70B-Alpaca-DPO;Q6_K;70B;1.5;1;0;6;4.25;finetune
TeeZee/Kyllene-34B-v1.1;F16;34B;0;2;0;4;2.75;merge
cloudyu/Mixtral_34Bx2_MoE_60B;Q8_0;2x34B;0;2;0;2.25;2;merge
TomGrc/FusionNet_7Bx2_MoE_v0.1;F16;2X7B;0;0;1;3.75;2.75;finetune
ChuckMcSneed/Gembo-v1.1-70b;Q6_K;70B;2.5;1.5;3;6.75;5.25;merge
miqu-123b(personal test merge);Q5_K_M;123B;2;0;1;7.75;4.5;merge
wolfram/miqu-1-120b;Q5_K_M;120B;2;0;0;8;4.25;merge
berkeley-nest/Starling-LM-7B-alpha;F16;7B;1.5;0.5;0;2.25;2.5;finetune
wolfram/miquliz-120b-v2.0;Q5_K_M;120B;1;2;1;7.25;5;merge
sophosympatheia/Midnight-Rose-70B-v2.0.3;Q6_K;70B;2.5;1.5;0;6.75;4;merge
ValiantLabs/ShiningValiant;Q6_K;70B;2.5;1.5;0;1.5;1.75;finetune
Sao10K/Euryale-1.3-L2-70B+xwin-lora;Q6_K;70B;2;2;1;5.5;5.5;merge
Xwin-LM/Xwin-LM-70B-V0.1+euryale-lora;Q6_K;70B;3;2;2;6;5;merge
ChuckMcSneed/Premerge-XE-EX-123B(private);Q6_K;123B;2;2;2.5;6.75;5.5;merge
ChuckMcSneed/Premerge-EX-XE-123B(private);Q6_K;123B;2;2;2;5.75;6;merge
ChuckMcSneed/Premerge-XE-XE-123B;Q6_K;123B;3;2;2.5;7.25;5.25;merge
ChuckMcSneed/Premerge-EX-EX-123B;Q6_K;123B;2;2;1.5;7.25;6;merge
MaziyarPanahi/WizardLM-Math-70B-v0.1;Q6_K;70B;0;2;0;3.75;3;merge
NousResearch/Nous-Hermes-2-Llama-2-70B;Q6_K;70B;0;2;1;3.5;1.5;finetune
NeverSleep/MiquMaid-v2-70B-DPO;Q6_K;70B;3;1;0;2.75;0.5;finetune
senseable/WestLake-7B-v2;F16;7B;0;1;1;4;3.75;finetune
CausalLM/34b-beta;F16;34B;0;2;3;2.75;3.75;finetune
budecosystem/genz-70b;Q6_K;70B;0;1.5;0;2.25;4.25;finetune
CohereForAI/c4ai-command-r-v01;F16;35B;0;0;2;7;4;finetune
Nexusflow/Starling-LM-7B-beta;F16;7B;0.5;0;0;4;1.5;finetune
wolfram/miqu-1-103b;Q5_K_M;103B;2.5;0;1;7.25;3;merge
crestf411/daybreak-miqu-1-70b-v1.0-hf;Q6_K;70B;3;2;3;6.25;4.5;finetune
ChuckMcSneed/ArcaneEntanglement-model64-70b;Q6_K;70B;3;2;1;7.25;6;merge
migtissera/Tess-70B-v1.6;Q6_K;70B;0;1;0;5.25;2.25;finetune
SF-Foundation/EinBase-70B-v0.1-full;Q6_K;70B;3;2;0;7;2.5;finetune
CohereForAI/c4ai-command-r-plus;Q6_K;104B;0;0;3;7;4.5;finetune
mistral-community/Mixtral-8x22B-v0.1;Q6_K;8x22B;3;1;0;0.75;0;base
alpindale/WizardLM-2-8x22B;Q6_K;8x22B;3;1;0;6.75;4.75;finetune
openbmb/Eurux-8x22b-nca;Q6_K;8x22B;3;2;3;4.5;4;finetune
mistralai/Mixtral-8x22B-Instruct-v0.1;Q6_K;8x22B;1;1;0;7.5;4.5;finetune
openbmb/Eurux-8x22b-kto;Q6_K;8x22B;3;2;0;4.75;5.25;finetune
miqu-120b-attenuated(experimental merge);Q5_K_M;120B;1;0;0;7.25;4.5;merge
goliath-120b-attenuated(experimental merge);Q6_K;120B;1;0;0;4;3;merge
meta-llama/Meta-Llama-3-70B-Instruct;Q6_K;70B;3;0;0;7.75;6;finetune
meta-llama/Meta-Llama-3-8B-Instruct;F16;8B;0;2;1;6;4.75;finetune
databricks/dbrx-instruct;Q6_K;16x12B;0;0;0;6.5;4.5;finetune
databricks/dbrx-base;Q6_K;16x12B;1;2;0;1.25;0;base
Qwen/Qwen1.5-110B-Chat;Q6_K;110B;0;0;0;7.5;4.5;finetune
meta-llama/Meta-Llama-3-70B;Q6_K;70B;2.5;1.5;0;1.25;0.5;base
jukofyork/Dark-Miqu-70B;Q6_K;70B;0;2;0;6.25;4.5;merge
llama3-123b-selfmerge;Q6_K;123B;3;0;0;1.5;0.25;base+merge
cognitivecomputations/dolphin-2.9.1-qwen-110b;Q6_K;110B;0;1;3;3.75;4.25;finetune
jondurbin/airoboros-dpo-110b-3.3;Q6_K;110B;0;0;2.5;5.25;5.25;finetune
jondurbin/airoboros-110b-3.3;Q6_K;110B;0;1.5;0;4.25;5.75;finetune
sophosympatheia/Midnight-Miqu-70B-v1.5;Q6_K;70B;0;2;0;5.75;4.5;merge
tdrussell/Llama-3-70B-Instruct-Storywriter;Q6_K;70B;3;0;3;7.75;4.25;finetune
crestf411/L3-70B-daybreak-abliterated-v0.4;Q6_K;70B;3;2;0;7.5;6;finetune
cognitivecomputations/dolphin-2.9.1-dbrx;Q6_K;16x12B;3;1;3;4;6;finetune
billyjoe/quill-72b-instruct;Q6_K;72B;1;1.5;0;6.75;5;finetune
cognitivecomputations/dolphin-2.9.2-qwen2-72b;Q6_K;72B;3;2;3;5.25;5;finetune
alpindale/magnum-72b-v1;Q6_K;72B;0;2;3;7;4.75;finetune
google/gemma-2-27b-it;BF16;27B;0;0.5;1;6.75;1.75;finetune
google/gemma-2-9b-it;BF16;9B;0;0.5;1;6.5;1.75;finetune
deepseek-ai/DeepSeek-V2-Chat-0628;BF16;21A236B;1;1;3;5.75;3.25;finetune
mistralai/Mistral-Large-Instruct-2407;Q6_K;123B;0;2;0;7.75;5.75;finetune
NeverSleep/Lumimaid-v0.2-123B;Q6_K;123B;0;2;3;8;3;finetune
meta-llama/Meta-Llama-3.1-70B-Instruct;Q6_K;70B;3;0;3;6.75;5.75;finetune
meta-llama/Meta-Llama-3.1-8B-Instruct;BF16;8B;0;0;2;6.5;3.75;finetune
mistralai/Mistral-Nemo-Instruct-2407;BF16;12B;0;2;3;6.75;5.25;finetune
NeverSleep/Lumimaid-v0.2-12B;BF16;12B;0;1;2;2.5;1.25;finetune
NeverSleep/Lumimaid-v0.2-70B;Q6_K;70B;1;2;3;6.5;3.5;finetune
SillyTilly/Meta-Llama-3.1-405B-Instruct;Q8_0;405B;3;0;3;6.25;4.5;finetune
dnhkng/RYS-XLarge;Q6_K;78B;0;0;3;5.25;2.25;finetune+merge
migtissera/Tess-3-Llama-3.1-405B;Q8_0;405B;3;2;3;4.5;4.5;finetune
migtissera/Tess-3-Mistral-Large-2-123B;Q6_K;123B;0;2;3;6.5;3.75;finetune
crestf411/L3.1-70B-sunfall-v0.6.1;Q6_K;70B;1;2;2.5;7.5;4.25;finetune
mistralai/Mistral-Large-Instruct-2407;BF16;123B;0;2;3;8;5.5;finetune
NousResearch/Hermes-3-Llama-3.1-70B;Q6_K;70B;3;2;3;6.75;5;finetune
NousResearch/Hermes-3-Llama-3.1-405B;Q8_0;405B;0;2;3;8;5.75;finetune
anthracite-org/magnum-v2-123b;Q6_K;123B;0;2;2;7;4.75;finetune
anthracite-org/magnum-v2-72b;Q6_K;72B;0;2;0;5.75;4.75;finetune
Sao10K/L3.1-70B-Euryale-v2.2;Q6_K;70B;3;2;3;7.5;2.5;finetune
anthracite-org/magnum-v3-34b;BF16;34B;3;1;0;4.5;4;finetune
CohereForAI/c4ai-command-r-08-2024;F16;32B;0;0;0;6;4.75;finetune
CohereForAI/c4ai-command-r-plus-08-2024;Q6_K;104B;0;1;2;7.25;5;finetune
FluffyKaeloky/Luminum-v0.1-123B;Q6_K;123B;0;2;3;7.5;5.25;merge
Qwen/Qwen2.5-72B-Instruct;Q6_K;72B;1;0;2;6.75;1.75;finetune
mistralai/Mistral-Small-Instruct-2409;BF16;22B;0;2;2;6;4;finetune
TheDrummer/Behemoth-123B-v1;Q6_K;123B;0;2;3;7.25;5.5;finetune
nvidia/Llama-3.1-Nemotron-70B-Instruct-HF;Q6_K;70B;0;1.5;3;7.5;4.75;finetune
anthracite-org/magnum-v4-123b;Q6_K;123B;3;2;3;7;4.5;finetune
TheDrummer/Behemoth-123B-v1.1;Q6_K;123B;0;2;3;7.5;5;finetune
Maximum;n/a;n/a;3;2;3;8;6;
|