File size: 8,309 Bytes
e2a4cae f58dacd 538f54e e2a4cae |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 |
Name;Quant;Size;B;C;D;S;P;Type
alpindale/goliath-120b;Q6_K;120B;3;2;1;6;6;merge
NousResearch/Nous-Hermes-Llama2-70b;Q6_K;70B;3;2;0;3.75;3.5;finetune
Sao10K/Euryale-1.3-L2-70B;Q6_K;70B;0;2;0;3;5;finetune+merge
Xwin-LM/Xwin-LM-70B-V0.1;Q6_K;70B;0;1;2;5.5;5.25;finetune
NousResearch/Nous-Capybara-34B;F16;34B;0;0;3;3.5;2.5;finetune
mistralai/Mixtral-8x7B-Instruct-v0.1;F16;8x7B;0;2;0;5;5.5;finetune
Qwen/Qwen-72B-Chat;Q6_K;72B;3;2;0;2.5;2;finetune
upstage/SOLAR-10.7B-Instruct-v1.0;F16;10.7B;1;0;0;0.75;4;finetune
fblgit/una-xaberius-34b-v1beta;F16;34B;0;2;0;1.75;0.25;finetune
fblgit/una-cybertron-7b-v3-OMA;F16;7B;0;0;0;2.5;3;finetune
ChatGPT/12-2023;n/a;n/a;1;n/a;0;8;n/a;finetune
elinas/chronos-70b-v2;Q6_K;70B;0;0;0;3;2.25;finetune
migtissera/SynthIA-70B-v1.5;Q6_K;70B;0;2;0;2.5;2.25;finetune
jondurbin/spicyboros-70b-2.2;Q6_K;70B;3;2;1;6.25;4.5;finetune
Brillibits/Instruct_Llama70B_Dolly15k;Q6_K;70B;3;0;0;2.25;0;finetune
DiscoResearch/DiscoLM-70b;Q6_K;70B;3;2;0;2.75;3.25;finetune
upstage/SOLAR-0-70b-16bit;Q6_K;70B;0;2;1.5;1.5;3.25;finetune
augtoma/qCammel-70-x;Q6_K;70B;0;2;0;5.5;1.25;finetune
garage-bAInd/Platypus2-70B;Q6_K;70B;3;2;0;1.5;1;finetune
jarradh/llama2_70b_chat_uncensored;Q6_K;70B;3;2;0;3.5;2.25;finetune
KaeriJenti/kaori-70b-v1;Q6_K;70B;3;1;0;3;2;finetune
NousResearch/Nous-Puffin-70B;Q6_K;70B;3;2;0;1.75;0;finetune
Sao10K/WinterGoddess-1.4x-70B-L2;Q6_K;70B;2;1.5;3;2.75;5.5;finetune+merge
lizpreciatior/lzlv_70b_fp16_hf;Q6_K;70B;3;2;0;5.75;4.5;merge
Doctor-Shotgun/mythospice-70b;Q6_K;70B;3;1;0;5.25;0.25;merge
tiiuae/falcon-180B-chat;Q4_K_M;180B;3;0;0;5.25;5.5;finetune
nsfwthrowitaway69/Venus-120b-v1.0;Q6_K;120B;3;2;0;3.5;4.5;merge
deepseek-ai/deepseek-llm-67b-chat;Q6_K;67B;3;2;0;3.5;1;finetune
allenai/tulu-2-dpo-70b;Q6_K;70B;0;0;0;4;3;finetune
epfl-llm/meditron-70b;Q6_K;70B;0;2;0;1.25;0;finetune
meta-llama/Llama-2-70b-hf;Q6_K;70B;0;2;0.5;1.25;0;base
ChuckMcSneed/Dicephal-123B;Q6_K;123B;0;0;1;2.25;2.25;base+merge
Yukang/LongAlpaca-70B;Q6_K;70B;0;2;0;5;0.25;finetune
Yukang/Llama-2-70b-longlora-32k;Q6_K;70B;1;2;0;0.25;0;finetune
Qwen/Qwen-72B;Q6_K;72B;0;0;0;1;1.5;base
Yukang/LongAlpaca-70B-lora;Q6_K;70B;3;0;0;1;0;finetune
ChuckMcSneed/Dicephal-123B+longlora;Q6_K;123B;1;2;1;1;2.25;merge
Xwin-LM/Xwin-LM-70B-V0.1+LongAlpaca-lora;Q6_K;70B;1;1;0;2;0.25;merge
Xwin-LM/Xwin-LM-70B-V0.1+longlora;Q6_K;70B;0;1;3;2.75;0.5;merge
Xwin-LM/Xwin-LM-70B-V0.1+chat-longlora;Q6_K;70B;1.5;0;0;3.25;1.25;merge
grimulkan/aurelian-alpha0.1-70b-rope8-32K-fp16;Q6_K;70B;0;1;0;1.25;2;finetune
ChuckMcSneed/DoubleGold-v0.1-123b-32k;Q6_K;123B;1;2;0;4.5;2.75;merge
Doctor-Shotgun/Mixtral-8x7B-Instruct-v0.1-LimaRP-ZLoss;F16;8x7B;0;2;0;4.75;4.75;finetune
ChuckMcSneed/WinterGoliath-123b;Q6_K;123B;3;2;2;5.5;6;merge
cognitivecomputations/dolphin-2.2-70b;Q6_K;70B;0;1;1;4.5;4.5;finetune
cognitivecomputations/MegaDolphin-120b;Q6_K;120B;0;1;1;5.75;5.25;merge
ChuckMcSneed/PMaxxxer-v1-70b;Q6_K;70B;3;1;1;6.75;4.75;merge
ChuckMcSneed/SMaxxxer-v1-70b;Q6_K;70B;2;1;0;7.25;4.25;merge
ChuckMcSneed/BenchmaxxxerSP-v1-123b(private);Q6_K;123B;1.5;2;1;6.75;5.25;merge
ChuckMcSneed/BenchmaxxxerPS-v1-123b;Q6_K;123B;3;2;1;7.25;5.25;merge
ChuckMcSneed/BenchmaxxxerMOE-v1-123b(private);Q6_K;2x70B;2;1;3;7.25;5;merge
ChuckMcSneed/BenchmaxxxerSS-v1-123b(private);Q6_K;123B;1.5;2;0.5;6.5;5.5;merge
grimulkan/aurelian-v0.5-70b-rope8-32K-fp16;Q6_K;70B;1;1;0;2.5;2.25;finetune
ChuckMcSneed/DoubleGold-v0.5-123b-32k;Q6_K;123B;1;1;2;3.25;1.5;merge
grimulkan/lzlv-longLORA-70b-rope8-32k-fp16;Q6_K;70B;3;2;0;3.5;3.75;merge
grimulkan/Goliath-longLORA-120b-rope8-32k-fp16;Q6_K;120B;0.5;1.5;1;3.75;4.5;merge
sophosympatheia/Aurora-Nights-70B-v1.0;Q6_K;70B;2.5;2;0;7.25;3.5;merge
sophosympatheia/Aurora-Nights-103B-v1.0;Q6_K;103B;3;2;0;7.25;4.25;merge
XWIN-32k-experimental(equivalent to grimulkan/Xwin-longLORA-70b-rope8-32k-fp16?);Q6_K;70B;0;1.5;1;3.5;3.75;merge
deepnight-research/Saily_220B;Q3_K_L;208B;0;2;1;2.75;1.75;merge
deepnight-research/saily_100b;Q6_K;118B;0;0;0;4.5;5.25;merge
sophosympatheia/Midnight-Rose-70B-v1.0;Q6_K;70B;0;0;0;4;5;merge
abacusai/Smaug-34B-v0.1;F16;34B;0;2;0;1.25;2.5;finetune
ChuckMcSneed/WinterGoddess-1.4x-70b-32k;Q6_K;70B;2.5;2;0;1.5;2.25;merge
ChuckMcSneed/WinterGoliath-123b-32k;Q6_K;123B;3;2;1;3.75;3.75;merge
alpindale/miquella-120b(old);Q5_K_M;120B;0;0;0;3.25;0.25;merge
miqudev/miqu-1-70b;Q5_K_M;70B;3;2;0;6.25;3.75;finetune
ICBU-NPU/FashionGPT-70B-V1.1;Q6_K;70B;0;1.5;0;1.75;4;finetune
ibivibiv/strix-rufipes-70b;Q6_K;70B;0;2;0;1;3.25;finetune
Chat-Error/fiction.live-Kimiko-V2-70B;Q6_K;70B;0;1.5;0;1;2.25;finetune
MayaPH/GodziLLa2-70B;Q6_K;70B;1.5;0;1;1.75;4.75;finetune
WizardLM/WizardLM-70B-V1.0;Q6_K;70B;0;1;0;5.5;5.5;finetune
Mikael110/llama-2-70b-guanaco-qlora;Q6_K;70B;0;2;0;4.75;5;finetune
ChuckMcSneed/Gembo-v1-70b;Q6_K;70B;2.5;1.5;3;7.5;5.25;merge
Qwen/Qwen1.5-72B-Chat;Q5_K_M;72B;0;0;0;6;4.5;finetune
abacusai/Smaug-72B-v0.1(Alpaca format);Q5_K_S;72B;0.5;0.5;0.5;0.75;0.5;finetune
abacusai/Smaug-72B-v0.1(llama chat format);Q6_K;72B;0;0;0;0.5;2.5;finetune
ShinojiResearch/Senku-70B-Full;Q6_K;70B;0;1.5;3;3.75;3.75;finetune
Undi95/Miqu-70B-Alpaca-DPO;Q6_K;70B;1.5;1;0;6;4.25;finetune
TeeZee/Kyllene-34B-v1.1;F16;34B;0;2;0;4;2.75;merge
cloudyu/Mixtral_34Bx2_MoE_60B;Q8_0;2x34B;0;2;0;2.25;2;merge
TomGrc/FusionNet_7Bx2_MoE_v0.1;F16;2X7B;0;0;1;3.75;2.75;finetune
ChuckMcSneed/Gembo-v1.1-70b;Q6_K;70B;2.5;1.5;3;6.75;5.25;merge
miqu-123b(personal test merge);Q5_K_M;123B;2;0;1;7.75;4.5;merge
wolfram/miqu-1-120b;Q5_K_M;120B;2;0;0;8;4.25;merge
berkeley-nest/Starling-LM-7B-alpha;F16;7B;1.5;0.5;0;2.25;2.5;finetune
wolfram/miquliz-120b-v2.0;Q5_K_M;120B;1;2;1;7.25;5;merge
sophosympatheia/Midnight-Rose-70B-v2.0.3;Q6_K;70B;2.5;1.5;0;6.75;4;merge
ValiantLabs/ShiningValiant;Q6_K;70B;2.5;1.5;0;1.5;1.75;finetune
Sao10K/Euryale-1.3-L2-70B+xwin-lora;Q6_K;70B;2;2;1;5.5;5.5;merge
Xwin-LM/Xwin-LM-70B-V0.1+euryale-lora;Q6_K;70B;3;2;2;6;5;merge
ChuckMcSneed/Premerge-XE-EX-123B(private);Q6_K;123B;2;2;2.5;6.75;5.5;merge
ChuckMcSneed/Premerge-EX-XE-123B(private);Q6_K;123B;2;2;2;5.75;6;merge
ChuckMcSneed/Premerge-XE-XE-123B;Q6_K;123B;3;2;2.5;7.25;5.25;merge
ChuckMcSneed/Premerge-EX-EX-123B;Q6_K;123B;2;2;1.5;7.25;6;merge
MaziyarPanahi/WizardLM-Math-70B-v0.1;Q6_K;70B;0;2;0;3.75;3;merge
NousResearch/Nous-Hermes-2-Llama-2-70B;Q6_K;70B;0;2;1;3.5;1.5;finetune
NeverSleep/MiquMaid-v2-70B-DPO;Q6_K;70B;3;1;0;2.75;0.5;finetune
senseable/WestLake-7B-v2;F16;7B;0;1;1;4;3.75;finetune
CausalLM/34b-beta;F16;34B;0;2;3;2.75;3.75;finetune
budecosystem/genz-70b;Q6_K;70B;0;1.5;0;2.25;4.25;finetune
CohereForAI/c4ai-command-r-v01;F16;35B;0;0;2;7;4;finetune
Nexusflow/Starling-LM-7B-beta;F16;7B;0.5;0;0;4;1.5;finetune
wolfram/miqu-1-103b;Q5_K_M;103B;2.5;0;1;7.25;3;merge
crestf411/daybreak-miqu-1-70b-v1.0-hf;Q6_K;70B;3;2;3;6.25;4.5;finetune
ChuckMcSneed/ArcaneEntanglement-model64-70b;Q6_K;70B;3;2;1;7.25;6;merge
migtissera/Tess-70B-v1.6;Q6_K;70B;0;1;0;5.25;2.25;finetune
SF-Foundation/EinBase-70B-v0.1-full;Q6_K;70B;3;2;0;7;2.5;finetune
CohereForAI/c4ai-command-r-plus;Q6_K;104B;0;0;3;7;4.5;finetune
mistral-community/Mixtral-8x22B-v0.1;Q6_K;8x22B;3;1;0;0.75;0;base
alpindale/WizardLM-2-8x22B;Q6_K;8x22B;3;1;0;6.75;4.75;finetune
openbmb/Eurux-8x22b-nca;Q6_K;8x22B;3;2;3;4.5;4;finetune
mistralai/Mixtral-8x22B-Instruct-v0.1;Q6_K;8x22B;1;1;0;7.5;4.5;finetune
openbmb/Eurux-8x22b-kto;Q6_K;8x22B;3;2;0;4.75;5.25;finetune
miqu-120b-attenuated(experimental merge);Q5_K_M;120B;1;0;0;7.25;4.5;merge
goliath-120b-attenuated(experimental merge);Q6_K;120B;1;0;0;4;3;merge
meta-llama/Meta-Llama-3-70B-Instruct;Q6_K;70B;3;0;0;7.75;6;finetune
meta-llama/Meta-Llama-3-8B-Instruct;F16;8B;0;2;1;6;4.75;finetune
databricks/dbrx-instruct;Q6_K;16x12B;0;0;0;6.5;4.5;finetune
databricks/dbrx-base;Q6_K;16x12B;1;2;0;1.25;0;base
Qwen/Qwen1.5-110B-Chat;Q6_K;110B;0;0;0;7.5;4.5;finetune
meta-llama/Meta-Llama-3-70B;Q6_K;70B;2.5;1.5;0;1.25;0.5;base
jukofyork/Dark-Miqu-70B;Q6_K;70B;0;2;0;6.25;4.5;merge
llama3-123b-selfmerge;Q6_K;123B;3;0;0;1.5;0.25;base+merge
cognitivecomputations/dolphin-2.9.1-qwen-110b;Q6_K;110B;0;1;3;3.75;4.25;finetune
jondurbin/airoboros-dpo-110b-3.3;Q6_K;110B;0;0;2.5;5.25;5.25;finetune
jondurbin/airoboros-110b-3.3;Q6_K;110B;0;1.5;0;4.25;5.75;finetune
Maximum;n/a;n/a;3;2;3;8;6;
|