Commit
•
e2a4cae
1
Parent(s):
467bdbe
Upload 2 files
Browse files- LLM-test.csv +126 -123
- llm-results.png +2 -2
LLM-test.csv
CHANGED
@@ -1,123 +1,126 @@
|
|
1 |
-
Name;Quant;Size;B;C;D;S;P;Type
|
2 |
-
alpindale/goliath-120b;Q6_K;120B;3;2;1;6;6;merge
|
3 |
-
NousResearch/Nous-Hermes-Llama2-70b;Q6_K;70B;3;2;0;3.75;3.5;finetune
|
4 |
-
Sao10K/Euryale-1.3-L2-70B;Q6_K;70B;0;2;0;3;5;finetune+merge
|
5 |
-
Xwin-LM/Xwin-LM-70B-V0.1;Q6_K;70B;0;1;2;5.5;5.25;finetune
|
6 |
-
NousResearch/Nous-Capybara-34B;F16;34B;0;0;3;3.5;2.5;finetune
|
7 |
-
mistralai/Mixtral-8x7B-Instruct-v0.1;F16;8x7B;0;2;0;5;5.5;finetune
|
8 |
-
Qwen/Qwen-72B-Chat;Q6_K;72B;3;2;0;2.5;2;finetune
|
9 |
-
upstage/SOLAR-10.7B-Instruct-v1.0;F16;10.7B;1;0;0;0.75;4;finetune
|
10 |
-
fblgit/una-xaberius-34b-v1beta;F16;34B;0;2;0;1.75;0.25;finetune
|
11 |
-
fblgit/una-cybertron-7b-v3-OMA;F16;7B;0;0;0;2.5;3;finetune
|
12 |
-
ChatGPT/12-2023;n/a;n/a;1;n/a;0;8;n/a;finetune
|
13 |
-
elinas/chronos-70b-v2;Q6_K;70B;0;0;0;3;2.25;finetune
|
14 |
-
migtissera/SynthIA-70B-v1.5;Q6_K;70B;0;2;0;2.5;2.25;finetune
|
15 |
-
jondurbin/spicyboros-70b-2.2;Q6_K;70B;3;2;1;6.25;4.5;finetune
|
16 |
-
Brillibits/Instruct_Llama70B_Dolly15k;Q6_K;70B;3;0;0;2.25;0;finetune
|
17 |
-
DiscoResearch/DiscoLM-70b;Q6_K;70B;3;2;0;2.75;3.25;finetune
|
18 |
-
upstage/SOLAR-0-70b-16bit;Q6_K;70B;0;2;1.5;1.5;3.25;finetune
|
19 |
-
augtoma/qCammel-70-x;Q6_K;70B;0;2;0;5.5;1.25;finetune
|
20 |
-
garage-bAInd/Platypus2-70B;Q6_K;70B;3;2;0;1.5;1;finetune
|
21 |
-
jarradh/llama2_70b_chat_uncensored;Q6_K;70B;3;2;0;3.5;2.25;finetune
|
22 |
-
KaeriJenti/kaori-70b-v1;Q6_K;70B;3;1;0;3;2;finetune
|
23 |
-
NousResearch/Nous-Puffin-70B;Q6_K;70B;3;2;0;1.75;0;finetune
|
24 |
-
Sao10K/WinterGoddess-1.4x-70B-L2;Q6_K;70B;2;1.5;3;2.75;5.5;finetune+merge
|
25 |
-
lizpreciatior/lzlv_70b_fp16_hf;Q6_K;70B;3;2;0;5.75;4.5;merge
|
26 |
-
Doctor-Shotgun/mythospice-70b;Q6_K;70B;3;1;0;5.25;0.25;merge
|
27 |
-
tiiuae/falcon-180B-chat;Q4_K_M;180B;3;0;0;5.25;5.5;finetune
|
28 |
-
nsfwthrowitaway69/Venus-120b-v1.0;Q6_K;120B;3;2;0;3.5;4.5;merge
|
29 |
-
deepseek-ai/deepseek-llm-67b-chat;Q6_K;67B;3;2;0;3.5;1;finetune
|
30 |
-
allenai/tulu-2-dpo-70b;Q6_K;70B;0;0;0;4;3;finetune
|
31 |
-
epfl-llm/meditron-70b;Q6_K;70B;0;2;0;1.25;0;finetune
|
32 |
-
meta-llama/Llama-2-70b-hf;Q6_K;70B;0;2;0.5;1.25;0;base
|
33 |
-
ChuckMcSneed/Dicephal-123B;Q6_K;123B;0;0;1;2.25;2.25;base+merge
|
34 |
-
Yukang/LongAlpaca-70B;Q6_K;70B;0;2;0;5;0.25;finetune
|
35 |
-
Yukang/Llama-2-70b-longlora-32k;Q6_K;70B;1;2;0;0.25;0;finetune
|
36 |
-
Qwen/Qwen-72B;Q6_K;72B;0;0;0;1;1.5;base
|
37 |
-
Yukang/LongAlpaca-70B-lora;Q6_K;70B;3;0;0;1;0;finetune
|
38 |
-
ChuckMcSneed/Dicephal-123B+longlora;Q6_K;123B;1;2;1;1;2.25;merge
|
39 |
-
Xwin-LM/Xwin-LM-70B-V0.1+LongAlpaca-lora;Q6_K;70B;1;1;0;2;0.25;merge
|
40 |
-
Xwin-LM/Xwin-LM-70B-V0.1+longlora;Q6_K;70B;0;1;3;2.75;0.5;merge
|
41 |
-
Xwin-LM/Xwin-LM-70B-V0.1+chat-longlora;Q6_K;70B;1.5;0;0;3.25;1.25;merge
|
42 |
-
grimulkan/aurelian-alpha0.1-70b-rope8-32K-fp16;Q6_K;70B;0;1;0;1.25;2;finetune
|
43 |
-
ChuckMcSneed/DoubleGold-v0.1-123b-32k;Q6_K;123B;1;2;0;4.5;2.75;merge
|
44 |
-
Doctor-Shotgun/Mixtral-8x7B-Instruct-v0.1-LimaRP-ZLoss;F16;8x7B;0;2;0;4.75;4.75;finetune
|
45 |
-
ChuckMcSneed/WinterGoliath-123b;Q6_K;123B;3;2;2;5.5;6;merge
|
46 |
-
cognitivecomputations/dolphin-2.2-70b;Q6_K;70B;0;1;1;4.5;4.5;finetune
|
47 |
-
cognitivecomputations/MegaDolphin-120b;Q6_K;120B;0;1;1;5.75;5.25;merge
|
48 |
-
ChuckMcSneed/PMaxxxer-v1-70b;Q6_K;70B;3;1;1;6.75;4.75;merge
|
49 |
-
ChuckMcSneed/SMaxxxer-v1-70b;Q6_K;70B;2;1;0;7.25;4.25;merge
|
50 |
-
ChuckMcSneed/BenchmaxxxerSP-v1-123b(private);Q6_K;123B;1.5;2;1;6.75;5.25;merge
|
51 |
-
ChuckMcSneed/BenchmaxxxerPS-v1-123b;Q6_K;123B;3;2;1;7.25;5.25;merge
|
52 |
-
ChuckMcSneed/BenchmaxxxerMOE-v1-123b(private);Q6_K;2x70B;2;1;3;7.25;5;merge
|
53 |
-
ChuckMcSneed/BenchmaxxxerSS-v1-123b(private);Q6_K;123B;1.5;2;0.5;6.5;5.5;merge
|
54 |
-
grimulkan/aurelian-v0.5-70b-rope8-32K-fp16;Q6_K;70B;1;1;0;2.5;2.25;finetune
|
55 |
-
ChuckMcSneed/DoubleGold-v0.5-123b-32k;Q6_K;123B;1;1;2;3.25;1.5;merge
|
56 |
-
grimulkan/lzlv-longLORA-70b-rope8-32k-fp16;Q6_K;70B;3;2;0;3.5;3.75;merge
|
57 |
-
grimulkan/Goliath-longLORA-120b-rope8-32k-fp16;Q6_K;120B;0.5;1.5;1;3.75;4.5;merge
|
58 |
-
sophosympatheia/Aurora-Nights-70B-v1.0;Q6_K;70B;2.5;2;0;7.25;3.5;merge
|
59 |
-
sophosympatheia/Aurora-Nights-103B-v1.0;Q6_K;103B;3;2;0;7.25;4.25;merge
|
60 |
-
XWIN-32k-experimental(equivalent to grimulkan/Xwin-longLORA-70b-rope8-32k-fp16?);Q6_K;70B;0;1.5;1;3.5;3.75;merge
|
61 |
-
deepnight-research/Saily_220B;Q3_K_L;208B;0;2;1;2.75;1.75;merge
|
62 |
-
deepnight-research/saily_100b;Q6_K;118B;0;0;0;4.5;5.25;merge
|
63 |
-
sophosympatheia/Midnight-Rose-70B-v1.0;Q6_K;70B;0;0;0;4;5;merge
|
64 |
-
abacusai/Smaug-34B-v0.1;F16;34B;0;2;0;1.25;2.5;finetune
|
65 |
-
ChuckMcSneed/WinterGoddess-1.4x-70b-32k;Q6_K;70B;2.5;2;0;1.5;2.25;merge
|
66 |
-
ChuckMcSneed/WinterGoliath-123b-32k;Q6_K;123B;3;2;1;3.75;3.75;merge
|
67 |
-
alpindale/miquella-120b(old);Q5_K_M;120B;0;0;0;3.25;0.25;merge
|
68 |
-
miqudev/miqu-1-70b;Q5_K_M;70B;3;2;0;6.25;3.75;finetune
|
69 |
-
ICBU-NPU/FashionGPT-70B-V1.1;Q6_K;70B;0;1.5;0;1.75;4;finetune
|
70 |
-
ibivibiv/strix-rufipes-70b;Q6_K;70B;0;2;0;1;3.25;finetune
|
71 |
-
Chat-Error/fiction.live-Kimiko-V2-70B;Q6_K;70B;0;1.5;0;1;2.25;finetune
|
72 |
-
MayaPH/GodziLLa2-70B;Q6_K;70B;1.5;0;1;1.75;4.75;finetune
|
73 |
-
WizardLM/WizardLM-70B-V1.0;Q6_K;70B;0;1;0;5.5;5.5;finetune
|
74 |
-
Mikael110/llama-2-70b-guanaco-qlora;Q6_K;70B;0;2;0;4.75;5;finetune
|
75 |
-
ChuckMcSneed/Gembo-v1-70b;Q6_K;70B;2.5;1.5;3;7.5;5.25;merge
|
76 |
-
Qwen/Qwen1.5-72B-Chat;Q5_K_M;72B;0;0;0;6;4.5;finetune
|
77 |
-
abacusai/Smaug-72B-v0.1(Alpaca format);Q5_K_S;72B;0.5;0.5;0.5;0.75;0.5;finetune
|
78 |
-
abacusai/Smaug-72B-v0.1(llama chat format);Q6_K;72B;0;0;0;0.5;2.5;finetune
|
79 |
-
ShinojiResearch/Senku-70B-Full;Q6_K;70B;0;1.5;3;3.75;3.75;finetune
|
80 |
-
Undi95/Miqu-70B-Alpaca-DPO;Q6_K;70B;1.5;1;0;6;4.25;finetune
|
81 |
-
TeeZee/Kyllene-34B-v1.1;F16;34B;0;2;0;4;2.75;merge
|
82 |
-
cloudyu/Mixtral_34Bx2_MoE_60B;Q8_0;2x34B;0;2;0;2.25;2;merge
|
83 |
-
TomGrc/FusionNet_7Bx2_MoE_v0.1;F16;2X7B;0;0;1;3.75;2.75;finetune
|
84 |
-
ChuckMcSneed/Gembo-v1.1-70b;Q6_K;70B;2.5;1.5;3;6.75;5.25;merge
|
85 |
-
miqu-123b(personal test merge);Q5_K_M;123B;2;0;1;7.75;4.5;merge
|
86 |
-
wolfram/miqu-1-120b;Q5_K_M;120B;2;0;0;8;4.25;merge
|
87 |
-
berkeley-nest/Starling-LM-7B-alpha;F16;7B;1.5;0.5;0;2.25;2.5;finetune
|
88 |
-
wolfram/miquliz-120b-v2.0;Q5_K_M;120B;1;2;1;7.25;5;merge
|
89 |
-
sophosympatheia/Midnight-Rose-70B-v2.0.3;Q6_K;70B;2.5;1.5;0;6.75;4;merge
|
90 |
-
ValiantLabs/ShiningValiant;Q6_K;70B;2.5;1.5;0;1.5;1.75;finetune
|
91 |
-
Sao10K/Euryale-1.3-L2-70B+xwin-lora;Q6_K;70B;2;2;1;5.5;5.5;merge
|
92 |
-
Xwin-LM/Xwin-LM-70B-V0.1+euryale-lora;Q6_K;70B;3;2;2;6;5;merge
|
93 |
-
ChuckMcSneed/Premerge-XE-EX-123B(private);Q6_K;123B;2;2;2.5;6.75;5.5;merge
|
94 |
-
ChuckMcSneed/Premerge-EX-XE-123B(private);Q6_K;123B;2;2;2;5.75;6;merge
|
95 |
-
ChuckMcSneed/Premerge-XE-XE-123B;Q6_K;123B;3;2;2.5;7.25;5.25;merge
|
96 |
-
ChuckMcSneed/Premerge-EX-EX-123B;Q6_K;123B;2;2;1.5;7.25;6;merge
|
97 |
-
MaziyarPanahi/WizardLM-Math-70B-v0.1;Q6_K;70B;0;2;0;3.75;3;merge
|
98 |
-
NousResearch/Nous-Hermes-2-Llama-2-70B;Q6_K;70B;0;2;1;3.5;1.5;finetune
|
99 |
-
NeverSleep/MiquMaid-v2-70B-DPO;Q6_K;70B;3;1;0;2.75;0.5;finetune
|
100 |
-
senseable/WestLake-7B-v2;F16;7B;0;1;1;4;3.75;finetune
|
101 |
-
CausalLM/34b-beta;F16;34B;0;2;3;2.75;3.75;finetune
|
102 |
-
budecosystem/genz-70b;Q6_K;70B;0;1.5;0;2.25;4.25;finetune
|
103 |
-
CohereForAI/c4ai-command-r-v01;F16;35B;0;0;2;7;4;finetune
|
104 |
-
Nexusflow/Starling-LM-7B-beta;F16;7B;0.5;0;0;4;1.5;finetune
|
105 |
-
wolfram/miqu-1-103b;Q5_K_M;103B;2.5;0;1;7.25;3;merge
|
106 |
-
crestf411/daybreak-miqu-1-70b-v1.0-hf;Q6_K;70B;3;2;3;6.25;4.5;finetune
|
107 |
-
ChuckMcSneed/ArcaneEntanglement-model64-70b;Q6_K;70B;3;2;1;7.25;6;merge
|
108 |
-
migtissera/Tess-70B-v1.6;Q6_K;70B;0;1;0;5.25;2.25;finetune
|
109 |
-
SF-Foundation/EinBase-70B-v0.1-full;Q6_K;70B;3;2;0;7;2.5;finetune
|
110 |
-
CohereForAI/c4ai-command-r-plus;Q6_K;104B;0;0;3;7;4.5;finetune
|
111 |
-
mistral-community/Mixtral-8x22B-v0.1;Q6_K;8x22B;3;1;0;0.75;0;base
|
112 |
-
alpindale/WizardLM-2-8x22B;Q6_K;8x22B;3;1;0;6.75;4.75;finetune
|
113 |
-
openbmb/Eurux-8x22b-nca;Q6_K;8x22B;3;2;3;4.5;4;finetune
|
114 |
-
mistralai/Mixtral-8x22B-Instruct-v0.1;Q6_K;8x22B;1;1;0;7.5;4.5;finetune
|
115 |
-
openbmb/Eurux-8x22b-kto;Q6_K;8x22B;3;2;0;4.75;5.25;finetune
|
116 |
-
miqu-120b-attenuated(experimental merge);Q5_K_M;120B;1;0;0;7.25;4.5;merge
|
117 |
-
goliath-120b-attenuated(experimental merge);Q6_K;120B;1;0;0;4;3;merge
|
118 |
-
meta-llama/Meta-Llama-3-70B-Instruct;Q6_K;70B;3;0;0;7.75;6;finetune
|
119 |
-
meta-llama/Meta-Llama-3-8B-Instruct;F16;8B;0;2;1;6;4.75;finetune
|
120 |
-
databricks/dbrx-instruct;Q6_K;16x12B;0;0;0;6.5;4.5;finetune
|
121 |
-
databricks/dbrx-base;Q6_K;16x12B;1;2;0;1.25;0;base
|
122 |
-
Qwen/Qwen1.5-110B-Chat;Q6_K;110B;0;0;0;7.5;4.5;finetune
|
123 |
-
|
|
|
|
|
|
|
|
1 |
+
Name;Quant;Size;B;C;D;S;P;Type
|
2 |
+
alpindale/goliath-120b;Q6_K;120B;3;2;1;6;6;merge
|
3 |
+
NousResearch/Nous-Hermes-Llama2-70b;Q6_K;70B;3;2;0;3.75;3.5;finetune
|
4 |
+
Sao10K/Euryale-1.3-L2-70B;Q6_K;70B;0;2;0;3;5;finetune+merge
|
5 |
+
Xwin-LM/Xwin-LM-70B-V0.1;Q6_K;70B;0;1;2;5.5;5.25;finetune
|
6 |
+
NousResearch/Nous-Capybara-34B;F16;34B;0;0;3;3.5;2.5;finetune
|
7 |
+
mistralai/Mixtral-8x7B-Instruct-v0.1;F16;8x7B;0;2;0;5;5.5;finetune
|
8 |
+
Qwen/Qwen-72B-Chat;Q6_K;72B;3;2;0;2.5;2;finetune
|
9 |
+
upstage/SOLAR-10.7B-Instruct-v1.0;F16;10.7B;1;0;0;0.75;4;finetune
|
10 |
+
fblgit/una-xaberius-34b-v1beta;F16;34B;0;2;0;1.75;0.25;finetune
|
11 |
+
fblgit/una-cybertron-7b-v3-OMA;F16;7B;0;0;0;2.5;3;finetune
|
12 |
+
ChatGPT/12-2023;n/a;n/a;1;n/a;0;8;n/a;finetune
|
13 |
+
elinas/chronos-70b-v2;Q6_K;70B;0;0;0;3;2.25;finetune
|
14 |
+
migtissera/SynthIA-70B-v1.5;Q6_K;70B;0;2;0;2.5;2.25;finetune
|
15 |
+
jondurbin/spicyboros-70b-2.2;Q6_K;70B;3;2;1;6.25;4.5;finetune
|
16 |
+
Brillibits/Instruct_Llama70B_Dolly15k;Q6_K;70B;3;0;0;2.25;0;finetune
|
17 |
+
DiscoResearch/DiscoLM-70b;Q6_K;70B;3;2;0;2.75;3.25;finetune
|
18 |
+
upstage/SOLAR-0-70b-16bit;Q6_K;70B;0;2;1.5;1.5;3.25;finetune
|
19 |
+
augtoma/qCammel-70-x;Q6_K;70B;0;2;0;5.5;1.25;finetune
|
20 |
+
garage-bAInd/Platypus2-70B;Q6_K;70B;3;2;0;1.5;1;finetune
|
21 |
+
jarradh/llama2_70b_chat_uncensored;Q6_K;70B;3;2;0;3.5;2.25;finetune
|
22 |
+
KaeriJenti/kaori-70b-v1;Q6_K;70B;3;1;0;3;2;finetune
|
23 |
+
NousResearch/Nous-Puffin-70B;Q6_K;70B;3;2;0;1.75;0;finetune
|
24 |
+
Sao10K/WinterGoddess-1.4x-70B-L2;Q6_K;70B;2;1.5;3;2.75;5.5;finetune+merge
|
25 |
+
lizpreciatior/lzlv_70b_fp16_hf;Q6_K;70B;3;2;0;5.75;4.5;merge
|
26 |
+
Doctor-Shotgun/mythospice-70b;Q6_K;70B;3;1;0;5.25;0.25;merge
|
27 |
+
tiiuae/falcon-180B-chat;Q4_K_M;180B;3;0;0;5.25;5.5;finetune
|
28 |
+
nsfwthrowitaway69/Venus-120b-v1.0;Q6_K;120B;3;2;0;3.5;4.5;merge
|
29 |
+
deepseek-ai/deepseek-llm-67b-chat;Q6_K;67B;3;2;0;3.5;1;finetune
|
30 |
+
allenai/tulu-2-dpo-70b;Q6_K;70B;0;0;0;4;3;finetune
|
31 |
+
epfl-llm/meditron-70b;Q6_K;70B;0;2;0;1.25;0;finetune
|
32 |
+
meta-llama/Llama-2-70b-hf;Q6_K;70B;0;2;0.5;1.25;0;base
|
33 |
+
ChuckMcSneed/Dicephal-123B;Q6_K;123B;0;0;1;2.25;2.25;base+merge
|
34 |
+
Yukang/LongAlpaca-70B;Q6_K;70B;0;2;0;5;0.25;finetune
|
35 |
+
Yukang/Llama-2-70b-longlora-32k;Q6_K;70B;1;2;0;0.25;0;finetune
|
36 |
+
Qwen/Qwen-72B;Q6_K;72B;0;0;0;1;1.5;base
|
37 |
+
Yukang/LongAlpaca-70B-lora;Q6_K;70B;3;0;0;1;0;finetune
|
38 |
+
ChuckMcSneed/Dicephal-123B+longlora;Q6_K;123B;1;2;1;1;2.25;merge
|
39 |
+
Xwin-LM/Xwin-LM-70B-V0.1+LongAlpaca-lora;Q6_K;70B;1;1;0;2;0.25;merge
|
40 |
+
Xwin-LM/Xwin-LM-70B-V0.1+longlora;Q6_K;70B;0;1;3;2.75;0.5;merge
|
41 |
+
Xwin-LM/Xwin-LM-70B-V0.1+chat-longlora;Q6_K;70B;1.5;0;0;3.25;1.25;merge
|
42 |
+
grimulkan/aurelian-alpha0.1-70b-rope8-32K-fp16;Q6_K;70B;0;1;0;1.25;2;finetune
|
43 |
+
ChuckMcSneed/DoubleGold-v0.1-123b-32k;Q6_K;123B;1;2;0;4.5;2.75;merge
|
44 |
+
Doctor-Shotgun/Mixtral-8x7B-Instruct-v0.1-LimaRP-ZLoss;F16;8x7B;0;2;0;4.75;4.75;finetune
|
45 |
+
ChuckMcSneed/WinterGoliath-123b;Q6_K;123B;3;2;2;5.5;6;merge
|
46 |
+
cognitivecomputations/dolphin-2.2-70b;Q6_K;70B;0;1;1;4.5;4.5;finetune
|
47 |
+
cognitivecomputations/MegaDolphin-120b;Q6_K;120B;0;1;1;5.75;5.25;merge
|
48 |
+
ChuckMcSneed/PMaxxxer-v1-70b;Q6_K;70B;3;1;1;6.75;4.75;merge
|
49 |
+
ChuckMcSneed/SMaxxxer-v1-70b;Q6_K;70B;2;1;0;7.25;4.25;merge
|
50 |
+
ChuckMcSneed/BenchmaxxxerSP-v1-123b(private);Q6_K;123B;1.5;2;1;6.75;5.25;merge
|
51 |
+
ChuckMcSneed/BenchmaxxxerPS-v1-123b;Q6_K;123B;3;2;1;7.25;5.25;merge
|
52 |
+
ChuckMcSneed/BenchmaxxxerMOE-v1-123b(private);Q6_K;2x70B;2;1;3;7.25;5;merge
|
53 |
+
ChuckMcSneed/BenchmaxxxerSS-v1-123b(private);Q6_K;123B;1.5;2;0.5;6.5;5.5;merge
|
54 |
+
grimulkan/aurelian-v0.5-70b-rope8-32K-fp16;Q6_K;70B;1;1;0;2.5;2.25;finetune
|
55 |
+
ChuckMcSneed/DoubleGold-v0.5-123b-32k;Q6_K;123B;1;1;2;3.25;1.5;merge
|
56 |
+
grimulkan/lzlv-longLORA-70b-rope8-32k-fp16;Q6_K;70B;3;2;0;3.5;3.75;merge
|
57 |
+
grimulkan/Goliath-longLORA-120b-rope8-32k-fp16;Q6_K;120B;0.5;1.5;1;3.75;4.5;merge
|
58 |
+
sophosympatheia/Aurora-Nights-70B-v1.0;Q6_K;70B;2.5;2;0;7.25;3.5;merge
|
59 |
+
sophosympatheia/Aurora-Nights-103B-v1.0;Q6_K;103B;3;2;0;7.25;4.25;merge
|
60 |
+
XWIN-32k-experimental(equivalent to grimulkan/Xwin-longLORA-70b-rope8-32k-fp16?);Q6_K;70B;0;1.5;1;3.5;3.75;merge
|
61 |
+
deepnight-research/Saily_220B;Q3_K_L;208B;0;2;1;2.75;1.75;merge
|
62 |
+
deepnight-research/saily_100b;Q6_K;118B;0;0;0;4.5;5.25;merge
|
63 |
+
sophosympatheia/Midnight-Rose-70B-v1.0;Q6_K;70B;0;0;0;4;5;merge
|
64 |
+
abacusai/Smaug-34B-v0.1;F16;34B;0;2;0;1.25;2.5;finetune
|
65 |
+
ChuckMcSneed/WinterGoddess-1.4x-70b-32k;Q6_K;70B;2.5;2;0;1.5;2.25;merge
|
66 |
+
ChuckMcSneed/WinterGoliath-123b-32k;Q6_K;123B;3;2;1;3.75;3.75;merge
|
67 |
+
alpindale/miquella-120b(old);Q5_K_M;120B;0;0;0;3.25;0.25;merge
|
68 |
+
miqudev/miqu-1-70b;Q5_K_M;70B;3;2;0;6.25;3.75;finetune
|
69 |
+
ICBU-NPU/FashionGPT-70B-V1.1;Q6_K;70B;0;1.5;0;1.75;4;finetune
|
70 |
+
ibivibiv/strix-rufipes-70b;Q6_K;70B;0;2;0;1;3.25;finetune
|
71 |
+
Chat-Error/fiction.live-Kimiko-V2-70B;Q6_K;70B;0;1.5;0;1;2.25;finetune
|
72 |
+
MayaPH/GodziLLa2-70B;Q6_K;70B;1.5;0;1;1.75;4.75;finetune
|
73 |
+
WizardLM/WizardLM-70B-V1.0;Q6_K;70B;0;1;0;5.5;5.5;finetune
|
74 |
+
Mikael110/llama-2-70b-guanaco-qlora;Q6_K;70B;0;2;0;4.75;5;finetune
|
75 |
+
ChuckMcSneed/Gembo-v1-70b;Q6_K;70B;2.5;1.5;3;7.5;5.25;merge
|
76 |
+
Qwen/Qwen1.5-72B-Chat;Q5_K_M;72B;0;0;0;6;4.5;finetune
|
77 |
+
abacusai/Smaug-72B-v0.1(Alpaca format);Q5_K_S;72B;0.5;0.5;0.5;0.75;0.5;finetune
|
78 |
+
abacusai/Smaug-72B-v0.1(llama chat format);Q6_K;72B;0;0;0;0.5;2.5;finetune
|
79 |
+
ShinojiResearch/Senku-70B-Full;Q6_K;70B;0;1.5;3;3.75;3.75;finetune
|
80 |
+
Undi95/Miqu-70B-Alpaca-DPO;Q6_K;70B;1.5;1;0;6;4.25;finetune
|
81 |
+
TeeZee/Kyllene-34B-v1.1;F16;34B;0;2;0;4;2.75;merge
|
82 |
+
cloudyu/Mixtral_34Bx2_MoE_60B;Q8_0;2x34B;0;2;0;2.25;2;merge
|
83 |
+
TomGrc/FusionNet_7Bx2_MoE_v0.1;F16;2X7B;0;0;1;3.75;2.75;finetune
|
84 |
+
ChuckMcSneed/Gembo-v1.1-70b;Q6_K;70B;2.5;1.5;3;6.75;5.25;merge
|
85 |
+
miqu-123b(personal test merge);Q5_K_M;123B;2;0;1;7.75;4.5;merge
|
86 |
+
wolfram/miqu-1-120b;Q5_K_M;120B;2;0;0;8;4.25;merge
|
87 |
+
berkeley-nest/Starling-LM-7B-alpha;F16;7B;1.5;0.5;0;2.25;2.5;finetune
|
88 |
+
wolfram/miquliz-120b-v2.0;Q5_K_M;120B;1;2;1;7.25;5;merge
|
89 |
+
sophosympatheia/Midnight-Rose-70B-v2.0.3;Q6_K;70B;2.5;1.5;0;6.75;4;merge
|
90 |
+
ValiantLabs/ShiningValiant;Q6_K;70B;2.5;1.5;0;1.5;1.75;finetune
|
91 |
+
Sao10K/Euryale-1.3-L2-70B+xwin-lora;Q6_K;70B;2;2;1;5.5;5.5;merge
|
92 |
+
Xwin-LM/Xwin-LM-70B-V0.1+euryale-lora;Q6_K;70B;3;2;2;6;5;merge
|
93 |
+
ChuckMcSneed/Premerge-XE-EX-123B(private);Q6_K;123B;2;2;2.5;6.75;5.5;merge
|
94 |
+
ChuckMcSneed/Premerge-EX-XE-123B(private);Q6_K;123B;2;2;2;5.75;6;merge
|
95 |
+
ChuckMcSneed/Premerge-XE-XE-123B;Q6_K;123B;3;2;2.5;7.25;5.25;merge
|
96 |
+
ChuckMcSneed/Premerge-EX-EX-123B;Q6_K;123B;2;2;1.5;7.25;6;merge
|
97 |
+
MaziyarPanahi/WizardLM-Math-70B-v0.1;Q6_K;70B;0;2;0;3.75;3;merge
|
98 |
+
NousResearch/Nous-Hermes-2-Llama-2-70B;Q6_K;70B;0;2;1;3.5;1.5;finetune
|
99 |
+
NeverSleep/MiquMaid-v2-70B-DPO;Q6_K;70B;3;1;0;2.75;0.5;finetune
|
100 |
+
senseable/WestLake-7B-v2;F16;7B;0;1;1;4;3.75;finetune
|
101 |
+
CausalLM/34b-beta;F16;34B;0;2;3;2.75;3.75;finetune
|
102 |
+
budecosystem/genz-70b;Q6_K;70B;0;1.5;0;2.25;4.25;finetune
|
103 |
+
CohereForAI/c4ai-command-r-v01;F16;35B;0;0;2;7;4;finetune
|
104 |
+
Nexusflow/Starling-LM-7B-beta;F16;7B;0.5;0;0;4;1.5;finetune
|
105 |
+
wolfram/miqu-1-103b;Q5_K_M;103B;2.5;0;1;7.25;3;merge
|
106 |
+
crestf411/daybreak-miqu-1-70b-v1.0-hf;Q6_K;70B;3;2;3;6.25;4.5;finetune
|
107 |
+
ChuckMcSneed/ArcaneEntanglement-model64-70b;Q6_K;70B;3;2;1;7.25;6;merge
|
108 |
+
migtissera/Tess-70B-v1.6;Q6_K;70B;0;1;0;5.25;2.25;finetune
|
109 |
+
SF-Foundation/EinBase-70B-v0.1-full;Q6_K;70B;3;2;0;7;2.5;finetune
|
110 |
+
CohereForAI/c4ai-command-r-plus;Q6_K;104B;0;0;3;7;4.5;finetune
|
111 |
+
mistral-community/Mixtral-8x22B-v0.1;Q6_K;8x22B;3;1;0;0.75;0;base
|
112 |
+
alpindale/WizardLM-2-8x22B;Q6_K;8x22B;3;1;0;6.75;4.75;finetune
|
113 |
+
openbmb/Eurux-8x22b-nca;Q6_K;8x22B;3;2;3;4.5;4;finetune
|
114 |
+
mistralai/Mixtral-8x22B-Instruct-v0.1;Q6_K;8x22B;1;1;0;7.5;4.5;finetune
|
115 |
+
openbmb/Eurux-8x22b-kto;Q6_K;8x22B;3;2;0;4.75;5.25;finetune
|
116 |
+
miqu-120b-attenuated(experimental merge);Q5_K_M;120B;1;0;0;7.25;4.5;merge
|
117 |
+
goliath-120b-attenuated(experimental merge);Q6_K;120B;1;0;0;4;3;merge
|
118 |
+
meta-llama/Meta-Llama-3-70B-Instruct;Q6_K;70B;3;0;0;7.75;6;finetune
|
119 |
+
meta-llama/Meta-Llama-3-8B-Instruct;F16;8B;0;2;1;6;4.75;finetune
|
120 |
+
databricks/dbrx-instruct;Q6_K;16x12B;0;0;0;6.5;4.5;finetune
|
121 |
+
databricks/dbrx-base;Q6_K;16x12B;1;2;0;1.25;0;base
|
122 |
+
Qwen/Qwen1.5-110B-Chat;Q6_K;110B;0;0;0;7.5;4.5;finetune
|
123 |
+
meta-llama/Meta-Llama-3-70B;Q6_K;70B;2.5;1.5;0;1.25;0.5;base
|
124 |
+
jukofyork/Dark-Miqu-70B;Q6_K;70B;0;2;0;6.25;4.5;merge
|
125 |
+
llama3-123b-selfmerge;Q6_K;123B;3;0;0;1.5;0.25;base+merge
|
126 |
+
Maximum;n/a;n/a;3;2;3;8;6;
|
llm-results.png
CHANGED
![]() |
Git LFS Details
|
![]() |
Git LFS Details
|