File size: 7,829 Bytes
b58baf8
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
accuracy	bits	clip	dataset	method	model	params	peak_mem_alloc_mb	peak_mem_reserv_mb	perplexity	time_ms	wer
0.4277946949005127	4	0.0	wikitext	ao_woq	llama3	fixed	5542.623744	7163.871232	5.3583574295043945	38.477233	0.0
0.4437352418899536	8	0.0	wikitext	ao_woq	llama3	fixed	12110.375936	14040.43264	5.208643436431885	52.638261	0.0
0.0	4	0.0	wikitext	comb_3	llama3	nlr	14178.745344	15367.929856	1.3576891422271729	122.329615	0.0
0.0	5	0.0	wikitext	comb_3	llama3	nlr	14178.745344	15367.929856	1.3576891422271729	122.329615	0.0
0.0	6	0.0	wikitext	comb_3	llama3	nlr	14178.745344	15367.929856	1.3576891422271729	122.329615	0.0
0.0	7	0.0	wikitext	comb_3	llama3	nlr	14178.745344	15367.929856	1.3576891422271729	122.329615	0.0
0.0	8	0.0	wikitext	comb_3	llama3	nlr	14178.745344	15367.929856	1.3576891422271729	122.329615	0.0
0.0	4	0.0	wikitext	comb_11	llama3	nlr	14178.745344	15367.929856	1.1248141527175903	145.733167	0.0
0.0	5	0.0	wikitext	comb_11	llama3	nlr	14178.745344	15367.929856	1.1248141527175903	145.733167	0.0
0.0	6	0.0	wikitext	comb_11	llama3	nlr	14178.745344	15367.929856	1.1248141527175903	145.733167	0.0
0.0	7	0.0	wikitext	comb_11	llama3	nlr	14178.745344	15367.929856	1.1248141527175903	145.733167	0.0
0.0	8	0.0	wikitext	comb_11	llama3	nlr	14178.745344	15367.929856	1.1248141527175903	145.733167	0.0
0.44049307703971863	6	0.0	wikitext	comb_6	llama3	nlr	14179.216384	15367.929856	5.199138641357422	68.686417	0.0
0.380108118057251	4	0.0	wikitext	comb_6	llama3	nlr	14179.216384	15367.929856	6.150976657867432	68.70661	0.0
0.435663640499115	5	0.0	wikitext	comb_6	llama3	nlr	14179.216384	15367.929856	5.4490156173706055	68.779854	0.0
0.4437352418899536	8	0.0	wikitext	comb_6	llama3	nlr	14179.216384	15367.929856	5.2086405754089355	68.781439	0.0
0.44285714626312256	7	0.0	wikitext	comb_6	llama3	nlr	14179.216384	15367.929856	5.248186111450195	68.795679	0.0
0.4355623126029968	5	0.0	wikitext	woq	llama3	fixed	14179.331584	15367.929856	5.448963165283203	95.596492	0.0
0.3797703683376312	4	0.0	wikitext	woq	llama3	fixed	14179.331584	15367.929856	6.163248062133789	95.628551	0.0
0.4427558183670044	7	0.0	wikitext	woq	llama3	fixed	14179.331584	15367.929856	5.248887062072754	95.727571	0.0
0.44093209505081177	6	0.0	wikitext	woq	llama3	fixed	14179.331584	15367.929856	5.193300724029541	95.778666	0.0
0.44387033581733704	8	0.0	wikitext	woq	llama3	fixed	14179.331584	15367.929856	5.208242893218994	95.794081	0.0
0.0	4	0.0	wikitext	comb_13	llama3	nlr	14185.276416	15374.221312	1.1841050386428833	148.236722	0.0
0.0	5	0.0	wikitext	comb_13	llama3	nlr	14185.276416	15374.221312	1.1841050386428833	148.236722	0.0
0.0	6	0.0	wikitext	comb_13	llama3	nlr	14185.276416	15374.221312	1.1841050386428833	148.236722	0.0
0.0	7	0.0	wikitext	comb_13	llama3	nlr	14185.276416	15374.221312	1.1841050386428833	148.236722	0.0
0.0	4	0.0	wikitext	comb_10	llama3	nlr	14185.276416	15374.221312	1.1459664106369019	202.094375	0.0
0.0	5	0.0	wikitext	comb_10	llama3	nlr	14185.276416	15374.221312	1.1459664106369019	202.094375	0.0
0.0	6	0.0	wikitext	comb_10	llama3	nlr	14185.276416	15374.221312	1.1459664106369019	202.094375	0.0
0.0	7	0.0	wikitext	comb_10	llama3	nlr	14185.276416	15374.221312	1.1459664106369019	202.094375	0.0
0.036155205219984055	8	0.0	wikitext	comb_13	llama3	nlr	14185.321472	15374.221312	1.664661169052124	148.229334	0.0
0.44376900792121887	8	0.0	wikitext	comb_15	llama3	nlr	14185.747456	15374.221312	5.2081499099731445	147.441377	0.0
0.4423505663871765	7	0.0	wikitext	comb_15	llama3	nlr	14185.747456	15374.221312	5.246627330780029	147.490399	0.0
0.436372846364975	5	0.0	wikitext	comb_15	llama3	nlr	14185.747456	15374.221312	5.430482864379883	147.524812	0.0
0.4428909420967102	7	0.0	wikitext	comb_16	llama3	nlr	14185.747456	15374.221312	5.230251312255859	147.530213	0.0
0.3807835280895233	4	0.0	wikitext	comb_15	llama3	nlr	14185.747456	15374.221312	6.237351894378662	147.634735	0.0
0.43738603591918945	5	0.0	wikitext	comb_16	llama3	nlr	14185.747456	15374.221312	5.412022113800049	147.674763	0.0
0.38098618388175964	4	0.0	wikitext	comb_17	llama3	nlr	14185.747456	15374.221312	6.232641220092773	147.690005	0.0
0.4398176372051239	6	0.0	wikitext	comb_15	llama3	nlr	14185.747456	15374.221312	5.199422359466553	147.791944	0.0
0.3804795742034912	4	0.0	wikitext	comb_14	llama3	nlr	14185.747456	15374.221312	6.175668239593506	147.903024	0.0
0.4422154724597931	7	0.0	wikitext	comb_17	llama3	nlr	14185.747456	15374.221312	5.247557163238525	147.904012	0.0
0.44238436222076416	7	0.0	wikitext	comb_14	llama3	nlr	14185.747456	15374.221312	5.243480205535889	147.934022	0.0
0.44008782505989075	6	0.0	wikitext	comb_17	llama3	nlr	14185.747456	15374.221312	5.199240207672119	147.94405	0.0
0.44025668501853943	6	0.0	wikitext	comb_16	llama3	nlr	14185.747456	15374.221312	5.230005741119385	147.950533	0.0
0.4439041018486023	8	0.0	wikitext	comb_17	llama3	nlr	14185.747456	15374.221312	5.207451820373535	147.97142	0.0
0.4443769156932831	8	0.0	wikitext	comb_16	llama3	nlr	14185.747456	15374.221312	5.207278728485107	147.973771	0.0
0.3783856928348541	4	0.0	wikitext	comb_16	llama3	nlr	14185.747456	15374.221312	6.167969226837158	147.979524	0.0
0.4365079402923584	5	0.0	wikitext	comb_17	llama3	nlr	14185.747456	15374.221312	5.430935382843018	147.983246	0.0
0.44025665521621704	6	0.0	wikitext	comb_14	llama3	nlr	14185.747456	15374.221312	5.190332412719727	147.992963	0.0
0.44441068172454834	8	0.0	wikitext	comb_14	llama3	nlr	14185.747456	15374.221312	5.208073616027832	148.392806	0.0
0.4355960786342621	5	0.0	wikitext	comb_14	llama3	nlr	14185.747456	15374.221312	5.425205230712891	148.40643	0.0
0.44069573283195496	6	0.0	wikitext	comb_4	llama3	nlr	14185.747456	15374.221312	5.230377197265625	175.099392	0.0
0.4435325860977173	7	0.0	wikitext	comb_4	llama3	nlr	14185.747456	15374.221312	5.228373050689697	175.165036	0.0
0.3784194588661194	4	0.0	wikitext	comb_4	llama3	nlr	14185.747456	15374.221312	6.155765056610107	175.209511	0.0
0.4441067576408386	8	0.0	wikitext	comb_4	llama3	nlr	14185.747456	15374.221312	5.214853763580322	175.2167	0.0
0.436372846364975	5	0.0	wikitext	comb_4	llama3	nlr	14185.747456	15374.221312	5.392096519470215	175.469933	0.0
0.436879426240921	5	0.0	wikitext	comb_9	llama3	nlr	14185.747456	15374.221312	5.4105987548828125	201.201756	0.0
0.4444107115268707	8	0.0	wikitext	comb_9	llama3	nlr	14185.747456	15374.221312	5.207996845245361	201.204721	0.0
0.3016548156738281	8	0.0	wikitext	comb_10	llama3	nlr	14185.747456	15374.221312	8.716463088989258	201.345192	0.0
0.44025668501853943	6	0.0	wikitext	comb_9	llama3	nlr	14185.747456	15374.221312	5.23110818862915	201.358618	0.0
0.4428909122943878	7	0.0	wikitext	comb_9	llama3	nlr	14185.747456	15374.221312	5.229310989379883	201.491524	0.0
0.3781155049800873	4	0.0	wikitext	comb_9	llama3	nlr	14185.747456	15374.221312	6.178022384643555	201.639031	0.0
0.0	4	0.0	wikitext	comb_1	llama3	nlr	11051.945984	18748.53888	1.1355302333831787	4.404278	0.0
0.0	5	0.0	wikitext	comb_1	llama3	nlr	11051.945984	18748.53888	1.1355302333831787	4.404278	0.0
0.0	6	0.0	wikitext	comb_1	llama3	nlr	11051.945984	18748.53888	1.1355302333831787	4.404278	0.0
0.0	7	0.0	wikitext	comb_1	llama3	nlr	11051.945984	18748.53888	1.1355302333831787	4.404278	0.0
0.0	8	0.0	wikitext	comb_1	llama3	nlr	11051.945984	18748.53888	1.1355302333831787	4.404278	0.0
0.0	4	0.0	wikitext	comb_0	llama3	nlr	16811.959808	19811.794944	1.1248141527175903	429.613124	0.0
0.0	5	0.0	wikitext	comb_0	llama3	nlr	16811.959808	19811.794944	1.1248141527175903	429.613124	0.0
0.0	6	0.0	wikitext	comb_0	llama3	nlr	16811.959808	19811.794944	1.1248141527175903	429.613124	0.0
0.0	7	0.0	wikitext	comb_0	llama3	nlr	16811.959808	19811.794944	1.1248141527175903	429.613124	0.0
0.0	8	0.0	wikitext	comb_0	llama3	nlr	16811.959808	19811.794944	1.1248141527175903	429.613124	0.0
0.4436677098274231	32	0.0	wikitext	base	llama3	----	33003.526656	33155.97312	5.223813056945801	26.592326	0.0