Hugging Face's logo

Datasets:
MrOpenVINO
/
benchmarks

Dataset card Viewer Files Community
MrOpenVINO commited on
Commit
ebc9dbe
•
1 Parent(s): f167282

Upload 2024-10-10-13-15-21/openvino/benchmark_report.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. 2024-10-10-13-15-21/openvino/benchmark_report.json +443 -0
2024-10-10-13-15-21/openvino/benchmark_report.json ADDED
@@ -0,0 +1,443 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "load": {
3
+ "memory": {
4
+ "unit": "MB",
5
+ "max_ram": 4841.96352,
6
+ "max_global_vram": null,
7
+ "max_process_vram": null,
8
+ "max_reserved": null,
9
+ "max_allocated": null
10
+ },
11
+ "latency": {
12
+ "unit": "s",
13
+ "values": [
14
+ 25.399079136550426
15
+ ],
16
+ "count": 1,
17
+ "total": 25.399079136550426,
18
+ "mean": 25.399079136550426,
19
+ "p50": 25.399079136550426,
20
+ "p90": 25.399079136550426,
21
+ "p95": 25.399079136550426,
22
+ "p99": 25.399079136550426,
23
+ "stdev": 0,
24
+ "stdev_": 0
25
+ },
26
+ "throughput": null,
27
+ "energy": null,
28
+ "efficiency": null
29
+ },
30
+ "prefill": {
31
+ "memory": {
32
+ "unit": "MB",
33
+ "max_ram": 3465.314304,
34
+ "max_global_vram": null,
35
+ "max_process_vram": null,
36
+ "max_reserved": null,
37
+ "max_allocated": null
38
+ },
39
+ "latency": {
40
+ "unit": "s",
41
+ "values": [
42
+ 0.20681462809443474,
43
+ 0.14498980715870857,
44
+ 0.1491953432559967,
45
+ 0.14298798888921738,
46
+ 0.27635738253593445,
47
+ 0.14056112617254257,
48
+ 0.2304190769791603,
49
+ 0.27384644746780396,
50
+ 0.17013894766569138,
51
+ 0.17990026250481606
52
+ ],
53
+ "count": 10,
54
+ "total": 1.915211010724306,
55
+ "mean": 0.19152110107243062,
56
+ "p50": 0.17501960508525372,
57
+ "p90": 0.274097540974617,
58
+ "p95": 0.27522746175527574,
59
+ "p99": 0.2761313983798027,
60
+ "stdev": 0.05022236084794941,
61
+ "stdev_": 26.22288644265679
62
+ },
63
+ "throughput": {
64
+ "unit": "tokens/s",
65
+ "value": 167.08341702723422
66
+ },
67
+ "energy": null,
68
+ "efficiency": null
69
+ },
70
+ "decode": {
71
+ "memory": {
72
+ "unit": "MB",
73
+ "max_ram": 3465.314304,
74
+ "max_global_vram": null,
75
+ "max_process_vram": null,
76
+ "max_reserved": null,
77
+ "max_allocated": null
78
+ },
79
+ "latency": {
80
+ "unit": "s",
81
+ "values": [
82
+ 3.7909555956721306,
83
+ 1.7467840760946274,
84
+ 1.8483475632965565,
85
+ 3.0832476131618023,
86
+ 3.204444296658039,
87
+ 3.070590779185295,
88
+ 4.489215832203627,
89
+ 2.3151063695549965,
90
+ 2.322327557951212,
91
+ 2.0380597300827503
92
+ ],
93
+ "count": 10,
94
+ "total": 27.909079413861036,
95
+ "mean": 2.7909079413861035,
96
+ "p50": 2.6964591685682535,
97
+ "p90": 3.8607816193252797,
98
+ "p95": 4.1749987257644525,
99
+ "p99": 4.426372410915792,
100
+ "stdev": 0.8491402797309818,
101
+ "stdev_": 30.425234280900593
102
+ },
103
+ "throughput": {
104
+ "unit": "tokens/s",
105
+ "value": 22.214992863292984
106
+ },
107
+ "energy": null,
108
+ "efficiency": null
109
+ },
110
+ "per_token": {
111
+ "memory": null,
112
+ "latency": {
113
+ "unit": "s",
114
+ "values": [
115
+ 0.1709301434457302,
116
+ 0.13552312925457954,
117
+ 0.17639076337218285,
118
+ 0.12885065376758575,
119
+ 0.18046993762254715,
120
+ 0.17862163111567497,
121
+ 0.11986216530203819,
122
+ 0.029551289975643158,
123
+ 0.07815691828727722,
124
+ 0.0336882621049881,
125
+ 0.05917498469352722,
126
+ 0.10874683782458305,
127
+ 0.1791577711701393,
128
+ 0.1273934617638588,
129
+ 0.1760333590209484,
130
+ 0.12730960175395012,
131
+ 0.17486324533820152,
132
+ 0.12671242281794548,
133
+ 0.17677857726812363,
134
+ 0.13253434747457504,
135
+ 0.17124810814857483,
136
+ 0.17878321558237076,
137
+ 0.1312917247414589,
138
+ 0.16972606629133224,
139
+ 0.12835174426436424,
140
+ 0.08066151291131973,
141
+ 0.0533665232360363,
142
+ 0.07638739794492722,
143
+ 0.0748925469815731,
144
+ 0.034503910690546036,
145
+ 0.07049091532826424,
146
+ 0.09074411541223526,
147
+ 0.06657073274254799,
148
+ 0.034675534814596176,
149
+ 0.05592576786875725,
150
+ 0.037223897874355316,
151
+ 0.051507432013750076,
152
+ 0.042772360146045685,
153
+ 0.07619524747133255,
154
+ 0.038203079253435135,
155
+ 0.045311760157346725,
156
+ 0.03497037664055824,
157
+ 0.06459365040063858,
158
+ 0.036531344056129456,
159
+ 0.06414467096328735,
160
+ 0.03258122131228447,
161
+ 0.07270125672221184,
162
+ 0.040004052221775055,
163
+ 0.06740126013755798,
164
+ 0.031864479184150696,
165
+ 0.09027478098869324,
166
+ 0.0737798884510994,
167
+ 0.036847759038209915,
168
+ 0.06981456279754639,
169
+ 0.031870801001787186,
170
+ 0.07502009719610214,
171
+ 0.03239614516496658,
172
+ 0.07102349773049355,
173
+ 0.030988365411758423,
174
+ 0.06044533848762512,
175
+ 0.030576631426811218,
176
+ 0.10677962750196457,
177
+ 0.09759572148323059,
178
+ 0.07268866524100304,
179
+ 0.03137582913041115,
180
+ 0.062497060745954514,
181
+ 0.031675662845373154,
182
+ 0.0479043573141098,
183
+ 0.10300867632031441,
184
+ 0.0330539271235466,
185
+ 0.06352171301841736,
186
+ 0.0346953347325325,
187
+ 0.06260599941015244,
188
+ 0.030248668044805527,
189
+ 0.03307543694972992,
190
+ 0.05948163941502571,
191
+ 0.09529730305075645,
192
+ 0.03459831699728966,
193
+ 0.07449464499950409,
194
+ 0.03778298944234848,
195
+ 0.05391417071223259,
196
+ 0.03238305822014809,
197
+ 0.11822688952088356,
198
+ 0.06367209926247597,
199
+ 0.07068879529833794,
200
+ 0.03649164363741875,
201
+ 0.09772084653377533,
202
+ 0.07733475416898727,
203
+ 0.03142799064517021,
204
+ 0.05276267230510712,
205
+ 0.10297438874840736,
206
+ 0.032485611736774445,
207
+ 0.07218378409743309,
208
+ 0.10613632202148438,
209
+ 0.0760919600725174,
210
+ 0.11259664967656136,
211
+ 0.0890037752687931,
212
+ 0.06813114881515503,
213
+ 0.04095321148633957,
214
+ 0.09489258006215096,
215
+ 0.07290996238589287,
216
+ 0.03474113345146179,
217
+ 0.03153308480978012,
218
+ 0.05299040675163269,
219
+ 0.03671445697546005,
220
+ 0.058582961559295654,
221
+ 0.030376631766557693,
222
+ 0.05477210506796837,
223
+ 0.03524759039282799,
224
+ 0.06346473097801208,
225
+ 0.033426422625780106,
226
+ 0.10178082063794136,
227
+ 0.1657605953514576,
228
+ 0.12842823192477226,
229
+ 0.1802729368209839,
230
+ 0.13658418133854866,
231
+ 0.16553160920739174,
232
+ 0.1806233823299408,
233
+ 0.12518059089779854,
234
+ 0.18070843815803528,
235
+ 0.12875185906887054,
236
+ 0.1790192872285843,
237
+ 0.1822548620402813,
238
+ 0.12355682998895645,
239
+ 0.1381109543144703,
240
+ 0.09080950543284416,
241
+ 0.06610842794179916,
242
+ 0.11989215388894081,
243
+ 0.17689665406942368,
244
+ 0.13010451197624207,
245
+ 0.17568881064653397,
246
+ 0.12441826611757278,
247
+ 0.17286929488182068,
248
+ 0.1319400556385517,
249
+ 0.17867709323763847,
250
+ 0.13374633714556694,
251
+ 0.17653320729732513,
252
+ 0.17198729887604713,
253
+ 0.12940312549471855,
254
+ 0.18303905054926872,
255
+ 0.126364354044199,
256
+ 0.1136375367641449,
257
+ 0.06879616156220436,
258
+ 0.09510578587651253,
259
+ 0.0288594551384449,
260
+ 0.07580956816673279,
261
+ 0.03208049386739731,
262
+ 0.0490642674267292,
263
+ 0.030969437211751938,
264
+ 0.03197863698005676,
265
+ 0.06189698725938797,
266
+ 0.03491896390914917,
267
+ 0.05908999219536781,
268
+ 0.03562674671411514,
269
+ 0.059562887996435165,
270
+ 0.04730972275137901,
271
+ 0.034886911511421204,
272
+ 0.10049081966280937,
273
+ 0.06916074827313423,
274
+ 0.032521020621061325,
275
+ 0.09892217069864273,
276
+ 0.07491806522011757,
277
+ 0.09691368043422699,
278
+ 0.028815966099500656,
279
+ 0.11093197762966156,
280
+ 0.08014471083879471,
281
+ 0.06889450177550316,
282
+ 0.04138600826263428,
283
+ 0.10803612321615219,
284
+ 0.16751666367053986,
285
+ 0.11025062575936317,
286
+ 0.02884206920862198,
287
+ 0.07204868271946907,
288
+ 0.03581579402089119,
289
+ 0.06424704939126968,
290
+ 0.03577512130141258,
291
+ 0.1410284824669361,
292
+ 0.12901543825864792,
293
+ 0.17939384654164314,
294
+ 0.13028626516461372,
295
+ 0.17821437492966652,
296
+ 0.18342141807079315,
297
+ 0.12325875088572502,
298
+ 0.17637451365590096,
299
+ 0.13285650312900543,
300
+ 0.17692208662629128,
301
+ 0.17121662572026253,
302
+ 0.18042497336864471,
303
+ 0.13195935636758804,
304
+ 0.16256281360983849,
305
+ 0.028257112950086594,
306
+ 0.11455624178051949,
307
+ 0.16819915920495987,
308
+ 0.13464046269655228,
309
+ 0.17146628350019455,
310
+ 0.13633042946457863,
311
+ 0.1543312817811966,
312
+ 0.13264010101556778,
313
+ 0.17639197036623955,
314
+ 0.13351089134812355,
315
+ 0.16319039463996887,
316
+ 0.1325398087501526,
317
+ 0.1768389567732811,
318
+ 0.18276658654212952,
319
+ 0.13118812069296837,
320
+ 0.08812873065471649,
321
+ 0.09491998702287674,
322
+ 0.12260259315371513,
323
+ 0.1687469705939293,
324
+ 0.13245533034205437,
325
+ 0.16988644748926163,
326
+ 0.13244165107607841,
327
+ 0.17320386320352554,
328
+ 0.18035554513335228,
329
+ 0.1312447376549244,
330
+ 0.17742431908845901,
331
+ 0.12287625297904015,
332
+ 0.1787617914378643,
333
+ 0.13292308151721954,
334
+ 0.1747838854789734,
335
+ 0.04516390711069107,
336
+ 0.06991574913263321,
337
+ 0.04327603802084923,
338
+ 0.07434695586562157,
339
+ 0.07025150582194328,
340
+ 0.03275751322507858,
341
+ 0.10043282434344292,
342
+ 0.07050737366080284,
343
+ 0.036541298031806946,
344
+ 0.0654517225921154,
345
+ 0.03270701318979263,
346
+ 0.07563759386539459,
347
+ 0.03540855646133423,
348
+ 0.061998359858989716,
349
+ 0.09367645904421806,
350
+ 0.03282085806131363,
351
+ 0.16104663908481598,
352
+ 0.10270818695425987,
353
+ 0.043530091643333435,
354
+ 0.06910138949751854,
355
+ 0.03136958181858063,
356
+ 0.14365136995911598,
357
+ 0.03708682209253311,
358
+ 0.07186723127961159,
359
+ 0.03551614657044411,
360
+ 0.06333264708518982,
361
+ 0.10045941174030304,
362
+ 0.027633681893348694,
363
+ 0.09771396964788437,
364
+ 0.0289132259786129,
365
+ 0.06674544140696526,
366
+ 0.03305989131331444,
367
+ 0.10554086789488792,
368
+ 0.07858514413237572,
369
+ 0.09522752091288567,
370
+ 0.031621746718883514,
371
+ 0.0651640072464943,
372
+ 0.03787003830075264,
373
+ 0.02989954873919487,
374
+ 0.1388397477567196,
375
+ 0.12874992936849594,
376
+ 0.08882145583629608,
377
+ 0.031416378915309906,
378
+ 0.05920087546110153,
379
+ 0.03717849403619766,
380
+ 0.14277033880352974,
381
+ 0.03314758092164993,
382
+ 0.09528126567602158,
383
+ 0.07885976508259773,
384
+ 0.03970850631594658,
385
+ 0.05910776928067207,
386
+ 0.03507590293884277,
387
+ 0.1067962795495987,
388
+ 0.06919199228286743,
389
+ 0.036647599190473557,
390
+ 0.09056707099080086,
391
+ 0.15163831040263176,
392
+ 0.13192638009786606,
393
+ 0.09659228101372719,
394
+ 0.03539071977138519,
395
+ 0.09655871242284775,
396
+ 0.0676942951977253,
397
+ 0.03991246968507767,
398
+ 0.056575048714876175,
399
+ 0.09936098754405975,
400
+ 0.0999956950545311,
401
+ 0.03706963360309601,
402
+ 0.06787383928894997,
403
+ 0.09511307999491692,
404
+ 0.027143824845552444,
405
+ 0.0967935062944889,
406
+ 0.02895590290427208,
407
+ 0.07179578021168709,
408
+ 0.031422000378370285,
409
+ 0.08785632625222206,
410
+ 0.06475986167788506,
411
+ 0.03221173584461212,
412
+ 0.09412364661693573,
413
+ 0.09305229783058167,
414
+ 0.09938482940196991,
415
+ 0.1084253266453743,
416
+ 0.07635966688394547,
417
+ 0.09564392268657684,
418
+ 0.02892351895570755,
419
+ 0.07740995660424232,
420
+ 0.03868601471185684,
421
+ 0.06123805791139603,
422
+ 0.034528590738773346,
423
+ 0.05639708787202835,
424
+ 0.03693850338459015
425
+ ],
426
+ "count": 310,
427
+ "total": 27.817084301263094,
428
+ "mean": 0.0897325300040745,
429
+ "p50": 0.07614360377192497,
430
+ "p90": 0.17336186543107035,
431
+ "p95": 0.1786521352827549,
432
+ "p99": 0.1821156838908792,
433
+ "stdev": 0.04931600958951952,
434
+ "stdev_": 54.958897946241144
435
+ },
436
+ "throughput": {
437
+ "unit": "tokens/s",
438
+ "value": 22.288461050960958
439
+ },
440
+ "energy": null,
441
+ "efficiency": null
442
+ }
443
+ }