Hugging Face's logo

Datasets:
MrOpenVINO
/
benchmarks

Dataset card Viewer Files Community
MrOpenVINO commited on
Commit
ae19408
·
verified ·
1 Parent(s): fde0228

Upload 2024-10-10-13-27-38/openvino/benchmark_report.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. 2024-10-10-13-27-38/openvino/benchmark_report.json +443 -0
2024-10-10-13-27-38/openvino/benchmark_report.json ADDED
@@ -0,0 +1,443 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "load": {
3
+ "memory": {
4
+ "unit": "MB",
5
+ "max_ram": 28568.141824,
6
+ "max_global_vram": null,
7
+ "max_process_vram": null,
8
+ "max_reserved": null,
9
+ "max_allocated": null
10
+ },
11
+ "latency": {
12
+ "unit": "s",
13
+ "values": [
14
+ 85.84128818660975
15
+ ],
16
+ "count": 1,
17
+ "total": 85.84128818660975,
18
+ "mean": 85.84128818660975,
19
+ "p50": 85.84128818660975,
20
+ "p90": 85.84128818660975,
21
+ "p95": 85.84128818660975,
22
+ "p99": 85.84128818660975,
23
+ "stdev": 0,
24
+ "stdev_": 0
25
+ },
26
+ "throughput": null,
27
+ "energy": null,
28
+ "efficiency": null
29
+ },
30
+ "prefill": {
31
+ "memory": {
32
+ "unit": "MB",
33
+ "max_ram": 17400.188928,
34
+ "max_global_vram": null,
35
+ "max_process_vram": null,
36
+ "max_reserved": null,
37
+ "max_allocated": null
38
+ },
39
+ "latency": {
40
+ "unit": "s",
41
+ "values": [
42
+ 1.155863493680954,
43
+ 0.7591285742819309,
44
+ 0.7738370560109615,
45
+ 0.7550942674279213,
46
+ 0.7588984668254852,
47
+ 0.7791932262480259,
48
+ 0.7622133567929268,
49
+ 0.7966163046658039,
50
+ 0.7676617838442326,
51
+ 0.7681443095207214
52
+ ],
53
+ "count": 10,
54
+ "total": 8.076650839298964,
55
+ "mean": 0.8076650839298963,
56
+ "p50": 0.767903046682477,
57
+ "p90": 0.8325410235673187,
58
+ "p95": 0.994202258624136,
59
+ "p99": 1.1235312466695906,
60
+ "stdev": 0.11663827494300946,
61
+ "stdev_": 14.441416035403781
62
+ },
63
+ "throughput": {
64
+ "unit": "tokens/s",
65
+ "value": 39.620383048250645
66
+ },
67
+ "energy": null,
68
+ "efficiency": null
69
+ },
70
+ "decode": {
71
+ "memory": {
72
+ "unit": "MB",
73
+ "max_ram": 17400.459264,
74
+ "max_global_vram": null,
75
+ "max_process_vram": null,
76
+ "max_reserved": null,
77
+ "max_allocated": null
78
+ },
79
+ "latency": {
80
+ "unit": "s",
81
+ "values": [
82
+ 6.200990695506334,
83
+ 5.851446453481913,
84
+ 6.216963429003954,
85
+ 5.708663444966078,
86
+ 5.59319007396698,
87
+ 5.803155850619078,
88
+ 5.378143277019262,
89
+ 6.436763770878315,
90
+ 5.788114670664072,
91
+ 5.6680054776370525
92
+ ],
93
+ "count": 10,
94
+ "total": 58.64543714374304,
95
+ "mean": 5.864543714374304,
96
+ "p50": 5.795635260641575,
97
+ "p90": 6.23894346319139,
98
+ "p95": 6.3378536170348525,
99
+ "p99": 6.416981740109622,
100
+ "stdev": 0.3078567112686973,
101
+ "stdev_": 5.2494571830733285
102
+ },
103
+ "throughput": {
104
+ "unit": "tokens/s",
105
+ "value": 10.572007477416316
106
+ },
107
+ "energy": null,
108
+ "efficiency": null
109
+ },
110
+ "per_token": {
111
+ "memory": null,
112
+ "latency": {
113
+ "unit": "s",
114
+ "values": [
115
+ 0.4139234870672226,
116
+ 0.41735056415200233,
117
+ 0.30081597715616226,
118
+ 0.1818118579685688,
119
+ 0.15186486765742302,
120
+ 0.23906059190630913,
121
+ 0.15295346081256866,
122
+ 0.16011932492256165,
123
+ 0.2003607526421547,
124
+ 0.1834808960556984,
125
+ 0.15580645948648453,
126
+ 0.24319353699684143,
127
+ 0.1611436791718006,
128
+ 0.15759733691811562,
129
+ 0.1585245616734028,
130
+ 0.15936047211289406,
131
+ 0.3769047372043133,
132
+ 0.18782272934913635,
133
+ 0.15100917220115662,
134
+ 0.1527114175260067,
135
+ 0.2946506328880787,
136
+ 0.16238847002387047,
137
+ 0.16231396421790123,
138
+ 0.156793974339962,
139
+ 0.16331971436738968,
140
+ 0.1679960861802101,
141
+ 0.1615058295428753,
142
+ 0.15888682380318642,
143
+ 0.14986367523670197,
144
+ 0.15800831466913223,
145
+ 0.15872757136821747,
146
+ 0.27272531017661095,
147
+ 0.18892422318458557,
148
+ 0.15356360375881195,
149
+ 0.15431320294737816,
150
+ 0.14779995009303093,
151
+ 0.15224895253777504,
152
+ 0.21096992120146751,
153
+ 0.18912102282047272,
154
+ 0.21501709148287773,
155
+ 0.16489996761083603,
156
+ 0.21484949439764023,
157
+ 0.17694229260087013,
158
+ 0.298944354057312,
159
+ 0.1571926362812519,
160
+ 0.3427550941705704,
161
+ 0.15772563219070435,
162
+ 0.27126798033714294,
163
+ 0.18431544676423073,
164
+ 0.16829495877027512,
165
+ 0.2230387181043625,
166
+ 0.16222893819212914,
167
+ 0.1542050875723362,
168
+ 0.152713593095541,
169
+ 0.22716208174824715,
170
+ 0.1603824906051159,
171
+ 0.15225924924016,
172
+ 0.15334432572126389,
173
+ 0.15936279296875,
174
+ 0.15501442551612854,
175
+ 0.15603690594434738,
176
+ 0.17310908064246178,
177
+ 0.15233517810702324,
178
+ 0.16673265397548676,
179
+ 0.15707813948392868,
180
+ 0.15561645105481148,
181
+ 0.2950899377465248,
182
+ 0.16526831686496735,
183
+ 0.25878509506583214,
184
+ 0.2684909552335739,
185
+ 0.15292853489518166,
186
+ 0.1560739129781723,
187
+ 0.14961672946810722,
188
+ 0.28093401342630386,
189
+ 0.23056770488619804,
190
+ 0.24176156893372536,
191
+ 0.18133500963449478,
192
+ 0.15951067954301834,
193
+ 0.2469756379723549,
194
+ 0.15470846369862556,
195
+ 0.1506977304816246,
196
+ 0.2186153270304203,
197
+ 0.1848888210952282,
198
+ 0.1681702397763729,
199
+ 0.17152446135878563,
200
+ 0.16021715849637985,
201
+ 0.21121134981513023,
202
+ 0.20459624007344246,
203
+ 0.18079787492752075,
204
+ 0.21565362066030502,
205
+ 0.30665198341012,
206
+ 0.1855032593011856,
207
+ 0.28380293399095535,
208
+ 0.15242250636219978,
209
+ 0.38883425295352936,
210
+ 0.14984559640288353,
211
+ 0.18036608770489693,
212
+ 0.27179688587784767,
213
+ 0.1542910747230053,
214
+ 0.2456365041434765,
215
+ 0.15133636817336082,
216
+ 0.14667970687150955,
217
+ 0.14652648195624352,
218
+ 0.15149124339222908,
219
+ 0.2016245499253273,
220
+ 0.16305964812636375,
221
+ 0.15654635429382324,
222
+ 0.2105577066540718,
223
+ 0.18518470972776413,
224
+ 0.15230029821395874,
225
+ 0.16040043160319328,
226
+ 0.17493826523423195,
227
+ 0.1600029654800892,
228
+ 0.1622457429766655,
229
+ 0.15377505496144295,
230
+ 0.15260671824216843,
231
+ 0.18687525764107704,
232
+ 0.16884037479758263,
233
+ 0.15240167453885078,
234
+ 0.37620513141155243,
235
+ 0.18778274208307266,
236
+ 0.15565819665789604,
237
+ 0.1559632606804371,
238
+ 0.1517484076321125,
239
+ 0.2911657243967056,
240
+ 0.1650817021727562,
241
+ 0.1486673653125763,
242
+ 0.17960147187113762,
243
+ 0.16900478303432465,
244
+ 0.15883860737085342,
245
+ 0.14794380590319633,
246
+ 0.15101293101906776,
247
+ 0.27592404931783676,
248
+ 0.16797656193375587,
249
+ 0.14958341792225838,
250
+ 0.2745455130934715,
251
+ 0.16101539507508278,
252
+ 0.1521204449236393,
253
+ 0.15381720289587975,
254
+ 0.16098500788211823,
255
+ 0.1530577912926674,
256
+ 0.1520393267273903,
257
+ 0.2233075276017189,
258
+ 0.18319787457585335,
259
+ 0.14668099954724312,
260
+ 0.1477702632546425,
261
+ 0.1587279476225376,
262
+ 0.30601438134908676,
263
+ 0.1573706418275833,
264
+ 0.15311282873153687,
265
+ 0.1491524986922741,
266
+ 0.14643868431448936,
267
+ 0.15172262489795685,
268
+ 0.27787161245942116,
269
+ 0.17872869223356247,
270
+ 0.15965665131807327,
271
+ 0.15329846367239952,
272
+ 0.15216953679919243,
273
+ 0.1540345810353756,
274
+ 0.16133840382099152,
275
+ 0.15683456882834435,
276
+ 0.2934487983584404,
277
+ 0.17761101201176643,
278
+ 0.1538052260875702,
279
+ 0.2449340969324112,
280
+ 0.1569734513759613,
281
+ 0.1520020179450512,
282
+ 0.1534476801753044,
283
+ 0.15756065025925636,
284
+ 0.2761836163699627,
285
+ 0.21986213698983192,
286
+ 0.1885678917169571,
287
+ 0.18862299993634224,
288
+ 0.21107355505228043,
289
+ 0.1645197682082653,
290
+ 0.1521223746240139,
291
+ 0.1565866880118847,
292
+ 0.15358155593276024,
293
+ 0.3630015552043915,
294
+ 0.17469030618667603,
295
+ 0.14798744767904282,
296
+ 0.14919350668787956,
297
+ 0.14570282772183418,
298
+ 0.1528305560350418,
299
+ 0.1565646156668663,
300
+ 0.3742227740585804,
301
+ 0.23841682076454163,
302
+ 0.15160172805190086,
303
+ 0.1474267914891243,
304
+ 0.14957717433571815,
305
+ 0.1562964953482151,
306
+ 0.15076233446598053,
307
+ 0.15194469690322876,
308
+ 0.29144833609461784,
309
+ 0.15708014741539955,
310
+ 0.1488501951098442,
311
+ 0.2107512727379799,
312
+ 0.28758834674954414,
313
+ 0.15844067186117172,
314
+ 0.15052589401602745,
315
+ 0.14786330983042717,
316
+ 0.1483595408499241,
317
+ 0.14761295169591904,
318
+ 0.148051917552948,
319
+ 0.15036337450146675,
320
+ 0.15597660094499588,
321
+ 0.15763574466109276,
322
+ 0.17207906767725945,
323
+ 0.17377248033881187,
324
+ 0.1551077887415886,
325
+ 0.15144430845975876,
326
+ 0.15393829718232155,
327
+ 0.15750518068671227,
328
+ 0.16416142135858536,
329
+ 0.16136294975876808,
330
+ 0.16649267449975014,
331
+ 0.31490200385451317,
332
+ 0.2826903760433197,
333
+ 0.16906822100281715,
334
+ 0.14847518131136894,
335
+ 0.19953395053744316,
336
+ 0.18416323140263557,
337
+ 0.15209738910198212,
338
+ 0.15568198263645172,
339
+ 0.27935130149126053,
340
+ 0.1667834259569645,
341
+ 0.2530501186847687,
342
+ 0.18106288462877274,
343
+ 0.1530996412038803,
344
+ 0.2775697261095047,
345
+ 0.19319012388586998,
346
+ 0.15242192894220352,
347
+ 0.3225148431956768,
348
+ 0.16148624196648598,
349
+ 0.3304699994623661,
350
+ 0.16135315969586372,
351
+ 0.15226125344634056,
352
+ 0.15467924252152443,
353
+ 0.18589209020137787,
354
+ 0.17088539898395538,
355
+ 0.3860659673810005,
356
+ 0.22311565652489662,
357
+ 0.21387384086847305,
358
+ 0.1924678459763527,
359
+ 0.16477536410093307,
360
+ 0.1643211916089058,
361
+ 0.3421355411410332,
362
+ 0.16146600618958473,
363
+ 0.3718172386288643,
364
+ 0.18753405660390854,
365
+ 0.15255767107009888,
366
+ 0.15613503381609917,
367
+ 0.15569071844220161,
368
+ 0.18399671092629433,
369
+ 0.183570709079504,
370
+ 0.2789601869881153,
371
+ 0.1653294414281845,
372
+ 0.1859029419720173,
373
+ 0.16990133747458458,
374
+ 0.17148002982139587,
375
+ 0.3150439225137234,
376
+ 0.18125254288315773,
377
+ 0.15679020434617996,
378
+ 0.15106311812996864,
379
+ 0.14785011112689972,
380
+ 0.14653801545500755,
381
+ 0.14618313685059547,
382
+ 0.14944056794047356,
383
+ 0.34435415267944336,
384
+ 0.1981407105922699,
385
+ 0.15930432081222534,
386
+ 0.1584480218589306,
387
+ 0.15400691330432892,
388
+ 0.1878376193344593,
389
+ 0.16417282819747925,
390
+ 0.15464921668171883,
391
+ 0.15918367728590965,
392
+ 0.1825840026140213,
393
+ 0.16766951233148575,
394
+ 0.1551675833761692,
395
+ 0.1610039658844471,
396
+ 0.15935760363936424,
397
+ 0.15604324266314507,
398
+ 0.155699722468853,
399
+ 0.1552584208548069,
400
+ 0.16058748215436935,
401
+ 0.15429501608014107,
402
+ 0.15965940058231354,
403
+ 0.15671104565262794,
404
+ 0.16993919759988785,
405
+ 0.25908438116312027,
406
+ 0.15675005689263344,
407
+ 0.3461707681417465,
408
+ 0.16702311486005783,
409
+ 0.16865606978535652,
410
+ 0.16130151972174644,
411
+ 0.16315693780779839,
412
+ 0.15860896557569504,
413
+ 0.15859384089708328,
414
+ 0.24710458889603615,
415
+ 0.184930220246315,
416
+ 0.15271210297942162,
417
+ 0.35912545397877693,
418
+ 0.19241072982549667,
419
+ 0.15738612040877342,
420
+ 0.15803262591362,
421
+ 0.1639743708074093,
422
+ 0.23577681183815002,
423
+ 0.1849268600344658,
424
+ 0.14777686819434166
425
+ ],
426
+ "count": 310,
427
+ "total": 58.63794834539294,
428
+ "mean": 0.18915467208191272,
429
+ "p50": 0.1613580547273159,
430
+ "p90": 0.2795095726847649,
431
+ "p95": 0.31915292888879787,
432
+ "p99": 0.3852414566650989,
433
+ "stdev": 0.05783868153672995,
434
+ "stdev_": 30.577453308519452
435
+ },
436
+ "throughput": {
437
+ "unit": "tokens/s",
438
+ "value": 10.573357654808058
439
+ },
440
+ "energy": null,
441
+ "efficiency": null
442
+ }
443
+ }