Hugging Face's logo

Datasets:
ydshieh
/
A10_benchmark_flash_attention

Dataset card Files Community
A10_benchmark_flash_attention / result_batch_4_(use_flash_attn_with_kvcache=False, slicing=False, kv_cache_len=1024).json
ydshieh's picture
ydshieh HF staff
Upload result_batch_4_(use_flash_attn_with_kvcache=False, slicing=False, kv_cache_len=1024).json with huggingface_hub
f993f8c verified
raw
history blame
No virus
23.5 kB
[
0.12133333333333333,
0.12033333333333333,
0.12233333333333334,
0.12066666666666666,
0.121,
0.122,
0.121,
0.122,
0.12166666666666666,
0.121,
0.12166666666666666,
0.12066666666666666,
0.121,
0.12066666666666666,
0.12066666666666666,
0.12066666666666666,
0.12166666666666666,
0.12133333333333333,
0.14133333333333334,
0.14300000000000002,
0.14300000000000002,
0.1406666666666667,
0.1436666666666667,
0.13166666666666668,
0.12033333333333333,
0.12033333333333333,
0.121,
0.12000000000000001,
0.12033333333333333,
0.12366666666666666,
0.12,
0.12133333333333333,
0.11966666666666669,
0.121,
0.12166666666666666,
0.12033333333333333,
0.12066666666666666,
0.12133333333333333,
0.12000000000000001,
0.12000000000000001,
0.12166666666666666,
0.121,
0.121,
0.12066666666666666,
0.121,
0.121,
0.12066666666666666,
0.12133333333333333,
0.12133333333333333,
0.12000000000000001,
0.11966666666666669,
0.12033333333333333,
0.11966666666666669,
0.11966666666666669,
0.11966666666666669,
0.11933333333333335,
0.11933333333333335,
0.11966666666666669,
0.11966666666666669,
0.11900000000000001,
0.12000000000000001,
0.11900000000000001,
0.11866666666666666,
0.12,
0.11933333333333335,
0.11900000000000001,
0.11933333333333335,
0.11966666666666669,
0.12000000000000001,
0.11866666666666666,
0.11933333333333335,
0.11933333333333335,
0.11966666666666669,
0.11966666666666669,
0.11933333333333335,
0.11966666666666669,
0.11833333333333333,
0.11966666666666669,
0.11900000000000001,
0.11933333333333335,
0.11933333333333335,
0.11966666666666669,
0.11866666666666666,
0.11966666666666669,
0.11966666666666669,
0.11933333333333335,
0.11933333333333335,
0.11900000000000001,
0.11900000000000001,
0.12,
0.11833333333333333,
0.11866666666666666,
0.12033333333333333,
0.11966666666666669,
0.11933333333333335,
0.11933333333333335,
0.11933333333333335,
0.11966666666666669,
0.11900000000000001,
0.11933333333333335,
0.11966666666666669,
0.11900000000000001,
0.118,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.11933333333333335,
0.11900000000000001,
0.11866666666666666,
0.11933333333333335,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11833333333333333,
0.11933333333333333,
0.11933333333333335,
0.11833333333333333,
0.11866666666666666,
0.11900000000000001,
0.118,
0.11766666666666666,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.11900000000000001,
0.11866666666666666,
0.11900000000000001,
0.11866666666666666,
0.118,
0.118,
0.11900000000000001,
0.118,
0.11933333333333333,
0.11833333333333333,
0.11833333333333333,
0.11866666666666666,
0.11866666666666666,
0.118,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.118,
0.118,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.119,
0.118,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11766666666666666,
0.11866666666666666,
0.118,
0.11866666666666666,
0.11866666666666666,
0.11900000000000001,
0.11866666666666666,
0.11966666666666669,
0.118,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11833333333333333,
0.11833333333333333,
0.11833333333333333,
0.11900000000000001,
0.118,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.118,
0.11833333333333333,
0.11833333333333333,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.118,
0.11900000000000001,
0.118,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.118,
0.11933333333333335,
0.11833333333333333,
0.118,
0.11900000000000001,
0.118,
0.11766666666666666,
0.11866666666666666,
0.118,
0.11866666666666666,
0.11933333333333335,
0.118,
0.11866666666666666,
0.11833333333333333,
0.118,
0.11833333333333333,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.11866666666666666,
0.11900000000000001,
0.11966666666666669,
0.11933333333333335,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11966666666666669,
0.11933333333333335,
0.12033333333333333,
0.11900000000000001,
0.11933333333333335,
0.11966666666666666,
0.12000000000000001,
0.11900000000000001,
0.11966666666666669,
0.11933333333333335,
0.11900000000000001,
0.11900000000000001,
0.11866666666666666,
0.11900000000000001,
0.11933333333333335,
0.11866666666666666,
0.11900000000000001,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11966666666666669,
0.11966666666666669,
0.11900000000000001,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11933333333333335,
0.11900000000000001,
0.11833333333333333,
0.12000000000000001,
0.11900000000000001,
0.11900000000000001,
0.11966666666666669,
0.11900000000000001,
0.11933333333333335,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.12000000000000001,
0.11900000000000001,
0.11866666666666666,
0.11900000000000001,
0.11966666666666669,
0.11866666666666666,
0.12000000000000001,
0.11866666666666666,
0.119,
0.11900000000000001,
0.11900000000000001,
0.11933333333333335,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11766666666666666,
0.118,
0.11900000000000001,
0.11866666666666666,
0.125,
0.12066666666666666,
0.12000000000000001,
0.11966666666666669,
0.12033333333333333,
0.11966666666666669,
0.11966666666666669,
0.12033333333333333,
0.12066666666666666,
0.11966666666666669,
0.119,
0.11966666666666669,
0.11866666666666666,
0.11900000000000001,
0.11933333333333335,
0.11900000000000001,
0.11866666666666666,
0.11933333333333335,
0.11933333333333335,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.11933333333333335,
0.11866666666666666,
0.12000000000000001,
0.119,
0.11833333333333333,
0.12000000000000001,
0.11966666666666669,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11933333333333335,
0.11900000000000001,
0.11933333333333335,
0.11900000000000001,
0.11933333333333335,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11833333333333333,
0.118,
0.119,
0.11866666666666666,
0.118,
0.11866666666666666,
0.118,
0.11900000000000001,
0.11866666666666666,
0.118,
0.11833333333333333,
0.11900000000000001,
0.11833333333333333,
0.11833333333333333,
0.11866666666666666,
0.11900000000000001,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11966666666666669,
0.11900000000000001,
0.11866666666666666,
0.11866666666666666,
0.118,
0.11833333333333333,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.11866666666666666,
0.118,
0.11866666666666666,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.11833333333333333,
0.118,
0.11900000000000001,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.11866666666666666,
0.11900000000000001,
0.11766666666666666,
0.11866666666666666,
0.11900000000000001,
0.11766666666666666,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.12000000000000001,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.11866666666666666,
0.11833333333333333,
0.11900000000000001,
0.11900000000000001,
0.11833333333333333,
0.11833333333333333,
0.118,
0.11900000000000001,
0.118,
0.118,
0.118,
0.11866666666666666,
0.11833333333333333,
0.11866666666666666,
0.11900000000000001,
0.118,
0.11866666666666666,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11900000000000001,
0.118,
0.11866666666666666,
0.11766666666666666,
0.11833333333333333,
0.11966666666666669,
0.11833333333333333,
0.11866666666666666,
0.11900000000000001,
0.118,
0.11766666666666666,
0.119,
0.11833333333333333,
0.11900000000000001,
0.118,
0.11900000000000001,
0.118,
0.11900000000000001,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.11866666666666666,
0.118,
0.11866666666666666,
0.11766666666666666,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.11833333333333333,
0.11833333333333333,
0.118,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.11900000000000001,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.118,
0.11933333333333335,
0.11933333333333335,
0.11900000000000001,
0.11833333333333333,
0.11900000000000001,
0.118,
0.11766666666666666,
0.118,
0.11866666666666666,
0.12066666666666666,
0.11966666666666666,
0.12033333333333333,
0.12,
0.11966666666666669,
0.12,
0.12033333333333333,
0.12000000000000001,
0.12066666666666666,
0.12033333333333333,
0.12000000000000001,
0.11933333333333335,
0.121,
0.12533333333333332,
0.12000000000000001,
0.12366666666666666,
0.12066666666666666,
0.12366666666666666,
0.12033333333333333,
0.11966666666666669,
0.12033333333333333,
0.11966666666666669,
0.12033333333333333,
0.12133333333333333,
0.12000000000000001,
0.12033333333333333,
0.12066666666666666,
0.12000000000000001,
0.12000000000000001,
0.12000000000000001,
0.11966666666666669,
0.12066666666666666,
0.11933333333333335,
0.12033333333333333,
0.121,
0.11966666666666669,
0.12000000000000001,
0.12033333333333333,
0.11933333333333335,
0.11866666666666666,
0.11966666666666669,
0.11900000000000001,
0.11900000000000001,
0.12000000000000001,
0.11933333333333335,
0.11900000000000001,
0.12033333333333333,
0.12,
0.12033333333333333,
0.12066666666666666,
0.12033333333333333,
0.12066666666666666,
0.11966666666666669,
0.11933333333333335,
0.11966666666666669,
0.11966666666666669,
0.11900000000000001,
0.119,
0.11933333333333335,
0.11900000000000001,
0.12000000000000001,
0.11900000000000001,
0.11900000000000001,
0.11866666666666666,
0.11933333333333335,
0.11866666666666666,
0.12000000000000001,
0.11900000000000001,
0.11933333333333335,
0.11966666666666669,
0.11933333333333335,
0.11933333333333335,
0.12000000000000001,
0.12000000000000001,
0.11966666666666669,
0.11900000000000001,
0.11933333333333335,
0.11866666666666666,
0.11966666666666669,
0.11900000000000001,
0.11933333333333335,
0.11866666666666666,
0.119,
0.11900000000000001,
0.11900000000000001,
0.11933333333333335,
0.11933333333333335,
0.11933333333333335,
0.11833333333333333,
0.11900000000000001,
0.118,
0.11833333333333333,
0.11866666666666666,
0.11766666666666666,
0.11833333333333333,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.11933333333333333,
0.11900000000000001,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.119,
0.118,
0.118,
0.11866666666666666,
0.11833333333333333,
0.118,
0.11866666666666666,
0.11833333333333333,
0.11833333333333333,
0.11833333333333333,
0.11833333333333333,
0.11866666666666666,
0.118,
0.11933333333333335,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.11866666666666666,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.11866666666666666,
0.11866666666666666,
0.11900000000000001,
0.118,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.11866666666666666,
0.11900000000000001,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.11866666666666666,
0.118,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11933333333333333,
0.11900000000000001,
0.11866666666666666,
0.11900000000000001,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11833333333333333,
0.118,
0.118,
0.11833333333333333,
0.11766666666666666,
0.11866666666666666,
0.11866666666666666,
0.11833333333333333,
0.118,
0.11866666666666666,
0.11833333333333333,
0.11833333333333333,
0.11866666666666666,
0.118,
0.118,
0.11833333333333333,
0.11833333333333333,
0.11833333333333333,
0.11833333333333333,
0.11833333333333333,
0.11766666666666666,
0.11933333333333335,
0.11733333333333333,
0.11833333333333333,
0.118,
0.118,
0.118,
0.11933333333333333,
0.11766666666666666,
0.11833333333333333,
0.11900000000000001,
0.11833333333333333,
0.11900000000000001,
0.11866666666666666,
0.118,
0.11766666666666666,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.11900000000000001,
0.118,
0.11833333333333333,
0.118,
0.11933333333333335,
0.11833333333333333,
0.11900000000000001,
0.118,
0.11866666666666666,
0.11833333333333333,
0.11866666666666666,
0.11933333333333335,
0.11966666666666669,
0.11933333333333335,
0.12000000000000001,
0.11900000000000001,
0.11933333333333335,
0.12066666666666666,
0.11933333333333335,
0.11900000000000001,
0.11966666666666669,
0.11933333333333335,
0.11933333333333335,
0.11933333333333333,
0.11966666666666669,
0.11866666666666666,
0.12000000000000001,
0.119,
0.12000000000000001,
0.11966666666666669,
0.12033333333333333,
0.11933333333333333,
0.11900000000000001,
0.11966666666666669,
0.11966666666666669,
0.11900000000000001,
0.12000000000000001,
0.11933333333333335,
0.11933333333333333,
0.11900000000000001,
0.12000000000000001,
0.11866666666666666,
0.11900000000000001,
0.11866666666666666,
0.11833333333333333,
0.11866666666666666,
0.11933333333333335,
0.11900000000000001,
0.11900000000000001,
0.11933333333333335,
0.118,
0.11866666666666666,
0.11866666666666666,
0.11766666666666666,
0.11866666666666666,
0.11900000000000001,
0.11866666666666666,
0.118,
0.11866666666666666,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.118,
0.118,
0.11833333333333333,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.118,
0.11866666666666666,
0.118,
0.118,
0.11933333333333335,
0.11900000000000001,
0.11866666666666666,
0.11866666666666666,
0.118,
0.118,
0.11933333333333335,
0.11833333333333333,
0.11866666666666666,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.11866666666666666,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11833333333333333,
0.11900000000000001,
0.11766666666666666,
0.11866666666666666,
0.11833333333333333,
0.11833333333333333,
0.118,
0.11866666666666666,
0.11866666666666666,
0.11766666666666666,
0.11866666666666666,
0.11833333333333333,
0.11833333333333333,
0.118,
0.118,
0.118,
0.11866666666666666,
0.118,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.118,
0.11900000000000001,
0.11833333333333333,
0.118,
0.11900000000000001,
0.11766666666666666,
0.11766666666666666,
0.11933333333333335,
0.11766666666666666,
0.11900000000000001,
0.118,
0.11866666666666666,
0.118,
0.11866666666666666,
0.11833333333333333,
0.11766666666666666,
0.12033333333333335,
0.121,
0.11966666666666669,
0.12033333333333333,
0.12066666666666666,
0.12033333333333333,
0.12066666666666666,
0.11966666666666669,
0.12066666666666666,
0.121,
0.12000000000000001,
0.12066666666666666,
0.12066666666666666,
0.12000000000000001,
0.121,
0.12000000000000001,
0.11966666666666669,
0.12,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11966666666666669,
0.11933333333333335,
0.11933333333333335,
0.11866666666666666,
0.11900000000000001,
0.11966666666666669,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11933333333333335,
0.11966666666666669,
0.11900000000000001,
0.11966666666666669,
0.11933333333333335,
0.11966666666666669,
0.12000000000000001,
0.12066666666666666,
0.11966666666666669,
0.11900000000000001,
0.11933333333333335,
0.11900000000000001,
0.11966666666666669,
0.12000000000000001,
0.11900000000000001,
0.11933333333333335,
0.11966666666666669,
0.11900000000000001,
0.11933333333333335,
0.12000000000000001,
0.11900000000000001,
0.11833333333333333,
0.11900000000000001,
0.118,
0.118,
0.11933333333333335,
0.11966666666666669,
0.11966666666666669,
0.118,
0.11833333333333333,
0.11866666666666666,
0.118,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.118,
0.119,
0.11900000000000001,
0.118,
0.11866666666666666,
0.118,
0.118,
0.11866666666666666,
0.11866666666666666,
0.118,
0.11866666666666666,
0.11866666666666666,
0.118,
0.11933333333333335,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.118,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11833333333333333,
0.11900000000000001,
0.11833333333333333,
0.11833333333333333,
0.11866666666666666,
0.11866666666666666,
0.118,
0.11900000000000001,
0.11866666666666666,
0.11833333333333333,
0.118,
0.11900000000000001,
0.11900000000000001,
0.11866666666666666,
0.118,
0.11933333333333335,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11900000000000001,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11900000000000001,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11833333333333333,
0.11866666666666666,
0.11900000000000001,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11900000000000001,
0.11833333333333333,
0.11866666666666666,
0.11833333333333333,
0.11833333333333333,
0.11833333333333333,
0.11900000000000001,
0.118,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11833333333333333,
0.118,
0.11833333333333333,
0.11833333333333333,
0.11833333333333333,
0.11866666666666666,
0.11900000000000001,
0.11900000000000001,
0.118,
0.11900000000000001,
0.11733333333333333,
0.11833333333333333,
0.11866666666666666,
0.11900000000000001,
0.11866666666666666,
0.11866666666666666,
0.11866666666666666,
0.11833333333333333,
0.119,
0.11766666666666666,
0.11866666666666666,
0.11933333333333335,
0.118,
0.118,
0.11966666666666669,
0.11833333333333333,
0.118,
0.118,
0.11866666666666666,
0.11766666666666666,
0.11900000000000001,
0.118,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11766666666666666,
0.118,
0.11900000000000001,
0.11900000000000001,
0.11866666666666666,
0.11933333333333335,
0.11900000000000001,
0.11900000000000001,
0.12,
0.12133333333333333,
0.12000000000000001,
0.12033333333333333,
0.12,
0.12033333333333333,
0.12000000000000001,
0.119,
0.11900000000000001,
0.11900000000000001,
0.12066666666666666,
0.12033333333333333,
0.12000000000000001,
0.12033333333333333,
0.12000000000000001,
0.121,
0.12000000000000001,
0.11966666666666669,
0.12033333333333333,
0.11833333333333333,
0.11900000000000001,
0.12000000000000001,
0.11900000000000001,
0.11933333333333335,
0.12,
0.11933333333333335,
0.119,
0.11966666666666669,
0.11966666666666669,
0.11900000000000001,
0.11966666666666669,
0.11866666666666666,
0.11900000000000001,
0.11933333333333335,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11933333333333335,
0.11966666666666669,
0.11900000000000001,
0.11900000000000001,
0.11900000000000001,
0.11933333333333335,
0.11900000000000001,
0.11900000000000001,
0.11866666666666666,
0.11933333333333335,
0.12000000000000001,
0.11933333333333335,
0.11900000000000001,
0.11933333333333335,
0.11833333333333333,
0.11866666666666666,
0.11966666666666669,
0.11933333333333335,
0.11900000000000001,
0.11933333333333335,
0.11900000000000001,
0.11833333333333333,
0.12000000000000001,
0.11900000000000001,
0.11866666666666666,
0.11933333333333335,
0.11866666666666666,
0.11900000000000001,
0.12000000000000001,
0.11933333333333335,
0.11933333333333333,
0.11866666666666666,
0.11966666666666669,
0.12000000000000001,
0.11900000000000001,
0.11866666666666666,
0.119,
0.11866666666666666,
0.11933333333333335,
0.11933333333333335,
0.12000000000000001,
0.11866666666666666,
0.119,
0.11766666666666666,
0.11866666666666666
]