A100_result_batch_4_(use_flash_attn_with_kvcache=True, slicing=False, kv_cache_len=1024).json

[
    0.049999999999999996,
    0.04866666666666667,
    0.04900000000000001,
    0.04866666666666667,
    0.04833333333333334,
    0.04900000000000001,
    0.04900000000000001,
    0.04866666666666667,
    0.04800000000000001,
    0.04866666666666667,
    0.04866666666666667,
    0.04900000000000001,
    0.04833333333333334,
    0.04900000000000001,
    0.04800000000000001,
    0.04800000000000001,
    0.04866666666666667,
    0.04900000000000001,
    0.04833333333333334,
    0.04900000000000001,
    0.04900000000000001,
    0.04900000000000001,
    0.04900000000000001,
    0.04833333333333334,
    0.04933333333333334,
    0.04900000000000001,
    0.04800000000000001,
    0.04933333333333334,
    0.04900000000000001,
    0.04900000000000001,
    0.04800000000000001,
    0.04900000000000001,
    0.04866666666666667,
    0.04900000000000001,
    0.04900000000000001,
    0.04933333333333334,
    0.04833333333333334,
    0.04900000000000001,
    0.04833333333333334,
    0.04900000000000001,
    0.04833333333333334,
    0.04933333333333334,
    0.04900000000000001,
    0.04900000000000001,
    0.04900000000000001,
    0.04933333333333334,
    0.04866666666666667,
    0.04866666666666667,
    0.04833333333333334,
    0.04933333333333334,
    0.04866666666666667,
    0.04900000000000001,
    0.04900000000000001,
    0.04900000000000001,
    0.04800000000000001,
    0.04900000000000001,
    0.04866666666666667,
    0.04866666666666667,
    0.04833333333333334,
    0.04900000000000001,
    0.04900000000000001,
    0.04866666666666667,
    0.04866666666666667,
    0.04866666666666667,
    0.052333333333333336,
    0.052,
    0.051666666666666666,
    0.052,
    0.052333333333333336,
    0.052,
    0.051333333333333335,
    0.052,
    0.05266666666666667,
    0.052333333333333336,
    0.051666666666666666,
    0.05266666666666667,
    0.052,
    0.052333333333333336,
    0.052,
    0.051333333333333335,
    0.052,
    0.052,
    0.052333333333333336,
    0.052,
    0.052,
    0.052,
    0.052,
    0.052,
    0.052333333333333336,
    0.052333333333333336,
    0.051666666666666666,
    0.052,
    0.052333333333333336,
    0.052,
    0.052,
    0.052,
    0.052,
    0.05266666666666667,
    0.052,
    0.052,
    0.052,
    0.052,
    0.052,
    0.05266666666666667,
    0.052,
    0.052,
    0.052,
    0.052333333333333336,
    0.052,
    0.052,
    0.051666666666666666,
    0.052,
    0.052,
    0.052333333333333336,
    0.052333333333333336,
    0.052,
    0.052,
    0.052333333333333336,
    0.051333333333333335,
    0.052,
    0.051333333333333335,
    0.052,
    0.051666666666666666,
    0.052,
    0.051666666666666666,
    0.052,
    0.052,
    0.052,
    0.054,
    0.055,
    0.05433333333333334,
    0.055,
    0.05466666666666667,
    0.05466666666666667,
    0.054,
    0.055,
    0.05433333333333334,
    0.055,
    0.055,
    0.05466666666666667,
    0.055,
    0.055,
    0.05466666666666667,
    0.05466666666666667,
    0.055,
    0.05533333333333334,
    0.05466666666666667,
    0.05466666666666667,
    0.05466666666666667,
    0.05533333333333334,
    0.055,
    0.05533333333333334,
    0.055,
    0.055,
    0.05433333333333334,
    0.055,
    0.055,
    0.055,
    0.055,
    0.055,
    0.055,
    0.055,
    0.055,
    0.055,
    0.05566666666666667,
    0.055,
    0.055,
    0.055,
    0.055,
    0.055,
    0.055,
    0.05566666666666667,
    0.055,
    0.055,
    0.05533333333333334,
    0.055,
    0.055,
    0.05566666666666667,
    0.05533333333333334,
    0.055,
    0.055,
    0.05533333333333334,
    0.055,
    0.05466666666666667,
    0.055,
    0.055,
    0.05533333333333334,
    0.055,
    0.055,
    0.055,
    0.055,
    0.055,
    0.052333333333333336,
    0.053,
    0.053,
    0.052333333333333336,
    0.05266666666666667,
    0.05266666666666667,
    0.05266666666666667,
    0.052333333333333336,
    0.052333333333333336,
    0.052333333333333336,
    0.05333333333333334,
    0.052333333333333336,
    0.051666666666666666,
    0.05266666666666667,
    0.053,
    0.053,
    0.052333333333333336,
    0.053,
    0.053,
    0.053,
    0.053,
    0.053,
    0.05266666666666667,
    0.053,
    0.052,
    0.053,
    0.05266666666666667,
    0.053,
    0.052333333333333336,
    0.053,
    0.052,
    0.05266666666666667,
    0.052333333333333336,
    0.052,
    0.053,
    0.053,
    0.052333333333333336,
    0.052,
    0.052333333333333336,
    0.053,
    0.052,
    0.053,
    0.05266666666666667,
    0.05333333333333334,
    0.052,
    0.053,
    0.053,
    0.053,
    0.05266666666666667,
    0.053,
    0.05266666666666667,
    0.053,
    0.05266666666666667,
    0.05266666666666667,
    0.052333333333333336,
    0.05333333333333334,
    0.052,
    0.053,
    0.052333333333333336,
    0.05266666666666667,
    0.052,
    0.05266666666666667,
    0.05266666666666667,
    0.053,
    0.052333333333333336,
    0.053,
    0.05266666666666667,
    0.05333333333333334,
    0.053,
    0.053,
    0.052,
    0.052333333333333336,
    0.053,
    0.053,
    0.053,
    0.053,
    0.052333333333333336,
    0.05266666666666667,
    0.053,
    0.05266666666666667,
    0.053,
    0.05266666666666667,
    0.052,
    0.05266666666666667,
    0.053,
    0.05266666666666667,
    0.052,
    0.053,
    0.053,
    0.053,
    0.053,
    0.053,
    0.052,
    0.053,
    0.05266666666666667,
    0.053,
    0.05266666666666667,
    0.05266666666666667,
    0.053,
    0.053,
    0.053,
    0.053,
    0.05266666666666667,
    0.053,
    0.052333333333333336,
    0.053,
    0.05266666666666667,
    0.053,
    0.05266666666666667,
    0.05266666666666667,
    0.052333333333333336,
    0.05266666666666667,
    0.052333333333333336,
    0.052333333333333336,
    0.052333333333333336,
    0.05333333333333334,
    0.053,
    0.05266666666666667,
    0.052333333333333336,
    0.052,
    0.053,
    0.052,
    0.05266666666666667,
    0.053,
    0.053,
    0.05266666666666667,
    0.053,
    0.052333333333333336,
    0.055,
    0.05533333333333334,
    0.055,
    0.05466666666666667,
    0.055,
    0.05466666666666667,
    0.05433333333333334,
    0.05533333333333334,
    0.055,
    0.055,
    0.055,
    0.05566666666666667,
    0.05566666666666667,
    0.05566666666666667,
    0.055,
    0.055,
    0.05466666666666667,
    0.055,
    0.055,
    0.056,
    0.05566666666666667,
    0.05533333333333334,
    0.055,
    0.055,
    0.05533333333333334,
    0.05566666666666667,
    0.055,
    0.055,
    0.055,
    0.055,
    0.055,
    0.055,
    0.05533333333333334,
    0.055,
    0.05566666666666667,
    0.05533333333333334,
    0.056,
    0.055,
    0.05533333333333334,
    0.05533333333333334,
    0.055,
    0.05533333333333334,
    0.05566666666666667,
    0.056,
    0.05533333333333334,
    0.05533333333333334,
    0.055,
    0.056,
    0.05533333333333334,
    0.05566666666666667,
    0.055,
    0.05533333333333334,
    0.05566666666666667,
    0.05566666666666667,
    0.055,
    0.05466666666666667,
    0.05566666666666667,
    0.05533333333333334,
    0.05566666666666667,
    0.05566666666666667,
    0.05566666666666667,
    0.05533333333333334,
    0.05566666666666667,
    0.05566666666666667,
    0.053,
    0.053,
    0.053,
    0.05333333333333334,
    0.05333333333333334,
    0.05333333333333334,
    0.053,
    0.053,
    0.05266666666666667,
    0.053,
    0.05366666666666667,
    0.053,
    0.05333333333333334,
    0.053,
    0.05266666666666667,
    0.053,
    0.05266666666666667,
    0.05266666666666667,
    0.05266666666666667,
    0.053,
    0.05333333333333334,
    0.05333333333333334,
    0.053,
    0.053,
    0.053,
    0.054,
    0.05333333333333334,
    0.053,
    0.05266666666666667,
    0.053,
    0.053,
    0.05366666666666667,
    0.05333333333333334,
    0.05333333333333334,
    0.052333333333333336,
    0.053,
    0.053,
    0.05333333333333334,
    0.05266666666666667,
    0.053,
    0.053,
    0.053,
    0.053,
    0.053,
    0.053,
    0.05333333333333334,
    0.053,
    0.05366666666666667,
    0.053,
    0.05366666666666667,
    0.053,
    0.053,
    0.053,
    0.05366666666666667,
    0.053,
    0.053,
    0.053,
    0.05366666666666667,
    0.053,
    0.053,
    0.053,
    0.05366666666666667,
    0.05266666666666667,
    0.05266666666666667,
    0.053,
    0.05333333333333334,
    0.053,
    0.05366666666666667,
    0.053,
    0.053,
    0.05366666666666667,
    0.053,
    0.053,
    0.05333333333333334,
    0.05266666666666667,
    0.053,
    0.053,
    0.05333333333333334,
    0.053,
    0.05366666666666667,
    0.053,
    0.05266666666666667,
    0.053,
    0.05333333333333334,
    0.05366666666666667,
    0.05333333333333334,
    0.05333333333333334,
    0.053,
    0.05333333333333334,
    0.05333333333333334,
    0.053,
    0.05366666666666667,
    0.053,
    0.053,
    0.05333333333333334,
    0.053,
    0.054,
    0.054,
    0.053,
    0.05366666666666667,
    0.05366666666666667,
    0.053,
    0.053,
    0.053,
    0.053,
    0.053,
    0.053,
    0.053,
    0.05333333333333334,
    0.05333333333333334,
    0.05366666666666667,
    0.05333333333333334,
    0.053,
    0.054,
    0.05333333333333334,
    0.054,
    0.053,
    0.05366666666666667,
    0.054,
    0.053,
    0.053,
    0.05366666666666667,
    0.053,
    0.053,
    0.053,
    0.05333333333333334,
    0.054,
    0.05266666666666667,
    0.05533333333333334,
    0.056,
    0.05566666666666667,
    0.05566666666666667,
    0.056,
    0.05566666666666667,
    0.05566666666666667,
    0.05566666666666667,
    0.056,
    0.056,
    0.05566666666666667,
    0.056,
    0.05633333333333334,
    0.056,
    0.05566666666666667,
    0.056,
    0.056,
    0.056,
    0.056,
    0.05566666666666667,
    0.056,
    0.05566666666666667,
    0.05533333333333334,
    0.056,
    0.05566666666666667,
    0.05566666666666667,
    0.056,
    0.056,
    0.056,
    0.05533333333333334,
    0.056,
    0.05633333333333334,
    0.05566666666666667,
    0.05666666666666667,
    0.056,
    0.056,
    0.05566666666666667,
    0.056,
    0.056,
    0.056,
    0.05566666666666667,
    0.056,
    0.056,
    0.05633333333333334,
    0.05566666666666667,
    0.056,
    0.05633333333333334,
    0.05633333333333334,
    0.056,
    0.056,
    0.05633333333333334,
    0.05666666666666667,
    0.05633333333333334,
    0.056,
    0.056,
    0.056,
    0.056,
    0.05566666666666667,
    0.056,
    0.056,
    0.056,
    0.05633333333333334,
    0.05566666666666667,
    0.056,
    0.061,
    0.062,
    0.06266666666666666,
    0.062,
    0.06133333333333333,
    0.06133333333333333,
    0.06133333333333333,
    0.06133333333333333,
    0.06066666666666667,
    0.062,
    0.06166666666666667,
    0.06166666666666667,
    0.061,
    0.062,
    0.061,
    0.062,
    0.061,
    0.06166666666666667,
    0.06133333333333333,
    0.062,
    0.06166666666666667,
    0.062,
    0.062,
    0.062,
    0.062,
    0.061,
    0.06166666666666667,
    0.062,
    0.06166666666666667,
    0.06133333333333333,
    0.06166666666666667,
    0.06166666666666667,
    0.062,
    0.06133333333333333,
    0.06166666666666667,
    0.062,
    0.062,
    0.062,
    0.061,
    0.062,
    0.06166666666666667,
    0.062,
    0.06166666666666667,
    0.062,
    0.06166666666666667,
    0.06166666666666667,
    0.062,
    0.062,
    0.062,
    0.062,
    0.06166666666666667,
    0.06166666666666667,
    0.06166666666666667,
    0.062,
    0.06166666666666667,
    0.06166666666666667,
    0.061,
    0.062,
    0.062,
    0.06133333333333333,
    0.06166666666666667,
    0.06166666666666667,
    0.06133333333333333,
    0.06166666666666667,
    0.064,
    0.06466666666666666,
    0.064,
    0.064,
    0.064,
    0.06366666666666666,
    0.064,
    0.06466666666666666,
    0.064,
    0.064,
    0.06433333333333334,
    0.06433333333333334,
    0.06433333333333334,
    0.064,
    0.06433333333333334,
    0.064,
    0.064,
    0.064,
    0.064,
    0.06466666666666666,
    0.064,
    0.064,
    0.06466666666666666,
    0.06433333333333334,
    0.06433333333333334,
    0.064,
    0.064,
    0.064,
    0.06499999999999999,
    0.06433333333333334,
    0.064,
    0.06433333333333334,
    0.064,
    0.064,
    0.064,
    0.06433333333333334,
    0.06433333333333334,
    0.064,
    0.06433333333333334,
    0.06433333333333334,
    0.064,
    0.06433333333333334,
    0.064,
    0.064,
    0.06466666666666666,
    0.064,
    0.06499999999999999,
    0.06433333333333334,
    0.06466666666666666,
    0.064,
    0.06333333333333334,
    0.06499999999999999,
    0.064,
    0.06466666666666666,
    0.064,
    0.064,
    0.06433333333333334,
    0.06466666666666666,
    0.064,
    0.06433333333333334,
    0.064,
    0.06499999999999999,
    0.064,
    0.06433333333333334,
    0.06666666666666667,
    0.067,
    0.066,
    0.06633333333333334,
    0.06666666666666667,
    0.06666666666666667,
    0.066,
    0.06666666666666667,
    0.06666666666666667,
    0.06666666666666667,
    0.066,
    0.067,
    0.06666666666666667,
    0.067,
    0.06666666666666667,
    0.067,
    0.06633333333333334,
    0.067,
    0.06633333333333334,
    0.06666666666666667,
    0.06666666666666667,
    0.067,
    0.06666666666666667,
    0.067,
    0.067,
    0.067,
    0.06633333333333334,
    0.067,
    0.066,
    0.067,
    0.066,
    0.067,
    0.067,
    0.067,
    0.06666666666666667,
    0.06666666666666667,
    0.06666666666666667,
    0.06766666666666667,
    0.066,
    0.067,
    0.06666666666666667,
    0.06766666666666667,
    0.067,
    0.067,
    0.06666666666666667,
    0.06733333333333334,
    0.06666666666666667,
    0.06666666666666667,
    0.06633333333333334,
    0.06733333333333334,
    0.067,
    0.06666666666666667,
    0.06666666666666667,
    0.067,
    0.06666666666666667,
    0.067,
    0.06666666666666667,
    0.06733333333333334,
    0.06633333333333334,
    0.067,
    0.066,
    0.067,
    0.06666666666666667,
    0.06666666666666667,
    0.064,
    0.06499999999999999,
    0.06433333333333334,
    0.06566666666666666,
    0.06499999999999999,
    0.06466666666666666,
    0.06466666666666666,
    0.06499999999999999,
    0.06466666666666666,
    0.06466666666666666,
    0.064,
    0.06499999999999999,
    0.06466666666666666,
    0.06466666666666666,
    0.06433333333333334,
    0.06499999999999999,
    0.06433333333333334,
    0.06499999999999999,
    0.06466666666666666,
    0.06466666666666666,
    0.06466666666666666,
    0.06466666666666666,
    0.06499999999999999,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.065,
    0.06466666666666666,
    0.06466666666666666,
    0.06499999999999999,
    0.06533333333333333,
    0.06466666666666666,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.06533333333333333,
    0.06466666666666666,
    0.06433333333333334,
    0.06466666666666666,
    0.06466666666666666,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.06466666666666666,
    0.06533333333333333,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.06499999999999999,
    0.06499999999999999,
    0.06466666666666666,
    0.06466666666666666,
    0.06433333333333334,
    0.06566666666666666,
    0.06466666666666666,
    0.06433333333333334,
    0.06499999999999999,
    0.06499999999999999,
    0.06499999999999999,
    0.06433333333333334,
    0.06499999999999999,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.06499999999999999,
    0.06499999999999999,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.06499999999999999,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.06533333333333333,
    0.06566666666666666,
    0.06499999999999999,
    0.06566666666666666,
    0.06499999999999999,
    0.06466666666666666,
    0.06466666666666666,
    0.06533333333333333,
    0.06566666666666666,
    0.06533333333333333,
    0.06499999999999999,
    0.06533333333333333,
    0.06533333333333333,
    0.06499999999999999,
    0.06499999999999999,
    0.06533333333333333,
    0.06533333333333333,
    0.06499999999999999,
    0.06466666666666666,
    0.06533333333333333,
    0.06499999999999999,
    0.06566666666666666,
    0.06466666666666666,
    0.06566666666666666,
    0.06566666666666666,
    0.06566666666666666,
    0.06566666666666666,
    0.06566666666666666,
    0.06533333333333333,
    0.06499999999999999,
    0.06566666666666666,
    0.06533333333333333,
    0.066,
    0.06566666666666666,
    0.06566666666666666,
    0.06566666666666666,
    0.06633333333333334,
    0.06533333333333333,
    0.066,
    0.066,
    0.066,
    0.06499999999999999,
    0.066,
    0.06566666666666666,
    0.06566666666666666,
    0.06533333333333333,
    0.06566666666666666,
    0.06466666666666666,
    0.066,
    0.06533333333333333,
    0.066,
    0.066,
    0.066,
    0.06533333333333333,
    0.06566666666666666,
    0.068,
    0.06766666666666667,
    0.06733333333333334,
    0.068,
    0.06733333333333334,
    0.06766666666666667,
    0.06766666666666667,
    0.06733333333333334,
    0.06766666666666667,
    0.067,
    0.06866666666666667,
    0.06833333333333334,
    0.068,
    0.068,
    0.06766666666666667,
    0.06833333333333334,
    0.06766666666666667,
    0.068,
    0.06766666666666667,
    0.06766666666666667,
    0.068,
    0.06866666666666667,
    0.06733333333333334,
    0.068,
    0.068,
    0.068,
    0.06633333333333334,
    0.066,
    0.06566666666666666,
    0.066,
    0.06633333333333334,
    0.06633333333333334,
    0.06566666666666666,
    0.06633333333333334,
    0.066,
    0.066,
    0.06566666666666666,
    0.06633333333333334,
    0.06633333333333334,
    0.066,
    0.066,
    0.066,
    0.06633333333333334,
    0.06666666666666667,
    0.06666666666666667,
    0.066,
    0.06666666666666667,
    0.066,
    0.06566666666666666,
    0.066,
    0.06666666666666667,
    0.06633333333333334,
    0.066,
    0.066,
    0.066,
    0.066,
    0.066,
    0.06533333333333333,
    0.06666666666666667,
    0.06633333333333334,
    0.067,
    0.066,
    0.066,
    0.066,
    0.06366666666666666,
    0.06366666666666666,
    0.06366666666666666,
    0.064,
    0.06466666666666666,
    0.06366666666666666,
    0.064,
    0.06366666666666666,
    0.063,
    0.06333333333333334,
    0.063,
    0.06366666666666666,
    0.064,
    0.06366666666666666,
    0.064,
    0.06366666666666666,
    0.064,
    0.06333333333333334,
    0.064,
    0.06366666666666666,
    0.064,
    0.06533333333333334,
    0.064,
    0.064,
    0.06333333333333334,
    0.06366666666666666,
    0.064,
    0.064,
    0.06366666666666666,
    0.064,
    0.06366666666666666,
    0.06333333333333334,
    0.06333333333333334,
    0.06366666666666666,
    0.064,
    0.064,
    0.06366666666666666,
    0.064,
    0.064,
    0.06333333333333334,
    0.064,
    0.064,
    0.064,
    0.06466666666666666,
    0.06366666666666666,
    0.064,
    0.06333333333333334,
    0.06366666666666666,
    0.06466666666666666,
    0.06466666666666666,
    0.06366666666666666,
    0.064,
    0.064,
    0.064,
    0.064,
    0.06366666666666666,
    0.064,
    0.06366666666666666,
    0.064,
    0.06466666666666666,
    0.064,
    0.064,
    0.064,
    0.06433333333333334
]