result_batch_4_(use_flash_attn_with_kvcache=True, slicing=False, kv_cache_len=1024).json

[
    0.04033333333333333,
    0.041,
    0.04033333333333333,
    0.041,
    0.04033333333333333,
    0.04,
    0.04033333333333333,
    0.04033333333333333,
    0.04,
    0.041,
    0.041,
    0.04033333333333333,
    0.04033333333333333,
    0.04066666666666666,
    0.04033333333333333,
    0.04,
    0.04033333333333333,
    0.04066666666666666,
    0.04066666666666666,
    0.041,
    0.04,
    0.041,
    0.04066666666666666,
    0.041,
    0.041,
    0.04066666666666666,
    0.041,
    0.041,
    0.041,
    0.041,
    0.041,
    0.04066666666666666,
    0.041,
    0.041,
    0.04066666666666666,
    0.041,
    0.041,
    0.041,
    0.041,
    0.04133333333333333,
    0.041,
    0.041,
    0.04066666666666666,
    0.04133333333333333,
    0.041,
    0.041,
    0.041,
    0.041,
    0.041,
    0.041,
    0.04133333333333333,
    0.041,
    0.04133333333333333,
    0.041,
    0.041,
    0.042,
    0.041,
    0.041,
    0.041,
    0.041666666666666664,
    0.04133333333333333,
    0.041,
    0.04133333333333333,
    0.041,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.04633333333333334,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.04666666666666667,
    0.04666666666666667,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.04633333333333334,
    0.04633333333333334,
    0.04700000000000001,
    0.04700000000000001,
    0.04700000000000001,
    0.046000000000000006,
    0.04666666666666667,
    0.046000000000000006,
    0.04666666666666667,
    0.046000000000000006,
    0.04633333333333334,
    0.046000000000000006,
    0.04700000000000001,
    0.04666666666666667,
    0.04666666666666667,
    0.046000000000000006,
    0.04633333333333334,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.04700000000000001,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.04633333333333334,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.046000000000000006,
    0.04633333333333334,
    0.04633333333333334,
    0.046000000000000006,
    0.046000000000000006,
    0.04633333333333334,
    0.046000000000000006,
    0.046000000000000006,
    0.04633333333333334,
    0.04666666666666667,
    0.050666666666666665,
    0.051,
    0.050666666666666665,
    0.050666666666666665,
    0.051333333333333335,
    0.051,
    0.051666666666666666,
    0.051,
    0.051,
    0.051,
    0.051,
    0.052,
    0.051,
    0.052,
    0.051,
    0.051666666666666666,
    0.051333333333333335,
    0.051,
    0.051666666666666666,
    0.051333333333333335,
    0.051333333333333335,
    0.052,
    0.052,
    0.051666666666666666,
    0.051666666666666666,
    0.05266666666666667,
    0.051333333333333335,
    0.052,
    0.052,
    0.052,
    0.051666666666666666,
    0.052,
    0.052,
    0.052,
    0.052,
    0.052,
    0.051666666666666666,
    0.052,
    0.052,
    0.052,
    0.052,
    0.052,
    0.051666666666666666,
    0.052,
    0.051666666666666666,
    0.05266666666666667,
    0.052,
    0.052333333333333336,
    0.052,
    0.052,
    0.05266666666666667,
    0.05266666666666667,
    0.052,
    0.052333333333333336,
    0.05266666666666667,
    0.052333333333333336,
    0.053,
    0.053,
    0.052333333333333336,
    0.053,
    0.053,
    0.053,
    0.053,
    0.05266666666666667,
    0.05766666666666667,
    0.05733333333333334,
    0.05733333333333334,
    0.05833333333333333,
    0.05733333333333334,
    0.058666666666666666,
    0.058,
    0.05833333333333333,
    0.058666666666666666,
    0.058666666666666666,
    0.058,
    0.058666666666666666,
    0.05833333333333333,
    0.05833333333333333,
    0.059,
    0.058666666666666666,
    0.059,
    0.059,
    0.059,
    0.060000000000000005,
    0.059666666666666666,
    0.05933333333333333,
    0.06033333333333333,
    0.05933333333333333,
    0.05933333333333333,
    0.060000000000000005,
    0.059666666666666666,
    0.059666666666666666,
    0.05933333333333333,
    0.060000000000000005,
    0.059666666666666666,
    0.060000000000000005,
    0.05933333333333333,
    0.059666666666666666,
    0.05933333333333333,
    0.060000000000000005,
    0.06,
    0.06066666666666667,
    0.060000000000000005,
    0.06033333333333333,
    0.06066666666666667,
    0.060000000000000005,
    0.06066666666666667,
    0.06033333333333333,
    0.06033333333333333,
    0.061,
    0.06033333333333333,
    0.061,
    0.061,
    0.061,
    0.061,
    0.061,
    0.061,
    0.061,
    0.062,
    0.062,
    0.062,
    0.063,
    0.06233333333333333,
    0.063,
    0.06233333333333333,
    0.063,
    0.06233333333333333,
    0.06266666666666666,
    0.058,
    0.05833333333333333,
    0.058,
    0.057666666666666665,
    0.058,
    0.058,
    0.058666666666666666,
    0.059,
    0.059,
    0.059,
    0.058666666666666666,
    0.059,
    0.059666666666666666,
    0.059,
    0.059,
    0.05933333333333333,
    0.059,
    0.059,
    0.059,
    0.059,
    0.059,
    0.059,
    0.05833333333333333,
    0.059,
    0.058666666666666666,
    0.059,
    0.059,
    0.059,
    0.059,
    0.059,
    0.059,
    0.059,
    0.058,
    0.058666666666666666,
    0.058,
    0.058666666666666666,
    0.058666666666666666,
    0.058666666666666666,
    0.059,
    0.05833333333333333,
    0.058,
    0.05833333333333333,
    0.058,
    0.058,
    0.05833333333333333,
    0.05833333333333333,
    0.05833333333333333,
    0.058,
    0.058666666666666666,
    0.058,
    0.058,
    0.05833333333333333,
    0.058,
    0.05833333333333333,
    0.05833333333333333,
    0.059,
    0.058,
    0.058,
    0.05833333333333333,
    0.058666666666666666,
    0.05833333333333333,
    0.05833333333333333,
    0.058666666666666666,
    0.05833333333333333,
    0.061,
    0.06066666666666667,
    0.061,
    0.06033333333333333,
    0.061,
    0.061,
    0.061,
    0.06033333333333333,
    0.06066666666666667,
    0.06033333333333333,
    0.061,
    0.061,
    0.06066666666666667,
    0.06066666666666667,
    0.06066666666666667,
    0.06066666666666667,
    0.06066666666666667,
    0.061,
    0.06066666666666667,
    0.061,
    0.061,
    0.06166666666666667,
    0.06166666666666667,
    0.061,
    0.06166666666666667,
    0.06166666666666667,
    0.062,
    0.062,
    0.06133333333333333,
    0.06133333333333333,
    0.06133333333333333,
    0.06166666666666667,
    0.062,
    0.062,
    0.062,
    0.062,
    0.06266666666666666,
    0.062,
    0.062,
    0.063,
    0.062,
    0.062,
    0.062,
    0.063,
    0.062,
    0.06233333333333333,
    0.06333333333333334,
    0.062,
    0.062,
    0.063,
    0.062,
    0.06366666666666666,
    0.06333333333333334,
    0.06233333333333333,
    0.063,
    0.062,
    0.06233333333333333,
    0.06266666666666666,
    0.06266666666666666,
    0.063,
    0.06266666666666666,
    0.064,
    0.06266666666666666,
    0.063,
    0.06433333333333334,
    0.06499999999999999,
    0.06466666666666666,
    0.06466666666666666,
    0.06433333333333334,
    0.06466666666666666,
    0.064,
    0.06466666666666666,
    0.064,
    0.06466666666666666,
    0.06433333333333334,
    0.06466666666666666,
    0.064,
    0.06366666666666666,
    0.064,
    0.064,
    0.06366666666666666,
    0.064,
    0.06366666666666666,
    0.06466666666666666,
    0.06366666666666666,
    0.064,
    0.064,
    0.06466666666666666,
    0.06466666666666666,
    0.06433333333333334,
    0.06466666666666666,
    0.06433333333333334,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.06566666666666666,
    0.06533333333333333,
    0.066,
    0.06533333333333333,
    0.06499999999999999,
    0.06566666666666666,
    0.06566666666666666,
    0.06633333333333334,
    0.06499999999999999,
    0.066,
    0.06566666666666666,
    0.06633333333333334,
    0.066,
    0.06633333333333334,
    0.06633333333333334,
    0.06666666666666667,
    0.06666666666666667,
    0.067,
    0.068,
    0.068,
    0.06666666666666667,
    0.06733333333333334,
    0.067,
    0.06766666666666667,
    0.06766666666666667,
    0.067,
    0.06766666666666667,
    0.06766666666666667,
    0.06733333333333334,
    0.068,
    0.06999999999999999,
    0.06999999999999999,
    0.06966666666666665,
    0.06999999999999999,
    0.06999999999999999,
    0.07066666666666667,
    0.06999999999999999,
    0.07033333333333333,
    0.07033333333333333,
    0.07033333333333333,
    0.07033333333333333,
    0.07066666666666667,
    0.07066666666666667,
    0.06999999999999999,
    0.06999999999999999,
    0.06999999999999999,
    0.06999999999999999,
    0.06999999999999999,
    0.06999999999999999,
    0.07066666666666667,
    0.07033333333333333,
    0.07100000000000001,
    0.07066666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07100000000000001,
    0.07100000000000001,
    0.07100000000000001,
    0.07166666666666667,
    0.07100000000000001,
    0.07066666666666667,
    0.07100000000000001,
    0.07166666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07166666666666667,
    0.07166666666666667,
    0.07233333333333335,
    0.07133333333333335,
    0.07166666666666667,
    0.07133333333333335,
    0.07200000000000001,
    0.07133333333333335,
    0.07166666666666667,
    0.07200000000000001,
    0.07200000000000001,
    0.07133333333333335,
    0.07233333333333335,
    0.07266666666666667,
    0.07233333333333335,
    0.07200000000000001,
    0.07200000000000001,
    0.07233333333333335,
    0.07166666666666667,
    0.07233333333333335,
    0.076,
    0.07233333333333335,
    0.07200000000000001,
    0.07266666666666667,
    0.07266666666666667,
    0.07266666666666667,
    0.073,
    0.07266666666666667,
    0.073,
    0.08600000000000001,
    0.08466666666666667,
    0.085,
    0.085,
    0.085,
    0.08533333333333333,
    0.085,
    0.085,
    0.085,
    0.08533333333333333,
    0.08600000000000001,
    0.08600000000000001,
    0.085,
    0.08533333333333333,
    0.08566666666666667,
    0.08600000000000001,
    0.08566666666666667,
    0.08600000000000001,
    0.085,
    0.08700000000000001,
    0.08633333333333333,
    0.08633333333333333,
    0.08600000000000001,
    0.08666666666666667,
    0.08600000000000001,
    0.08700000000000001,
    0.08600000000000001,
    0.08633333333333333,
    0.08600000000000001,
    0.08666666666666667,
    0.08600000000000001,
    0.08700000000000001,
    0.08700000000000001,
    0.08700000000000001,
    0.08700000000000001,
    0.08700000000000001,
    0.08700000000000001,
    0.08733333333333333,
    0.08800000000000001,
    0.08733333333333333,
    0.08766666666666667,
    0.08800000000000001,
    0.08766666666666667,
    0.08766666666666667,
    0.08766666666666667,
    0.08800000000000001,
    0.08833333333333333,
    0.08800000000000001,
    0.08766666666666667,
    0.08800000000000001,
    0.08800000000000001,
    0.08866666666666667,
    0.08833333333333333,
    0.08800000000000001,
    0.08900000000000001,
    0.08833333333333333,
    0.08900000000000001,
    0.08866666666666667,
    0.08866666666666667,
    0.08900000000000001,
    0.08866666666666667,
    0.08900000000000001,
    0.08900000000000001,
    0.08800000000000001,
    0.08900000000000001,
    0.08900000000000001,
    0.08900000000000001,
    0.08866666666666667,
    0.08900000000000001,
    0.08966666666666667,
    0.08933333333333333,
    0.08900000000000001,
    0.08866666666666667,
    0.08900000000000001,
    0.08900000000000001,
    0.08866666666666667,
    0.08866666666666667,
    0.08900000000000001,
    0.08900000000000001,
    0.08900000000000001,
    0.08900000000000001,
    0.08866666666666667,
    0.08966666666666667,
    0.08900000000000001,
    0.08900000000000001,
    0.08833333333333333,
    0.08900000000000001,
    0.08900000000000001,
    0.08900000000000001,
    0.08900000000000001,
    0.08900000000000001,
    0.08900000000000001,
    0.08966666666666667,
    0.08933333333333333,
    0.08900000000000001,
    0.09000000000000001,
    0.08900000000000001,
    0.08900000000000001,
    0.08966666666666667,
    0.09000000000000001,
    0.09000000000000001,
    0.09000000000000001,
    0.09033333333333333,
    0.08966666666666667,
    0.08966666666666667,
    0.09000000000000001,
    0.09000000000000001,
    0.09000000000000001,
    0.09000000000000001,
    0.09000000000000001,
    0.09066666666666667,
    0.09000000000000001,
    0.09000000000000001,
    0.09033333333333333,
    0.08966666666666667,
    0.09000000000000001,
    0.09033333333333333,
    0.09100000000000001,
    0.08966666666666667,
    0.09066666666666667,
    0.09066666666666667,
    0.09066666666666667,
    0.09033333333333333,
    0.09000000000000001,
    0.09000000000000001,
    0.09033333333333333,
    0.09000000000000001,
    0.09000000000000001,
    0.08900000000000001,
    0.08866666666666667,
    0.08866666666666667,
    0.08866666666666667,
    0.08900000000000001,
    0.08900000000000001,
    0.08900000000000001,
    0.08866666666666667,
    0.08900000000000001,
    0.08866666666666667,
    0.08900000000000001,
    0.08900000000000001,
    0.08966666666666667,
    0.09000000000000001,
    0.08966666666666667,
    0.09000000000000001,
    0.09000000000000001,
    0.09000000000000001,
    0.08966666666666667,
    0.08966666666666667,
    0.09000000000000001,
    0.08966666666666667,
    0.09000000000000001,
    0.09000000000000001,
    0.09000000000000001,
    0.09000000000000001,
    0.09000000000000001,
    0.09100000000000001,
    0.09000000000000001,
    0.09100000000000001,
    0.09066666666666667,
    0.09033333333333333,
    0.09000000000000001,
    0.09033333333333333,
    0.09000000000000001,
    0.09066666666666667,
    0.09066666666666667,
    0.09033333333333333,
    0.09033333333333333,
    0.09066666666666667,
    0.09033333333333333,
    0.09033333333333333,
    0.09066666666666667,
    0.09066666666666667,
    0.09000000000000001,
    0.08966666666666667,
    0.09000000000000001,
    0.09000000000000001,
    0.09100000000000001,
    0.09033333333333333,
    0.09033333333333333,
    0.09033333333333333,
    0.09000000000000001,
    0.09066666666666667,
    0.09000000000000001,
    0.09033333333333333,
    0.09066666666666667,
    0.09133333333333334,
    0.09100000000000001,
    0.09100000000000001,
    0.09200000000000001,
    0.09200000000000001,
    0.09200000000000001,
    0.09233333333333334,
    0.09566666666666668,
    0.09500000000000001,
    0.09533333333333334,
    0.09466666666666668,
    0.09600000000000002,
    0.09466666666666668,
    0.09566666666666668,
    0.09600000000000002,
    0.09466666666666668,
    0.09500000000000001,
    0.09566666666666668,
    0.09500000000000001,
    0.09500000000000001,
    0.09500000000000001,
    0.09533333333333334,
    0.09500000000000001,
    0.09500000000000001,
    0.09466666666666668,
    0.09533333333333334,
    0.09500000000000001,
    0.09433333333333334,
    0.09500000000000001,
    0.09500000000000001,
    0.09500000000000001,
    0.09500000000000001,
    0.09633333333333334,
    0.09433333333333334,
    0.09600000000000002,
    0.09466666666666668,
    0.09533333333333334,
    0.09466666666666668,
    0.09533333333333334,
    0.09566666666666668,
    0.09500000000000001,
    0.09500000000000001,
    0.09400000000000001,
    0.09533333333333334,
    0.09500000000000001,
    0.09500000000000001,
    0.09533333333333334,
    0.09400000000000001,
    0.09500000000000001,
    0.09533333333333334,
    0.09600000000000002,
    0.09600000000000002,
    0.09566666666666668,
    0.09666666666666668,
    0.09666666666666668,
    0.09666666666666668,
    0.09700000000000002,
    0.09666666666666668,
    0.09600000000000002,
    0.09700000000000002,
    0.09700000000000002,
    0.09700000000000002,
    0.09666666666666668,
    0.09700000000000002,
    0.09700000000000002,
    0.09633333333333334,
    0.09666666666666668,
    0.09733333333333334,
    0.09733333333333334,
    0.09766666666666668,
    0.09766666666666668,
    0.09266666666666667,
    0.09200000000000001,
    0.09200000000000001,
    0.09200000000000001,
    0.09300000000000001,
    0.09300000000000001,
    0.09266666666666667,
    0.09366666666666668,
    0.09266666666666667,
    0.09266666666666667,
    0.09300000000000001,
    0.09266666666666667,
    0.09300000000000001,
    0.09300000000000001,
    0.09300000000000001,
    0.09366666666666668,
    0.09300000000000001,
    0.09300000000000001,
    0.09266666666666667,
    0.09300000000000001,
    0.09300000000000001,
    0.09300000000000001,
    0.09233333333333334,
    0.09300000000000001,
    0.09300000000000001,
    0.09300000000000001,
    0.09300000000000001,
    0.09300000000000001,
    0.09300000000000001,
    0.09400000000000001,
    0.09300000000000001,
    0.09333333333333334,
    0.09366666666666668,
    0.09400000000000001,
    0.09366666666666668,
    0.09300000000000001,
    0.09466666666666668,
    0.09366666666666668,
    0.09400000000000001,
    0.09366666666666668,
    0.09366666666666668,
    0.09400000000000001,
    0.09333333333333334,
    0.09400000000000001,
    0.09400000000000001,
    0.09433333333333334,
    0.09400000000000001,
    0.09466666666666668,
    0.09466666666666668,
    0.09433333333333334,
    0.09466666666666668,
    0.09466666666666668,
    0.09433333333333334,
    0.09400000000000001,
    0.09566666666666668,
    0.09500000000000001,
    0.09533333333333334,
    0.09533333333333334,
    0.09566666666666668,
    0.09500000000000001,
    0.09500000000000001,
    0.09566666666666668,
    0.09500000000000001,
    0.09466666666666668,
    0.09466666666666668,
    0.09400000000000001,
    0.09466666666666668,
    0.09400000000000001,
    0.09466666666666668,
    0.09400000000000001,
    0.09466666666666668,
    0.09400000000000001,
    0.09533333333333334,
    0.09466666666666668,
    0.09466666666666668,
    0.09500000000000001,
    0.09466666666666668,
    0.09466666666666668,
    0.09466666666666668,
    0.09533333333333334,
    0.09500000000000001,
    0.09566666666666668,
    0.09533333333333334,
    0.09533333333333334,
    0.09566666666666668,
    0.09600000000000002,
    0.09600000000000002,
    0.09600000000000002,
    0.09633333333333334,
    0.09600000000000002,
    0.09633333333333334,
    0.09600000000000002,
    0.09600000000000002,
    0.09633333333333334,
    0.09600000000000002,
    0.09600000000000002,
    0.09500000000000001,
    0.09533333333333334,
    0.09600000000000002,
    0.09600000000000002,
    0.09600000000000002,
    0.09633333333333334,
    0.09600000000000002,
    0.09666666666666668,
    0.09700000000000002,
    0.09600000000000002,
    0.09600000000000002,
    0.09633333333333334,
    0.09600000000000002,
    0.09633333333333334,
    0.09666666666666668,
    0.09700000000000002,
    0.09666666666666668,
    0.09666666666666668,
    0.09666666666666668,
    0.09666666666666668,
    0.09700000000000002,
    0.09666666666666668,
    0.09800000000000002,
    0.09700000000000002,
    0.09666666666666668,
    0.09766666666666668,
    0.09666666666666668,
    0.09700000000000002,
    0.09666666666666668,
    0.09766666666666668,
    0.09700000000000002,
    0.09766666666666668,
    0.09700000000000002,
    0.09733333333333334,
    0.09633333333333334,
    0.09800000000000002,
    0.09766666666666668,
    0.09899999999999999,
    0.09733333333333334,
    0.09933333333333333,
    0.09766666666666668,
    0.09800000000000002,
    0.09899999999999999,
    0.09866666666666667,
    0.09866666666666667,
    0.09866666666666667,
    0.09933333333333334,
    0.09833333333333333,
    0.09766666666666668,
    0.09866666666666667,
    0.09933333333333333,
    0.09866666666666667,
    0.09899999999999999,
    0.09966666666666668,
    0.09933333333333333,
    0.09866666666666667,
    0.10133333333333333,
    0.10066666666666668,
    0.10066666666666668,
    0.10100000000000002,
    0.10166666666666667,
    0.10066666666666668,
    0.102,
    0.10166666666666667,
    0.10033333333333334,
    0.10100000000000002,
    0.09966666666666668,
    0.10133333333333333,
    0.10033333333333334,
    0.10133333333333333,
    0.10133333333333333,
    0.10133333333333333,
    0.10033333333333334,
    0.10133333333333333,
    0.10100000000000002,
    0.10100000000000002,
    0.10099999999999999,
    0.10233333333333333,
    0.10233333333333333,
    0.10166666666666667,
    0.10266666666666667,
    0.103,
    0.10166666666666667,
    0.10366666666666667,
    0.10166666666666667,
    0.103,
    0.102,
    0.10433333333333333,
    0.103,
    0.10266666666666667,
    0.10433333333333333,
    0.10266666666666667,
    0.104,
    0.10366666666666667,
    0.10366666666666667,
    0.103,
    0.10900000000000003,
    0.10900000000000003,
    0.10966666666666668,
    0.10933333333333334,
    0.11033333333333334,
    0.10966666666666668,
    0.11,
    0.11066666666666668,
    0.11066666666666668,
    0.11066666666666668,
    0.111,
    0.111,
    0.111,
    0.111,
    0.111,
    0.11066666666666668,
    0.10966666666666668,
    0.11,
    0.10966666666666668,
    0.11033333333333334,
    0.11033333333333334,
    0.11,
    0.11033333333333334,
    0.111,
    0.11,
    0.11066666666666668,
    0.11066666666666668,
    0.111,
    0.11066666666666668,
    0.11133333333333334,
    0.11066666666666668,
    0.112,
    0.11133333333333334,
    0.11133333333333334,
    0.11166666666666668,
    0.112,
    0.11133333333333334,
    0.11133333333333334,
    0.11266666666666665,
    0.11266666666666665,
    0.11166666666666668,
    0.11133333333333334,
    0.11166666666666668,
    0.11199999999999999,
    0.11133333333333334,
    0.11233333333333333,
    0.11166666666666668,
    0.11266666666666665,
    0.11266666666666665,
    0.11266666666666665,
    0.11266666666666665,
    0.11299999999999999,
    0.11266666666666665,
    0.11366666666666665,
    0.11333333333333333,
    0.11366666666666665,
    0.114,
    0.114,
    0.11333333333333333,
    0.11433333333333334,
    0.11466666666666668,
    0.114,
    0.115,
    0.11466666666666668
]