result_batch_4_(use_flash_attn_with_kvcache=True, slicing=True, kv_cache_len=1024).json

[
    0.032,
    0.03166666666666667,
    0.032,
    0.032,
    0.032,
    0.03133333333333333,
    0.032,
    0.032,
    0.03166666666666667,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.03166666666666667,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.032,
    0.03233333333333333,
    0.032,
    0.032,
    0.032,
    0.03266666666666667,
    0.03166666666666667,
    0.03233333333333333,
    0.03233333333333333,
    0.032,
    0.032,
    0.03233333333333333,
    0.032,
    0.03233333333333333,
    0.03266666666666667,
    0.033,
    0.032,
    0.03266666666666667,
    0.033,
    0.03233333333333333,
    0.03266666666666667,
    0.032,
    0.03266666666666667,
    0.03266666666666667,
    0.03233333333333333,
    0.03266666666666667,
    0.03233333333333333,
    0.03266666666666667,
    0.033,
    0.033,
    0.033,
    0.03266666666666667,
    0.033,
    0.03266666666666667,
    0.03233333333333333,
    0.04,
    0.041,
    0.04066666666666666,
    0.042,
    0.042,
    0.041666666666666664,
    0.042,
    0.042333333333333334,
    0.042333333333333334,
    0.042333333333333334,
    0.042333333333333334,
    0.042333333333333334,
    0.042,
    0.042333333333333334,
    0.042,
    0.042,
    0.042,
    0.042,
    0.042,
    0.042,
    0.042666666666666665,
    0.042,
    0.042,
    0.042,
    0.042,
    0.042333333333333334,
    0.042,
    0.042,
    0.042,
    0.042,
    0.042,
    0.042333333333333334,
    0.042,
    0.042333333333333334,
    0.042,
    0.042,
    0.042666666666666665,
    0.041666666666666664,
    0.042,
    0.043000000000000003,
    0.042,
    0.042666666666666665,
    0.042333333333333334,
    0.042666666666666665,
    0.042333333333333334,
    0.042333333333333334,
    0.042666666666666665,
    0.043000000000000003,
    0.042666666666666665,
    0.042,
    0.043000000000000003,
    0.043000000000000003,
    0.043000000000000003,
    0.042,
    0.042,
    0.042,
    0.042,
    0.042333333333333334,
    0.043000000000000003,
    0.042333333333333334,
    0.042666666666666665,
    0.042666666666666665,
    0.042666666666666665,
    0.043000000000000003,
    0.04933333333333334,
    0.05000000000000001,
    0.04966666666666667,
    0.04933333333333334,
    0.05000000000000001,
    0.04966666666666667,
    0.050333333333333334,
    0.04966666666666667,
    0.050666666666666665,
    0.05000000000000001,
    0.054,
    0.05000000000000001,
    0.04966666666666667,
    0.05000000000000001,
    0.04933333333333334,
    0.05000000000000001,
    0.05000000000000001,
    0.050666666666666665,
    0.05000000000000001,
    0.050666666666666665,
    0.05000000000000001,
    0.05000000000000001,
    0.05000000000000001,
    0.050666666666666665,
    0.05000000000000001,
    0.05000000000000001,
    0.04966666666666667,
    0.050333333333333334,
    0.05000000000000001,
    0.050333333333333334,
    0.05000000000000001,
    0.05000000000000001,
    0.04900000000000001,
    0.04966666666666667,
    0.05000000000000001,
    0.05000000000000001,
    0.04900000000000001,
    0.04966666666666667,
    0.04900000000000001,
    0.04966666666666667,
    0.05000000000000001,
    0.05000000000000001,
    0.04966666666666667,
    0.04966666666666667,
    0.05000000000000001,
    0.04966666666666667,
    0.050333333333333334,
    0.04966666666666667,
    0.05000000000000001,
    0.05000000000000001,
    0.05000000000000001,
    0.05000000000000001,
    0.05000000000000001,
    0.05000000000000001,
    0.04966666666666667,
    0.05000000000000001,
    0.04966666666666667,
    0.050333333333333334,
    0.050333333333333334,
    0.05000000000000001,
    0.050666666666666665,
    0.050333333333333334,
    0.050666666666666665,
    0.051,
    0.051,
    0.052,
    0.052,
    0.053,
    0.053,
    0.05433333333333334,
    0.05333333333333334,
    0.05366666666666667,
    0.05433333333333334,
    0.05466666666666667,
    0.05466666666666667,
    0.05466666666666667,
    0.05466666666666667,
    0.05533333333333334,
    0.05466666666666667,
    0.056,
    0.05566666666666667,
    0.05566666666666667,
    0.05566666666666667,
    0.05666666666666667,
    0.05533333333333334,
    0.05633333333333334,
    0.05466666666666667,
    0.05533333333333334,
    0.055,
    0.055,
    0.05733333333333334,
    0.057,
    0.05633333333333334,
    0.05633333333333334,
    0.057,
    0.05766666666666667,
    0.05666666666666667,
    0.059666666666666666,
    0.057,
    0.05733333333333334,
    0.05733333333333334,
    0.058666666666666666,
    0.05833333333333333,
    0.059,
    0.05933333333333333,
    0.05933333333333333,
    0.059666666666666666,
    0.05933333333333333,
    0.058666666666666666,
    0.059666666666666666,
    0.059,
    0.05933333333333333,
    0.059,
    0.059,
    0.059,
    0.05933333333333333,
    0.059666666666666666,
    0.06,
    0.060000000000000005,
    0.059666666666666666,
    0.059666666666666666,
    0.059666666666666666,
    0.059666666666666666,
    0.05933333333333333,
    0.060000000000000005,
    0.05933333333333333,
    0.05933333333333334,
    0.05933333333333333,
    0.062,
    0.064,
    0.064,
    0.066,
    0.06266666666666666,
    0.06333333333333334,
    0.063,
    0.06466666666666666,
    0.064,
    0.063,
    0.06266666666666666,
    0.06266666666666666,
    0.06466666666666666,
    0.064,
    0.06366666666666666,
    0.06366666666666666,
    0.064,
    0.064,
    0.064,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.06466666666666666,
    0.06466666666666666,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.06466666666666666,
    0.06499999999999999,
    0.06466666666666666,
    0.06433333333333334,
    0.06566666666666666,
    0.06466666666666666,
    0.06499999999999999,
    0.06499999999999999,
    0.06533333333333333,
    0.06499999999999999,
    0.06533333333333333,
    0.06466666666666666,
    0.066,
    0.06533333333333333,
    0.066,
    0.06466666666666666,
    0.06566666666666666,
    0.06499999999999999,
    0.066,
    0.06499999999999999,
    0.06666666666666667,
    0.06499999999999999,
    0.06533333333333333,
    0.06499999999999999,
    0.06566666666666666,
    0.06499999999999999,
    0.06566666666666666,
    0.06566666666666666,
    0.066,
    0.06499999999999999,
    0.06533333333333333,
    0.06499999999999999,
    0.066,
    0.06533333333333333,
    0.06566666666666666,
    0.06566666666666666,
    0.066,
    0.06866666666666667,
    0.06999999999999999,
    0.06866666666666667,
    0.06899999999999999,
    0.06966666666666665,
    0.06899999999999999,
    0.06899999999999999,
    0.06833333333333334,
    0.06866666666666667,
    0.068,
    0.06866666666666667,
    0.068,
    0.06833333333333334,
    0.06866666666666667,
    0.06866666666666667,
    0.068,
    0.068,
    0.06833333333333334,
    0.068,
    0.06866666666666667,
    0.06833333333333334,
    0.06866666666666667,
    0.06899999999999999,
    0.06866666666666667,
    0.06899999999999999,
    0.06866666666666667,
    0.06866666666666667,
    0.06866666666666667,
    0.06866666666666667,
    0.06866666666666667,
    0.06833333333333334,
    0.06933333333333332,
    0.068,
    0.069,
    0.068,
    0.06933333333333332,
    0.06866666666666667,
    0.06899999999999999,
    0.06833333333333334,
    0.06899999999999999,
    0.06833333333333334,
    0.06866666666666667,
    0.06833333333333334,
    0.06933333333333332,
    0.06933333333333332,
    0.06933333333333332,
    0.06933333333333332,
    0.06966666666666665,
    0.06899999999999999,
    0.07033333333333333,
    0.06899999999999999,
    0.06999999999999999,
    0.06866666666666667,
    0.06933333333333332,
    0.07066666666666667,
    0.06999999999999999,
    0.07033333333333333,
    0.06866666666666667,
    0.07033333333333333,
    0.06866666666666667,
    0.06999999999999999,
    0.06966666666666665,
    0.06999999999999999,
    0.06966666666666667,
    0.068,
    0.06766666666666667,
    0.06733333333333334,
    0.06766666666666667,
    0.06766666666666667,
    0.068,
    0.06766666666666667,
    0.06733333333333334,
    0.068,
    0.068,
    0.067,
    0.06766666666666667,
    0.068,
    0.068,
    0.068,
    0.068,
    0.06766666666666667,
    0.06866666666666667,
    0.06766666666666667,
    0.068,
    0.068,
    0.068,
    0.068,
    0.06866666666666667,
    0.06899999999999999,
    0.068,
    0.06866666666666667,
    0.068,
    0.06866666666666667,
    0.068,
    0.06899999999999999,
    0.06866666666666667,
    0.068,
    0.06733333333333334,
    0.06733333333333334,
    0.06766666666666667,
    0.06766666666666667,
    0.068,
    0.068,
    0.06766666666666667,
    0.06833333333333334,
    0.068,
    0.06766666666666667,
    0.06733333333333334,
    0.06766666666666667,
    0.06833333333333334,
    0.06766666666666667,
    0.06766666666666667,
    0.068,
    0.06833333333333334,
    0.068,
    0.068,
    0.068,
    0.068,
    0.06833333333333334,
    0.068,
    0.068,
    0.06866666666666667,
    0.06866666666666667,
    0.06833333333333334,
    0.068,
    0.06899999999999999,
    0.068,
    0.06899999999999999,
    0.076,
    0.077,
    0.07666666666666666,
    0.077,
    0.077,
    0.07666666666666666,
    0.07666666666666666,
    0.07666666666666666,
    0.076,
    0.07666666666666666,
    0.077,
    0.07766666666666666,
    0.078,
    0.07766666666666666,
    0.07766666666666666,
    0.07733333333333332,
    0.07766666666666666,
    0.07733333333333332,
    0.078,
    0.078,
    0.07766666666666666,
    0.07766666666666666,
    0.078,
    0.078,
    0.07866666666666666,
    0.07833333333333332,
    0.078,
    0.078,
    0.078,
    0.078,
    0.07866666666666666,
    0.07766666666666666,
    0.078,
    0.07766666666666666,
    0.078,
    0.078,
    0.078,
    0.078,
    0.077,
    0.078,
    0.078,
    0.078,
    0.078,
    0.078,
    0.078,
    0.07833333333333332,
    0.078,
    0.078,
    0.078,
    0.07733333333333332,
    0.077,
    0.078,
    0.07733333333333332,
    0.07766666666666666,
    0.078,
    0.078,
    0.07766666666666666,
    0.07733333333333332,
    0.07766666666666666,
    0.078,
    0.078,
    0.078,
    0.07733333333333332,
    0.078,
    0.078,
    0.078,
    0.07833333333333332,
    0.078,
    0.078,
    0.07766666666666666,
    0.078,
    0.078,
    0.078,
    0.078,
    0.078,
    0.078,
    0.078,
    0.07833333333333332,
    0.078,
    0.07766666666666666,
    0.07833333333333332,
    0.078,
    0.078,
    0.078,
    0.07833333333333332,
    0.078,
    0.07866666666666666,
    0.07833333333333332,
    0.07833333333333332,
    0.07966666666666666,
    0.079,
    0.079,
    0.07833333333333332,
    0.079,
    0.079,
    0.07933333333333333,
    0.079,
    0.079,
    0.079,
    0.079,
    0.07866666666666666,
    0.079,
    0.08,
    0.079,
    0.079,
    0.079,
    0.07933333333333333,
    0.07966666666666666,
    0.079,
    0.079,
    0.07966666666666666,
    0.08,
    0.07933333333333333,
    0.07966666666666666,
    0.07933333333333333,
    0.079,
    0.07933333333333333,
    0.07933333333333333,
    0.07933333333333333,
    0.08,
    0.08,
    0.07933333333333333,
    0.08,
    0.07933333333333333,
    0.08,
    0.07966666666666666,
    0.08,
    0.07933333333333333,
    0.08533333333333333,
    0.08566666666666667,
    0.08600000000000001,
    0.08566666666666667,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08566666666666667,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08533333333333333,
    0.08566666666666667,
    0.08633333333333333,
    0.08633333333333333,
    0.08600000000000001,
    0.08600000000000001,
    0.08666666666666667,
    0.08700000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08666666666666667,
    0.08633333333333333,
    0.08666666666666667,
    0.08666666666666667,
    0.08666666666666667,
    0.08600000000000001,
    0.08633333333333333,
    0.08600000000000001,
    0.08666666666666667,
    0.08600000000000001,
    0.08600000000000001,
    0.08700000000000001,
    0.08700000000000001,
    0.08666666666666667,
    0.08600000000000001,
    0.08666666666666667,
    0.08700000000000001,
    0.08666666666666667,
    0.08700000000000001,
    0.08700000000000001,
    0.08633333333333333,
    0.08700000000000001,
    0.08600000000000001,
    0.08666666666666667,
    0.08633333333333333,
    0.08633333333333333,
    0.08700000000000001,
    0.08666666666666667,
    0.08666666666666667,
    0.08700000000000001,
    0.08700000000000001,
    0.08700000000000001,
    0.08700000000000001,
    0.08633333333333333,
    0.08600000000000001,
    0.08666666666666667,
    0.08266666666666667,
    0.085,
    0.08466666666666667,
    0.08533333333333333,
    0.08466666666666667,
    0.08633333333333333,
    0.08533333333333333,
    0.08600000000000001,
    0.084,
    0.08533333333333333,
    0.08566666666666667,
    0.08533333333333333,
    0.08533333333333333,
    0.08533333333333333,
    0.08566666666666667,
    0.08600000000000001,
    0.08433333333333333,
    0.08533333333333333,
    0.08366666666666667,
    0.08600000000000001,
    0.08433333333333333,
    0.08600000000000001,
    0.08433333333333333,
    0.08633333333333333,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08566666666666667,
    0.08733333333333333,
    0.08600000000000001,
    0.08666666666666667,
    0.08700000000000001,
    0.08533333333333333,
    0.08666666666666667,
    0.08466666666666667,
    0.08700000000000001,
    0.08533333333333333,
    0.08700000000000001,
    0.085,
    0.08533333333333333,
    0.08700000000000001,
    0.08566666666666667,
    0.08733333333333333,
    0.08633333333333333,
    0.08733333333333333,
    0.08566666666666667,
    0.08866666666666667,
    0.08733333333333333,
    0.08833333333333333,
    0.08633333333333333,
    0.08866666666666667,
    0.08700000000000001,
    0.08866666666666667,
    0.08666666666666667,
    0.08866666666666667,
    0.08866666666666667,
    0.08900000000000001,
    0.08833333333333333,
    0.08833333333333333,
    0.08900000000000001,
    0.08900000000000001,
    0.08866666666666667,
    0.08933333333333333,
    0.09266666666666667,
    0.09466666666666668,
    0.09400000000000001,
    0.09466666666666668,
    0.09400000000000001,
    0.09466666666666668,
    0.09400000000000001,
    0.09466666666666668,
    0.09466666666666668,
    0.09500000000000001,
    0.09566666666666668,
    0.09533333333333334,
    0.09566666666666668,
    0.09566666666666668,
    0.09600000000000002,
    0.09466666666666668,
    0.09500000000000001,
    0.09533333333333334,
    0.09500000000000001,
    0.09566666666666668,
    0.09600000000000002,
    0.09533333333333334,
    0.09533333333333334,
    0.09566666666666668,
    0.09533333333333334,
    0.09500000000000001,
    0.09700000000000002,
    0.09700000000000002,
    0.09700000000000002,
    0.09600000000000002,
    0.09700000000000002,
    0.09633333333333334,
    0.09633333333333334,
    0.09700000000000002,
    0.09700000000000002,
    0.09666666666666668,
    0.09666666666666668,
    0.09700000000000002,
    0.09700000000000002,
    0.09666666666666668,
    0.09700000000000002,
    0.09700000000000002,
    0.09666666666666668,
    0.09700000000000002,
    0.09666666666666668,
    0.09700000000000002,
    0.09700000000000002,
    0.09666666666666668,
    0.09700000000000002,
    0.09700000000000002,
    0.09700000000000002,
    0.09800000000000002,
    0.09700000000000002,
    0.09700000000000002,
    0.09700000000000002,
    0.09700000000000002,
    0.09766666666666668,
    0.09800000000000002,
    0.09800000000000002,
    0.09800000000000002,
    0.09800000000000002,
    0.09833333333333333,
    0.09800000000000002,
    0.09800000000000002,
    0.09333333333333334,
    0.09366666666666668,
    0.09400000000000001,
    0.09333333333333334,
    0.09400000000000001,
    0.09433333333333334,
    0.09333333333333334,
    0.09400000000000001,
    0.09366666666666668,
    0.09366666666666668,
    0.09400000000000001,
    0.09400000000000001,
    0.09433333333333334,
    0.09400000000000001,
    0.09433333333333334,
    0.09433333333333334,
    0.09500000000000001,
    0.09400000000000001,
    0.09466666666666668,
    0.09400000000000001,
    0.09466666666666668,
    0.09366666666666668,
    0.09500000000000001,
    0.09433333333333334,
    0.09400000000000001,
    0.09400000000000001,
    0.09433333333333334,
    0.09400000000000001,
    0.09400000000000001,
    0.09500000000000001,
    0.09433333333333334,
    0.09466666666666668,
    0.09466666666666668,
    0.09400000000000001,
    0.09433333333333334,
    0.09400000000000001,
    0.09500000000000001,
    0.09466666666666668,
    0.09500000000000001,
    0.09500000000000001,
    0.09533333333333334,
    0.09500000000000001,
    0.09500000000000001,
    0.09466666666666668,
    0.09466666666666668,
    0.09466666666666668,
    0.09533333333333334,
    0.09500000000000001,
    0.09433333333333334,
    0.09500000000000001,
    0.09466666666666668,
    0.09533333333333334,
    0.09500000000000001,
    0.09500000000000001,
    0.09533333333333334,
    0.09500000000000001,
    0.09500000000000001,
    0.09600000000000002,
    0.09533333333333334,
    0.09600000000000002,
    0.09600000000000002,
    0.09533333333333334,
    0.09500000000000001,
    0.09500000000000001,
    0.09966666666666668,
    0.10000000000000002,
    0.09933333333333333,
    0.09933333333333333,
    0.09966666666666668,
    0.09966666666666668,
    0.09966666666666668,
    0.10066666666666668,
    0.10000000000000002,
    0.10000000000000002,
    0.10100000000000002,
    0.09966666666666668,
    0.10033333333333334,
    0.10000000000000002,
    0.10000000000000002,
    0.10100000000000002,
    0.10033333333333334,
    0.10066666666666668,
    0.10033333333333334,
    0.10100000000000002,
    0.10100000000000002,
    0.10066666666666668,
    0.10100000000000002,
    0.10100000000000002,
    0.10100000000000002,
    0.10100000000000002,
    0.10066666666666668,
    0.10100000000000002,
    0.10100000000000002,
    0.10100000000000002,
    0.10133333333333333,
    0.10133333333333333,
    0.10066666666666668,
    0.102,
    0.10133333333333333,
    0.10133333333333333,
    0.10133333333333333,
    0.102,
    0.10166666666666667,
    0.102,
    0.102,
    0.102,
    0.102,
    0.102,
    0.102,
    0.102,
    0.102,
    0.10233333333333333,
    0.102,
    0.10266666666666667,
    0.103,
    0.103,
    0.102,
    0.103,
    0.103,
    0.103,
    0.103,
    0.103,
    0.10366666666666667,
    0.10266666666666667,
    0.10366666666666667,
    0.104,
    0.10366666666666667,
    0.104,
    0.10733333333333334,
    0.10833333333333334,
    0.10766666666666667,
    0.10833333333333334,
    0.10733333333333334,
    0.10900000000000003,
    0.108,
    0.10900000000000003,
    0.10900000000000003,
    0.10833333333333334,
    0.108,
    0.108,
    0.10900000000000003,
    0.10833333333333334,
    0.10833333333333334,
    0.10833333333333334,
    0.108,
    0.10900000000000003,
    0.108,
    0.108,
    0.10766666666666667,
    0.10833333333333334,
    0.107,
    0.108,
    0.107,
    0.10766666666666667,
    0.108,
    0.108,
    0.108,
    0.10866666666666669,
    0.108,
    0.10900000000000003,
    0.10766666666666667,
    0.10733333333333334,
    0.10900000000000003,
    0.108,
    0.10900000000000003,
    0.10866666666666669,
    0.10866666666666669,
    0.108,
    0.108,
    0.10900000000000003,
    0.10900000000000003,
    0.10900000000000003,
    0.10866666666666669,
    0.10900000000000003,
    0.10833333333333334,
    0.10866666666666669,
    0.10933333333333334,
    0.11,
    0.10933333333333334,
    0.11,
    0.10900000000000003,
    0.11066666666666668,
    0.10933333333333334,
    0.11,
    0.10966666666666668,
    0.11,
    0.10966666666666668,
    0.10966666666666668,
    0.10933333333333334,
    0.11,
    0.10966666666666668,
    0.11066666666666668,
    0.10966666666666668,
    0.11066666666666668,
    0.10933333333333334,
    0.11066666666666668,
    0.11066666666666668,
    0.11,
    0.11066666666666668,
    0.11033333333333334,
    0.11,
    0.11133333333333334,
    0.10966666666666668,
    0.11166666666666668,
    0.10966666666666668,
    0.112,
    0.10866666666666669,
    0.111,
    0.111,
    0.11033333333333334,
    0.11033333333333334,
    0.11033333333333334,
    0.11133333333333334,
    0.112,
    0.11133333333333334,
    0.11299999999999999,
    0.11033333333333334,
    0.11166666666666668,
    0.11033333333333334,
    0.11166666666666668,
    0.11066666666666668,
    0.112,
    0.111,
    0.112,
    0.11266666666666665,
    0.112,
    0.11299999999999999,
    0.112,
    0.11333333333333333,
    0.11266666666666665,
    0.11433333333333333,
    0.112,
    0.11266666666666665,
    0.11366666666666665,
    0.11333333333333333,
    0.11433333333333334,
    0.11366666666666665,
    0.114,
    0.11366666666666665,
    0.11466666666666668,
    0.11466666666666668,
    0.11466666666666668,
    0.11533333333333334,
    0.11566666666666668,
    0.115,
    0.11633333333333333,
    0.116,
    0.11433333333333334,
    0.11333333333333333,
    0.11566666666666668,
    0.11466666666666668,
    0.11566666666666668,
    0.11466666666666668,
    0.11666666666666665,
    0.115,
    0.11566666666666668
]