result_batch_4_(use_flash_attn_with_kvcache=False, slicing=True, kv_cache_len=1024).json

[
    0.050666666666666665,
    0.05000000000000001,
    0.04966666666666667,
    0.051,
    0.05000000000000001,
    0.05000000000000001,
    0.04933333333333334,
    0.050333333333333334,
    0.05000000000000001,
    0.05000000000000001,
    0.04933333333333334,
    0.051,
    0.04933333333333334,
    0.05000000000000001,
    0.05000000000000001,
    0.050333333333333334,
    0.05000000000000001,
    0.050333333333333334,
    0.04966666666666667,
    0.04966666666666667,
    0.04966666666666667,
    0.05000000000000001,
    0.050666666666666665,
    0.05000000000000001,
    0.05000000000000001,
    0.04966666666666667,
    0.05000000000000001,
    0.04933333333333334,
    0.05000000000000001,
    0.050333333333333334,
    0.05000000000000001,
    0.05000000000000001,
    0.04966666666666667,
    0.05000000000000001,
    0.04966666666666667,
    0.04966666666666667,
    0.04933333333333334,
    0.05000000000000001,
    0.04933333333333334,
    0.050666666666666665,
    0.04966666666666667,
    0.05000000000000001,
    0.04900000000000001,
    0.050666666666666665,
    0.04966666666666667,
    0.05000000000000001,
    0.05000000000000001,
    0.04933333333333334,
    0.05000000000000001,
    0.05000000000000001,
    0.04966666666666667,
    0.05000000000000001,
    0.04933333333333334,
    0.05000000000000001,
    0.05000000000000001,
    0.04966666666666667,
    0.04933333333333334,
    0.04966666666666667,
    0.04900000000000001,
    0.05000000000000001,
    0.05000000000000001,
    0.050666666666666665,
    0.04900000000000001,
    0.04933333333333334,
    0.059,
    0.058666666666666666,
    0.05833333333333333,
    0.059,
    0.058,
    0.058666666666666666,
    0.05833333333333333,
    0.058666666666666666,
    0.059,
    0.05833333333333333,
    0.05833333333333333,
    0.058,
    0.05766666666666667,
    0.05833333333333333,
    0.05833333333333333,
    0.058666666666666666,
    0.058,
    0.058,
    0.058666666666666666,
    0.058,
    0.058,
    0.058666666666666666,
    0.05833333333333333,
    0.059,
    0.058,
    0.059,
    0.058,
    0.058666666666666666,
    0.05833333333333333,
    0.058,
    0.05833333333333333,
    0.05833333333333333,
    0.058666666666666666,
    0.05833333333333333,
    0.058,
    0.05833333333333333,
    0.05833333333333333,
    0.058666666666666666,
    0.05833333333333333,
    0.058666666666666666,
    0.05766666666666667,
    0.05833333333333333,
    0.05833333333333333,
    0.058666666666666666,
    0.058,
    0.058,
    0.058,
    0.05833333333333333,
    0.058,
    0.05833333333333333,
    0.05766666666666667,
    0.05833333333333333,
    0.058,
    0.058666666666666666,
    0.057,
    0.058666666666666666,
    0.058,
    0.058,
    0.059,
    0.058,
    0.05833333333333333,
    0.058,
    0.059,
    0.06066666666666667,
    0.05933333333333333,
    0.059,
    0.059666666666666666,
    0.059,
    0.059,
    0.059,
    0.059666666666666666,
    0.060000000000000005,
    0.05933333333333333,
    0.059,
    0.05933333333333333,
    0.059666666666666666,
    0.059666666666666666,
    0.060000000000000005,
    0.059666666666666666,
    0.05933333333333333,
    0.059666666666666666,
    0.059666666666666666,
    0.060000000000000005,
    0.059,
    0.060000000000000005,
    0.060000000000000005,
    0.059666666666666666,
    0.060000000000000005,
    0.060000000000000005,
    0.062,
    0.06066666666666667,
    0.06266666666666666,
    0.060000000000000005,
    0.060000000000000005,
    0.060000000000000005,
    0.05933333333333333,
    0.060000000000000005,
    0.059666666666666666,
    0.06033333333333333,
    0.05933333333333333,
    0.060000000000000005,
    0.060000000000000005,
    0.06066666666666667,
    0.06066666666666667,
    0.06033333333333333,
    0.06066666666666667,
    0.06166666666666667,
    0.061,
    0.060000000000000005,
    0.06066666666666667,
    0.06066666666666667,
    0.06166666666666667,
    0.061,
    0.061,
    0.06133333333333333,
    0.061,
    0.06166666666666667,
    0.061,
    0.061,
    0.06133333333333333,
    0.06133333333333333,
    0.062,
    0.061,
    0.061,
    0.061,
    0.06133333333333333,
    0.062,
    0.062,
    0.06233333333333333,
    0.063,
    0.06233333333333333,
    0.062,
    0.06233333333333333,
    0.063,
    0.06266666666666666,
    0.06333333333333334,
    0.063,
    0.063,
    0.063,
    0.063,
    0.06366666666666666,
    0.064,
    0.06366666666666666,
    0.06433333333333334,
    0.06366666666666666,
    0.06466666666666666,
    0.06433333333333334,
    0.06433333333333334,
    0.06499999999999999,
    0.06499999999999999,
    0.06533333333333333,
    0.06533333333333333,
    0.066,
    0.06566666666666666,
    0.066,
    0.066,
    0.066,
    0.06566666666666666,
    0.067,
    0.067,
    0.067,
    0.06766666666666667,
    0.06666666666666667,
    0.06733333333333334,
    0.06766666666666667,
    0.067,
    0.06766666666666667,
    0.06766666666666667,
    0.06766666666666667,
    0.06733333333333334,
    0.068,
    0.068,
    0.068,
    0.06733333333333334,
    0.068,
    0.068,
    0.068,
    0.06866666666666667,
    0.06833333333333334,
    0.06899999999999999,
    0.06866666666666667,
    0.06933333333333332,
    0.06899999999999999,
    0.06933333333333332,
    0.06899999999999999,
    0.06866666666666667,
    0.06899999999999999,
    0.06899999999999999,
    0.06933333333333332,
    0.06899999999999999,
    0.07033333333333333,
    0.06899999999999999,
    0.06899999999999999,
    0.06899999999999999,
    0.06899999999999999,
    0.06899999999999999,
    0.06899999999999999,
    0.06899999999999999,
    0.06966666666666665,
    0.06966666666666665,
    0.06933333333333332,
    0.06866666666666667,
    0.06899999999999999,
    0.06966666666666665,
    0.06933333333333332,
    0.06966666666666665,
    0.06899999999999999,
    0.06999999999999999,
    0.07033333333333334,
    0.06999999999999999,
    0.06999999999999999,
    0.06999999999999999,
    0.06999999999999999,
    0.06999999999999999,
    0.06999999999999999,
    0.06999999999999999,
    0.07033333333333333,
    0.06999999999999999,
    0.07033333333333333,
    0.06999999999999999,
    0.06999999999999999,
    0.07100000000000001,
    0.07033333333333333,
    0.06933333333333332,
    0.07066666666666667,
    0.07066666666666667,
    0.07033333333333333,
    0.07066666666666667,
    0.07066666666666667,
    0.07100000000000001,
    0.07166666666666667,
    0.07133333333333335,
    0.07066666666666667,
    0.07066666666666667,
    0.07133333333333335,
    0.07133333333333335,
    0.07200000000000001,
    0.07200000000000001,
    0.07266666666666667,
    0.07266666666666667,
    0.07266666666666667,
    0.07266666666666667,
    0.073,
    0.073,
    0.07266666666666667,
    0.07266666666666667,
    0.07200000000000001,
    0.073,
    0.073,
    0.073,
    0.07266666666666667,
    0.073,
    0.073,
    0.07333333333333332,
    0.073,
    0.07333333333333332,
    0.07766666666666666,
    0.077,
    0.077,
    0.07733333333333332,
    0.07733333333333332,
    0.078,
    0.07766666666666666,
    0.078,
    0.078,
    0.078,
    0.077,
    0.077,
    0.078,
    0.078,
    0.07766666666666666,
    0.07766666666666666,
    0.07866666666666666,
    0.078,
    0.07733333333333332,
    0.07833333333333332,
    0.078,
    0.07833333333333332,
    0.078,
    0.07766666666666666,
    0.07833333333333332,
    0.079,
    0.078,
    0.07833333333333332,
    0.07866666666666666,
    0.07833333333333332,
    0.079,
    0.078,
    0.07933333333333333,
    0.079,
    0.079,
    0.07933333333333333,
    0.07966666666666666,
    0.08,
    0.07933333333333333,
    0.08,
    0.07933333333333333,
    0.07966666666666666,
    0.07966666666666666,
    0.08,
    0.07966666666666666,
    0.08,
    0.08,
    0.07933333333333333,
    0.08,
    0.08033333333333333,
    0.08033333333333333,
    0.08033333333333333,
    0.08,
    0.08033333333333333,
    0.08033333333333333,
    0.081,
    0.081,
    0.081,
    0.081,
    0.081,
    0.08133333333333333,
    0.08033333333333333,
    0.081,
    0.08066666666666666,
    0.07966666666666666,
    0.07966666666666666,
    0.08,
    0.08,
    0.08,
    0.08,
    0.08,
    0.08,
    0.08166666666666667,
    0.08,
    0.07966666666666666,
    0.08,
    0.08033333333333333,
    0.08,
    0.07966666666666666,
    0.08066666666666666,
    0.08,
    0.08,
    0.08,
    0.08033333333333333,
    0.08066666666666666,
    0.08066666666666666,
    0.081,
    0.081,
    0.08166666666666667,
    0.082,
    0.08133333333333333,
    0.081,
    0.082,
    0.08133333333333333,
    0.082,
    0.081,
    0.08166666666666667,
    0.08133333333333333,
    0.08166666666666667,
    0.08166666666666667,
    0.08166666666666667,
    0.082,
    0.08133333333333333,
    0.082,
    0.082,
    0.082,
    0.08266666666666667,
    0.082,
    0.08266666666666667,
    0.08233333333333333,
    0.082,
    0.08233333333333333,
    0.083,
    0.08266666666666667,
    0.082,
    0.08266666666666667,
    0.08266666666666667,
    0.083,
    0.08266666666666667,
    0.083,
    0.08266666666666667,
    0.083,
    0.08233333333333333,
    0.083,
    0.082,
    0.083,
    0.083,
    0.083,
    0.08133333333333333,
    0.08166666666666667,
    0.08133333333333333,
    0.082,
    0.082,
    0.08166666666666667,
    0.08133333333333333,
    0.08166666666666667,
    0.08133333333333333,
    0.082,
    0.08266666666666667,
    0.082,
    0.082,
    0.082,
    0.082,
    0.082,
    0.082,
    0.082,
    0.082,
    0.08133333333333333,
    0.08166666666666667,
    0.082,
    0.08233333333333333,
    0.082,
    0.082,
    0.082,
    0.082,
    0.082,
    0.082,
    0.08233333333333333,
    0.083,
    0.08266666666666667,
    0.083,
    0.083,
    0.08266666666666667,
    0.08266666666666667,
    0.08333333333333333,
    0.084,
    0.084,
    0.08366666666666667,
    0.08333333333333333,
    0.084,
    0.08366666666666667,
    0.084,
    0.08366666666666667,
    0.084,
    0.084,
    0.08366666666666667,
    0.08433333333333333,
    0.08466666666666667,
    0.084,
    0.085,
    0.084,
    0.08466666666666667,
    0.08466666666666667,
    0.084,
    0.084,
    0.084,
    0.08433333333333333,
    0.084,
    0.08433333333333333,
    0.08466666666666667,
    0.085,
    0.08466666666666667,
    0.08566666666666667,
    0.08600000000000001,
    0.08566666666666667,
    0.08566666666666667,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08533333333333333,
    0.08633333333333333,
    0.09133333333333334,
    0.08800000000000001,
    0.08833333333333333,
    0.08866666666666667,
    0.08800000000000001,
    0.08833333333333333,
    0.08700000000000001,
    0.08733333333333333,
    0.08700000000000001,
    0.08800000000000001,
    0.08700000000000001,
    0.08700000000000001,
    0.08700000000000001,
    0.08800000000000001,
    0.08800000000000001,
    0.08800000000000001,
    0.08766666666666667,
    0.08866666666666667,
    0.08833333333333333,
    0.08833333333333333,
    0.08900000000000001,
    0.08900000000000001,
    0.08800000000000001,
    0.08833333333333333,
    0.08900000000000001,
    0.08866666666666667,
    0.08866666666666667,
    0.08933333333333333,
    0.08900000000000001,
    0.08900000000000001,
    0.08866666666666667,
    0.08966666666666667,
    0.08966666666666667,
    0.08900000000000001,
    0.08900000000000001,
    0.09033333333333333,
    0.08900000000000001,
    0.09000000000000001,
    0.08966666666666667,
    0.09033333333333333,
    0.08966666666666667,
    0.08966666666666667,
    0.09000000000000001,
    0.09000000000000001,
    0.09000000000000001,
    0.09000000000000001,
    0.09000000000000001,
    0.09066666666666667,
    0.09033333333333333,
    0.09066666666666667,
    0.09100000000000001,
    0.09066666666666667,
    0.09066666666666667,
    0.09133333333333334,
    0.09100000000000001,
    0.09100000000000001,
    0.09100000000000001,
    0.09066666666666667,
    0.09100000000000001,
    0.09100000000000001,
    0.09166666666666667,
    0.09200000000000001,
    0.09166666666666667,
    0.09133333333333334,
    0.09166666666666667,
    0.09166666666666667,
    0.09200000000000001,
    0.09166666666666667,
    0.09166666666666667,
    0.09200000000000001,
    0.09233333333333334,
    0.09200000000000001,
    0.09166666666666667,
    0.09200000000000001,
    0.09233333333333334,
    0.09166666666666667,
    0.09266666666666667,
    0.09200000000000001,
    0.09300000000000001,
    0.09233333333333334,
    0.09300000000000001,
    0.09233333333333334,
    0.09266666666666667,
    0.09233333333333334,
    0.09266666666666667,
    0.09300000000000001,
    0.09266666666666667,
    0.09300000000000001,
    0.09300000000000001,
    0.09300000000000001,
    0.09300000000000001,
    0.09300000000000001,
    0.09400000000000001,
    0.09366666666666668,
    0.09300000000000001,
    0.09366666666666668,
    0.09333333333333334,
    0.09400000000000001,
    0.09266666666666667,
    0.09433333333333334,
    0.09366666666666668,
    0.09400000000000001,
    0.09433333333333334,
    0.09400000000000001,
    0.09400000000000001,
    0.09400000000000001,
    0.09466666666666668,
    0.09466666666666668,
    0.09500000000000001,
    0.09433333333333334,
    0.09400000000000001,
    0.09466666666666668,
    0.09433333333333334,
    0.09533333333333334,
    0.09500000000000001,
    0.09500000000000001,
    0.09466666666666668,
    0.09500000000000001,
    0.09666666666666668,
    0.09633333333333334,
    0.09700000000000002,
    0.09666666666666668,
    0.09600000000000002,
    0.09666666666666668,
    0.09666666666666668,
    0.09700000000000002,
    0.09666666666666668,
    0.09633333333333334,
    0.09700000000000002,
    0.09700000000000002,
    0.09700000000000002,
    0.09733333333333334,
    0.09700000000000002,
    0.09700000000000002,
    0.09700000000000002,
    0.09766666666666668,
    0.09700000000000002,
    0.09800000000000002,
    0.09766666666666668,
    0.09700000000000002,
    0.09766666666666668,
    0.09700000000000002,
    0.09800000000000002,
    0.09800000000000002,
    0.09800000000000002,
    0.09833333333333333,
    0.09766666666666668,
    0.09899999999999999,
    0.09800000000000002,
    0.09833333333333333,
    0.09866666666666667,
    0.09833333333333333,
    0.09800000000000002,
    0.09800000000000002,
    0.09899999999999999,
    0.09899999999999999,
    0.09866666666666667,
    0.09900000000000002,
    0.09866666666666667,
    0.09866666666666667,
    0.09899999999999999,
    0.09866666666666667,
    0.09833333333333333,
    0.09899999999999999,
    0.09900000000000002,
    0.09866666666666667,
    0.09899999999999999,
    0.09933333333333333,
    0.09899999999999999,
    0.09933333333333333,
    0.09933333333333333,
    0.09899999999999999,
    0.09866666666666667,
    0.09933333333333333,
    0.09899999999999999,
    0.09899999999999999,
    0.09899999999999999,
    0.10000000000000002,
    0.09900000000000002,
    0.09933333333333333,
    0.10000000000000002,
    0.10000000000000002,
    0.09800000000000002,
    0.09766666666666668,
    0.09833333333333333,
    0.09800000000000002,
    0.09800000000000002,
    0.09800000000000002,
    0.09800000000000002,
    0.09833333333333333,
    0.09800000000000002,
    0.09899999999999999,
    0.09866666666666667,
    0.09866666666666667,
    0.09933333333333333,
    0.09899999999999999,
    0.09899999999999999,
    0.09866666666666667,
    0.09899999999999999,
    0.09866666666666667,
    0.09866666666666667,
    0.09933333333333333,
    0.09899999999999999,
    0.09899999999999999,
    0.09966666666666668,
    0.09966666666666668,
    0.09933333333333333,
    0.09966666666666668,
    0.09966666666666668,
    0.09966666666666668,
    0.10000000000000002,
    0.10000000000000002,
    0.09966666666666668,
    0.09933333333333333,
    0.10100000000000002,
    0.10000000000000002,
    0.10000000000000002,
    0.10000000000000002,
    0.10000000000000002,
    0.10000000000000002,
    0.10033333333333334,
    0.10000000000000002,
    0.10000000000000002,
    0.10100000000000002,
    0.10066666666666668,
    0.10100000000000002,
    0.10066666666666668,
    0.10100000000000002,
    0.10000000000000002,
    0.10133333333333333,
    0.10100000000000002,
    0.10166666666666667,
    0.10133333333333333,
    0.10100000000000002,
    0.102,
    0.10133333333333333,
    0.10166666666666667,
    0.102,
    0.102,
    0.102,
    0.102,
    0.102,
    0.10166666666666667,
    0.10266666666666667,
    0.102,
    0.10266666666666667,
    0.10333333333333333,
    0.103,
    0.103,
    0.10333333333333333,
    0.10366666666666667,
    0.10366666666666667,
    0.103,
    0.103,
    0.104,
    0.103,
    0.103,
    0.103,
    0.10333333333333333,
    0.103,
    0.10366666666666667,
    0.10333333333333333,
    0.10366666666666667,
    0.104,
    0.10333333333333333,
    0.10333333333333333,
    0.103,
    0.103,
    0.10366666666666667,
    0.10433333333333333,
    0.10366666666666667,
    0.10500000000000002,
    0.10466666666666669,
    0.10500000000000002,
    0.104,
    0.10500000000000002,
    0.10466666666666669,
    0.10500000000000002,
    0.10500000000000002,
    0.10466666666666669,
    0.10500000000000002,
    0.10500000000000002,
    0.10533333333333333,
    0.10500000000000002,
    0.10500000000000002,
    0.10666666666666667,
    0.106,
    0.10666666666666667,
    0.106,
    0.106,
    0.10633333333333334,
    0.10666666666666667,
    0.107,
    0.10666666666666667,
    0.10633333333333334,
    0.107,
    0.107,
    0.10666666666666667,
    0.107,
    0.107,
    0.107,
    0.10633333333333334,
    0.106,
    0.10633333333333334,
    0.106,
    0.10633333333333334,
    0.10666666666666667,
    0.10666666666666667,
    0.10633333333333334,
    0.10633333333333334,
    0.107,
    0.10766666666666667,
    0.107,
    0.108,
    0.10766666666666667,
    0.10733333333333334,
    0.10733333333333334,
    0.108,
    0.107,
    0.108,
    0.108,
    0.107,
    0.10766666666666667,
    0.108,
    0.108,
    0.10766666666666667,
    0.108,
    0.108,
    0.10866666666666669,
    0.108,
    0.10866666666666669,
    0.10866666666666669,
    0.10866666666666669,
    0.10900000000000003,
    0.10900000000000003,
    0.10900000000000003,
    0.10933333333333334,
    0.10933333333333334,
    0.10966666666666668,
    0.11,
    0.10966666666666668,
    0.10900000000000003,
    0.11,
    0.10933333333333334,
    0.10966666666666668,
    0.11066666666666668,
    0.11,
    0.10966666666666668,
    0.11,
    0.11,
    0.11,
    0.11066666666666668,
    0.11066666666666668,
    0.11033333333333334,
    0.111,
    0.11033333333333334,
    0.11033333333333334,
    0.112,
    0.11066666666666668,
    0.11066666666666668,
    0.111,
    0.11133333333333334,
    0.11133333333333334,
    0.11166666666666668,
    0.111,
    0.11066666666666668,
    0.112,
    0.112,
    0.11166666666666668,
    0.112,
    0.11233333333333333,
    0.112,
    0.112,
    0.112,
    0.11166666666666668,
    0.11233333333333333,
    0.11166666666666668,
    0.112,
    0.112,
    0.11266666666666665,
    0.11233333333333333,
    0.11299999999999999,
    0.11233333333333333,
    0.11299999999999999,
    0.11299999999999999,
    0.11299999999999999,
    0.11266666666666665,
    0.11333333333333333,
    0.11299999999999999,
    0.11299999999999999,
    0.11333333333333333,
    0.11299999999999999,
    0.11333333333333333,
    0.114,
    0.11333333333333333,
    0.114,
    0.114,
    0.11366666666666665,
    0.11366666666666665,
    0.114,
    0.11299999999999999,
    0.11366666666666665,
    0.11333333333333333,
    0.11299999999999999,
    0.11266666666666665,
    0.11366666666666665,
    0.11299999999999999,
    0.11366666666666665,
    0.11299999999999999,
    0.114,
    0.11299999999999999,
    0.11366666666666665,
    0.11299999999999999,
    0.114,
    0.11333333333333333,
    0.11366666666666665,
    0.11366666666666665,
    0.114,
    0.11366666666666665,
    0.114,
    0.114,
    0.11366666666666665,
    0.11466666666666668,
    0.11466666666666668,
    0.114,
    0.115,
    0.115,
    0.11433333333333334,
    0.115,
    0.11566666666666665,
    0.116,
    0.11533333333333334,
    0.116,
    0.116,
    0.116,
    0.116,
    0.116,
    0.116,
    0.11466666666666668,
    0.11433333333333334,
    0.115,
    0.116,
    0.115,
    0.11566666666666668,
    0.115,
    0.116,
    0.11566666666666668,
    0.11633333333333333,
    0.116,
    0.11666666666666665,
    0.11566666666666668,
    0.116,
    0.11633333333333333,
    0.116,
    0.116,
    0.11699999999999999,
    0.11633333333333333,
    0.11666666666666665,
    0.11633333333333333,
    0.11633333333333333,
    0.116,
    0.11733333333333333,
    0.11666666666666665,
    0.11766666666666666,
    0.11699999999999999,
    0.11699999999999999,
    0.11766666666666666,
    0.118,
    0.11699999999999999,
    0.11699999999999999,
    0.11733333333333333,
    0.11733333333333333,
    0.118,
    0.11766666666666666,
    0.11733333333333333,
    0.118,
    0.11766666666666666,
    0.11833333333333333,
    0.118,
    0.11833333333333333,
    0.11833333333333333,
    0.11900000000000001,
    0.11833333333333333,
    0.11833333333333333,
    0.11900000000000001,
    0.11866666666666666,
    0.11866666666666666,
    0.11933333333333335,
    0.11900000000000001,
    0.11900000000000001,
    0.11900000000000001,
    0.11866666666666666,
    0.11900000000000001,
    0.11966666666666669,
    0.12000000000000001,
    0.11933333333333335,
    0.11966666666666669,
    0.11933333333333335,
    0.11900000000000001,
    0.119,
    0.11966666666666669,
    0.11966666666666669
]