amirali1985 commited on
Commit
134ba9d
·
verified ·
1 Parent(s): 3a8bc47

Upload add_sub_sorl_v6_abs30_K1_50K

Browse files
add_sub_sorl_v6_abs30_K1_50K/config.json ADDED
@@ -0,0 +1,37 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "architectures": [
3
+ "SorlModelWrapper"
4
+ ],
5
+ "attention_bias": false,
6
+ "attention_dropout": 0.0,
7
+ "bos_token_id": null,
8
+ "dtype": "float32",
9
+ "eos_token_id": null,
10
+ "head_dim": 128,
11
+ "hidden_act": "silu",
12
+ "hidden_size": 510,
13
+ "initializer_range": 0.02,
14
+ "intermediate_size": 2040,
15
+ "layer_types": [
16
+ "full_attention",
17
+ "full_attention"
18
+ ],
19
+ "max_position_embeddings": 128,
20
+ "max_window_layers": 28,
21
+ "model_type": "qwen3",
22
+ "num_attention_heads": 3,
23
+ "num_hidden_layers": 2,
24
+ "num_key_value_heads": 3,
25
+ "pad_token_id": null,
26
+ "rms_norm_eps": 1e-06,
27
+ "rope_parameters": {
28
+ "rope_theta": 10000.0,
29
+ "rope_type": "default"
30
+ },
31
+ "sliding_window": null,
32
+ "tie_word_embeddings": false,
33
+ "transformers_version": "5.5.0",
34
+ "use_cache": true,
35
+ "use_sliding_window": false,
36
+ "vocab_size": 151674
37
+ }
add_sub_sorl_v6_abs30_K1_50K/generation_config.json ADDED
@@ -0,0 +1,7 @@
 
 
 
 
 
 
 
 
1
+ {
2
+ "_from_model_config": true,
3
+ "output_attentions": false,
4
+ "output_hidden_states": false,
5
+ "transformers_version": "5.5.0",
6
+ "use_cache": true
7
+ }
add_sub_sorl_v6_abs30_K1_50K/metrics.json ADDED
@@ -0,0 +1,4639 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "history": {
3
+ "step": [
4
+ 50,
5
+ 100,
6
+ 150,
7
+ 200,
8
+ 250,
9
+ 300,
10
+ 350,
11
+ 400,
12
+ 450,
13
+ 500,
14
+ 550,
15
+ 600,
16
+ 650,
17
+ 700,
18
+ 750,
19
+ 832,
20
+ 882,
21
+ 932,
22
+ 982,
23
+ 1032,
24
+ 1082,
25
+ 1132,
26
+ 1182,
27
+ 1232,
28
+ 1282,
29
+ 1332,
30
+ 1382,
31
+ 1432,
32
+ 1482,
33
+ 1532,
34
+ 1614,
35
+ 1664,
36
+ 1714,
37
+ 1764,
38
+ 1814,
39
+ 1864,
40
+ 1914,
41
+ 1964,
42
+ 2014,
43
+ 2064,
44
+ 2114,
45
+ 2164,
46
+ 2214,
47
+ 2264,
48
+ 2314,
49
+ 2396,
50
+ 2446,
51
+ 2496,
52
+ 2546,
53
+ 2596,
54
+ 2646,
55
+ 2696,
56
+ 2746,
57
+ 2796,
58
+ 2846,
59
+ 2896,
60
+ 2946,
61
+ 2996,
62
+ 3046,
63
+ 3096,
64
+ 3178,
65
+ 3228,
66
+ 3278,
67
+ 3328,
68
+ 3378,
69
+ 3428,
70
+ 3478,
71
+ 3528,
72
+ 3578,
73
+ 3628,
74
+ 3678,
75
+ 3728,
76
+ 3778,
77
+ 3828,
78
+ 3878,
79
+ 3960,
80
+ 4010,
81
+ 4060,
82
+ 4110,
83
+ 4160,
84
+ 4210,
85
+ 4260,
86
+ 4310,
87
+ 4360,
88
+ 4410,
89
+ 4460,
90
+ 4510,
91
+ 4560,
92
+ 4610,
93
+ 4660,
94
+ 4742,
95
+ 4792,
96
+ 4842,
97
+ 4892,
98
+ 4942,
99
+ 4992,
100
+ 5042,
101
+ 5092,
102
+ 5142,
103
+ 5192,
104
+ 5242,
105
+ 5292,
106
+ 5342,
107
+ 5392,
108
+ 5442,
109
+ 5524,
110
+ 5574,
111
+ 5624,
112
+ 5674,
113
+ 5724,
114
+ 5774,
115
+ 5824,
116
+ 5874,
117
+ 5924,
118
+ 5974,
119
+ 6024,
120
+ 6074,
121
+ 6124,
122
+ 6174,
123
+ 6224,
124
+ 6306,
125
+ 6356,
126
+ 6406,
127
+ 6456,
128
+ 6506,
129
+ 6556,
130
+ 6606,
131
+ 6656,
132
+ 6706,
133
+ 6756,
134
+ 6806,
135
+ 6856,
136
+ 6906,
137
+ 6956,
138
+ 7006,
139
+ 7088,
140
+ 7138,
141
+ 7188,
142
+ 7238,
143
+ 7288,
144
+ 7338,
145
+ 7388,
146
+ 7438,
147
+ 7488,
148
+ 7538,
149
+ 7588,
150
+ 7638,
151
+ 7688,
152
+ 7738,
153
+ 7788,
154
+ 7870,
155
+ 7920,
156
+ 7970,
157
+ 8020,
158
+ 8070,
159
+ 8120,
160
+ 8170,
161
+ 8220,
162
+ 8270,
163
+ 8320,
164
+ 8370,
165
+ 8420,
166
+ 8470,
167
+ 8520,
168
+ 8570,
169
+ 8652,
170
+ 8702,
171
+ 8752,
172
+ 8802,
173
+ 8852,
174
+ 8902,
175
+ 8952,
176
+ 9002,
177
+ 9052,
178
+ 9102,
179
+ 9152,
180
+ 9202,
181
+ 9252,
182
+ 9302,
183
+ 9352,
184
+ 9434,
185
+ 9484,
186
+ 9534,
187
+ 9584,
188
+ 9634,
189
+ 9684,
190
+ 9734,
191
+ 9784,
192
+ 9834,
193
+ 9884,
194
+ 9934,
195
+ 9984,
196
+ 10034,
197
+ 10084,
198
+ 10134,
199
+ 10216,
200
+ 10266,
201
+ 10316,
202
+ 10366,
203
+ 10416,
204
+ 10466,
205
+ 10516,
206
+ 10566,
207
+ 10616,
208
+ 10666,
209
+ 10716,
210
+ 10766,
211
+ 10816,
212
+ 10866,
213
+ 10916,
214
+ 10998,
215
+ 11048,
216
+ 11098,
217
+ 11148,
218
+ 11198,
219
+ 11248,
220
+ 11298,
221
+ 11348,
222
+ 11398,
223
+ 11448,
224
+ 11498,
225
+ 11548,
226
+ 11598,
227
+ 11648,
228
+ 11698,
229
+ 11780,
230
+ 11830,
231
+ 11880,
232
+ 11930,
233
+ 11980,
234
+ 12030,
235
+ 12080,
236
+ 12130,
237
+ 12180,
238
+ 12230,
239
+ 12280,
240
+ 12330,
241
+ 12380,
242
+ 12430,
243
+ 12480,
244
+ 12562,
245
+ 12612,
246
+ 12662,
247
+ 12712,
248
+ 12762,
249
+ 12812,
250
+ 12862,
251
+ 12912,
252
+ 12962,
253
+ 13012,
254
+ 13062,
255
+ 13112,
256
+ 13162,
257
+ 13212,
258
+ 13262,
259
+ 13344,
260
+ 13394,
261
+ 13444,
262
+ 13494,
263
+ 13544,
264
+ 13594,
265
+ 13644,
266
+ 13694,
267
+ 13744,
268
+ 13794,
269
+ 13844,
270
+ 13894,
271
+ 13944,
272
+ 13994,
273
+ 14044,
274
+ 14126,
275
+ 14176,
276
+ 14226,
277
+ 14276,
278
+ 14326,
279
+ 14376,
280
+ 14426,
281
+ 14476,
282
+ 14526,
283
+ 14576,
284
+ 14626,
285
+ 14676,
286
+ 14726,
287
+ 14776,
288
+ 14826,
289
+ 14908,
290
+ 14958,
291
+ 15008,
292
+ 15058,
293
+ 15108,
294
+ 15158,
295
+ 15208,
296
+ 15258,
297
+ 15308,
298
+ 15358,
299
+ 15408,
300
+ 15458,
301
+ 15508,
302
+ 15558,
303
+ 15608
304
+ ],
305
+ "loss": [
306
+ 8.624395370483398,
307
+ 7.281336784362793,
308
+ 6.3113884925842285,
309
+ 4.014639854431152,
310
+ 2.1968905925750732,
311
+ 1.9075733423233032,
312
+ 1.823974370956421,
313
+ 1.822462797164917,
314
+ 1.3349329233169556,
315
+ 0.7568874955177307,
316
+ 0.571772575378418,
317
+ 0.38561052083969116,
318
+ 0.30334362387657166,
319
+ 0.22191515564918518,
320
+ 0.19164049625396729,
321
+ 0.21819248795509338,
322
+ 0.17483527958393097,
323
+ 0.19579076766967773,
324
+ 0.15436775982379913,
325
+ 0.11178182065486908,
326
+ 0.12478005886077881,
327
+ 0.12679681181907654,
328
+ 0.14369037747383118,
329
+ 0.11938301473855972,
330
+ 0.08883821964263916,
331
+ 0.10594921559095383,
332
+ 0.10126953572034836,
333
+ 0.15886399149894714,
334
+ 0.1026608869433403,
335
+ 0.12262511998414993,
336
+ 0.06534647196531296,
337
+ 0.0776970162987709,
338
+ 0.08184211701154709,
339
+ 0.08551352471113205,
340
+ 0.07302464544773102,
341
+ 0.05562544986605644,
342
+ 0.05739682912826538,
343
+ 0.07346127182245255,
344
+ 0.06972574442625046,
345
+ 0.05339733883738518,
346
+ 0.07136482000350952,
347
+ 0.04754972830414772,
348
+ 0.03782215341925621,
349
+ 0.032426055520772934,
350
+ 0.06911275535821915,
351
+ 0.031810931861400604,
352
+ 0.05136284604668617,
353
+ 0.03981519863009453,
354
+ 0.08436308801174164,
355
+ 0.0447349026799202,
356
+ 0.04332217201590538,
357
+ 0.05497247725725174,
358
+ 0.031279388815164566,
359
+ 0.04480769485235214,
360
+ 0.04124454781413078,
361
+ 0.047906722873449326,
362
+ 0.027904633432626724,
363
+ 0.06802742928266525,
364
+ 0.031241323798894882,
365
+ 0.019511239603161812,
366
+ 0.01753123290836811,
367
+ 0.023758968338370323,
368
+ 0.023630574345588684,
369
+ 0.016811564564704895,
370
+ 0.028709392994642258,
371
+ 0.01316144596785307,
372
+ 0.040159691125154495,
373
+ 0.044836726039648056,
374
+ 0.02858158014714718,
375
+ 0.03316912800073624,
376
+ 0.017950743436813354,
377
+ 0.01090684812515974,
378
+ 0.03654009848833084,
379
+ 0.010863639414310455,
380
+ 0.01921733282506466,
381
+ 0.0369977131485939,
382
+ 0.022800058126449585,
383
+ 0.0100081292912364,
384
+ 0.049428582191467285,
385
+ 0.005116320215165615,
386
+ 0.005410409532487392,
387
+ 0.0068622492253780365,
388
+ 0.01470996905118227,
389
+ 0.013966345228254795,
390
+ 0.00640221918001771,
391
+ 0.015467685647308826,
392
+ 0.023607300594449043,
393
+ 0.013836489990353584,
394
+ 0.008750058710575104,
395
+ 0.00747939245775342,
396
+ 0.026778293773531914,
397
+ 0.014836981892585754,
398
+ 0.018571391701698303,
399
+ 0.04430487006902695,
400
+ 0.03557843342423439,
401
+ 0.015920130535960197,
402
+ 0.019736984744668007,
403
+ 0.0051879859529435635,
404
+ 0.025461047887802124,
405
+ 0.0490998849272728,
406
+ 0.018230648711323738,
407
+ 0.02471470646560192,
408
+ 0.014051475562155247,
409
+ 0.005144501570612192,
410
+ 0.01740415208041668,
411
+ 0.0013055248418822885,
412
+ 0.005666764918714762,
413
+ 0.006239552516490221,
414
+ 0.006039108149707317,
415
+ 0.011551962234079838,
416
+ 0.013889671303331852,
417
+ 0.008312918245792389,
418
+ 0.0075423759408295155,
419
+ 0.015585224144160748,
420
+ 0.01672951877117157,
421
+ 0.0036452640779316425,
422
+ 0.017886657267808914,
423
+ 0.030860288068652153,
424
+ 0.004913135431706905,
425
+ 0.006732836365699768,
426
+ 0.0059836204163730145,
427
+ 0.014630728401243687,
428
+ 0.008216328918933868,
429
+ 0.013522381894290447,
430
+ 0.006570498924702406,
431
+ 0.011762784793972969,
432
+ 0.025892918929457664,
433
+ 0.010138856247067451,
434
+ 0.010836554691195488,
435
+ 0.01848622038960457,
436
+ 0.012736977078020573,
437
+ 0.016879625618457794,
438
+ 0.014921997673809528,
439
+ 0.012726588174700737,
440
+ 0.006678116973489523,
441
+ 0.004675356205552816,
442
+ 0.011851677671074867,
443
+ 0.004417366813868284,
444
+ 0.006860092282295227,
445
+ 0.029509957879781723,
446
+ 0.017555654048919678,
447
+ 0.013460184447467327,
448
+ 0.0014609305653721094,
449
+ 0.028449196368455887,
450
+ 0.011792080476880074,
451
+ 0.006672837305814028,
452
+ 0.01422820147126913,
453
+ 0.007617580704391003,
454
+ 0.008308595977723598,
455
+ 0.0027136020362377167,
456
+ 0.0021658767946064472,
457
+ 0.00535593181848526,
458
+ 0.007583057042211294,
459
+ 0.0020753785502165556,
460
+ 0.007601053919643164,
461
+ 0.0042196474969387054,
462
+ 0.0045407661236822605,
463
+ 0.026952069252729416,
464
+ 0.006546374876052141,
465
+ 0.0041479263454675674,
466
+ 0.001539210556074977,
467
+ 0.006479482166469097,
468
+ 0.0021026383619755507,
469
+ 0.027641024440526962,
470
+ 0.026452871039509773,
471
+ 0.0011076625669375062,
472
+ 0.0012126663932576776,
473
+ 0.004899421241134405,
474
+ 0.0037504066713154316,
475
+ 0.0031065482180565596,
476
+ 0.004646910820156336,
477
+ 0.006962988525629044,
478
+ 0.016867129132151604,
479
+ 0.0186315830796957,
480
+ 0.004596860148012638,
481
+ 0.016109617426991463,
482
+ 0.006850126199424267,
483
+ 0.002283391309902072,
484
+ 0.006003982853144407,
485
+ 0.0006439878488890827,
486
+ 0.0016200753161683679,
487
+ 0.013874261640012264,
488
+ 0.0009078549919649959,
489
+ 0.000846055627334863,
490
+ 0.0034473228733986616,
491
+ 0.005782767664641142,
492
+ 0.015899108722805977,
493
+ 0.00860401801764965,
494
+ 0.00636622728779912,
495
+ 0.00461638392880559,
496
+ 0.0182416383177042,
497
+ 0.035855066031217575,
498
+ 0.0009242831729352474,
499
+ 0.0016475686570629478,
500
+ 0.00429417984560132,
501
+ 0.009342393837869167,
502
+ 0.004122483544051647,
503
+ 0.008309486322104931,
504
+ 0.038414668291807175,
505
+ 0.006744064390659332,
506
+ 0.0014942993875592947,
507
+ 0.008029896765947342,
508
+ 0.010359364561736584,
509
+ 0.0026109772734344006,
510
+ 0.002535227918997407,
511
+ 0.022114602848887444,
512
+ 0.000632564362604171,
513
+ 0.0021232571452856064,
514
+ 0.004894088488072157,
515
+ 0.0026969946920871735,
516
+ 0.003982231952250004,
517
+ 0.0014351796125993133,
518
+ 0.003030756488442421,
519
+ 0.0027938571292907,
520
+ 0.00042326681432314217,
521
+ 0.0027303399983793497,
522
+ 0.007432443555444479,
523
+ 0.00967391673475504,
524
+ 0.006706944666802883,
525
+ 0.0005712163401767612,
526
+ 0.00015891579096205533,
527
+ 0.004379971884191036,
528
+ 0.022227009758353233,
529
+ 0.0031988986302167177,
530
+ 0.0003978995664510876,
531
+ 0.010283337906002998,
532
+ 0.0020274517592042685,
533
+ 0.0003597059694584459,
534
+ 0.0032236375845968723,
535
+ 0.004142076708376408,
536
+ 0.0014980128034949303,
537
+ 0.0005291829002089798,
538
+ 0.004330865573137999,
539
+ 0.0061985501088202,
540
+ 0.0034106671810150146,
541
+ 0.0015487192431464791,
542
+ 0.0007099925423972309,
543
+ 0.0032484966795891523,
544
+ 0.00012104991765227169,
545
+ 9.623954247217625e-05,
546
+ 0.00236173695884645,
547
+ 0.003629735903814435,
548
+ 0.0027779166121035814,
549
+ 0.000863291323184967,
550
+ 0.00040338048711419106,
551
+ 0.016728254035115242,
552
+ 0.013728603720664978,
553
+ 0.0011852079769596457,
554
+ 0.00016743347805459052,
555
+ 0.0003571510314941406,
556
+ 0.002082641702145338,
557
+ 0.0023026526905596256,
558
+ 0.00890425406396389,
559
+ 0.006808893289417028,
560
+ 0.0005427154828794301,
561
+ 9.142416092799976e-05,
562
+ 0.005513133946806192,
563
+ 0.0030430196784436703,
564
+ 0.00016156786296050996,
565
+ 0.001977805281057954,
566
+ 0.004255281295627356,
567
+ 0.00037119671469554305,
568
+ 0.0020200873259454966,
569
+ 0.0039732870645821095,
570
+ 0.0007489061099477112,
571
+ 7.41790427127853e-05,
572
+ 0.00020459343795664608,
573
+ 7.942196680232882e-05,
574
+ 0.00016886329103726894,
575
+ 0.0001683760347077623,
576
+ 0.010617626830935478,
577
+ 0.0002205425698775798,
578
+ 0.0015041622100397944,
579
+ 7.645633013453335e-05,
580
+ 0.00011302687926217914,
581
+ 0.0077906264923512936,
582
+ 0.0006392159266397357,
583
+ 0.00017435393237974495,
584
+ 7.492928125429899e-05,
585
+ 3.8954021874815226e-05,
586
+ 0.0002580313594080508,
587
+ 0.0181270781904459,
588
+ 0.0006754650385119021,
589
+ 0.006303064990788698,
590
+ 7.724200986558571e-05,
591
+ 0.00042546074837446213,
592
+ 0.0003333962813485414,
593
+ 0.000250291486736387,
594
+ 0.0014859376242384315,
595
+ 6.759232928743586e-05,
596
+ 0.001988493138924241,
597
+ 0.00022547073604073375,
598
+ 0.00012061258166795596,
599
+ 0.005189158022403717,
600
+ 7.295123214134946e-05,
601
+ 0.00010043008660431951,
602
+ 6.0217960708541796e-05,
603
+ 5.174786565476097e-05,
604
+ 0.005600738804787397,
605
+ 0.00020924322598148137
606
+ ],
607
+ "base_loss": [
608
+ 10.960484504699707,
609
+ 9.787673950195312,
610
+ 8.326241493225098,
611
+ 5.4641618728637695,
612
+ 2.8772075176239014,
613
+ 2.299591064453125,
614
+ 2.190049648284912,
615
+ 2.2406165599823,
616
+ 2.5713229179382324,
617
+ 3.6433494091033936,
618
+ 3.853590250015259,
619
+ 4.511274337768555,
620
+ 4.844226360321045,
621
+ 4.796695709228516,
622
+ 5.4502410888671875,
623
+ 5.347710609436035,
624
+ 5.647997856140137,
625
+ 6.258392333984375,
626
+ 6.124871253967285,
627
+ 6.531071186065674,
628
+ 6.297017574310303,
629
+ 6.536299705505371,
630
+ 6.4600911140441895,
631
+ 6.538567543029785,
632
+ 6.675594329833984,
633
+ 7.147000789642334,
634
+ 6.859490871429443,
635
+ 7.3655781745910645,
636
+ 7.41231107711792,
637
+ 8.058622360229492,
638
+ 7.0345458984375,
639
+ 7.841822147369385,
640
+ 7.414121150970459,
641
+ 7.669826984405518,
642
+ 7.418694496154785,
643
+ 7.457015037536621,
644
+ 8.201367378234863,
645
+ 8.102609634399414,
646
+ 7.616677284240723,
647
+ 7.3632426261901855,
648
+ 7.032898902893066,
649
+ 7.903500556945801,
650
+ 7.564267635345459,
651
+ 7.883761882781982,
652
+ 7.8137078285217285,
653
+ 7.505625247955322,
654
+ 7.760944366455078,
655
+ 7.49743127822876,
656
+ 7.331039905548096,
657
+ 7.511473655700684,
658
+ 7.898989677429199,
659
+ 7.250434398651123,
660
+ 7.334973335266113,
661
+ 7.654761791229248,
662
+ 7.518039226531982,
663
+ 7.5712785720825195,
664
+ 7.646875858306885,
665
+ 7.707317352294922,
666
+ 7.687244415283203,
667
+ 8.153319358825684,
668
+ 7.759104251861572,
669
+ 8.05953598022461,
670
+ 8.196388244628906,
671
+ 8.259214401245117,
672
+ 8.846681594848633,
673
+ 7.96795654296875,
674
+ 8.446714401245117,
675
+ 8.630167007446289,
676
+ 8.290055274963379,
677
+ 8.38407039642334,
678
+ 7.931053161621094,
679
+ 8.170430183410645,
680
+ 8.127154350280762,
681
+ 8.741802215576172,
682
+ 8.860321044921875,
683
+ 8.04023551940918,
684
+ 8.41398811340332,
685
+ 8.114584922790527,
686
+ 8.299242973327637,
687
+ 8.96914291381836,
688
+ 9.028729438781738,
689
+ 8.680220603942871,
690
+ 9.08759593963623,
691
+ 7.942336559295654,
692
+ 8.745591163635254,
693
+ 9.233006477355957,
694
+ 9.077278137207031,
695
+ 8.889547348022461,
696
+ 8.748766899108887,
697
+ 8.74180793762207,
698
+ 9.15531063079834,
699
+ 9.112544059753418,
700
+ 9.633552551269531,
701
+ 9.228429794311523,
702
+ 8.312430381774902,
703
+ 8.890132904052734,
704
+ 8.82833480834961,
705
+ 9.492074966430664,
706
+ 8.92280101776123,
707
+ 8.990418434143066,
708
+ 9.319112777709961,
709
+ 9.041794776916504,
710
+ 9.111381530761719,
711
+ 9.31672477722168,
712
+ 8.559245109558105,
713
+ 9.590617179870605,
714
+ 8.67043685913086,
715
+ 9.631635665893555,
716
+ 9.232380867004395,
717
+ 9.222670555114746,
718
+ 9.228873252868652,
719
+ 8.756916999816895,
720
+ 9.557340621948242,
721
+ 8.781228065490723,
722
+ 8.975005149841309,
723
+ 9.235137939453125,
724
+ 9.211709022521973,
725
+ 8.760842323303223,
726
+ 9.36851692199707,
727
+ 9.29790210723877,
728
+ 9.615682601928711,
729
+ 9.714497566223145,
730
+ 9.266493797302246,
731
+ 9.795269966125488,
732
+ 9.024981498718262,
733
+ 9.528571128845215,
734
+ 9.196090698242188,
735
+ 9.671072006225586,
736
+ 9.598519325256348,
737
+ 9.10706615447998,
738
+ 8.614462852478027,
739
+ 8.97907829284668,
740
+ 8.998499870300293,
741
+ 9.92958927154541,
742
+ 9.940302848815918,
743
+ 9.778666496276855,
744
+ 9.756733894348145,
745
+ 10.010284423828125,
746
+ 8.751960754394531,
747
+ 9.986275672912598,
748
+ 9.865798950195312,
749
+ 10.671076774597168,
750
+ 10.371418952941895,
751
+ 9.650774002075195,
752
+ 10.30924129486084,
753
+ 10.441909790039062,
754
+ 10.35185432434082,
755
+ 10.423660278320312,
756
+ 10.64218807220459,
757
+ 9.8975248336792,
758
+ 9.013312339782715,
759
+ 10.247147560119629,
760
+ 10.635846138000488,
761
+ 10.618865013122559,
762
+ 9.95689582824707,
763
+ 9.80732536315918,
764
+ 10.120999336242676,
765
+ 11.026253700256348,
766
+ 10.94187068939209,
767
+ 11.153523445129395,
768
+ 10.45622730255127,
769
+ 10.89305591583252,
770
+ 11.11798095703125,
771
+ 11.053007125854492,
772
+ 10.191353797912598,
773
+ 11.4670991897583,
774
+ 10.248539924621582,
775
+ 10.968215942382812,
776
+ 9.938027381896973,
777
+ 9.917043685913086,
778
+ 9.60047435760498,
779
+ 10.904882431030273,
780
+ 10.461298942565918,
781
+ 10.32606029510498,
782
+ 10.748078346252441,
783
+ 10.348048210144043,
784
+ 10.219939231872559,
785
+ 10.031058311462402,
786
+ 10.451313972473145,
787
+ 9.66961669921875,
788
+ 10.920985221862793,
789
+ 9.916007041931152,
790
+ 10.015474319458008,
791
+ 9.750218391418457,
792
+ 9.975837707519531,
793
+ 10.83240795135498,
794
+ 10.423100471496582,
795
+ 10.445225715637207,
796
+ 10.656035423278809,
797
+ 10.250136375427246,
798
+ 9.798316955566406,
799
+ 10.24250316619873,
800
+ 10.45441722869873,
801
+ 10.767793655395508,
802
+ 8.976635932922363,
803
+ 10.762307167053223,
804
+ 10.454241752624512,
805
+ 10.570626258850098,
806
+ 9.239516258239746,
807
+ 9.98809814453125,
808
+ 11.041226387023926,
809
+ 10.938324928283691,
810
+ 10.582173347473145,
811
+ 10.91063117980957,
812
+ 10.3735933303833,
813
+ 10.360404968261719,
814
+ 10.38984489440918,
815
+ 10.696375846862793,
816
+ 10.729248046875,
817
+ 10.865059852600098,
818
+ 10.495272636413574,
819
+ 10.596159934997559,
820
+ 11.131033897399902,
821
+ 10.248833656311035,
822
+ 10.230971336364746,
823
+ 10.366792678833008,
824
+ 11.095335006713867,
825
+ 10.075965881347656,
826
+ 10.32402515411377,
827
+ 11.042694091796875,
828
+ 10.949589729309082,
829
+ 10.829238891601562,
830
+ 9.941696166992188,
831
+ 9.836397171020508,
832
+ 10.547147750854492,
833
+ 10.538622856140137,
834
+ 10.568732261657715,
835
+ 11.219229698181152,
836
+ 10.479557991027832,
837
+ 10.645918846130371,
838
+ 10.877973556518555,
839
+ 10.134995460510254,
840
+ 11.580533981323242,
841
+ 11.501501083374023,
842
+ 10.351180076599121,
843
+ 10.426786422729492,
844
+ 10.743952751159668,
845
+ 11.083836555480957,
846
+ 10.76794147491455,
847
+ 11.487022399902344,
848
+ 10.688206672668457,
849
+ 10.52040958404541,
850
+ 10.861905097961426,
851
+ 10.481897354125977,
852
+ 10.59929084777832,
853
+ 10.354710578918457,
854
+ 10.702817916870117,
855
+ 11.35207462310791,
856
+ 9.871981620788574,
857
+ 11.01956844329834,
858
+ 10.29999828338623,
859
+ 10.071504592895508,
860
+ 10.913652420043945,
861
+ 10.968779563903809,
862
+ 10.399215698242188,
863
+ 10.7953462600708,
864
+ 10.47467041015625,
865
+ 10.659321784973145,
866
+ 11.140402793884277,
867
+ 11.37961483001709,
868
+ 10.426886558532715,
869
+ 11.28205394744873,
870
+ 11.162599563598633,
871
+ 10.778878211975098,
872
+ 10.781868934631348,
873
+ 10.808419227600098,
874
+ 10.468789100646973,
875
+ 10.68569278717041,
876
+ 10.808759689331055,
877
+ 10.560178756713867,
878
+ 11.595174789428711,
879
+ 10.683648109436035,
880
+ 10.353879928588867,
881
+ 10.653576850891113,
882
+ 11.30502986907959,
883
+ 11.006477355957031,
884
+ 10.63958740234375,
885
+ 10.912935256958008,
886
+ 10.459280967712402,
887
+ 10.425353050231934,
888
+ 10.658991813659668,
889
+ 10.870452880859375,
890
+ 10.793625831604004,
891
+ 10.960640907287598,
892
+ 11.075149536132812,
893
+ 10.710137367248535,
894
+ 10.495634078979492,
895
+ 11.458197593688965,
896
+ 10.673357963562012,
897
+ 10.912510871887207,
898
+ 10.634941101074219,
899
+ 11.135971069335938,
900
+ 10.838781356811523,
901
+ 10.97087574005127,
902
+ 11.191939353942871,
903
+ 10.59675121307373,
904
+ 11.045377731323242,
905
+ 10.500834465026855,
906
+ 11.493836402893066,
907
+ 10.862238883972168
908
+ ],
909
+ "traj_loss": [
910
+ 8.624395370483398,
911
+ 7.281336784362793,
912
+ 6.3113884925842285,
913
+ 4.014639854431152,
914
+ 2.1968905925750732,
915
+ 1.9075733423233032,
916
+ 1.823974370956421,
917
+ 1.822462797164917,
918
+ 1.3349329233169556,
919
+ 0.7568874955177307,
920
+ 0.571772575378418,
921
+ 0.38561052083969116,
922
+ 0.30334362387657166,
923
+ 0.22191515564918518,
924
+ 0.19164049625396729,
925
+ 0.21819248795509338,
926
+ 0.17483527958393097,
927
+ 0.19579076766967773,
928
+ 0.15436775982379913,
929
+ 0.11178182065486908,
930
+ 0.12478005886077881,
931
+ 0.12679681181907654,
932
+ 0.14369037747383118,
933
+ 0.11938301473855972,
934
+ 0.08883821964263916,
935
+ 0.10594921559095383,
936
+ 0.10126953572034836,
937
+ 0.15886399149894714,
938
+ 0.1026608869433403,
939
+ 0.12262511998414993,
940
+ 0.06534647196531296,
941
+ 0.0776970162987709,
942
+ 0.08184211701154709,
943
+ 0.08551352471113205,
944
+ 0.07302464544773102,
945
+ 0.05562544986605644,
946
+ 0.05739682912826538,
947
+ 0.07346127182245255,
948
+ 0.06972574442625046,
949
+ 0.05339733883738518,
950
+ 0.07136482000350952,
951
+ 0.04754972830414772,
952
+ 0.03782215341925621,
953
+ 0.032426055520772934,
954
+ 0.06911275535821915,
955
+ 0.031810931861400604,
956
+ 0.05136284604668617,
957
+ 0.03981519863009453,
958
+ 0.08436308801174164,
959
+ 0.0447349026799202,
960
+ 0.04332217201590538,
961
+ 0.05497247725725174,
962
+ 0.031279388815164566,
963
+ 0.04480769485235214,
964
+ 0.04124454781413078,
965
+ 0.047906722873449326,
966
+ 0.027904633432626724,
967
+ 0.06802742928266525,
968
+ 0.031241323798894882,
969
+ 0.019511239603161812,
970
+ 0.01753123290836811,
971
+ 0.023758968338370323,
972
+ 0.023630574345588684,
973
+ 0.016811564564704895,
974
+ 0.028709392994642258,
975
+ 0.01316144596785307,
976
+ 0.040159691125154495,
977
+ 0.044836726039648056,
978
+ 0.02858158014714718,
979
+ 0.03316912800073624,
980
+ 0.017950743436813354,
981
+ 0.01090684812515974,
982
+ 0.03654009848833084,
983
+ 0.010863639414310455,
984
+ 0.01921733282506466,
985
+ 0.0369977131485939,
986
+ 0.022800058126449585,
987
+ 0.0100081292912364,
988
+ 0.049428582191467285,
989
+ 0.005116320215165615,
990
+ 0.005410409532487392,
991
+ 0.0068622492253780365,
992
+ 0.01470996905118227,
993
+ 0.013966345228254795,
994
+ 0.00640221918001771,
995
+ 0.015467685647308826,
996
+ 0.023607300594449043,
997
+ 0.013836489990353584,
998
+ 0.008750058710575104,
999
+ 0.00747939245775342,
1000
+ 0.026778293773531914,
1001
+ 0.014836981892585754,
1002
+ 0.018571391701698303,
1003
+ 0.04430487006902695,
1004
+ 0.03557843342423439,
1005
+ 0.015920130535960197,
1006
+ 0.019736984744668007,
1007
+ 0.0051879859529435635,
1008
+ 0.025461047887802124,
1009
+ 0.0490998849272728,
1010
+ 0.018230648711323738,
1011
+ 0.02471470646560192,
1012
+ 0.014051475562155247,
1013
+ 0.005144501570612192,
1014
+ 0.01740415208041668,
1015
+ 0.0013055248418822885,
1016
+ 0.005666764918714762,
1017
+ 0.006239552516490221,
1018
+ 0.006039108149707317,
1019
+ 0.011551962234079838,
1020
+ 0.013889671303331852,
1021
+ 0.008312918245792389,
1022
+ 0.0075423759408295155,
1023
+ 0.015585224144160748,
1024
+ 0.01672951877117157,
1025
+ 0.0036452640779316425,
1026
+ 0.017886657267808914,
1027
+ 0.030860288068652153,
1028
+ 0.004913135431706905,
1029
+ 0.006732836365699768,
1030
+ 0.0059836204163730145,
1031
+ 0.014630728401243687,
1032
+ 0.008216328918933868,
1033
+ 0.013522381894290447,
1034
+ 0.006570498924702406,
1035
+ 0.011762784793972969,
1036
+ 0.025892918929457664,
1037
+ 0.010138856247067451,
1038
+ 0.010836554691195488,
1039
+ 0.01848622038960457,
1040
+ 0.012736977078020573,
1041
+ 0.016879625618457794,
1042
+ 0.014921997673809528,
1043
+ 0.012726588174700737,
1044
+ 0.006678116973489523,
1045
+ 0.004675356205552816,
1046
+ 0.011851677671074867,
1047
+ 0.004417366813868284,
1048
+ 0.006860092282295227,
1049
+ 0.029509957879781723,
1050
+ 0.017555654048919678,
1051
+ 0.013460184447467327,
1052
+ 0.0014609305653721094,
1053
+ 0.028449196368455887,
1054
+ 0.011792080476880074,
1055
+ 0.006672837305814028,
1056
+ 0.01422820147126913,
1057
+ 0.007617580704391003,
1058
+ 0.008308595977723598,
1059
+ 0.0027136020362377167,
1060
+ 0.0021658767946064472,
1061
+ 0.00535593181848526,
1062
+ 0.007583057042211294,
1063
+ 0.0020753785502165556,
1064
+ 0.007601053919643164,
1065
+ 0.0042196474969387054,
1066
+ 0.0045407661236822605,
1067
+ 0.026952069252729416,
1068
+ 0.006546374876052141,
1069
+ 0.0041479263454675674,
1070
+ 0.001539210556074977,
1071
+ 0.006479482166469097,
1072
+ 0.0021026383619755507,
1073
+ 0.027641024440526962,
1074
+ 0.026452871039509773,
1075
+ 0.0011076625669375062,
1076
+ 0.0012126663932576776,
1077
+ 0.004899421241134405,
1078
+ 0.0037504066713154316,
1079
+ 0.0031065482180565596,
1080
+ 0.004646910820156336,
1081
+ 0.006962988525629044,
1082
+ 0.016867129132151604,
1083
+ 0.0186315830796957,
1084
+ 0.004596860148012638,
1085
+ 0.016109617426991463,
1086
+ 0.006850126199424267,
1087
+ 0.002283391309902072,
1088
+ 0.006003982853144407,
1089
+ 0.0006439878488890827,
1090
+ 0.0016200753161683679,
1091
+ 0.013874261640012264,
1092
+ 0.0009078549919649959,
1093
+ 0.000846055627334863,
1094
+ 0.0034473228733986616,
1095
+ 0.005782767664641142,
1096
+ 0.015899108722805977,
1097
+ 0.00860401801764965,
1098
+ 0.00636622728779912,
1099
+ 0.00461638392880559,
1100
+ 0.0182416383177042,
1101
+ 0.035855066031217575,
1102
+ 0.0009242831729352474,
1103
+ 0.0016475686570629478,
1104
+ 0.00429417984560132,
1105
+ 0.009342393837869167,
1106
+ 0.004122483544051647,
1107
+ 0.008309486322104931,
1108
+ 0.038414668291807175,
1109
+ 0.006744064390659332,
1110
+ 0.0014942993875592947,
1111
+ 0.008029896765947342,
1112
+ 0.010359364561736584,
1113
+ 0.0026109772734344006,
1114
+ 0.002535227918997407,
1115
+ 0.022114602848887444,
1116
+ 0.000632564362604171,
1117
+ 0.0021232571452856064,
1118
+ 0.004894088488072157,
1119
+ 0.0026969946920871735,
1120
+ 0.003982231952250004,
1121
+ 0.0014351796125993133,
1122
+ 0.003030756488442421,
1123
+ 0.0027938571292907,
1124
+ 0.00042326681432314217,
1125
+ 0.0027303399983793497,
1126
+ 0.007432443555444479,
1127
+ 0.00967391673475504,
1128
+ 0.006706944666802883,
1129
+ 0.0005712163401767612,
1130
+ 0.00015891579096205533,
1131
+ 0.004379971884191036,
1132
+ 0.022227009758353233,
1133
+ 0.0031988986302167177,
1134
+ 0.0003978995664510876,
1135
+ 0.010283337906002998,
1136
+ 0.0020274517592042685,
1137
+ 0.0003597059694584459,
1138
+ 0.0032236375845968723,
1139
+ 0.004142076708376408,
1140
+ 0.0014980128034949303,
1141
+ 0.0005291829002089798,
1142
+ 0.004330865573137999,
1143
+ 0.0061985501088202,
1144
+ 0.0034106671810150146,
1145
+ 0.0015487192431464791,
1146
+ 0.0007099925423972309,
1147
+ 0.0032484966795891523,
1148
+ 0.00012104991765227169,
1149
+ 9.623954247217625e-05,
1150
+ 0.00236173695884645,
1151
+ 0.003629735903814435,
1152
+ 0.0027779166121035814,
1153
+ 0.000863291323184967,
1154
+ 0.00040338048711419106,
1155
+ 0.016728254035115242,
1156
+ 0.013728603720664978,
1157
+ 0.0011852079769596457,
1158
+ 0.00016743347805459052,
1159
+ 0.0003571510314941406,
1160
+ 0.002082641702145338,
1161
+ 0.0023026526905596256,
1162
+ 0.00890425406396389,
1163
+ 0.006808893289417028,
1164
+ 0.0005427154828794301,
1165
+ 9.142416092799976e-05,
1166
+ 0.005513133946806192,
1167
+ 0.0030430196784436703,
1168
+ 0.00016156786296050996,
1169
+ 0.001977805281057954,
1170
+ 0.004255281295627356,
1171
+ 0.00037119671469554305,
1172
+ 0.0020200873259454966,
1173
+ 0.0039732870645821095,
1174
+ 0.0007489061099477112,
1175
+ 7.41790427127853e-05,
1176
+ 0.00020459343795664608,
1177
+ 7.942196680232882e-05,
1178
+ 0.00016886329103726894,
1179
+ 0.0001683760347077623,
1180
+ 0.010617626830935478,
1181
+ 0.0002205425698775798,
1182
+ 0.0015041622100397944,
1183
+ 7.645633013453335e-05,
1184
+ 0.00011302687926217914,
1185
+ 0.0077906264923512936,
1186
+ 0.0006392159266397357,
1187
+ 0.00017435393237974495,
1188
+ 7.492928125429899e-05,
1189
+ 3.8954021874815226e-05,
1190
+ 0.0002580313594080508,
1191
+ 0.0181270781904459,
1192
+ 0.0006754650385119021,
1193
+ 0.006303064990788698,
1194
+ 7.724200986558571e-05,
1195
+ 0.00042546074837446213,
1196
+ 0.0003333962813485414,
1197
+ 0.000250291486736387,
1198
+ 0.0014859376242384315,
1199
+ 6.759232928743586e-05,
1200
+ 0.001988493138924241,
1201
+ 0.00022547073604073375,
1202
+ 0.00012061258166795596,
1203
+ 0.005189158022403717,
1204
+ 7.295123214134946e-05,
1205
+ 0.00010043008660431951,
1206
+ 6.0217960708541796e-05,
1207
+ 5.174786565476097e-05,
1208
+ 0.005600738804787397,
1209
+ 0.00020924322598148137
1210
+ ],
1211
+ "hinge_loss": [
1212
+ 0.0,
1213
+ 0.0,
1214
+ 0.0,
1215
+ 0.0,
1216
+ 0.0,
1217
+ 0.0,
1218
+ 0.0,
1219
+ 0.0,
1220
+ 0.0,
1221
+ 0.0,
1222
+ 0.0,
1223
+ 0.0,
1224
+ 0.0,
1225
+ 0.0,
1226
+ 0.0,
1227
+ 0.0,
1228
+ 0.0,
1229
+ 0.0,
1230
+ 0.0,
1231
+ 0.0,
1232
+ 0.0,
1233
+ 0.0,
1234
+ 0.0,
1235
+ 0.0,
1236
+ 0.0,
1237
+ 0.0,
1238
+ 0.0,
1239
+ 0.0,
1240
+ 0.0,
1241
+ 0.0,
1242
+ 0.0,
1243
+ 0.0,
1244
+ 0.0,
1245
+ 0.0,
1246
+ 0.0,
1247
+ 0.0,
1248
+ 0.0,
1249
+ 0.0,
1250
+ 0.0,
1251
+ 0.0,
1252
+ 0.0,
1253
+ 0.0,
1254
+ 0.0,
1255
+ 0.0,
1256
+ 0.0,
1257
+ 0.0,
1258
+ 0.0,
1259
+ 0.0,
1260
+ 0.0,
1261
+ 0.0,
1262
+ 0.0,
1263
+ 0.0,
1264
+ 0.0,
1265
+ 0.0,
1266
+ 0.0,
1267
+ 0.0,
1268
+ 0.0,
1269
+ 0.0,
1270
+ 0.0,
1271
+ 0.0,
1272
+ 0.0,
1273
+ 0.0,
1274
+ 0.0,
1275
+ 0.0,
1276
+ 0.0,
1277
+ 0.0,
1278
+ 0.0,
1279
+ 0.0,
1280
+ 0.0,
1281
+ 0.0,
1282
+ 0.0,
1283
+ 0.0,
1284
+ 0.0,
1285
+ 0.0,
1286
+ 0.0,
1287
+ 0.0,
1288
+ 0.0,
1289
+ 0.0,
1290
+ 0.0,
1291
+ 0.0,
1292
+ 0.0,
1293
+ 0.0,
1294
+ 0.0,
1295
+ 0.0,
1296
+ 0.0,
1297
+ 0.0,
1298
+ 0.0,
1299
+ 0.0,
1300
+ 0.0,
1301
+ 0.0,
1302
+ 0.0,
1303
+ 0.0,
1304
+ 0.0,
1305
+ 0.0,
1306
+ 0.0,
1307
+ 0.0,
1308
+ 0.0,
1309
+ 0.0,
1310
+ 0.0,
1311
+ 0.0,
1312
+ 0.0,
1313
+ 0.0,
1314
+ 0.0,
1315
+ 0.0,
1316
+ 0.0,
1317
+ 0.0,
1318
+ 0.0,
1319
+ 0.0,
1320
+ 0.0,
1321
+ 0.0,
1322
+ 0.0,
1323
+ 0.0,
1324
+ 0.0,
1325
+ 0.0,
1326
+ 0.0,
1327
+ 0.0,
1328
+ 0.0,
1329
+ 0.0,
1330
+ 0.0,
1331
+ 0.0,
1332
+ 0.0,
1333
+ 0.0,
1334
+ 0.0,
1335
+ 0.0,
1336
+ 0.0,
1337
+ 0.0,
1338
+ 0.0,
1339
+ 0.0,
1340
+ 0.0,
1341
+ 0.0,
1342
+ 0.0,
1343
+ 0.0,
1344
+ 0.0,
1345
+ 0.0,
1346
+ 0.0,
1347
+ 0.0,
1348
+ 0.0,
1349
+ 0.0,
1350
+ 0.0,
1351
+ 0.0,
1352
+ 0.0,
1353
+ 0.0,
1354
+ 0.0,
1355
+ 0.0,
1356
+ 0.0,
1357
+ 0.0,
1358
+ 0.0,
1359
+ 0.0,
1360
+ 0.0,
1361
+ 0.0,
1362
+ 0.0,
1363
+ 0.0,
1364
+ 0.0,
1365
+ 0.0,
1366
+ 0.0,
1367
+ 0.0,
1368
+ 0.0,
1369
+ 0.0,
1370
+ 0.0,
1371
+ 0.0,
1372
+ 0.0,
1373
+ 0.0,
1374
+ 0.0,
1375
+ 0.0,
1376
+ 0.0,
1377
+ 0.0,
1378
+ 0.0,
1379
+ 0.0,
1380
+ 0.0,
1381
+ 0.0,
1382
+ 0.0,
1383
+ 0.0,
1384
+ 0.0,
1385
+ 0.0,
1386
+ 0.0,
1387
+ 0.0,
1388
+ 0.0,
1389
+ 0.0,
1390
+ 0.0,
1391
+ 0.0,
1392
+ 0.0,
1393
+ 0.0,
1394
+ 0.0,
1395
+ 0.0,
1396
+ 0.0,
1397
+ 0.0,
1398
+ 0.0,
1399
+ 0.0,
1400
+ 0.0,
1401
+ 0.0,
1402
+ 0.0,
1403
+ 0.0,
1404
+ 0.0,
1405
+ 0.0,
1406
+ 0.0,
1407
+ 0.0,
1408
+ 0.0,
1409
+ 0.0,
1410
+ 0.0,
1411
+ 0.0,
1412
+ 0.0,
1413
+ 0.0,
1414
+ 0.0,
1415
+ 0.0,
1416
+ 0.0,
1417
+ 0.0,
1418
+ 0.0,
1419
+ 0.0,
1420
+ 0.0,
1421
+ 0.0,
1422
+ 0.0,
1423
+ 0.0,
1424
+ 0.0,
1425
+ 0.0,
1426
+ 0.0,
1427
+ 0.0,
1428
+ 0.0,
1429
+ 0.0,
1430
+ 0.0,
1431
+ 0.0,
1432
+ 0.0,
1433
+ 0.0,
1434
+ 0.0,
1435
+ 0.0,
1436
+ 0.0,
1437
+ 0.0,
1438
+ 0.0,
1439
+ 0.0,
1440
+ 0.0,
1441
+ 0.0,
1442
+ 0.0,
1443
+ 0.0,
1444
+ 0.0,
1445
+ 0.0,
1446
+ 0.0,
1447
+ 0.0,
1448
+ 0.0,
1449
+ 0.0,
1450
+ 0.0,
1451
+ 0.0,
1452
+ 0.0,
1453
+ 0.0,
1454
+ 0.0,
1455
+ 0.0,
1456
+ 0.0,
1457
+ 0.0,
1458
+ 0.0,
1459
+ 0.0,
1460
+ 0.0,
1461
+ 0.0,
1462
+ 0.0,
1463
+ 0.0,
1464
+ 0.0,
1465
+ 0.0,
1466
+ 0.0,
1467
+ 0.0,
1468
+ 0.0,
1469
+ 0.0,
1470
+ 0.0,
1471
+ 0.0,
1472
+ 0.0,
1473
+ 0.0,
1474
+ 0.0,
1475
+ 0.0,
1476
+ 0.0,
1477
+ 0.0,
1478
+ 0.0,
1479
+ 0.0,
1480
+ 0.0,
1481
+ 0.0,
1482
+ 0.0,
1483
+ 0.0,
1484
+ 0.0,
1485
+ 0.0,
1486
+ 0.0,
1487
+ 0.0,
1488
+ 0.0,
1489
+ 0.0,
1490
+ 0.0,
1491
+ 0.0,
1492
+ 0.0,
1493
+ 0.0,
1494
+ 0.0,
1495
+ 0.0,
1496
+ 0.0,
1497
+ 0.0,
1498
+ 0.0,
1499
+ 0.0,
1500
+ 0.0,
1501
+ 0.0,
1502
+ 0.0,
1503
+ 0.0,
1504
+ 0.0,
1505
+ 0.0,
1506
+ 0.0,
1507
+ 0.0,
1508
+ 0.0,
1509
+ 0.0,
1510
+ 0.0,
1511
+ 0.0
1512
+ ],
1513
+ "masked_traj_loss": [
1514
+ 0.0,
1515
+ 0.0,
1516
+ 0.0,
1517
+ 0.0,
1518
+ 0.0,
1519
+ 0.0,
1520
+ 0.0,
1521
+ 0.0,
1522
+ 0.0,
1523
+ 0.0,
1524
+ 0.0,
1525
+ 0.0,
1526
+ 0.0,
1527
+ 0.0,
1528
+ 0.0,
1529
+ 0.0,
1530
+ 0.0,
1531
+ 0.0,
1532
+ 0.0,
1533
+ 0.0,
1534
+ 0.0,
1535
+ 0.0,
1536
+ 0.0,
1537
+ 0.0,
1538
+ 0.0,
1539
+ 0.0,
1540
+ 0.0,
1541
+ 0.0,
1542
+ 0.0,
1543
+ 0.0,
1544
+ 0.0,
1545
+ 0.0,
1546
+ 0.0,
1547
+ 0.0,
1548
+ 0.0,
1549
+ 0.0,
1550
+ 0.0,
1551
+ 0.0,
1552
+ 0.0,
1553
+ 0.0,
1554
+ 0.0,
1555
+ 0.0,
1556
+ 0.0,
1557
+ 0.0,
1558
+ 0.0,
1559
+ 0.0,
1560
+ 0.0,
1561
+ 0.0,
1562
+ 0.0,
1563
+ 0.0,
1564
+ 0.0,
1565
+ 0.0,
1566
+ 0.0,
1567
+ 0.0,
1568
+ 0.0,
1569
+ 0.0,
1570
+ 0.0,
1571
+ 0.0,
1572
+ 0.0,
1573
+ 0.0,
1574
+ 0.0,
1575
+ 0.0,
1576
+ 0.0,
1577
+ 0.0,
1578
+ 0.0,
1579
+ 0.0,
1580
+ 0.0,
1581
+ 0.0,
1582
+ 0.0,
1583
+ 0.0,
1584
+ 0.0,
1585
+ 0.0,
1586
+ 0.0,
1587
+ 0.0,
1588
+ 0.0,
1589
+ 0.0,
1590
+ 0.0,
1591
+ 0.0,
1592
+ 0.0,
1593
+ 0.0,
1594
+ 0.0,
1595
+ 0.0,
1596
+ 0.0,
1597
+ 0.0,
1598
+ 0.0,
1599
+ 0.0,
1600
+ 0.0,
1601
+ 0.0,
1602
+ 0.0,
1603
+ 0.0,
1604
+ 0.0,
1605
+ 0.0,
1606
+ 0.0,
1607
+ 0.0,
1608
+ 0.0,
1609
+ 0.0,
1610
+ 0.0,
1611
+ 0.0,
1612
+ 0.0,
1613
+ 0.0,
1614
+ 0.0,
1615
+ 0.0,
1616
+ 0.0,
1617
+ 0.0,
1618
+ 0.0,
1619
+ 0.0,
1620
+ 0.0,
1621
+ 0.0,
1622
+ 0.0,
1623
+ 0.0,
1624
+ 0.0,
1625
+ 0.0,
1626
+ 0.0,
1627
+ 0.0,
1628
+ 0.0,
1629
+ 0.0,
1630
+ 0.0,
1631
+ 0.0,
1632
+ 0.0,
1633
+ 0.0,
1634
+ 0.0,
1635
+ 0.0,
1636
+ 0.0,
1637
+ 0.0,
1638
+ 0.0,
1639
+ 0.0,
1640
+ 0.0,
1641
+ 0.0,
1642
+ 0.0,
1643
+ 0.0,
1644
+ 0.0,
1645
+ 0.0,
1646
+ 0.0,
1647
+ 0.0,
1648
+ 0.0,
1649
+ 0.0,
1650
+ 0.0,
1651
+ 0.0,
1652
+ 0.0,
1653
+ 0.0,
1654
+ 0.0,
1655
+ 0.0,
1656
+ 0.0,
1657
+ 0.0,
1658
+ 0.0,
1659
+ 0.0,
1660
+ 0.0,
1661
+ 0.0,
1662
+ 0.0,
1663
+ 0.0,
1664
+ 0.0,
1665
+ 0.0,
1666
+ 0.0,
1667
+ 0.0,
1668
+ 0.0,
1669
+ 0.0,
1670
+ 0.0,
1671
+ 0.0,
1672
+ 0.0,
1673
+ 0.0,
1674
+ 0.0,
1675
+ 0.0,
1676
+ 0.0,
1677
+ 0.0,
1678
+ 0.0,
1679
+ 0.0,
1680
+ 0.0,
1681
+ 0.0,
1682
+ 0.0,
1683
+ 0.0,
1684
+ 0.0,
1685
+ 0.0,
1686
+ 0.0,
1687
+ 0.0,
1688
+ 0.0,
1689
+ 0.0,
1690
+ 0.0,
1691
+ 0.0,
1692
+ 0.0,
1693
+ 0.0,
1694
+ 0.0,
1695
+ 0.0,
1696
+ 0.0,
1697
+ 0.0,
1698
+ 0.0,
1699
+ 0.0,
1700
+ 0.0,
1701
+ 0.0,
1702
+ 0.0,
1703
+ 0.0,
1704
+ 0.0,
1705
+ 0.0,
1706
+ 0.0,
1707
+ 0.0,
1708
+ 0.0,
1709
+ 0.0,
1710
+ 0.0,
1711
+ 0.0,
1712
+ 0.0,
1713
+ 0.0,
1714
+ 0.0,
1715
+ 0.0,
1716
+ 0.0,
1717
+ 0.0,
1718
+ 0.0,
1719
+ 0.0,
1720
+ 0.0,
1721
+ 0.0,
1722
+ 0.0,
1723
+ 0.0,
1724
+ 0.0,
1725
+ 0.0,
1726
+ 0.0,
1727
+ 0.0,
1728
+ 0.0,
1729
+ 0.0,
1730
+ 0.0,
1731
+ 0.0,
1732
+ 0.0,
1733
+ 0.0,
1734
+ 0.0,
1735
+ 0.0,
1736
+ 0.0,
1737
+ 0.0,
1738
+ 0.0,
1739
+ 0.0,
1740
+ 0.0,
1741
+ 0.0,
1742
+ 0.0,
1743
+ 0.0,
1744
+ 0.0,
1745
+ 0.0,
1746
+ 0.0,
1747
+ 0.0,
1748
+ 0.0,
1749
+ 0.0,
1750
+ 0.0,
1751
+ 0.0,
1752
+ 0.0,
1753
+ 0.0,
1754
+ 0.0,
1755
+ 0.0,
1756
+ 0.0,
1757
+ 0.0,
1758
+ 0.0,
1759
+ 0.0,
1760
+ 0.0,
1761
+ 0.0,
1762
+ 0.0,
1763
+ 0.0,
1764
+ 0.0,
1765
+ 0.0,
1766
+ 0.0,
1767
+ 0.0,
1768
+ 0.0,
1769
+ 0.0,
1770
+ 0.0,
1771
+ 0.0,
1772
+ 0.0,
1773
+ 0.0,
1774
+ 0.0,
1775
+ 0.0,
1776
+ 0.0,
1777
+ 0.0,
1778
+ 0.0,
1779
+ 0.0,
1780
+ 0.0,
1781
+ 0.0,
1782
+ 0.0,
1783
+ 0.0,
1784
+ 0.0,
1785
+ 0.0,
1786
+ 0.0,
1787
+ 0.0,
1788
+ 0.0,
1789
+ 0.0,
1790
+ 0.0,
1791
+ 0.0,
1792
+ 0.0,
1793
+ 0.0,
1794
+ 0.0,
1795
+ 0.0,
1796
+ 0.0,
1797
+ 0.0,
1798
+ 0.0,
1799
+ 0.0,
1800
+ 0.0,
1801
+ 0.0,
1802
+ 0.0,
1803
+ 0.0,
1804
+ 0.0,
1805
+ 0.0,
1806
+ 0.0,
1807
+ 0.0,
1808
+ 0.0,
1809
+ 0.0,
1810
+ 0.0,
1811
+ 0.0,
1812
+ 0.0,
1813
+ 0.0
1814
+ ],
1815
+ "abs_loss": [
1816
+ 0.0,
1817
+ 0.0,
1818
+ 0.0,
1819
+ 0.0,
1820
+ 0.0,
1821
+ 0.0,
1822
+ 0.0,
1823
+ 0.0,
1824
+ 0.0,
1825
+ 0.0,
1826
+ 0.0,
1827
+ 0.0,
1828
+ 0.0,
1829
+ 0.0,
1830
+ 0.0,
1831
+ 0.0,
1832
+ 0.0,
1833
+ 0.0,
1834
+ 0.0,
1835
+ 0.0,
1836
+ 0.0,
1837
+ 0.0,
1838
+ 0.0,
1839
+ 0.0,
1840
+ 0.0,
1841
+ 0.0,
1842
+ 0.0,
1843
+ 0.0,
1844
+ 0.0,
1845
+ 0.0,
1846
+ 0.0,
1847
+ 0.0,
1848
+ 0.0,
1849
+ 0.0,
1850
+ 0.0,
1851
+ 0.0,
1852
+ 0.0,
1853
+ 0.0,
1854
+ 0.0,
1855
+ 0.0,
1856
+ 0.0,
1857
+ 0.0,
1858
+ 0.0,
1859
+ 0.0,
1860
+ 0.0,
1861
+ 0.0,
1862
+ 0.0,
1863
+ 0.0,
1864
+ 0.0,
1865
+ 0.0,
1866
+ 0.0,
1867
+ 0.0,
1868
+ 0.0,
1869
+ 0.0,
1870
+ 0.0,
1871
+ 0.0,
1872
+ 0.0,
1873
+ 0.0,
1874
+ 0.0,
1875
+ 0.0,
1876
+ 0.0,
1877
+ 0.0,
1878
+ 0.0,
1879
+ 0.0,
1880
+ 0.0,
1881
+ 0.0,
1882
+ 0.0,
1883
+ 0.0,
1884
+ 0.0,
1885
+ 0.0,
1886
+ 0.0,
1887
+ 0.0,
1888
+ 0.0,
1889
+ 0.0,
1890
+ 0.0,
1891
+ 0.0,
1892
+ 0.0,
1893
+ 0.0,
1894
+ 0.0,
1895
+ 0.0,
1896
+ 0.0,
1897
+ 0.0,
1898
+ 0.0,
1899
+ 0.0,
1900
+ 0.0,
1901
+ 0.0,
1902
+ 0.0,
1903
+ 0.0,
1904
+ 0.0,
1905
+ 0.0,
1906
+ 0.0,
1907
+ 0.0,
1908
+ 0.0,
1909
+ 0.0,
1910
+ 0.0,
1911
+ 0.0,
1912
+ 0.0,
1913
+ 0.0,
1914
+ 0.0,
1915
+ 0.0,
1916
+ 0.0,
1917
+ 0.0,
1918
+ 0.0,
1919
+ 0.0,
1920
+ 0.0,
1921
+ 0.0,
1922
+ 0.0,
1923
+ 0.0,
1924
+ 0.0,
1925
+ 0.0,
1926
+ 0.0,
1927
+ 0.0,
1928
+ 0.0,
1929
+ 0.0,
1930
+ 0.0,
1931
+ 0.0,
1932
+ 0.0,
1933
+ 0.0,
1934
+ 0.0,
1935
+ 0.0,
1936
+ 0.0,
1937
+ 0.0,
1938
+ 0.0,
1939
+ 0.0,
1940
+ 0.0,
1941
+ 0.0,
1942
+ 0.0,
1943
+ 0.0,
1944
+ 0.0,
1945
+ 0.0,
1946
+ 0.0,
1947
+ 0.0,
1948
+ 0.0,
1949
+ 0.0,
1950
+ 0.0,
1951
+ 0.0,
1952
+ 0.0,
1953
+ 0.0,
1954
+ 0.0,
1955
+ 0.0,
1956
+ 0.0,
1957
+ 0.0,
1958
+ 0.0,
1959
+ 0.0,
1960
+ 0.0,
1961
+ 0.0,
1962
+ 0.0,
1963
+ 0.0,
1964
+ 0.0,
1965
+ 0.0,
1966
+ 0.0,
1967
+ 0.0,
1968
+ 0.0,
1969
+ 0.0,
1970
+ 0.0,
1971
+ 0.0,
1972
+ 0.0,
1973
+ 0.0,
1974
+ 0.0,
1975
+ 0.0,
1976
+ 0.0,
1977
+ 0.0,
1978
+ 0.0,
1979
+ 0.0,
1980
+ 0.0,
1981
+ 0.0,
1982
+ 0.0,
1983
+ 0.0,
1984
+ 0.0,
1985
+ 0.0,
1986
+ 0.0,
1987
+ 0.0,
1988
+ 0.0,
1989
+ 0.0,
1990
+ 0.0,
1991
+ 0.0,
1992
+ 0.0,
1993
+ 0.0,
1994
+ 0.0,
1995
+ 0.0,
1996
+ 0.0,
1997
+ 0.0,
1998
+ 0.0,
1999
+ 0.0,
2000
+ 0.0,
2001
+ 0.0,
2002
+ 0.0,
2003
+ 0.0,
2004
+ 0.0,
2005
+ 0.0,
2006
+ 0.0,
2007
+ 0.0,
2008
+ 0.0,
2009
+ 0.0,
2010
+ 0.0,
2011
+ 0.0,
2012
+ 0.0,
2013
+ 0.0,
2014
+ 0.0,
2015
+ 0.0,
2016
+ 0.0,
2017
+ 0.0,
2018
+ 0.0,
2019
+ 0.0,
2020
+ 0.0,
2021
+ 0.0,
2022
+ 0.0,
2023
+ 0.0,
2024
+ 0.0,
2025
+ 0.0,
2026
+ 0.0,
2027
+ 0.0,
2028
+ 0.0,
2029
+ 0.0,
2030
+ 0.0,
2031
+ 0.0,
2032
+ 0.0,
2033
+ 0.0,
2034
+ 0.0,
2035
+ 0.0,
2036
+ 0.0,
2037
+ 0.0,
2038
+ 0.0,
2039
+ 0.0,
2040
+ 0.0,
2041
+ 0.0,
2042
+ 0.0,
2043
+ 0.0,
2044
+ 0.0,
2045
+ 0.0,
2046
+ 0.0,
2047
+ 0.0,
2048
+ 0.0,
2049
+ 0.0,
2050
+ 0.0,
2051
+ 0.0,
2052
+ 0.0,
2053
+ 0.0,
2054
+ 0.0,
2055
+ 0.0,
2056
+ 0.0,
2057
+ 0.0,
2058
+ 0.0,
2059
+ 0.0,
2060
+ 0.0,
2061
+ 0.0,
2062
+ 0.0,
2063
+ 0.0,
2064
+ 0.0,
2065
+ 0.0,
2066
+ 0.0,
2067
+ 0.0,
2068
+ 0.0,
2069
+ 0.0,
2070
+ 0.0,
2071
+ 0.0,
2072
+ 0.0,
2073
+ 0.0,
2074
+ 0.0,
2075
+ 0.0,
2076
+ 0.0,
2077
+ 0.0,
2078
+ 0.0,
2079
+ 0.0,
2080
+ 0.0,
2081
+ 0.0,
2082
+ 0.0,
2083
+ 0.0,
2084
+ 0.0,
2085
+ 0.0,
2086
+ 0.0,
2087
+ 0.0,
2088
+ 0.0,
2089
+ 0.0,
2090
+ 0.0,
2091
+ 0.0,
2092
+ 0.0,
2093
+ 0.0,
2094
+ 0.0,
2095
+ 0.0,
2096
+ 0.0,
2097
+ 0.0,
2098
+ 0.0,
2099
+ 0.0,
2100
+ 0.0,
2101
+ 0.0,
2102
+ 0.0,
2103
+ 0.0,
2104
+ 0.0,
2105
+ 0.0,
2106
+ 0.0,
2107
+ 0.0,
2108
+ 0.0,
2109
+ 0.0,
2110
+ 0.0,
2111
+ 0.0,
2112
+ 0.0,
2113
+ 0.0,
2114
+ 0.0,
2115
+ 0.0
2116
+ ],
2117
+ "zipf_loss": [
2118
+ 0.0,
2119
+ 0.0,
2120
+ 0.0,
2121
+ 0.0,
2122
+ 0.0,
2123
+ 0.0,
2124
+ 0.0,
2125
+ 0.0,
2126
+ 0.0,
2127
+ 0.0,
2128
+ 0.0,
2129
+ 0.0,
2130
+ 0.0,
2131
+ 0.0,
2132
+ 0.0,
2133
+ 0.0,
2134
+ 0.0,
2135
+ 0.0,
2136
+ 0.0,
2137
+ 0.0,
2138
+ 0.0,
2139
+ 0.0,
2140
+ 0.0,
2141
+ 0.0,
2142
+ 0.0,
2143
+ 0.0,
2144
+ 0.0,
2145
+ 0.0,
2146
+ 0.0,
2147
+ 0.0,
2148
+ 0.0,
2149
+ 0.0,
2150
+ 0.0,
2151
+ 0.0,
2152
+ 0.0,
2153
+ 0.0,
2154
+ 0.0,
2155
+ 0.0,
2156
+ 0.0,
2157
+ 0.0,
2158
+ 0.0,
2159
+ 0.0,
2160
+ 0.0,
2161
+ 0.0,
2162
+ 0.0,
2163
+ 0.0,
2164
+ 0.0,
2165
+ 0.0,
2166
+ 0.0,
2167
+ 0.0,
2168
+ 0.0,
2169
+ 0.0,
2170
+ 0.0,
2171
+ 0.0,
2172
+ 0.0,
2173
+ 0.0,
2174
+ 0.0,
2175
+ 0.0,
2176
+ 0.0,
2177
+ 0.0,
2178
+ 0.0,
2179
+ 0.0,
2180
+ 0.0,
2181
+ 0.0,
2182
+ 0.0,
2183
+ 0.0,
2184
+ 0.0,
2185
+ 0.0,
2186
+ 0.0,
2187
+ 0.0,
2188
+ 0.0,
2189
+ 0.0,
2190
+ 0.0,
2191
+ 0.0,
2192
+ 0.0,
2193
+ 0.0,
2194
+ 0.0,
2195
+ 0.0,
2196
+ 0.0,
2197
+ 0.0,
2198
+ 0.0,
2199
+ 0.0,
2200
+ 0.0,
2201
+ 0.0,
2202
+ 0.0,
2203
+ 0.0,
2204
+ 0.0,
2205
+ 0.0,
2206
+ 0.0,
2207
+ 0.0,
2208
+ 0.0,
2209
+ 0.0,
2210
+ 0.0,
2211
+ 0.0,
2212
+ 0.0,
2213
+ 0.0,
2214
+ 0.0,
2215
+ 0.0,
2216
+ 0.0,
2217
+ 0.0,
2218
+ 0.0,
2219
+ 0.0,
2220
+ 0.0,
2221
+ 0.0,
2222
+ 0.0,
2223
+ 0.0,
2224
+ 0.0,
2225
+ 0.0,
2226
+ 0.0,
2227
+ 0.0,
2228
+ 0.0,
2229
+ 0.0,
2230
+ 0.0,
2231
+ 0.0,
2232
+ 0.0,
2233
+ 0.0,
2234
+ 0.0,
2235
+ 0.0,
2236
+ 0.0,
2237
+ 0.0,
2238
+ 0.0,
2239
+ 0.0,
2240
+ 0.0,
2241
+ 0.0,
2242
+ 0.0,
2243
+ 0.0,
2244
+ 0.0,
2245
+ 0.0,
2246
+ 0.0,
2247
+ 0.0,
2248
+ 0.0,
2249
+ 0.0,
2250
+ 0.0,
2251
+ 0.0,
2252
+ 0.0,
2253
+ 0.0,
2254
+ 0.0,
2255
+ 0.0,
2256
+ 0.0,
2257
+ 0.0,
2258
+ 0.0,
2259
+ 0.0,
2260
+ 0.0,
2261
+ 0.0,
2262
+ 0.0,
2263
+ 0.0,
2264
+ 0.0,
2265
+ 0.0,
2266
+ 0.0,
2267
+ 0.0,
2268
+ 0.0,
2269
+ 0.0,
2270
+ 0.0,
2271
+ 0.0,
2272
+ 0.0,
2273
+ 0.0,
2274
+ 0.0,
2275
+ 0.0,
2276
+ 0.0,
2277
+ 0.0,
2278
+ 0.0,
2279
+ 0.0,
2280
+ 0.0,
2281
+ 0.0,
2282
+ 0.0,
2283
+ 0.0,
2284
+ 0.0,
2285
+ 0.0,
2286
+ 0.0,
2287
+ 0.0,
2288
+ 0.0,
2289
+ 0.0,
2290
+ 0.0,
2291
+ 0.0,
2292
+ 0.0,
2293
+ 0.0,
2294
+ 0.0,
2295
+ 0.0,
2296
+ 0.0,
2297
+ 0.0,
2298
+ 0.0,
2299
+ 0.0,
2300
+ 0.0,
2301
+ 0.0,
2302
+ 0.0,
2303
+ 0.0,
2304
+ 0.0,
2305
+ 0.0,
2306
+ 0.0,
2307
+ 0.0,
2308
+ 0.0,
2309
+ 0.0,
2310
+ 0.0,
2311
+ 0.0,
2312
+ 0.0,
2313
+ 0.0,
2314
+ 0.0,
2315
+ 0.0,
2316
+ 0.0,
2317
+ 0.0,
2318
+ 0.0,
2319
+ 0.0,
2320
+ 0.0,
2321
+ 0.0,
2322
+ 0.0,
2323
+ 0.0,
2324
+ 0.0,
2325
+ 0.0,
2326
+ 0.0,
2327
+ 0.0,
2328
+ 0.0,
2329
+ 0.0,
2330
+ 0.0,
2331
+ 0.0,
2332
+ 0.0,
2333
+ 0.0,
2334
+ 0.0,
2335
+ 0.0,
2336
+ 0.0,
2337
+ 0.0,
2338
+ 0.0,
2339
+ 0.0,
2340
+ 0.0,
2341
+ 0.0,
2342
+ 0.0,
2343
+ 0.0,
2344
+ 0.0,
2345
+ 0.0,
2346
+ 0.0,
2347
+ 0.0,
2348
+ 0.0,
2349
+ 0.0,
2350
+ 0.0,
2351
+ 0.0,
2352
+ 0.0,
2353
+ 0.0,
2354
+ 0.0,
2355
+ 0.0,
2356
+ 0.0,
2357
+ 0.0,
2358
+ 0.0,
2359
+ 0.0,
2360
+ 0.0,
2361
+ 0.0,
2362
+ 0.0,
2363
+ 0.0,
2364
+ 0.0,
2365
+ 0.0,
2366
+ 0.0,
2367
+ 0.0,
2368
+ 0.0,
2369
+ 0.0,
2370
+ 0.0,
2371
+ 0.0,
2372
+ 0.0,
2373
+ 0.0,
2374
+ 0.0,
2375
+ 0.0,
2376
+ 0.0,
2377
+ 0.0,
2378
+ 0.0,
2379
+ 0.0,
2380
+ 0.0,
2381
+ 0.0,
2382
+ 0.0,
2383
+ 0.0,
2384
+ 0.0,
2385
+ 0.0,
2386
+ 0.0,
2387
+ 0.0,
2388
+ 0.0,
2389
+ 0.0,
2390
+ 0.0,
2391
+ 0.0,
2392
+ 0.0,
2393
+ 0.0,
2394
+ 0.0,
2395
+ 0.0,
2396
+ 0.0,
2397
+ 0.0,
2398
+ 0.0,
2399
+ 0.0,
2400
+ 0.0,
2401
+ 0.0,
2402
+ 0.0,
2403
+ 0.0,
2404
+ 0.0,
2405
+ 0.0,
2406
+ 0.0,
2407
+ 0.0,
2408
+ 0.0,
2409
+ 0.0,
2410
+ 0.0,
2411
+ 0.0,
2412
+ 0.0,
2413
+ 0.0,
2414
+ 0.0,
2415
+ 0.0,
2416
+ 0.0,
2417
+ 0.0
2418
+ ],
2419
+ "ortho_loss": [
2420
+ 0.0,
2421
+ 0.0,
2422
+ 0.0,
2423
+ 0.0,
2424
+ 0.0,
2425
+ 0.0,
2426
+ 0.0,
2427
+ 0.0,
2428
+ 0.0,
2429
+ 0.0,
2430
+ 0.0,
2431
+ 0.0,
2432
+ 0.0,
2433
+ 0.0,
2434
+ 0.0,
2435
+ 0.0,
2436
+ 0.0,
2437
+ 0.0,
2438
+ 0.0,
2439
+ 0.0,
2440
+ 0.0,
2441
+ 0.0,
2442
+ 0.0,
2443
+ 0.0,
2444
+ 0.0,
2445
+ 0.0,
2446
+ 0.0,
2447
+ 0.0,
2448
+ 0.0,
2449
+ 0.0,
2450
+ 0.0,
2451
+ 0.0,
2452
+ 0.0,
2453
+ 0.0,
2454
+ 0.0,
2455
+ 0.0,
2456
+ 0.0,
2457
+ 0.0,
2458
+ 0.0,
2459
+ 0.0,
2460
+ 0.0,
2461
+ 0.0,
2462
+ 0.0,
2463
+ 0.0,
2464
+ 0.0,
2465
+ 0.0,
2466
+ 0.0,
2467
+ 0.0,
2468
+ 0.0,
2469
+ 0.0,
2470
+ 0.0,
2471
+ 0.0,
2472
+ 0.0,
2473
+ 0.0,
2474
+ 0.0,
2475
+ 0.0,
2476
+ 0.0,
2477
+ 0.0,
2478
+ 0.0,
2479
+ 0.0,
2480
+ 0.0,
2481
+ 0.0,
2482
+ 0.0,
2483
+ 0.0,
2484
+ 0.0,
2485
+ 0.0,
2486
+ 0.0,
2487
+ 0.0,
2488
+ 0.0,
2489
+ 0.0,
2490
+ 0.0,
2491
+ 0.0,
2492
+ 0.0,
2493
+ 0.0,
2494
+ 0.0,
2495
+ 0.0,
2496
+ 0.0,
2497
+ 0.0,
2498
+ 0.0,
2499
+ 0.0,
2500
+ 0.0,
2501
+ 0.0,
2502
+ 0.0,
2503
+ 0.0,
2504
+ 0.0,
2505
+ 0.0,
2506
+ 0.0,
2507
+ 0.0,
2508
+ 0.0,
2509
+ 0.0,
2510
+ 0.0,
2511
+ 0.0,
2512
+ 0.0,
2513
+ 0.0,
2514
+ 0.0,
2515
+ 0.0,
2516
+ 0.0,
2517
+ 0.0,
2518
+ 0.0,
2519
+ 0.0,
2520
+ 0.0,
2521
+ 0.0,
2522
+ 0.0,
2523
+ 0.0,
2524
+ 0.0,
2525
+ 0.0,
2526
+ 0.0,
2527
+ 0.0,
2528
+ 0.0,
2529
+ 0.0,
2530
+ 0.0,
2531
+ 0.0,
2532
+ 0.0,
2533
+ 0.0,
2534
+ 0.0,
2535
+ 0.0,
2536
+ 0.0,
2537
+ 0.0,
2538
+ 0.0,
2539
+ 0.0,
2540
+ 0.0,
2541
+ 0.0,
2542
+ 0.0,
2543
+ 0.0,
2544
+ 0.0,
2545
+ 0.0,
2546
+ 0.0,
2547
+ 0.0,
2548
+ 0.0,
2549
+ 0.0,
2550
+ 0.0,
2551
+ 0.0,
2552
+ 0.0,
2553
+ 0.0,
2554
+ 0.0,
2555
+ 0.0,
2556
+ 0.0,
2557
+ 0.0,
2558
+ 0.0,
2559
+ 0.0,
2560
+ 0.0,
2561
+ 0.0,
2562
+ 0.0,
2563
+ 0.0,
2564
+ 0.0,
2565
+ 0.0,
2566
+ 0.0,
2567
+ 0.0,
2568
+ 0.0,
2569
+ 0.0,
2570
+ 0.0,
2571
+ 0.0,
2572
+ 0.0,
2573
+ 0.0,
2574
+ 0.0,
2575
+ 0.0,
2576
+ 0.0,
2577
+ 0.0,
2578
+ 0.0,
2579
+ 0.0,
2580
+ 0.0,
2581
+ 0.0,
2582
+ 0.0,
2583
+ 0.0,
2584
+ 0.0,
2585
+ 0.0,
2586
+ 0.0,
2587
+ 0.0,
2588
+ 0.0,
2589
+ 0.0,
2590
+ 0.0,
2591
+ 0.0,
2592
+ 0.0,
2593
+ 0.0,
2594
+ 0.0,
2595
+ 0.0,
2596
+ 0.0,
2597
+ 0.0,
2598
+ 0.0,
2599
+ 0.0,
2600
+ 0.0,
2601
+ 0.0,
2602
+ 0.0,
2603
+ 0.0,
2604
+ 0.0,
2605
+ 0.0,
2606
+ 0.0,
2607
+ 0.0,
2608
+ 0.0,
2609
+ 0.0,
2610
+ 0.0,
2611
+ 0.0,
2612
+ 0.0,
2613
+ 0.0,
2614
+ 0.0,
2615
+ 0.0,
2616
+ 0.0,
2617
+ 0.0,
2618
+ 0.0,
2619
+ 0.0,
2620
+ 0.0,
2621
+ 0.0,
2622
+ 0.0,
2623
+ 0.0,
2624
+ 0.0,
2625
+ 0.0,
2626
+ 0.0,
2627
+ 0.0,
2628
+ 0.0,
2629
+ 0.0,
2630
+ 0.0,
2631
+ 0.0,
2632
+ 0.0,
2633
+ 0.0,
2634
+ 0.0,
2635
+ 0.0,
2636
+ 0.0,
2637
+ 0.0,
2638
+ 0.0,
2639
+ 0.0,
2640
+ 0.0,
2641
+ 0.0,
2642
+ 0.0,
2643
+ 0.0,
2644
+ 0.0,
2645
+ 0.0,
2646
+ 0.0,
2647
+ 0.0,
2648
+ 0.0,
2649
+ 0.0,
2650
+ 0.0,
2651
+ 0.0,
2652
+ 0.0,
2653
+ 0.0,
2654
+ 0.0,
2655
+ 0.0,
2656
+ 0.0,
2657
+ 0.0,
2658
+ 0.0,
2659
+ 0.0,
2660
+ 0.0,
2661
+ 0.0,
2662
+ 0.0,
2663
+ 0.0,
2664
+ 0.0,
2665
+ 0.0,
2666
+ 0.0,
2667
+ 0.0,
2668
+ 0.0,
2669
+ 0.0,
2670
+ 0.0,
2671
+ 0.0,
2672
+ 0.0,
2673
+ 0.0,
2674
+ 0.0,
2675
+ 0.0,
2676
+ 0.0,
2677
+ 0.0,
2678
+ 0.0,
2679
+ 0.0,
2680
+ 0.0,
2681
+ 0.0,
2682
+ 0.0,
2683
+ 0.0,
2684
+ 0.0,
2685
+ 0.0,
2686
+ 0.0,
2687
+ 0.0,
2688
+ 0.0,
2689
+ 0.0,
2690
+ 0.0,
2691
+ 0.0,
2692
+ 0.0,
2693
+ 0.0,
2694
+ 0.0,
2695
+ 0.0,
2696
+ 0.0,
2697
+ 0.0,
2698
+ 0.0,
2699
+ 0.0,
2700
+ 0.0,
2701
+ 0.0,
2702
+ 0.0,
2703
+ 0.0,
2704
+ 0.0,
2705
+ 0.0,
2706
+ 0.0,
2707
+ 0.0,
2708
+ 0.0,
2709
+ 0.0,
2710
+ 0.0,
2711
+ 0.0,
2712
+ 0.0,
2713
+ 0.0,
2714
+ 0.0,
2715
+ 0.0,
2716
+ 0.0,
2717
+ 0.0,
2718
+ 0.0,
2719
+ 0.0
2720
+ ],
2721
+ "anchor_loss": [
2722
+ 0.0,
2723
+ 0.0,
2724
+ 0.0,
2725
+ 0.0,
2726
+ 0.0,
2727
+ 0.0,
2728
+ 0.0,
2729
+ 0.0,
2730
+ 0.0,
2731
+ 0.0,
2732
+ 0.0,
2733
+ 0.0,
2734
+ 0.0,
2735
+ 0.0,
2736
+ 0.0,
2737
+ 0.0,
2738
+ 0.0,
2739
+ 0.0,
2740
+ 0.0,
2741
+ 0.0,
2742
+ 0.0,
2743
+ 0.0,
2744
+ 0.0,
2745
+ 0.0,
2746
+ 0.0,
2747
+ 0.0,
2748
+ 0.0,
2749
+ 0.0,
2750
+ 0.0,
2751
+ 0.0,
2752
+ 0.0,
2753
+ 0.0,
2754
+ 0.0,
2755
+ 0.0,
2756
+ 0.0,
2757
+ 0.0,
2758
+ 0.0,
2759
+ 0.0,
2760
+ 0.0,
2761
+ 0.0,
2762
+ 0.0,
2763
+ 0.0,
2764
+ 0.0,
2765
+ 0.0,
2766
+ 0.0,
2767
+ 0.0,
2768
+ 0.0,
2769
+ 0.0,
2770
+ 0.0,
2771
+ 0.0,
2772
+ 0.0,
2773
+ 0.0,
2774
+ 0.0,
2775
+ 0.0,
2776
+ 0.0,
2777
+ 0.0,
2778
+ 0.0,
2779
+ 0.0,
2780
+ 0.0,
2781
+ 0.0,
2782
+ 0.0,
2783
+ 0.0,
2784
+ 0.0,
2785
+ 0.0,
2786
+ 0.0,
2787
+ 0.0,
2788
+ 0.0,
2789
+ 0.0,
2790
+ 0.0,
2791
+ 0.0,
2792
+ 0.0,
2793
+ 0.0,
2794
+ 0.0,
2795
+ 0.0,
2796
+ 0.0,
2797
+ 0.0,
2798
+ 0.0,
2799
+ 0.0,
2800
+ 0.0,
2801
+ 0.0,
2802
+ 0.0,
2803
+ 0.0,
2804
+ 0.0,
2805
+ 0.0,
2806
+ 0.0,
2807
+ 0.0,
2808
+ 0.0,
2809
+ 0.0,
2810
+ 0.0,
2811
+ 0.0,
2812
+ 0.0,
2813
+ 0.0,
2814
+ 0.0,
2815
+ 0.0,
2816
+ 0.0,
2817
+ 0.0,
2818
+ 0.0,
2819
+ 0.0,
2820
+ 0.0,
2821
+ 0.0,
2822
+ 0.0,
2823
+ 0.0,
2824
+ 0.0,
2825
+ 0.0,
2826
+ 0.0,
2827
+ 0.0,
2828
+ 0.0,
2829
+ 0.0,
2830
+ 0.0,
2831
+ 0.0,
2832
+ 0.0,
2833
+ 0.0,
2834
+ 0.0,
2835
+ 0.0,
2836
+ 0.0,
2837
+ 0.0,
2838
+ 0.0,
2839
+ 0.0,
2840
+ 0.0,
2841
+ 0.0,
2842
+ 0.0,
2843
+ 0.0,
2844
+ 0.0,
2845
+ 0.0,
2846
+ 0.0,
2847
+ 0.0,
2848
+ 0.0,
2849
+ 0.0,
2850
+ 0.0,
2851
+ 0.0,
2852
+ 0.0,
2853
+ 0.0,
2854
+ 0.0,
2855
+ 0.0,
2856
+ 0.0,
2857
+ 0.0,
2858
+ 0.0,
2859
+ 0.0,
2860
+ 0.0,
2861
+ 0.0,
2862
+ 0.0,
2863
+ 0.0,
2864
+ 0.0,
2865
+ 0.0,
2866
+ 0.0,
2867
+ 0.0,
2868
+ 0.0,
2869
+ 0.0,
2870
+ 0.0,
2871
+ 0.0,
2872
+ 0.0,
2873
+ 0.0,
2874
+ 0.0,
2875
+ 0.0,
2876
+ 0.0,
2877
+ 0.0,
2878
+ 0.0,
2879
+ 0.0,
2880
+ 0.0,
2881
+ 0.0,
2882
+ 0.0,
2883
+ 0.0,
2884
+ 0.0,
2885
+ 0.0,
2886
+ 0.0,
2887
+ 0.0,
2888
+ 0.0,
2889
+ 0.0,
2890
+ 0.0,
2891
+ 0.0,
2892
+ 0.0,
2893
+ 0.0,
2894
+ 0.0,
2895
+ 0.0,
2896
+ 0.0,
2897
+ 0.0,
2898
+ 0.0,
2899
+ 0.0,
2900
+ 0.0,
2901
+ 0.0,
2902
+ 0.0,
2903
+ 0.0,
2904
+ 0.0,
2905
+ 0.0,
2906
+ 0.0,
2907
+ 0.0,
2908
+ 0.0,
2909
+ 0.0,
2910
+ 0.0,
2911
+ 0.0,
2912
+ 0.0,
2913
+ 0.0,
2914
+ 0.0,
2915
+ 0.0,
2916
+ 0.0,
2917
+ 0.0,
2918
+ 0.0,
2919
+ 0.0,
2920
+ 0.0,
2921
+ 0.0,
2922
+ 0.0,
2923
+ 0.0,
2924
+ 0.0,
2925
+ 0.0,
2926
+ 0.0,
2927
+ 0.0,
2928
+ 0.0,
2929
+ 0.0,
2930
+ 0.0,
2931
+ 0.0,
2932
+ 0.0,
2933
+ 0.0,
2934
+ 0.0,
2935
+ 0.0,
2936
+ 0.0,
2937
+ 0.0,
2938
+ 0.0,
2939
+ 0.0,
2940
+ 0.0,
2941
+ 0.0,
2942
+ 0.0,
2943
+ 0.0,
2944
+ 0.0,
2945
+ 0.0,
2946
+ 0.0,
2947
+ 0.0,
2948
+ 0.0,
2949
+ 0.0,
2950
+ 0.0,
2951
+ 0.0,
2952
+ 0.0,
2953
+ 0.0,
2954
+ 0.0,
2955
+ 0.0,
2956
+ 0.0,
2957
+ 0.0,
2958
+ 0.0,
2959
+ 0.0,
2960
+ 0.0,
2961
+ 0.0,
2962
+ 0.0,
2963
+ 0.0,
2964
+ 0.0,
2965
+ 0.0,
2966
+ 0.0,
2967
+ 0.0,
2968
+ 0.0,
2969
+ 0.0,
2970
+ 0.0,
2971
+ 0.0,
2972
+ 0.0,
2973
+ 0.0,
2974
+ 0.0,
2975
+ 0.0,
2976
+ 0.0,
2977
+ 0.0,
2978
+ 0.0,
2979
+ 0.0,
2980
+ 0.0,
2981
+ 0.0,
2982
+ 0.0,
2983
+ 0.0,
2984
+ 0.0,
2985
+ 0.0,
2986
+ 0.0,
2987
+ 0.0,
2988
+ 0.0,
2989
+ 0.0,
2990
+ 0.0,
2991
+ 0.0,
2992
+ 0.0,
2993
+ 0.0,
2994
+ 0.0,
2995
+ 0.0,
2996
+ 0.0,
2997
+ 0.0,
2998
+ 0.0,
2999
+ 0.0,
3000
+ 0.0,
3001
+ 0.0,
3002
+ 0.0,
3003
+ 0.0,
3004
+ 0.0,
3005
+ 0.0,
3006
+ 0.0,
3007
+ 0.0,
3008
+ 0.0,
3009
+ 0.0,
3010
+ 0.0,
3011
+ 0.0,
3012
+ 0.0,
3013
+ 0.0,
3014
+ 0.0,
3015
+ 0.0,
3016
+ 0.0,
3017
+ 0.0,
3018
+ 0.0,
3019
+ 0.0,
3020
+ 0.0,
3021
+ 0.0
3022
+ ],
3023
+ "jacobi_loss": [
3024
+ 0.0,
3025
+ 0.0,
3026
+ 0.0,
3027
+ 0.0,
3028
+ 0.0,
3029
+ 0.0,
3030
+ 0.0,
3031
+ 0.0,
3032
+ 0.0,
3033
+ 0.0,
3034
+ 0.0,
3035
+ 0.0,
3036
+ 0.0,
3037
+ 0.0,
3038
+ 0.0,
3039
+ 0.0,
3040
+ 0.0,
3041
+ 0.0,
3042
+ 0.0,
3043
+ 0.0,
3044
+ 0.0,
3045
+ 0.0,
3046
+ 0.0,
3047
+ 0.0,
3048
+ 0.0,
3049
+ 0.0,
3050
+ 0.0,
3051
+ 0.0,
3052
+ 0.0,
3053
+ 0.0,
3054
+ 0.0,
3055
+ 0.0,
3056
+ 0.0,
3057
+ 0.0,
3058
+ 0.0,
3059
+ 0.0,
3060
+ 0.0,
3061
+ 0.0,
3062
+ 0.0,
3063
+ 0.0,
3064
+ 0.0,
3065
+ 0.0,
3066
+ 0.0,
3067
+ 0.0,
3068
+ 0.0,
3069
+ 0.0,
3070
+ 0.0,
3071
+ 0.0,
3072
+ 0.0,
3073
+ 0.0,
3074
+ 0.0,
3075
+ 0.0,
3076
+ 0.0,
3077
+ 0.0,
3078
+ 0.0,
3079
+ 0.0,
3080
+ 0.0,
3081
+ 0.0,
3082
+ 0.0,
3083
+ 0.0,
3084
+ 0.0,
3085
+ 0.0,
3086
+ 0.0,
3087
+ 0.0,
3088
+ 0.0,
3089
+ 0.0,
3090
+ 0.0,
3091
+ 0.0,
3092
+ 0.0,
3093
+ 0.0,
3094
+ 0.0,
3095
+ 0.0,
3096
+ 0.0,
3097
+ 0.0,
3098
+ 0.0,
3099
+ 0.0,
3100
+ 0.0,
3101
+ 0.0,
3102
+ 0.0,
3103
+ 0.0,
3104
+ 0.0,
3105
+ 0.0,
3106
+ 0.0,
3107
+ 0.0,
3108
+ 0.0,
3109
+ 0.0,
3110
+ 0.0,
3111
+ 0.0,
3112
+ 0.0,
3113
+ 0.0,
3114
+ 0.0,
3115
+ 0.0,
3116
+ 0.0,
3117
+ 0.0,
3118
+ 0.0,
3119
+ 0.0,
3120
+ 0.0,
3121
+ 0.0,
3122
+ 0.0,
3123
+ 0.0,
3124
+ 0.0,
3125
+ 0.0,
3126
+ 0.0,
3127
+ 0.0,
3128
+ 0.0,
3129
+ 0.0,
3130
+ 0.0,
3131
+ 0.0,
3132
+ 0.0,
3133
+ 0.0,
3134
+ 0.0,
3135
+ 0.0,
3136
+ 0.0,
3137
+ 0.0,
3138
+ 0.0,
3139
+ 0.0,
3140
+ 0.0,
3141
+ 0.0,
3142
+ 0.0,
3143
+ 0.0,
3144
+ 0.0,
3145
+ 0.0,
3146
+ 0.0,
3147
+ 0.0,
3148
+ 0.0,
3149
+ 0.0,
3150
+ 0.0,
3151
+ 0.0,
3152
+ 0.0,
3153
+ 0.0,
3154
+ 0.0,
3155
+ 0.0,
3156
+ 0.0,
3157
+ 0.0,
3158
+ 0.0,
3159
+ 0.0,
3160
+ 0.0,
3161
+ 0.0,
3162
+ 0.0,
3163
+ 0.0,
3164
+ 0.0,
3165
+ 0.0,
3166
+ 0.0,
3167
+ 0.0,
3168
+ 0.0,
3169
+ 0.0,
3170
+ 0.0,
3171
+ 0.0,
3172
+ 0.0,
3173
+ 0.0,
3174
+ 0.0,
3175
+ 0.0,
3176
+ 0.0,
3177
+ 0.0,
3178
+ 0.0,
3179
+ 0.0,
3180
+ 0.0,
3181
+ 0.0,
3182
+ 0.0,
3183
+ 0.0,
3184
+ 0.0,
3185
+ 0.0,
3186
+ 0.0,
3187
+ 0.0,
3188
+ 0.0,
3189
+ 0.0,
3190
+ 0.0,
3191
+ 0.0,
3192
+ 0.0,
3193
+ 0.0,
3194
+ 0.0,
3195
+ 0.0,
3196
+ 0.0,
3197
+ 0.0,
3198
+ 0.0,
3199
+ 0.0,
3200
+ 0.0,
3201
+ 0.0,
3202
+ 0.0,
3203
+ 0.0,
3204
+ 0.0,
3205
+ 0.0,
3206
+ 0.0,
3207
+ 0.0,
3208
+ 0.0,
3209
+ 0.0,
3210
+ 0.0,
3211
+ 0.0,
3212
+ 0.0,
3213
+ 0.0,
3214
+ 0.0,
3215
+ 0.0,
3216
+ 0.0,
3217
+ 0.0,
3218
+ 0.0,
3219
+ 0.0,
3220
+ 0.0,
3221
+ 0.0,
3222
+ 0.0,
3223
+ 0.0,
3224
+ 0.0,
3225
+ 0.0,
3226
+ 0.0,
3227
+ 0.0,
3228
+ 0.0,
3229
+ 0.0,
3230
+ 0.0,
3231
+ 0.0,
3232
+ 0.0,
3233
+ 0.0,
3234
+ 0.0,
3235
+ 0.0,
3236
+ 0.0,
3237
+ 0.0,
3238
+ 0.0,
3239
+ 0.0,
3240
+ 0.0,
3241
+ 0.0,
3242
+ 0.0,
3243
+ 0.0,
3244
+ 0.0,
3245
+ 0.0,
3246
+ 0.0,
3247
+ 0.0,
3248
+ 0.0,
3249
+ 0.0,
3250
+ 0.0,
3251
+ 0.0,
3252
+ 0.0,
3253
+ 0.0,
3254
+ 0.0,
3255
+ 0.0,
3256
+ 0.0,
3257
+ 0.0,
3258
+ 0.0,
3259
+ 0.0,
3260
+ 0.0,
3261
+ 0.0,
3262
+ 0.0,
3263
+ 0.0,
3264
+ 0.0,
3265
+ 0.0,
3266
+ 0.0,
3267
+ 0.0,
3268
+ 0.0,
3269
+ 0.0,
3270
+ 0.0,
3271
+ 0.0,
3272
+ 0.0,
3273
+ 0.0,
3274
+ 0.0,
3275
+ 0.0,
3276
+ 0.0,
3277
+ 0.0,
3278
+ 0.0,
3279
+ 0.0,
3280
+ 0.0,
3281
+ 0.0,
3282
+ 0.0,
3283
+ 0.0,
3284
+ 0.0,
3285
+ 0.0,
3286
+ 0.0,
3287
+ 0.0,
3288
+ 0.0,
3289
+ 0.0,
3290
+ 0.0,
3291
+ 0.0,
3292
+ 0.0,
3293
+ 0.0,
3294
+ 0.0,
3295
+ 0.0,
3296
+ 0.0,
3297
+ 0.0,
3298
+ 0.0,
3299
+ 0.0,
3300
+ 0.0,
3301
+ 0.0,
3302
+ 0.0,
3303
+ 0.0,
3304
+ 0.0,
3305
+ 0.0,
3306
+ 0.0,
3307
+ 0.0,
3308
+ 0.0,
3309
+ 0.0,
3310
+ 0.0,
3311
+ 0.0,
3312
+ 0.0,
3313
+ 0.0,
3314
+ 0.0,
3315
+ 0.0,
3316
+ 0.0,
3317
+ 0.0,
3318
+ 0.0,
3319
+ 0.0,
3320
+ 0.0,
3321
+ 0.0,
3322
+ 0.0,
3323
+ 0.0
3324
+ ],
3325
+ "lr": [
3326
+ 8.376068376068378e-06,
3327
+ 1.6923076923076924e-05,
3328
+ 2.5470085470085475e-05,
3329
+ 3.401709401709402e-05,
3330
+ 4.2564102564102564e-05,
3331
+ 5.1111111111111115e-05,
3332
+ 5.9658119658119666e-05,
3333
+ 6.820512820512821e-05,
3334
+ 7.675213675213675e-05,
3335
+ 8e-05,
3336
+ 8e-05,
3337
+ 8e-05,
3338
+ 8e-05,
3339
+ 8e-05,
3340
+ 8e-05,
3341
+ 8e-05,
3342
+ 8e-05,
3343
+ 8e-05,
3344
+ 8e-05,
3345
+ 8e-05,
3346
+ 8e-05,
3347
+ 8e-05,
3348
+ 8e-05,
3349
+ 8e-05,
3350
+ 8e-05,
3351
+ 8e-05,
3352
+ 8e-05,
3353
+ 8e-05,
3354
+ 8e-05,
3355
+ 8e-05,
3356
+ 8e-05,
3357
+ 8e-05,
3358
+ 8e-05,
3359
+ 8e-05,
3360
+ 8e-05,
3361
+ 8e-05,
3362
+ 8e-05,
3363
+ 8e-05,
3364
+ 8e-05,
3365
+ 8e-05,
3366
+ 8e-05,
3367
+ 8e-05,
3368
+ 8e-05,
3369
+ 8e-05,
3370
+ 8e-05,
3371
+ 8e-05,
3372
+ 8e-05,
3373
+ 8e-05,
3374
+ 8e-05,
3375
+ 8e-05,
3376
+ 8e-05,
3377
+ 8e-05,
3378
+ 8e-05,
3379
+ 8e-05,
3380
+ 8e-05,
3381
+ 8e-05,
3382
+ 8e-05,
3383
+ 8e-05,
3384
+ 8e-05,
3385
+ 8e-05,
3386
+ 8e-05,
3387
+ 8e-05,
3388
+ 8e-05,
3389
+ 8e-05,
3390
+ 8e-05,
3391
+ 8e-05,
3392
+ 8e-05,
3393
+ 8e-05,
3394
+ 8e-05,
3395
+ 8e-05,
3396
+ 8e-05,
3397
+ 8e-05,
3398
+ 8e-05,
3399
+ 8e-05,
3400
+ 8e-05,
3401
+ 8e-05,
3402
+ 8e-05,
3403
+ 8e-05,
3404
+ 8e-05,
3405
+ 8e-05,
3406
+ 8e-05,
3407
+ 8e-05,
3408
+ 8e-05,
3409
+ 8e-05,
3410
+ 8e-05,
3411
+ 8e-05,
3412
+ 8e-05,
3413
+ 8e-05,
3414
+ 8e-05,
3415
+ 8e-05,
3416
+ 8e-05,
3417
+ 8e-05,
3418
+ 8e-05,
3419
+ 8e-05,
3420
+ 8e-05,
3421
+ 8e-05,
3422
+ 8e-05,
3423
+ 8e-05,
3424
+ 8e-05,
3425
+ 8e-05,
3426
+ 8e-05,
3427
+ 8e-05,
3428
+ 8e-05,
3429
+ 8e-05,
3430
+ 8e-05,
3431
+ 8e-05,
3432
+ 8e-05,
3433
+ 8e-05,
3434
+ 8e-05,
3435
+ 8e-05,
3436
+ 8e-05,
3437
+ 8e-05,
3438
+ 8e-05,
3439
+ 8e-05,
3440
+ 8e-05,
3441
+ 8e-05,
3442
+ 8e-05,
3443
+ 8e-05,
3444
+ 8e-05,
3445
+ 8e-05,
3446
+ 8e-05,
3447
+ 8e-05,
3448
+ 8e-05,
3449
+ 8e-05,
3450
+ 8e-05,
3451
+ 8e-05,
3452
+ 8e-05,
3453
+ 8e-05,
3454
+ 8e-05,
3455
+ 8e-05,
3456
+ 8e-05,
3457
+ 8e-05,
3458
+ 8e-05,
3459
+ 8e-05,
3460
+ 8e-05,
3461
+ 8e-05,
3462
+ 8e-05,
3463
+ 8e-05,
3464
+ 8e-05,
3465
+ 8e-05,
3466
+ 8e-05,
3467
+ 8e-05,
3468
+ 8e-05,
3469
+ 8e-05,
3470
+ 8e-05,
3471
+ 8e-05,
3472
+ 8e-05,
3473
+ 8e-05,
3474
+ 8e-05,
3475
+ 8e-05,
3476
+ 8e-05,
3477
+ 8e-05,
3478
+ 8e-05,
3479
+ 8e-05,
3480
+ 8e-05,
3481
+ 8e-05,
3482
+ 8e-05,
3483
+ 8e-05,
3484
+ 8e-05,
3485
+ 8e-05,
3486
+ 8e-05,
3487
+ 8e-05,
3488
+ 8e-05,
3489
+ 8e-05,
3490
+ 8e-05,
3491
+ 8e-05,
3492
+ 8e-05,
3493
+ 8e-05,
3494
+ 8e-05,
3495
+ 8e-05,
3496
+ 8e-05,
3497
+ 8e-05,
3498
+ 8e-05,
3499
+ 8e-05,
3500
+ 8e-05,
3501
+ 8e-05,
3502
+ 8e-05,
3503
+ 8e-05,
3504
+ 8e-05,
3505
+ 8e-05,
3506
+ 8e-05,
3507
+ 8e-05,
3508
+ 8e-05,
3509
+ 7.98600052728711e-05,
3510
+ 7.92668072765621e-05,
3511
+ 7.86736092802531e-05,
3512
+ 7.808041128394411e-05,
3513
+ 7.748721328763512e-05,
3514
+ 7.689401529132612e-05,
3515
+ 7.630081729501713e-05,
3516
+ 7.570761929870815e-05,
3517
+ 7.511442130239916e-05,
3518
+ 7.452122330609016e-05,
3519
+ 7.392802530978118e-05,
3520
+ 7.333482731347219e-05,
3521
+ 7.236198259952545e-05,
3522
+ 7.176878460321646e-05,
3523
+ 7.117558660690747e-05,
3524
+ 7.058238861059848e-05,
3525
+ 6.998919061428949e-05,
3526
+ 6.939599261798048e-05,
3527
+ 6.88027946216715e-05,
3528
+ 6.820959662536251e-05,
3529
+ 6.761639862905352e-05,
3530
+ 6.702320063274453e-05,
3531
+ 6.643000263643554e-05,
3532
+ 6.583680464012655e-05,
3533
+ 6.524360664381755e-05,
3534
+ 6.465040864750859e-05,
3535
+ 6.405721065119958e-05,
3536
+ 6.308436593725284e-05,
3537
+ 6.249116794094385e-05,
3538
+ 6.189796994463487e-05,
3539
+ 6.130477194832587e-05,
3540
+ 6.0711573952016877e-05,
3541
+ 6.011837595570788e-05,
3542
+ 5.9525177959398896e-05,
3543
+ 5.8931979963089905e-05,
3544
+ 5.833878196678091e-05,
3545
+ 5.774558397047194e-05,
3546
+ 5.715238597416294e-05,
3547
+ 5.6559187977853943e-05,
3548
+ 5.5965989981544967e-05,
3549
+ 5.537279198523596e-05,
3550
+ 5.477959398892697e-05,
3551
+ 5.380674927498023e-05,
3552
+ 5.321355127867123e-05,
3553
+ 5.2620353282362255e-05,
3554
+ 5.202715528605326e-05,
3555
+ 5.143395728974426e-05,
3556
+ 5.084075929343529e-05,
3557
+ 5.024756129712629e-05,
3558
+ 4.9654363300817296e-05,
3559
+ 4.9061165304508305e-05,
3560
+ 4.846796730819932e-05,
3561
+ 4.787476931189032e-05,
3562
+ 4.7281571315581334e-05,
3563
+ 4.668837331927235e-05,
3564
+ 4.609517532296336e-05,
3565
+ 4.550197732665436e-05,
3566
+ 4.452913261270761e-05,
3567
+ 4.393593461639862e-05,
3568
+ 4.334273662008965e-05,
3569
+ 4.2749538623780655e-05,
3570
+ 4.215634062747166e-05,
3571
+ 4.156314263116268e-05,
3572
+ 4.0969944634853683e-05,
3573
+ 4.0376746638544686e-05,
3574
+ 3.978354864223571e-05,
3575
+ 3.919035064592671e-05,
3576
+ 3.8597152649617715e-05,
3577
+ 3.800395465330872e-05,
3578
+ 3.741075665699975e-05,
3579
+ 3.681755866069075e-05,
3580
+ 3.622436066438175e-05,
3581
+ 3.525151595043501e-05,
3582
+ 3.465831795412603e-05,
3583
+ 3.4065119957817036e-05,
3584
+ 3.347192196150804e-05,
3585
+ 3.287872396519904e-05,
3586
+ 3.2285525968890064e-05,
3587
+ 3.169232797258107e-05,
3588
+ 3.109912997627207e-05,
3589
+ 3.05059319799631e-05,
3590
+ 2.9912733983654103e-05,
3591
+ 2.9319535987345105e-05,
3592
+ 2.8726337991036132e-05,
3593
+ 2.8133139994727138e-05,
3594
+ 2.753994199841814e-05,
3595
+ 2.6946744002109144e-05,
3596
+ 2.5973899288162397e-05,
3597
+ 2.538070129185342e-05,
3598
+ 2.4787503295544423e-05,
3599
+ 2.419430529923543e-05,
3600
+ 2.3601107302926452e-05,
3601
+ 2.3007909306617458e-05,
3602
+ 2.241471131030846e-05,
3603
+ 2.1821513313999464e-05,
3604
+ 2.122831531769049e-05,
3605
+ 2.0635117321381496e-05,
3606
+ 2.00419193250725e-05,
3607
+ 1.944872132876352e-05,
3608
+ 1.8855523332454525e-05,
3609
+ 1.8262325336145528e-05,
3610
+ 1.766912733983655e-05,
3611
+ 1.6696282625889808e-05,
3612
+ 1.610308462958081e-05,
3613
+ 1.5509886633271817e-05,
3614
+ 1.491668863696282e-05,
3615
+ 1.4323490640653843e-05,
3616
+ 1.3730292644344847e-05,
3617
+ 1.3137094648035852e-05,
3618
+ 1.2543896651726875e-05,
3619
+ 1.1950698655417879e-05,
3620
+ 1.1357500659108882e-05,
3621
+ 1.0764302662799886e-05,
3622
+ 1.017110466649091e-05,
3623
+ 9.577906670181914e-06,
3624
+ 8.984708673872917e-06,
3625
+ 8.391510677563942e-06
3626
+ ]
3627
+ },
3628
+ "final_accuracy": 0.9825,
3629
+ "sft_eval": {
3630
+ "config": {
3631
+ "ops": "add_sub",
3632
+ "K": null,
3633
+ "mode": "sft",
3634
+ "n_digits": 6,
3635
+ "n_per_split": 100
3636
+ },
3637
+ "splits": {
3638
+ "add_S0": {
3639
+ "full_accuracy": 0.0,
3640
+ "n_examples": 100,
3641
+ "per_subtask": {
3642
+ "SA": {
3643
+ "accuracy": 0.21487603305785125,
3644
+ "count": 605
3645
+ },
3646
+ "SS": {
3647
+ "accuracy": 0.07368421052631578,
3648
+ "count": 95
3649
+ }
3650
+ }
3651
+ },
3652
+ "add_S1": {
3653
+ "full_accuracy": 0.0,
3654
+ "n_examples": 100,
3655
+ "per_subtask": {
3656
+ "SA": {
3657
+ "accuracy": 0.20098039215686275,
3658
+ "count": 204
3659
+ },
3660
+ "SC": {
3661
+ "accuracy": 0.08875739644970414,
3662
+ "count": 169
3663
+ },
3664
+ "SS": {
3665
+ "accuracy": 0.03225806451612903,
3666
+ "count": 31
3667
+ },
3668
+ "UC": {
3669
+ "accuracy": 0.14527027027027026,
3670
+ "count": 296
3671
+ }
3672
+ }
3673
+ },
3674
+ "add_S2": {
3675
+ "full_accuracy": 0.0,
3676
+ "n_examples": 100,
3677
+ "per_subtask": {
3678
+ "SA": {
3679
+ "accuracy": 0.24539877300613497,
3680
+ "count": 163
3681
+ },
3682
+ "SC": {
3683
+ "accuracy": 0.05384615384615385,
3684
+ "count": 130
3685
+ },
3686
+ "SS": {
3687
+ "accuracy": 0.20689655172413793,
3688
+ "count": 87
3689
+ },
3690
+ "UC": {
3691
+ "accuracy": 0.20689655172413793,
3692
+ "count": 203
3693
+ },
3694
+ "US": {
3695
+ "accuracy": 0.08547008547008547,
3696
+ "count": 117
3697
+ }
3698
+ }
3699
+ },
3700
+ "add_S3": {
3701
+ "full_accuracy": 0.0,
3702
+ "n_examples": 100,
3703
+ "per_subtask": {
3704
+ "SA": {
3705
+ "accuracy": 0.19834710743801653,
3706
+ "count": 121
3707
+ },
3708
+ "SC": {
3709
+ "accuracy": 0.08264462809917356,
3710
+ "count": 121
3711
+ },
3712
+ "SS": {
3713
+ "accuracy": 0.08163265306122448,
3714
+ "count": 49
3715
+ },
3716
+ "UC": {
3717
+ "accuracy": 0.16666666666666666,
3718
+ "count": 186
3719
+ },
3720
+ "US": {
3721
+ "accuracy": 0.08968609865470852,
3722
+ "count": 223
3723
+ }
3724
+ }
3725
+ },
3726
+ "add_S4": {
3727
+ "full_accuracy": 0.0,
3728
+ "n_examples": 100,
3729
+ "per_subtask": {
3730
+ "SA": {
3731
+ "accuracy": 0.25961538461538464,
3732
+ "count": 104
3733
+ },
3734
+ "SC": {
3735
+ "accuracy": 0.04716981132075472,
3736
+ "count": 106
3737
+ },
3738
+ "SS": {
3739
+ "accuracy": 0.21739130434782608,
3740
+ "count": 23
3741
+ },
3742
+ "UC": {
3743
+ "accuracy": 0.25625,
3744
+ "count": 160
3745
+ },
3746
+ "US": {
3747
+ "accuracy": 0.0781758957654723,
3748
+ "count": 307
3749
+ }
3750
+ }
3751
+ },
3752
+ "add_S5": {
3753
+ "full_accuracy": 0.0,
3754
+ "n_examples": 100,
3755
+ "per_subtask": {
3756
+ "SA": {
3757
+ "accuracy": 0.28,
3758
+ "count": 100
3759
+ },
3760
+ "SC": {
3761
+ "accuracy": 0.06,
3762
+ "count": 100
3763
+ },
3764
+ "UC": {
3765
+ "accuracy": 0.21,
3766
+ "count": 100
3767
+ },
3768
+ "US": {
3769
+ "accuracy": 0.085,
3770
+ "count": 400
3771
+ }
3772
+ }
3773
+ },
3774
+ "add_S6": {
3775
+ "full_accuracy": 0.0,
3776
+ "n_examples": 100,
3777
+ "per_subtask": {
3778
+ "SC": {
3779
+ "accuracy": 0.04,
3780
+ "count": 100
3781
+ },
3782
+ "UC": {
3783
+ "accuracy": 0.44,
3784
+ "count": 100
3785
+ },
3786
+ "US": {
3787
+ "accuracy": 0.074,
3788
+ "count": 500
3789
+ }
3790
+ }
3791
+ },
3792
+ "add_random": {
3793
+ "full_accuracy": 0.0,
3794
+ "n_examples": 200,
3795
+ "per_subtask": {
3796
+ "SA": {
3797
+ "accuracy": 0.21923937360178972,
3798
+ "count": 447
3799
+ },
3800
+ "SC": {
3801
+ "accuracy": 0.04375,
3802
+ "count": 320
3803
+ },
3804
+ "SS": {
3805
+ "accuracy": 0.17857142857142858,
3806
+ "count": 56
3807
+ },
3808
+ "UC": {
3809
+ "accuracy": 0.16446124763705103,
3810
+ "count": 529
3811
+ },
3812
+ "US": {
3813
+ "accuracy": 0.10416666666666667,
3814
+ "count": 48
3815
+ }
3816
+ }
3817
+ },
3818
+ "add_C3": {
3819
+ "full_accuracy": 0.0,
3820
+ "n_examples": 100,
3821
+ "per_subtask": {
3822
+ "SA": {
3823
+ "accuracy": 0.25,
3824
+ "count": 300
3825
+ },
3826
+ "SC": {
3827
+ "accuracy": 0.03,
3828
+ "count": 100
3829
+ },
3830
+ "UC": {
3831
+ "accuracy": 0.15025906735751296,
3832
+ "count": 193
3833
+ },
3834
+ "US": {
3835
+ "accuracy": 0.102803738317757,
3836
+ "count": 107
3837
+ }
3838
+ }
3839
+ },
3840
+ "add_C4": {
3841
+ "full_accuracy": 0.0,
3842
+ "n_examples": 100,
3843
+ "per_subtask": {
3844
+ "SA": {
3845
+ "accuracy": 0.335,
3846
+ "count": 200
3847
+ },
3848
+ "SC": {
3849
+ "accuracy": 0.03,
3850
+ "count": 100
3851
+ },
3852
+ "UC": {
3853
+ "accuracy": 0.14453125,
3854
+ "count": 256
3855
+ },
3856
+ "US": {
3857
+ "accuracy": 0.09722222222222222,
3858
+ "count": 144
3859
+ }
3860
+ }
3861
+ },
3862
+ "add_C5": {
3863
+ "full_accuracy": 0.0,
3864
+ "n_examples": 100,
3865
+ "per_subtask": {
3866
+ "SA": {
3867
+ "accuracy": 0.27,
3868
+ "count": 100
3869
+ },
3870
+ "SC": {
3871
+ "accuracy": 0.03,
3872
+ "count": 100
3873
+ },
3874
+ "UC": {
3875
+ "accuracy": 0.12091503267973856,
3876
+ "count": 306
3877
+ },
3878
+ "US": {
3879
+ "accuracy": 0.06701030927835051,
3880
+ "count": 194
3881
+ }
3882
+ }
3883
+ },
3884
+ "add_C6": {
3885
+ "full_accuracy": 0.0,
3886
+ "n_examples": 100,
3887
+ "per_subtask": {
3888
+ "SC": {
3889
+ "accuracy": 0.04,
3890
+ "count": 100
3891
+ },
3892
+ "UC": {
3893
+ "accuracy": 0.1557377049180328,
3894
+ "count": 366
3895
+ },
3896
+ "US": {
3897
+ "accuracy": 0.10256410256410256,
3898
+ "count": 234
3899
+ }
3900
+ }
3901
+ },
3902
+ "sub_M0": {
3903
+ "full_accuracy": 0.0,
3904
+ "n_examples": 100,
3905
+ "per_subtask": {
3906
+ "MD": {
3907
+ "accuracy": 0.11148086522462562,
3908
+ "count": 601
3909
+ },
3910
+ "ME": {
3911
+ "accuracy": 0.1414141414141414,
3912
+ "count": 99
3913
+ }
3914
+ }
3915
+ },
3916
+ "sub_M1": {
3917
+ "full_accuracy": 0.0,
3918
+ "n_examples": 100,
3919
+ "per_subtask": {
3920
+ "MD": {
3921
+ "accuracy": 0.16487455197132617,
3922
+ "count": 279
3923
+ },
3924
+ "MB": {
3925
+ "accuracy": 0.11724137931034483,
3926
+ "count": 145
3927
+ },
3928
+ "ME": {
3929
+ "accuracy": 0.125,
3930
+ "count": 24
3931
+ },
3932
+ "UB": {
3933
+ "accuracy": 0.06746031746031746,
3934
+ "count": 252
3935
+ }
3936
+ }
3937
+ },
3938
+ "sub_M2": {
3939
+ "full_accuracy": 0.0,
3940
+ "n_examples": 100,
3941
+ "per_subtask": {
3942
+ "MD": {
3943
+ "accuracy": 0.23943661971830985,
3944
+ "count": 213
3945
+ },
3946
+ "MB": {
3947
+ "accuracy": 0.07964601769911504,
3948
+ "count": 113
3949
+ },
3950
+ "ME": {
3951
+ "accuracy": 0.1411764705882353,
3952
+ "count": 85
3953
+ },
3954
+ "UB": {
3955
+ "accuracy": 0.08839779005524862,
3956
+ "count": 181
3957
+ },
3958
+ "UD": {
3959
+ "accuracy": 0.1574074074074074,
3960
+ "count": 108
3961
+ }
3962
+ }
3963
+ },
3964
+ "sub_M3": {
3965
+ "full_accuracy": 0.0,
3966
+ "n_examples": 100,
3967
+ "per_subtask": {
3968
+ "MD": {
3969
+ "accuracy": 0.20670391061452514,
3970
+ "count": 179
3971
+ },
3972
+ "MB": {
3973
+ "accuracy": 0.14563106796116504,
3974
+ "count": 103
3975
+ },
3976
+ "ME": {
3977
+ "accuracy": 0.26785714285714285,
3978
+ "count": 56
3979
+ },
3980
+ "UB": {
3981
+ "accuracy": 0.09395973154362416,
3982
+ "count": 149
3983
+ },
3984
+ "UD": {
3985
+ "accuracy": 0.14084507042253522,
3986
+ "count": 213
3987
+ }
3988
+ }
3989
+ },
3990
+ "sub_M4": {
3991
+ "full_accuracy": 0.0,
3992
+ "n_examples": 100,
3993
+ "per_subtask": {
3994
+ "MD": {
3995
+ "accuracy": 0.235,
3996
+ "count": 200
3997
+ },
3998
+ "MB": {
3999
+ "accuracy": 0.08,
4000
+ "count": 100
4001
+ },
4002
+ "UB": {
4003
+ "accuracy": 0.06,
4004
+ "count": 100
4005
+ },
4006
+ "UD": {
4007
+ "accuracy": 0.08666666666666667,
4008
+ "count": 300
4009
+ }
4010
+ }
4011
+ },
4012
+ "sub_M5": {
4013
+ "full_accuracy": 0.0,
4014
+ "n_examples": 100,
4015
+ "per_subtask": {
4016
+ "MD": {
4017
+ "accuracy": 0.42,
4018
+ "count": 100
4019
+ },
4020
+ "MB": {
4021
+ "accuracy": 0.08,
4022
+ "count": 100
4023
+ },
4024
+ "UB": {
4025
+ "accuracy": 0.04,
4026
+ "count": 100
4027
+ },
4028
+ "UD": {
4029
+ "accuracy": 0.1225,
4030
+ "count": 400
4031
+ }
4032
+ }
4033
+ },
4034
+ "sub_random": {
4035
+ "full_accuracy": 0.0,
4036
+ "n_examples": 200,
4037
+ "per_subtask": {
4038
+ "MD": {
4039
+ "accuracy": 0.135,
4040
+ "count": 600
4041
+ },
4042
+ "MB": {
4043
+ "accuracy": 0.10861423220973783,
4044
+ "count": 267
4045
+ },
4046
+ "ME": {
4047
+ "accuracy": 0.07547169811320754,
4048
+ "count": 53
4049
+ },
4050
+ "UB": {
4051
+ "accuracy": 0.10022779043280182,
4052
+ "count": 439
4053
+ },
4054
+ "UD": {
4055
+ "accuracy": 0.14634146341463414,
4056
+ "count": 41
4057
+ }
4058
+ }
4059
+ },
4060
+ "sub_B3": {
4061
+ "full_accuracy": 0.0,
4062
+ "n_examples": 100,
4063
+ "per_subtask": {
4064
+ "MD": {
4065
+ "accuracy": 0.19333333333333333,
4066
+ "count": 300
4067
+ },
4068
+ "MB": {
4069
+ "accuracy": 0.07,
4070
+ "count": 100
4071
+ },
4072
+ "UB": {
4073
+ "accuracy": 0.1116751269035533,
4074
+ "count": 197
4075
+ },
4076
+ "UD": {
4077
+ "accuracy": 0.07766990291262135,
4078
+ "count": 103
4079
+ }
4080
+ }
4081
+ },
4082
+ "sub_B4": {
4083
+ "full_accuracy": 0.0,
4084
+ "n_examples": 100,
4085
+ "per_subtask": {
4086
+ "MD": {
4087
+ "accuracy": 0.195,
4088
+ "count": 200
4089
+ },
4090
+ "MB": {
4091
+ "accuracy": 0.11,
4092
+ "count": 100
4093
+ },
4094
+ "UB": {
4095
+ "accuracy": 0.08906882591093117,
4096
+ "count": 247
4097
+ },
4098
+ "UD": {
4099
+ "accuracy": 0.10457516339869281,
4100
+ "count": 153
4101
+ }
4102
+ }
4103
+ },
4104
+ "sub_B5": {
4105
+ "full_accuracy": 0.0,
4106
+ "n_examples": 100,
4107
+ "per_subtask": {
4108
+ "MD": {
4109
+ "accuracy": 0.27,
4110
+ "count": 100
4111
+ },
4112
+ "MB": {
4113
+ "accuracy": 0.06,
4114
+ "count": 100
4115
+ },
4116
+ "UB": {
4117
+ "accuracy": 0.07718120805369127,
4118
+ "count": 298
4119
+ },
4120
+ "UD": {
4121
+ "accuracy": 0.09405940594059406,
4122
+ "count": 202
4123
+ }
4124
+ }
4125
+ }
4126
+ },
4127
+ "summary": {
4128
+ "overall_accuracy": 0.0,
4129
+ "total_examples": 2400,
4130
+ "n_splits": 22
4131
+ }
4132
+ },
4133
+ "sorl_eval": {
4134
+ "config": {
4135
+ "ops": "add_sub",
4136
+ "K": 1,
4137
+ "mode": "sorl",
4138
+ "n_digits": 6,
4139
+ "n_per_split": 100
4140
+ },
4141
+ "splits": {
4142
+ "add_S0": {
4143
+ "full_accuracy": 1.0,
4144
+ "n_examples": 100,
4145
+ "per_subtask": {
4146
+ "SA": {
4147
+ "accuracy": 1.0,
4148
+ "count": 605
4149
+ },
4150
+ "SS": {
4151
+ "accuracy": 1.0,
4152
+ "count": 95
4153
+ }
4154
+ }
4155
+ },
4156
+ "add_S1": {
4157
+ "full_accuracy": 1.0,
4158
+ "n_examples": 100,
4159
+ "per_subtask": {
4160
+ "SA": {
4161
+ "accuracy": 1.0,
4162
+ "count": 204
4163
+ },
4164
+ "SC": {
4165
+ "accuracy": 1.0,
4166
+ "count": 169
4167
+ },
4168
+ "SS": {
4169
+ "accuracy": 1.0,
4170
+ "count": 31
4171
+ },
4172
+ "UC": {
4173
+ "accuracy": 1.0,
4174
+ "count": 296
4175
+ }
4176
+ }
4177
+ },
4178
+ "add_S2": {
4179
+ "full_accuracy": 1.0,
4180
+ "n_examples": 100,
4181
+ "per_subtask": {
4182
+ "SA": {
4183
+ "accuracy": 1.0,
4184
+ "count": 163
4185
+ },
4186
+ "SC": {
4187
+ "accuracy": 1.0,
4188
+ "count": 130
4189
+ },
4190
+ "SS": {
4191
+ "accuracy": 1.0,
4192
+ "count": 87
4193
+ },
4194
+ "UC": {
4195
+ "accuracy": 1.0,
4196
+ "count": 203
4197
+ },
4198
+ "US": {
4199
+ "accuracy": 1.0,
4200
+ "count": 117
4201
+ }
4202
+ }
4203
+ },
4204
+ "add_S3": {
4205
+ "full_accuracy": 1.0,
4206
+ "n_examples": 100,
4207
+ "per_subtask": {
4208
+ "SA": {
4209
+ "accuracy": 1.0,
4210
+ "count": 121
4211
+ },
4212
+ "SC": {
4213
+ "accuracy": 1.0,
4214
+ "count": 121
4215
+ },
4216
+ "SS": {
4217
+ "accuracy": 1.0,
4218
+ "count": 49
4219
+ },
4220
+ "UC": {
4221
+ "accuracy": 1.0,
4222
+ "count": 186
4223
+ },
4224
+ "US": {
4225
+ "accuracy": 1.0,
4226
+ "count": 223
4227
+ }
4228
+ }
4229
+ },
4230
+ "add_S4": {
4231
+ "full_accuracy": 1.0,
4232
+ "n_examples": 100,
4233
+ "per_subtask": {
4234
+ "SA": {
4235
+ "accuracy": 1.0,
4236
+ "count": 104
4237
+ },
4238
+ "SC": {
4239
+ "accuracy": 1.0,
4240
+ "count": 106
4241
+ },
4242
+ "SS": {
4243
+ "accuracy": 1.0,
4244
+ "count": 23
4245
+ },
4246
+ "UC": {
4247
+ "accuracy": 1.0,
4248
+ "count": 160
4249
+ },
4250
+ "US": {
4251
+ "accuracy": 1.0,
4252
+ "count": 307
4253
+ }
4254
+ }
4255
+ },
4256
+ "add_S5": {
4257
+ "full_accuracy": 0.99,
4258
+ "n_examples": 100,
4259
+ "per_subtask": {
4260
+ "SA": {
4261
+ "accuracy": 1.0,
4262
+ "count": 100
4263
+ },
4264
+ "SC": {
4265
+ "accuracy": 1.0,
4266
+ "count": 100
4267
+ },
4268
+ "UC": {
4269
+ "accuracy": 0.99,
4270
+ "count": 100
4271
+ },
4272
+ "US": {
4273
+ "accuracy": 1.0,
4274
+ "count": 400
4275
+ }
4276
+ }
4277
+ },
4278
+ "add_S6": {
4279
+ "full_accuracy": 0.97,
4280
+ "n_examples": 100,
4281
+ "per_subtask": {
4282
+ "SC": {
4283
+ "accuracy": 1.0,
4284
+ "count": 100
4285
+ },
4286
+ "UC": {
4287
+ "accuracy": 0.97,
4288
+ "count": 100
4289
+ },
4290
+ "US": {
4291
+ "accuracy": 0.994,
4292
+ "count": 500
4293
+ }
4294
+ }
4295
+ },
4296
+ "add_random": {
4297
+ "full_accuracy": 1.0,
4298
+ "n_examples": 200,
4299
+ "per_subtask": {
4300
+ "SA": {
4301
+ "accuracy": 1.0,
4302
+ "count": 447
4303
+ },
4304
+ "SC": {
4305
+ "accuracy": 1.0,
4306
+ "count": 320
4307
+ },
4308
+ "SS": {
4309
+ "accuracy": 1.0,
4310
+ "count": 56
4311
+ },
4312
+ "UC": {
4313
+ "accuracy": 1.0,
4314
+ "count": 529
4315
+ },
4316
+ "US": {
4317
+ "accuracy": 1.0,
4318
+ "count": 48
4319
+ }
4320
+ }
4321
+ },
4322
+ "add_C3": {
4323
+ "full_accuracy": 1.0,
4324
+ "n_examples": 100,
4325
+ "per_subtask": {
4326
+ "SA": {
4327
+ "accuracy": 1.0,
4328
+ "count": 300
4329
+ },
4330
+ "SC": {
4331
+ "accuracy": 1.0,
4332
+ "count": 100
4333
+ },
4334
+ "UC": {
4335
+ "accuracy": 1.0,
4336
+ "count": 193
4337
+ },
4338
+ "US": {
4339
+ "accuracy": 1.0,
4340
+ "count": 107
4341
+ }
4342
+ }
4343
+ },
4344
+ "add_C4": {
4345
+ "full_accuracy": 1.0,
4346
+ "n_examples": 100,
4347
+ "per_subtask": {
4348
+ "SA": {
4349
+ "accuracy": 1.0,
4350
+ "count": 200
4351
+ },
4352
+ "SC": {
4353
+ "accuracy": 1.0,
4354
+ "count": 100
4355
+ },
4356
+ "UC": {
4357
+ "accuracy": 1.0,
4358
+ "count": 256
4359
+ },
4360
+ "US": {
4361
+ "accuracy": 1.0,
4362
+ "count": 144
4363
+ }
4364
+ }
4365
+ },
4366
+ "add_C5": {
4367
+ "full_accuracy": 1.0,
4368
+ "n_examples": 100,
4369
+ "per_subtask": {
4370
+ "SA": {
4371
+ "accuracy": 1.0,
4372
+ "count": 100
4373
+ },
4374
+ "SC": {
4375
+ "accuracy": 1.0,
4376
+ "count": 100
4377
+ },
4378
+ "UC": {
4379
+ "accuracy": 1.0,
4380
+ "count": 306
4381
+ },
4382
+ "US": {
4383
+ "accuracy": 1.0,
4384
+ "count": 194
4385
+ }
4386
+ }
4387
+ },
4388
+ "add_C6": {
4389
+ "full_accuracy": 1.0,
4390
+ "n_examples": 100,
4391
+ "per_subtask": {
4392
+ "SC": {
4393
+ "accuracy": 1.0,
4394
+ "count": 100
4395
+ },
4396
+ "UC": {
4397
+ "accuracy": 1.0,
4398
+ "count": 366
4399
+ },
4400
+ "US": {
4401
+ "accuracy": 1.0,
4402
+ "count": 234
4403
+ }
4404
+ }
4405
+ },
4406
+ "sub_M0": {
4407
+ "full_accuracy": 1.0,
4408
+ "n_examples": 100,
4409
+ "per_subtask": {
4410
+ "MD": {
4411
+ "accuracy": 1.0,
4412
+ "count": 601
4413
+ },
4414
+ "ME": {
4415
+ "accuracy": 1.0,
4416
+ "count": 99
4417
+ }
4418
+ }
4419
+ },
4420
+ "sub_M1": {
4421
+ "full_accuracy": 1.0,
4422
+ "n_examples": 100,
4423
+ "per_subtask": {
4424
+ "MD": {
4425
+ "accuracy": 1.0,
4426
+ "count": 279
4427
+ },
4428
+ "MB": {
4429
+ "accuracy": 1.0,
4430
+ "count": 145
4431
+ },
4432
+ "ME": {
4433
+ "accuracy": 1.0,
4434
+ "count": 24
4435
+ },
4436
+ "UB": {
4437
+ "accuracy": 1.0,
4438
+ "count": 252
4439
+ }
4440
+ }
4441
+ },
4442
+ "sub_M2": {
4443
+ "full_accuracy": 1.0,
4444
+ "n_examples": 100,
4445
+ "per_subtask": {
4446
+ "MD": {
4447
+ "accuracy": 1.0,
4448
+ "count": 213
4449
+ },
4450
+ "MB": {
4451
+ "accuracy": 1.0,
4452
+ "count": 113
4453
+ },
4454
+ "ME": {
4455
+ "accuracy": 1.0,
4456
+ "count": 85
4457
+ },
4458
+ "UB": {
4459
+ "accuracy": 1.0,
4460
+ "count": 181
4461
+ },
4462
+ "UD": {
4463
+ "accuracy": 1.0,
4464
+ "count": 108
4465
+ }
4466
+ }
4467
+ },
4468
+ "sub_M3": {
4469
+ "full_accuracy": 1.0,
4470
+ "n_examples": 100,
4471
+ "per_subtask": {
4472
+ "MD": {
4473
+ "accuracy": 1.0,
4474
+ "count": 179
4475
+ },
4476
+ "MB": {
4477
+ "accuracy": 1.0,
4478
+ "count": 103
4479
+ },
4480
+ "ME": {
4481
+ "accuracy": 1.0,
4482
+ "count": 56
4483
+ },
4484
+ "UB": {
4485
+ "accuracy": 1.0,
4486
+ "count": 149
4487
+ },
4488
+ "UD": {
4489
+ "accuracy": 1.0,
4490
+ "count": 213
4491
+ }
4492
+ }
4493
+ },
4494
+ "sub_M4": {
4495
+ "full_accuracy": 1.0,
4496
+ "n_examples": 100,
4497
+ "per_subtask": {
4498
+ "MD": {
4499
+ "accuracy": 1.0,
4500
+ "count": 200
4501
+ },
4502
+ "MB": {
4503
+ "accuracy": 1.0,
4504
+ "count": 100
4505
+ },
4506
+ "UB": {
4507
+ "accuracy": 1.0,
4508
+ "count": 100
4509
+ },
4510
+ "UD": {
4511
+ "accuracy": 1.0,
4512
+ "count": 300
4513
+ }
4514
+ }
4515
+ },
4516
+ "sub_M5": {
4517
+ "full_accuracy": 0.64,
4518
+ "n_examples": 100,
4519
+ "per_subtask": {
4520
+ "MD": {
4521
+ "accuracy": 1.0,
4522
+ "count": 100
4523
+ },
4524
+ "MB": {
4525
+ "accuracy": 1.0,
4526
+ "count": 100
4527
+ },
4528
+ "UB": {
4529
+ "accuracy": 0.64,
4530
+ "count": 100
4531
+ },
4532
+ "UD": {
4533
+ "accuracy": 1.0,
4534
+ "count": 400
4535
+ }
4536
+ }
4537
+ },
4538
+ "sub_random": {
4539
+ "full_accuracy": 1.0,
4540
+ "n_examples": 200,
4541
+ "per_subtask": {
4542
+ "MD": {
4543
+ "accuracy": 1.0,
4544
+ "count": 600
4545
+ },
4546
+ "MB": {
4547
+ "accuracy": 1.0,
4548
+ "count": 267
4549
+ },
4550
+ "ME": {
4551
+ "accuracy": 1.0,
4552
+ "count": 53
4553
+ },
4554
+ "UB": {
4555
+ "accuracy": 1.0,
4556
+ "count": 439
4557
+ },
4558
+ "UD": {
4559
+ "accuracy": 1.0,
4560
+ "count": 41
4561
+ }
4562
+ }
4563
+ },
4564
+ "sub_B3": {
4565
+ "full_accuracy": 1.0,
4566
+ "n_examples": 100,
4567
+ "per_subtask": {
4568
+ "MD": {
4569
+ "accuracy": 1.0,
4570
+ "count": 300
4571
+ },
4572
+ "MB": {
4573
+ "accuracy": 1.0,
4574
+ "count": 100
4575
+ },
4576
+ "UB": {
4577
+ "accuracy": 1.0,
4578
+ "count": 197
4579
+ },
4580
+ "UD": {
4581
+ "accuracy": 1.0,
4582
+ "count": 103
4583
+ }
4584
+ }
4585
+ },
4586
+ "sub_B4": {
4587
+ "full_accuracy": 1.0,
4588
+ "n_examples": 100,
4589
+ "per_subtask": {
4590
+ "MD": {
4591
+ "accuracy": 1.0,
4592
+ "count": 200
4593
+ },
4594
+ "MB": {
4595
+ "accuracy": 1.0,
4596
+ "count": 100
4597
+ },
4598
+ "UB": {
4599
+ "accuracy": 1.0,
4600
+ "count": 247
4601
+ },
4602
+ "UD": {
4603
+ "accuracy": 1.0,
4604
+ "count": 153
4605
+ }
4606
+ }
4607
+ },
4608
+ "sub_B5": {
4609
+ "full_accuracy": 0.98,
4610
+ "n_examples": 100,
4611
+ "per_subtask": {
4612
+ "MD": {
4613
+ "accuracy": 1.0,
4614
+ "count": 100
4615
+ },
4616
+ "MB": {
4617
+ "accuracy": 1.0,
4618
+ "count": 100
4619
+ },
4620
+ "UB": {
4621
+ "accuracy": 0.9932885906040269,
4622
+ "count": 298
4623
+ },
4624
+ "UD": {
4625
+ "accuracy": 1.0,
4626
+ "count": 202
4627
+ }
4628
+ }
4629
+ }
4630
+ },
4631
+ "summary": {
4632
+ "overall_accuracy": 0.9825,
4633
+ "total_examples": 2400,
4634
+ "n_splits": 22
4635
+ }
4636
+ },
4637
+ "sorl_overall_accuracy": 0.9825,
4638
+ "sft_overall_accuracy": 0.0
4639
+ }
add_sub_sorl_v6_abs30_K1_50K/model.safetensors ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:286711dc506deebcb98b97b4e2930dd7dd0c859162085ee84a86e79e16638791
3
+ size 650385300
add_sub_sorl_v6_abs30_K1_50K/train_config.json ADDED
@@ -0,0 +1,84 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "num_rollouts": 4,
3
+ "K": 1,
4
+ "max_iterations": 2,
5
+ "memory_span_abs": 1792,
6
+ "memory_span_traj": 1792,
7
+ "temperature": 1.0,
8
+ "ar_search": false,
9
+ "response_only_abs": false,
10
+ "alpha_info_gain": 10.0,
11
+ "alpha_abs": 0.1,
12
+ "alpha_soft_zipf": 1.0,
13
+ "alpha_ortho": 0.0,
14
+ "alpha_anchor": 0.0,
15
+ "alpha_jacobi": 0.0,
16
+ "decay": 0.8,
17
+ "target_vocab_util": 0.8,
18
+ "min_abs_ppl": 0.0,
19
+ "zipf_alpha": 1.0,
20
+ "lr": 8e-05,
21
+ "emb_lr_mult": 1.0,
22
+ "weight_decay": 0.01,
23
+ "warmup_steps": 468,
24
+ "cooldown_frac": 0.4,
25
+ "max_grad_norm": 1.0,
26
+ "vq_abs_pretrain_steps": 0,
27
+ "vq_abs_pretrain_lr": 0.001,
28
+ "vq_abs_pretrain_layer": -1,
29
+ "vq_abs_pretrain_batch_size": 256,
30
+ "vq_abs_pretrain_target_vectors": 20000,
31
+ "batch_size": 64,
32
+ "gradient_accumulation_steps": 1,
33
+ "num_epochs": 20,
34
+ "emb_warmup_steps": 0,
35
+ "log_every": 50,
36
+ "eval_every": 781,
37
+ "save_every": 999999,
38
+ "eval_samples": 100,
39
+ "output_dir": "ckpt/sweep/as_sorl_v6_abs30_K1_50K",
40
+ "eval_K": 4,
41
+ "alpha_traj": 0.0,
42
+ "corrupt_method": "shuffle",
43
+ "corrupt_ratio": 0.3,
44
+ "alpha_contrastive": 1.0,
45
+ "gamma_contrastive": 0.5,
46
+ "alpha_masked_traj": 0.0,
47
+ "mask_nl_ratio": 0.3,
48
+ "mask_nl_mode": "fixed",
49
+ "mask_nl_fixed_id": 0,
50
+ "use_ste": true,
51
+ "n_inner": 1,
52
+ "random_K": null,
53
+ "strip_suffix": null,
54
+ "compress_prefix": null,
55
+ "random_mem_span": null,
56
+ "warmup_ratio": 0.03,
57
+ "beta2": 0.999,
58
+ "seed": 42,
59
+ "n_digits": 6,
60
+ "n_layer": 2,
61
+ "n_head": 3,
62
+ "n_embd": 510,
63
+ "ops": "add_sub",
64
+ "abs_vocab": 30,
65
+ "dataset_size": 50000,
66
+ "mode": "sorl_v6",
67
+ "device": "cuda",
68
+ "push_to_hub": true,
69
+ "no_wandb": false,
70
+ "n_params": 162519662,
71
+ "run_name": "add_sub_sorl_v6_abs30_K1_50K",
72
+ "git_commit": "17e935f460a7f9595b705c1d614101a6b0e520f7",
73
+ "timestamp": "2026-04-14T10:04:31.070985+00:00",
74
+ "tokenizer": "Qwen/Qwen3-0.6B",
75
+ "dataset_repo": "thoughtworks/arithmetic-sorl-data",
76
+ "dataset_config": "add_sub_6digit",
77
+ "model_repo": "thoughtworks/arithmetic-sorl",
78
+ "trainer_version": "v6",
79
+ "wandb_run_id": "2q7ekhby",
80
+ "wandb_url": "https://wandb.ai/nlp_and_interpretability/sorl-arithmetic/runs/2q7ekhby",
81
+ "final_accuracy": 0.9825,
82
+ "sft_accuracy": 0.0,
83
+ "eval_method": "ArithmeticEvaluator"
84
+ }