File size: 37,237 Bytes
7f32daa
 
 
e4095e7
 
7f32daa
 
 
 
 
 
 
 
 
dbecec7
7f32daa
 
e4095e7
7f32daa
dbecec7
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
7f32daa
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
e4095e7
7f32daa
 
 
 
 
 
 
 
 
 
dbecec7
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
7f32daa
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
---
base_model: jozhang97/deta-resnet-50
tags:
- object-detection
- vision
- generated_from_trainer
model-index:
- name: jozhang97-deta-resnet-50-finetuned-10k-cppe5-auto-pad
  results: []
---

<!-- This model card has been generated automatically according to the information the Trainer had access to. You
should probably proofread and complete it, then remove this comment. -->

[<img src="https://raw.githubusercontent.com/wandb/assets/main/wandb-github-badge-28.svg" alt="Visualize in Weights & Biases" width="200" height="32"/>](https://wandb.ai/qubvel-hf-co/transformers-detection-model-finetuning-cppe5/runs/p99219yc)
# jozhang97-deta-resnet-50-finetuned-10k-cppe5-auto-pad

This model is a fine-tuned version of [jozhang97/deta-resnet-50](https://huggingface.co/jozhang97/deta-resnet-50) on the cppe-5 dataset.
It achieves the following results on the evaluation set:
- Loss: 1.6173
- Map: 0.1965
- Map 50: 0.4335
- Map 75: 0.1626
- Map Coverall: 0.4181
- Map Face Shield: 0.227
- Map Gloves: 0.0765
- Map Goggles: 0.1245
- Map Mask: 0.1363
- Map Large: 0.3222
- Map Medium: 0.1284
- Map Small: 0.0855
- Mar 1: 0.2092
- Mar 10: 0.3167
- Mar 100: 0.3327
- Mar 100 Coverall: 0.5347
- Mar 100 Face Shield: 0.3633
- Mar 100 Gloves: 0.2134
- Mar 100 Goggles: 0.2523
- Mar 100 Mask: 0.3
- Mar Large: 0.5071
- Mar Medium: 0.2784
- Mar Small: 0.1181

## Model description

More information needed

## Intended uses & limitations

More information needed

## Training and evaluation data

More information needed

## Training procedure

### Training hyperparameters

The following hyperparameters were used during training:
- learning_rate: 5e-05
- train_batch_size: 4
- eval_batch_size: 1
- seed: 1337
- gradient_accumulation_steps: 2
- total_train_batch_size: 8
- optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
- lr_scheduler_type: linear
- num_epochs: 100.0
- mixed_precision_training: Native AMP

### Training results

| Training Loss | Epoch   | Step  | Validation Loss | Map    | Map 50 | Map 75 | Map Coverall | Map Face Shield | Map Gloves | Map Goggles | Map Mask | Map Large | Map Medium | Map Small | Mar 1  | Mar 10 | Mar 100 | Mar 100 Coverall | Mar 100 Face Shield | Mar 100 Gloves | Mar 100 Goggles | Mar 100 Mask | Mar Large | Mar Medium | Mar Small |
|:-------------:|:-------:|:-----:|:---------------:|:------:|:------:|:------:|:------------:|:---------------:|:----------:|:-----------:|:--------:|:---------:|:----------:|:---------:|:------:|:------:|:-------:|:----------------:|:-------------------:|:--------------:|:---------------:|:------------:|:---------:|:----------:|:---------:|
| 14.191        | 0.9953  | 106   | 2.8491          | 0.0012 | 0.0095 | 0.0    | 0.006        | 0.0             | 0.0        | 0.0         | 0.0      | 0.0013    | 0.0        | 0.0       | 0.0034 | 0.0114 | 0.0235  | 0.1095           | 0.0                 | 0.004          | 0.0             | 0.004        | 0.0292    | 0.0023     | 0.0       |
| 2.9554        | 2.0     | 213   | 2.6441          | 0.013  | 0.0555 | 0.0026 | 0.0618       | 0.0003          | 0.0        | 0.0001      | 0.0027   | 0.0148    | 0.0005     | 0.0       | 0.0191 | 0.0414 | 0.0452  | 0.1712           | 0.019               | 0.0049         | 0.0169          | 0.0142       | 0.0986    | 0.0015     | 0.0       |
| 2.8398        | 2.9953  | 319   | 2.8662          | 0.011  | 0.0408 | 0.003  | 0.053        | 0.0002          | 0.0001     | 0.001       | 0.0007   | 0.0138    | 0.0        | 0.0       | 0.0185 | 0.0367 | 0.0418  | 0.1523           | 0.0266              | 0.0085         | 0.0108          | 0.0111       | 0.0988    | 0.0007     | 0.0       |
| 2.8635        | 4.0     | 426   | 2.6692          | 0.022  | 0.06   | 0.0122 | 0.1073       | 0.0007          | 0.0006     | 0.0003      | 0.0013   | 0.0263    | 0.0003     | 0.0       | 0.0286 | 0.0607 | 0.0686  | 0.2041           | 0.0494              | 0.0188         | 0.0523          | 0.0187       | 0.1901    | 0.006      | 0.0012    |
| 2.7002        | 4.9953  | 532   | 2.5094          | 0.0252 | 0.082  | 0.0065 | 0.1211       | 0.0014          | 0.0002     | 0.0021      | 0.0011   | 0.0312    | 0.0        | 0.0       | 0.0328 | 0.0649 | 0.0707  | 0.2261           | 0.0532              | 0.0192         | 0.0415          | 0.0133       | 0.1805    | 0.0026     | 0.002     |
| 2.6693        | 6.0     | 639   | 2.4529          | 0.0269 | 0.092  | 0.007  | 0.12         | 0.0044          | 0.0001     | 0.009       | 0.0008   | 0.0391    | 0.0007     | 0.0       | 0.0414 | 0.082  | 0.0884  | 0.2982           | 0.062               | 0.0205         | 0.0385          | 0.0227       | 0.1846    | 0.0145     | 0.0008    |
| 2.5158        | 6.9953  | 745   | 2.3078          | 0.0287 | 0.0972 | 0.0081 | 0.1325       | 0.0049          | 0.0002     | 0.0048      | 0.0012   | 0.0406    | 0.0004     | 0.0       | 0.0348 | 0.0968 | 0.1021  | 0.3284           | 0.0873              | 0.0237         | 0.0385          | 0.0329       | 0.2237    | 0.0232     | 0.0       |
| 2.4782        | 8.0     | 852   | 2.4510          | 0.0215 | 0.0837 | 0.0057 | 0.0977       | 0.0073          | 0.0001     | 0.0013      | 0.001    | 0.0325    | 0.0018     | 0.0       | 0.0343 | 0.076  | 0.0876  | 0.2883           | 0.0797              | 0.0161         | 0.0262          | 0.0276       | 0.1912    | 0.0167     | 0.0       |
| 2.497         | 8.9953  | 958   | 2.2088          | 0.0346 | 0.1018 | 0.0122 | 0.1597       | 0.007           | 0.0003     | 0.0021      | 0.0038   | 0.0483    | 0.0046     | 0.0       | 0.0487 | 0.1001 | 0.1101  | 0.3423           | 0.1025              | 0.0228         | 0.0446          | 0.0382       | 0.2352    | 0.0405     | 0.0008    |
| 2.3529        | 10.0    | 1065  | 2.2284          | 0.0408 | 0.1118 | 0.0194 | 0.1891       | 0.0084          | 0.0001     | 0.0015      | 0.0049   | 0.0541    | 0.0021     | 0.0001    | 0.0565 | 0.1146 | 0.1256  | 0.3626           | 0.1165              | 0.0214         | 0.0785          | 0.0489       | 0.2632    | 0.0381     | 0.0036    |
| 2.2695        | 10.9953 | 1171  | 2.2171          | 0.0434 | 0.1371 | 0.0189 | 0.1656       | 0.0322          | 0.0004     | 0.0037      | 0.0149   | 0.0652    | 0.0109     | 0.0       | 0.0625 | 0.1437 | 0.1615  | 0.3865           | 0.2025              | 0.0375         | 0.0908          | 0.0902       | 0.3214    | 0.0875     | 0.0016    |
| 2.1976        | 12.0    | 1278  | 2.0663          | 0.049  | 0.1472 | 0.0226 | 0.191        | 0.0233          | 0.0005     | 0.0092      | 0.0212   | 0.0765    | 0.0097     | 0.0       | 0.0675 | 0.1362 | 0.1519  | 0.4059           | 0.1684              | 0.0317         | 0.0754          | 0.0782       | 0.3109    | 0.0622     | 0.0004    |
| 2.2233        | 12.9953 | 1384  | 1.9892          | 0.0583 | 0.1727 | 0.03   | 0.204        | 0.0425          | 0.0016     | 0.0154      | 0.028    | 0.0986    | 0.0148     | 0.0       | 0.0851 | 0.1619 | 0.1754  | 0.4293           | 0.181               | 0.0504         | 0.0954          | 0.1209       | 0.3511    | 0.0943     | 0.0008    |
| 2.1518        | 14.0    | 1491  | 1.9788          | 0.0672 | 0.1721 | 0.038  | 0.2514       | 0.0524          | 0.0016     | 0.0136      | 0.0169   | 0.0901    | 0.0203     | 0.0006    | 0.0932 | 0.1737 | 0.1904  | 0.459            | 0.2013              | 0.0509         | 0.12            | 0.1209       | 0.354     | 0.1102     | 0.0052    |
| 2.0748        | 14.9953 | 1597  | 1.8924          | 0.0679 | 0.1834 | 0.0386 | 0.2612       | 0.0335          | 0.0017     | 0.0081      | 0.0349   | 0.0984    | 0.0198     | 0.0083    | 0.0909 | 0.1813 | 0.1956  | 0.4599           | 0.2025              | 0.042          | 0.1246          | 0.1489       | 0.3639    | 0.1116     | 0.0089    |
| 2.0918        | 16.0    | 1704  | 1.9494          | 0.0727 | 0.2056 | 0.0465 | 0.2662       | 0.055           | 0.0034     | 0.0127      | 0.0261   | 0.1023    | 0.0234     | 0.0059    | 0.0966 | 0.177  | 0.1928  | 0.4491           | 0.238               | 0.0411         | 0.1062          | 0.1298       | 0.3597    | 0.1094     | 0.0069    |
| 2.0694        | 16.9953 | 1810  | 1.9858          | 0.0737 | 0.1927 | 0.0504 | 0.2715       | 0.0453          | 0.0052     | 0.0148      | 0.032    | 0.1203    | 0.0228     | 0.006     | 0.1025 | 0.1903 | 0.2092  | 0.4784           | 0.2266              | 0.0732         | 0.1231          | 0.1449       | 0.3918    | 0.1297     | 0.0088    |
| 2.0335        | 18.0    | 1917  | 1.9683          | 0.0818 | 0.2311 | 0.0449 | 0.2854       | 0.0676          | 0.0157     | 0.0194      | 0.0208   | 0.123     | 0.0291     | 0.0073    | 0.1012 | 0.196  | 0.2164  | 0.4766           | 0.2354              | 0.0817         | 0.1538          | 0.1347       | 0.3756    | 0.1438     | 0.0118    |
| 2.0982        | 18.9953 | 2023  | 1.9284          | 0.0825 | 0.2027 | 0.0612 | 0.3244       | 0.0529          | 0.0043     | 0.0083      | 0.0227   | 0.1086    | 0.0255     | 0.0047    | 0.0963 | 0.1977 | 0.2166  | 0.4842           | 0.2494              | 0.0545         | 0.1615          | 0.1333       | 0.3582    | 0.1491     | 0.0123    |
| 2.0329        | 20.0    | 2130  | 2.0712          | 0.0652 | 0.1902 | 0.0317 | 0.2425       | 0.038           | 0.005      | 0.0151      | 0.0252   | 0.1102    | 0.0193     | 0.0003    | 0.0923 | 0.1634 | 0.1761  | 0.3923           | 0.1949              | 0.05           | 0.1385          | 0.1049       | 0.3468    | 0.1058     | 0.0019    |
| 2.0194        | 20.9953 | 2236  | 1.9729          | 0.0852 | 0.2166 | 0.0565 | 0.3066       | 0.0553          | 0.0067     | 0.0255      | 0.032    | 0.1285    | 0.027      | 0.0129    | 0.1137 | 0.1935 | 0.2065  | 0.4491           | 0.2456              | 0.0625         | 0.14            | 0.1351       | 0.3694    | 0.1256     | 0.0131    |
| 2.0182        | 22.0    | 2343  | 1.9914          | 0.0867 | 0.2307 | 0.047  | 0.2801       | 0.0812          | 0.0112     | 0.0255      | 0.0356   | 0.1443    | 0.037      | 0.0058    | 0.1217 | 0.2176 | 0.2313  | 0.4658           | 0.2759              | 0.075          | 0.1923          | 0.1476       | 0.3914    | 0.1769     | 0.0061    |
| 1.9769        | 22.9953 | 2449  | 1.9251          | 0.0816 | 0.2082 | 0.0545 | 0.2841       | 0.0718          | 0.0098     | 0.0221      | 0.02     | 0.1277    | 0.0285     | 0.0029    | 0.1021 | 0.1995 | 0.2133  | 0.4383           | 0.2582              | 0.079          | 0.1677          | 0.1231       | 0.3712    | 0.149      | 0.0068    |
| 1.9797        | 24.0    | 2556  | 1.9900          | 0.0848 | 0.2316 | 0.0492 | 0.2805       | 0.0648          | 0.0124     | 0.0307      | 0.0357   | 0.137     | 0.0341     | 0.006     | 0.1154 | 0.2173 | 0.2374  | 0.4518           | 0.2734              | 0.0839         | 0.2015          | 0.1764       | 0.3987    | 0.1824     | 0.0123    |
| 1.9054        | 24.9953 | 2662  | 1.8661          | 0.0889 | 0.2386 | 0.0573 | 0.3008       | 0.0739          | 0.0104     | 0.0312      | 0.0281   | 0.1591    | 0.0339     | 0.0036    | 0.115  | 0.2069 | 0.2227  | 0.4482           | 0.238               | 0.0728         | 0.1877          | 0.1667       | 0.4093    | 0.1587     | 0.0109    |
| 1.8348        | 26.0    | 2769  | 1.9309          | 0.0935 | 0.2379 | 0.0627 | 0.3087       | 0.0466          | 0.0065     | 0.0553      | 0.0501   | 0.1666    | 0.0359     | 0.0164    | 0.1244 | 0.2207 | 0.2362  | 0.4752           | 0.2443              | 0.0817         | 0.1969          | 0.1827       | 0.4169    | 0.1733     | 0.0232    |
| 2.0661        | 26.9953 | 2875  | 2.0632          | 0.0839 | 0.2184 | 0.0483 | 0.2712       | 0.0487          | 0.0112     | 0.0405      | 0.0479   | 0.1464    | 0.0313     | 0.0109    | 0.1177 | 0.2212 | 0.2395  | 0.4838           | 0.2519              | 0.0897         | 0.1831          | 0.1889       | 0.4068    | 0.1868     | 0.0151    |
| 1.9271        | 28.0    | 2982  | 1.8259          | 0.1049 | 0.261  | 0.0716 | 0.3247       | 0.0851          | 0.014      | 0.0492      | 0.0517   | 0.1771    | 0.0426     | 0.0187    | 0.132  | 0.2408 | 0.2557  | 0.4887           | 0.3051              | 0.0955         | 0.1908          | 0.1982       | 0.4157    | 0.2059     | 0.0313    |
| 1.8353        | 28.9953 | 3088  | 1.8052          | 0.1016 | 0.2516 | 0.06   | 0.3247       | 0.0723          | 0.0131     | 0.0455      | 0.0523   | 0.1707    | 0.0446     | 0.0069    | 0.1253 | 0.2306 | 0.2467  | 0.4937           | 0.2468              | 0.1            | 0.1969          | 0.196        | 0.4342    | 0.1795     | 0.0243    |
| 1.743         | 30.0    | 3195  | 1.6998          | 0.1193 | 0.2765 | 0.0876 | 0.3579       | 0.1094          | 0.0139     | 0.0702      | 0.0452   | 0.191     | 0.0468     | 0.0137    | 0.1412 | 0.2412 | 0.2564  | 0.5032           | 0.2785              | 0.0929         | 0.2154          | 0.192        | 0.4513    | 0.1802     | 0.0229    |
| 1.7621        | 30.9953 | 3301  | 1.8412          | 0.1128 | 0.2866 | 0.0776 | 0.3396       | 0.076           | 0.0173     | 0.0721      | 0.0589   | 0.2024    | 0.0488     | 0.0237    | 0.1415 | 0.2421 | 0.2606  | 0.4986           | 0.3076              | 0.1138         | 0.1877          | 0.1951       | 0.4418    | 0.1974     | 0.0397    |
| 1.7857        | 32.0    | 3408  | 1.9205          | 0.1031 | 0.2678 | 0.0585 | 0.3117       | 0.0899          | 0.0125     | 0.0449      | 0.0564   | 0.1834    | 0.0418     | 0.0088    | 0.129  | 0.2308 | 0.2463  | 0.4536           | 0.3051              | 0.1076         | 0.1677          | 0.1973       | 0.3912    | 0.2094     | 0.0285    |
| 1.8379        | 32.9953 | 3514  | 2.0027          | 0.1124 | 0.278  | 0.0728 | 0.3224       | 0.1065          | 0.011      | 0.0744      | 0.048    | 0.1984    | 0.0502     | 0.0137    | 0.1334 | 0.239  | 0.2574  | 0.4928           | 0.3152              | 0.1            | 0.1846          | 0.1942       | 0.4101    | 0.2013     | 0.0244    |
| 1.752         | 34.0    | 3621  | 1.9194          | 0.1111 | 0.2811 | 0.066  | 0.3379       | 0.0818          | 0.0243     | 0.0593      | 0.0524   | 0.1859    | 0.0569     | 0.0157    | 0.1459 | 0.2526 | 0.271   | 0.5059           | 0.3013              | 0.1143         | 0.2338          | 0.1996       | 0.4295    | 0.223      | 0.0566    |
| 1.7185        | 34.9953 | 3727  | 1.8076          | 0.122  | 0.3021 | 0.0763 | 0.3543       | 0.1107          | 0.021      | 0.0605      | 0.0636   | 0.2261    | 0.0551     | 0.0147    | 0.1571 | 0.2504 | 0.2686  | 0.5014           | 0.319               | 0.1161         | 0.1985          | 0.208        | 0.4543    | 0.2054     | 0.0301    |
| 1.6551        | 36.0    | 3834  | 1.8054          | 0.1113 | 0.2944 | 0.0657 | 0.3274       | 0.094           | 0.0179     | 0.0584      | 0.0588   | 0.1932    | 0.0573     | 0.0119    | 0.141  | 0.2537 | 0.2661  | 0.477            | 0.3089              | 0.1134         | 0.2123          | 0.2191       | 0.4546    | 0.2123     | 0.0268    |
| 1.7452        | 36.9953 | 3940  | 1.8754          | 0.112  | 0.2899 | 0.0749 | 0.3342       | 0.0925          | 0.02       | 0.0509      | 0.0626   | 0.209     | 0.0519     | 0.0228    | 0.1576 | 0.2456 | 0.2622  | 0.4761           | 0.3063              | 0.121          | 0.1908          | 0.2169       | 0.4307    | 0.2079     | 0.0499    |
| 1.6499        | 38.0    | 4047  | 1.7085          | 0.1353 | 0.3442 | 0.0888 | 0.3668       | 0.1306          | 0.0259     | 0.0656      | 0.0878   | 0.2293    | 0.0755     | 0.0144    | 0.1641 | 0.2646 | 0.2846  | 0.5068           | 0.3329              | 0.1237         | 0.22            | 0.2396       | 0.4478    | 0.2432     | 0.0478    |
| 1.6709        | 38.9953 | 4153  | 1.7930          | 0.13   | 0.34   | 0.083  | 0.3488       | 0.1336          | 0.0328     | 0.0718      | 0.0631   | 0.2263    | 0.0707     | 0.0213    | 0.1608 | 0.2667 | 0.2761  | 0.4833           | 0.3165              | 0.1237         | 0.2215          | 0.2356       | 0.4437    | 0.226      | 0.0427    |
| 1.6105        | 40.0    | 4260  | 1.7646          | 0.1283 | 0.3216 | 0.0789 | 0.3443       | 0.1266          | 0.0292     | 0.07        | 0.0715   | 0.2242    | 0.0701     | 0.0203    | 0.1662 | 0.2686 | 0.287   | 0.4932           | 0.3443              | 0.1321         | 0.2262          | 0.2391       | 0.4575    | 0.2363     | 0.057     |
| 1.593         | 40.9953 | 4366  | 1.7404          | 0.134  | 0.3298 | 0.0846 | 0.3706       | 0.1298          | 0.0215     | 0.0775      | 0.0705   | 0.2456    | 0.0642     | 0.0368    | 0.1583 | 0.2731 | 0.2892  | 0.5018           | 0.3266              | 0.1339         | 0.2415          | 0.2422       | 0.4538    | 0.2359     | 0.0591    |
| 1.5659        | 42.0    | 4473  | 1.7488          | 0.1374 | 0.335  | 0.0932 | 0.3723       | 0.1486          | 0.025      | 0.0764      | 0.0651   | 0.2443    | 0.069      | 0.0401    | 0.1731 | 0.2764 | 0.2917  | 0.5189           | 0.3544              | 0.1308         | 0.2292          | 0.2253       | 0.4536    | 0.2305     | 0.0688    |
| 1.5867        | 42.9953 | 4579  | 1.7060          | 0.1379 | 0.3364 | 0.0959 | 0.3713       | 0.1215          | 0.0311     | 0.0695      | 0.0959   | 0.2772    | 0.0652     | 0.0142    | 0.161  | 0.2664 | 0.2806  | 0.514            | 0.3203              | 0.125          | 0.2015          | 0.2422       | 0.4538    | 0.2229     | 0.0363    |
| 1.5479        | 44.0    | 4686  | 1.7776          | 0.1329 | 0.3421 | 0.0848 | 0.3543       | 0.1189          | 0.0366     | 0.0638      | 0.0911   | 0.2488    | 0.0678     | 0.0255    | 0.1656 | 0.271  | 0.282   | 0.4973           | 0.3127              | 0.1277         | 0.2385          | 0.2338       | 0.4456    | 0.2318     | 0.0639    |
| 1.5584        | 44.9953 | 4792  | 1.7327          | 0.1289 | 0.3201 | 0.0873 | 0.3558       | 0.1051          | 0.0252     | 0.0774      | 0.0812   | 0.2053    | 0.0649     | 0.0629    | 0.1646 | 0.2803 | 0.297   | 0.5059           | 0.3278              | 0.142          | 0.2554          | 0.2538       | 0.4302    | 0.2546     | 0.0782    |
| 1.5573        | 46.0    | 4899  | 1.7023          | 0.1465 | 0.3529 | 0.1027 | 0.3854       | 0.1461          | 0.0177     | 0.0901      | 0.0932   | 0.2694    | 0.0737     | 0.0593    | 0.1766 | 0.2719 | 0.2876  | 0.5104           | 0.3152              | 0.1228         | 0.2292          | 0.2604       | 0.4485    | 0.2308     | 0.0835    |
| 1.5589        | 46.9953 | 5005  | 1.8506          | 0.133  | 0.3358 | 0.0874 | 0.3392       | 0.122           | 0.0358     | 0.0823      | 0.0857   | 0.24      | 0.0692     | 0.0454    | 0.1697 | 0.2673 | 0.2882  | 0.4865           | 0.3443              | 0.1375         | 0.2292          | 0.2436       | 0.4619    | 0.2423     | 0.0735    |
| 1.5291        | 48.0    | 5112  | 1.6791          | 0.1491 | 0.3678 | 0.1    | 0.3594       | 0.1765          | 0.0334     | 0.0927      | 0.0836   | 0.2593    | 0.0843     | 0.061     | 0.1865 | 0.28   | 0.2981  | 0.5158           | 0.3595              | 0.1451         | 0.2292          | 0.2409       | 0.4633    | 0.2544     | 0.0697    |
| 1.4817        | 48.9953 | 5218  | 1.6524          | 0.1473 | 0.3601 | 0.0993 | 0.3952       | 0.1444          | 0.0321     | 0.0792      | 0.0856   | 0.2584    | 0.0771     | 0.042     | 0.1791 | 0.282  | 0.296   | 0.5243           | 0.3291              | 0.129          | 0.24            | 0.2573       | 0.4734    | 0.2381     | 0.0677    |
| 1.4787        | 50.0    | 5325  | 1.7657          | 0.1403 | 0.3484 | 0.0844 | 0.3481       | 0.1579          | 0.0283     | 0.0904      | 0.0769   | 0.2503    | 0.0763     | 0.0291    | 0.1786 | 0.2823 | 0.3011  | 0.4968           | 0.3405              | 0.1424         | 0.2615          | 0.264        | 0.4635    | 0.273      | 0.0489    |
| 1.4809        | 50.9953 | 5431  | 1.7818          | 0.154  | 0.3469 | 0.1098 | 0.3727       | 0.1736          | 0.026      | 0.0983      | 0.0994   | 0.2705    | 0.0843     | 0.0311    | 0.1887 | 0.2876 | 0.3084  | 0.5122           | 0.3582              | 0.1473         | 0.2477          | 0.2764       | 0.4658    | 0.2588     | 0.0599    |
| 1.4666        | 52.0    | 5538  | 1.7066          | 0.1556 | 0.383  | 0.0975 | 0.3817       | 0.1785          | 0.0417     | 0.0858      | 0.0901   | 0.2651    | 0.0872     | 0.0367    | 0.1789 | 0.2809 | 0.299   | 0.5212           | 0.338               | 0.1478         | 0.2308          | 0.2573       | 0.46      | 0.243      | 0.0578    |
| 1.4232        | 52.9953 | 5644  | 1.6556          | 0.1581 | 0.3949 | 0.1082 | 0.3832       | 0.1956          | 0.0411     | 0.086       | 0.0845   | 0.2785    | 0.0939     | 0.0513    | 0.1902 | 0.2884 | 0.3027  | 0.5077           | 0.343               | 0.1518         | 0.2477          | 0.2631       | 0.4741    | 0.2602     | 0.0758    |
| 1.3967        | 54.0    | 5751  | 1.6379          | 0.1576 | 0.3736 | 0.1091 | 0.4106       | 0.1672          | 0.0393     | 0.0772      | 0.0938   | 0.2809    | 0.0855     | 0.0286    | 0.1807 | 0.2876 | 0.304   | 0.5153           | 0.343               | 0.1554         | 0.2538          | 0.2524       | 0.4653    | 0.261      | 0.0692    |
| 1.3991        | 54.9953 | 5857  | 1.6303          | 0.159  | 0.3775 | 0.1122 | 0.391        | 0.1981          | 0.0292     | 0.0813      | 0.0956   | 0.2711    | 0.0926     | 0.0492    | 0.175  | 0.2787 | 0.2917  | 0.4883           | 0.3443              | 0.1612         | 0.2031          | 0.2618       | 0.4413    | 0.2474     | 0.0695    |
| 1.4042        | 56.0    | 5964  | 1.7798          | 0.156  | 0.3702 | 0.1023 | 0.3591       | 0.1804          | 0.025      | 0.1157      | 0.0999   | 0.263     | 0.0955     | 0.04      | 0.1829 | 0.2902 | 0.3054  | 0.5023           | 0.3835              | 0.1549         | 0.2354          | 0.2511       | 0.4798    | 0.2557     | 0.0705    |
| 1.4261        | 56.9953 | 6070  | 1.6620          | 0.1651 | 0.4041 | 0.1224 | 0.3914       | 0.1638          | 0.049      | 0.1108      | 0.1103   | 0.2878    | 0.0981     | 0.0457    | 0.1901 | 0.2866 | 0.3036  | 0.5117           | 0.3671              | 0.1571         | 0.2231          | 0.2591       | 0.4776    | 0.2532     | 0.056     |
| 1.3426        | 58.0    | 6177  | 1.6866          | 0.1603 | 0.3818 | 0.1085 | 0.4003       | 0.1915          | 0.0415     | 0.0801      | 0.088    | 0.2756    | 0.0902     | 0.0434    | 0.1814 | 0.2874 | 0.3042  | 0.5072           | 0.362               | 0.1638         | 0.2338          | 0.2542       | 0.4865    | 0.2566     | 0.0642    |
| 1.3767        | 58.9953 | 6283  | 1.6640          | 0.1736 | 0.4143 | 0.1183 | 0.4073       | 0.1951          | 0.0475     | 0.1082      | 0.1102   | 0.284     | 0.1064     | 0.0574    | 0.1988 | 0.2947 | 0.3099  | 0.5153           | 0.362               | 0.1621         | 0.2508          | 0.2591       | 0.4757    | 0.2551     | 0.0853    |
| 1.3488        | 60.0    | 6390  | 1.6137          | 0.1797 | 0.4082 | 0.1283 | 0.4246       | 0.2009          | 0.0501     | 0.107       | 0.116    | 0.2906    | 0.1096     | 0.0627    | 0.1946 | 0.3122 | 0.3328  | 0.5347           | 0.4127              | 0.1821         | 0.2538          | 0.2804       | 0.4931    | 0.2789     | 0.1079    |
| 1.344         | 60.9953 | 6496  | 1.7170          | 0.165  | 0.4008 | 0.1088 | 0.3946       | 0.1956          | 0.0472     | 0.0812      | 0.1063   | 0.2954    | 0.0987     | 0.0344    | 0.1781 | 0.2891 | 0.309   | 0.4995           | 0.3924              | 0.1728         | 0.2185          | 0.2618       | 0.4943    | 0.2642     | 0.0644    |
| 1.321         | 62.0    | 6603  | 1.6497          | 0.1657 | 0.382  | 0.1255 | 0.4011       | 0.1808          | 0.0428     | 0.0975      | 0.1061   | 0.2747    | 0.1018     | 0.0305    | 0.1895 | 0.2987 | 0.3179  | 0.5131           | 0.3759              | 0.1777         | 0.2462          | 0.2764       | 0.4853    | 0.2646     | 0.1041    |
| 1.3332        | 62.9953 | 6709  | 1.6387          | 0.1815 | 0.4157 | 0.121  | 0.4198       | 0.1965          | 0.06       | 0.116       | 0.1154   | 0.3066    | 0.1139     | 0.044     | 0.1965 | 0.3109 | 0.3257  | 0.5414           | 0.3861              | 0.1826         | 0.2538          | 0.2644       | 0.4905    | 0.2677     | 0.1023    |
| 1.292         | 64.0    | 6816  | 1.6391          | 0.162  | 0.3895 | 0.1094 | 0.3917       | 0.1922          | 0.0383     | 0.0882      | 0.0996   | 0.2836    | 0.0981     | 0.0612    | 0.1855 | 0.2972 | 0.3151  | 0.518            | 0.3747              | 0.1625         | 0.2508          | 0.2698       | 0.4797    | 0.2641     | 0.1022    |
| 1.3331        | 64.9953 | 6922  | 1.7181          | 0.174  | 0.3932 | 0.1223 | 0.4021       | 0.2093          | 0.0561     | 0.1017      | 0.101    | 0.298     | 0.1048     | 0.0637    | 0.1982 | 0.2995 | 0.3191  | 0.5212           | 0.3772              | 0.1844         | 0.2338          | 0.2791       | 0.4683    | 0.2693     | 0.1059    |
| 1.3324        | 66.0    | 7029  | 1.6921          | 0.1667 | 0.4052 | 0.1196 | 0.3844       | 0.1909          | 0.0456     | 0.0996      | 0.1131   | 0.2702    | 0.1044     | 0.0659    | 0.1922 | 0.3001 | 0.3181  | 0.5189           | 0.3722              | 0.1879         | 0.2354          | 0.276        | 0.4613    | 0.2691     | 0.1033    |
| 1.3261        | 66.9953 | 7135  | 1.6774          | 0.1684 | 0.3988 | 0.1233 | 0.3979       | 0.1807          | 0.0551     | 0.0949      | 0.1133   | 0.298     | 0.1024     | 0.0549    | 0.1961 | 0.3063 | 0.3225  | 0.5297           | 0.3722              | 0.1777         | 0.24            | 0.2929       | 0.474     | 0.2696     | 0.1025    |
| 1.3132        | 68.0    | 7242  | 1.7971          | 0.1649 | 0.4043 | 0.1165 | 0.3584       | 0.2037          | 0.0478     | 0.0936      | 0.1212   | 0.2793    | 0.1038     | 0.0504    | 0.1944 | 0.3032 | 0.3156  | 0.4968           | 0.3582              | 0.179          | 0.2538          | 0.2902       | 0.4679    | 0.2693     | 0.1036    |
| 1.324         | 68.9953 | 7348  | 1.6782          | 0.1674 | 0.4099 | 0.1122 | 0.3704       | 0.1761          | 0.071      | 0.1057      | 0.1141   | 0.2975    | 0.0993     | 0.0559    | 0.1934 | 0.3001 | 0.3181  | 0.5014           | 0.3481              | 0.2            | 0.2631          | 0.2778       | 0.4745    | 0.2676     | 0.1136    |
| 1.3011        | 70.0    | 7455  | 1.6435          | 0.1819 | 0.4205 | 0.1373 | 0.399        | 0.2088          | 0.058      | 0.1218      | 0.1217   | 0.3071    | 0.1114     | 0.0764    | 0.1995 | 0.3137 | 0.3306  | 0.5176           | 0.3937              | 0.1871         | 0.2554          | 0.2991       | 0.5099    | 0.2735     | 0.1205    |
| 1.3031        | 70.9953 | 7561  | 1.6344          | 0.1757 | 0.4229 | 0.1187 | 0.3853       | 0.2068          | 0.0501     | 0.1095      | 0.1267   | 0.2838    | 0.1092     | 0.0708    | 0.2023 | 0.315  | 0.3348  | 0.5257           | 0.3797              | 0.1897         | 0.2738          | 0.3049       | 0.4978    | 0.2775     | 0.1184    |
| 1.2963        | 72.0    | 7668  | 1.6740          | 0.1751 | 0.4093 | 0.1345 | 0.3911       | 0.1979          | 0.0605     | 0.1028      | 0.1232   | 0.3015    | 0.1129     | 0.0502    | 0.1998 | 0.3137 | 0.3323  | 0.5086           | 0.4013              | 0.1915         | 0.2646          | 0.2956       | 0.4791    | 0.2898     | 0.1253    |
| 1.3159        | 72.9953 | 7774  | 1.6453          | 0.1765 | 0.406  | 0.1245 | 0.3957       | 0.193           | 0.0686     | 0.1138      | 0.1113   | 0.3011    | 0.1195     | 0.04      | 0.2    | 0.3046 | 0.3237  | 0.5342           | 0.362               | 0.1906         | 0.2508          | 0.2809       | 0.4844    | 0.2762     | 0.0953    |
| 1.2604        | 74.0    | 7881  | 1.6836          | 0.18   | 0.4254 | 0.1246 | 0.398        | 0.2047          | 0.0588     | 0.1201      | 0.1182   | 0.3239    | 0.1103     | 0.0493    | 0.202  | 0.3113 | 0.3243  | 0.523            | 0.3557              | 0.1987         | 0.2508          | 0.2933       | 0.4983    | 0.2763     | 0.0903    |
| 1.2683        | 74.9953 | 7987  | 1.6440          | 0.1906 | 0.4422 | 0.1299 | 0.42         | 0.2163          | 0.0633     | 0.1176      | 0.1357   | 0.341     | 0.1182     | 0.0576    | 0.2042 | 0.3159 | 0.3332  | 0.5378           | 0.3861              | 0.2116         | 0.2369          | 0.2933       | 0.5029    | 0.2833     | 0.1092    |
| 1.241         | 76.0    | 8094  | 1.5971          | 0.1852 | 0.435  | 0.1423 | 0.4198       | 0.2201          | 0.0611     | 0.1017      | 0.1234   | 0.3188    | 0.1171     | 0.0606    | 0.202  | 0.3174 | 0.3334  | 0.5541           | 0.3911              | 0.1951         | 0.2462          | 0.2804       | 0.5074    | 0.2891     | 0.0747    |
| 1.2677        | 76.9953 | 8200  | 1.6230          | 0.1909 | 0.4261 | 0.1459 | 0.4135       | 0.2174          | 0.0608     | 0.1205      | 0.1422   | 0.3155    | 0.1245     | 0.0615    | 0.2134 | 0.3217 | 0.3455  | 0.5351           | 0.3899              | 0.2058         | 0.2923          | 0.3044       | 0.5123    | 0.3022     | 0.119     |
| 1.245         | 78.0    | 8307  | 1.6833          | 0.1821 | 0.4127 | 0.1356 | 0.414        | 0.2024          | 0.0569     | 0.0956      | 0.1415   | 0.3053    | 0.1236     | 0.035     | 0.1978 | 0.3071 | 0.327   | 0.5365           | 0.3595              | 0.1951         | 0.2508          | 0.2933       | 0.4838    | 0.285      | 0.09      |
| 1.2416        | 78.9953 | 8413  | 1.7050          | 0.1697 | 0.3998 | 0.1227 | 0.4069       | 0.1939          | 0.0594     | 0.0705      | 0.1178   | 0.3167    | 0.1043     | 0.0276    | 0.1832 | 0.2958 | 0.3162  | 0.5288           | 0.3342              | 0.1987         | 0.2446          | 0.2747       | 0.4907    | 0.2696     | 0.0792    |
| 1.2787        | 80.0    | 8520  | 1.7650          | 0.1677 | 0.383  | 0.135  | 0.4037       | 0.1825          | 0.0679     | 0.0722      | 0.1121   | 0.3038    | 0.1064     | 0.0326    | 0.188  | 0.2946 | 0.3094  | 0.527            | 0.3253              | 0.2089         | 0.2231          | 0.2627       | 0.4925    | 0.2522     | 0.0844    |
| 1.3253        | 80.9953 | 8626  | 1.6970          | 0.1684 | 0.383  | 0.1286 | 0.4076       | 0.1941          | 0.0586     | 0.0761      | 0.1055   | 0.3079    | 0.099      | 0.0389    | 0.1966 | 0.3    | 0.3188  | 0.5311           | 0.3519              | 0.2071         | 0.2308          | 0.2733       | 0.4905    | 0.261      | 0.0939    |
| 1.2928        | 82.0    | 8733  | 1.6727          | 0.1751 | 0.3922 | 0.1327 | 0.4158       | 0.1933          | 0.0596     | 0.0965      | 0.1104   | 0.3128    | 0.1053     | 0.0342    | 0.193  | 0.3038 | 0.3212  | 0.5342           | 0.3544              | 0.2022         | 0.2446          | 0.2707       | 0.5002    | 0.2658     | 0.0816    |
| 1.2698        | 82.9953 | 8839  | 1.6783          | 0.1781 | 0.4056 | 0.13   | 0.4106       | 0.2111          | 0.0581     | 0.096       | 0.115    | 0.3302    | 0.1008     | 0.0505    | 0.2022 | 0.3003 | 0.3211  | 0.5392           | 0.3722              | 0.1929         | 0.2477          | 0.2538       | 0.5081    | 0.273      | 0.0776    |
| 1.2576        | 84.0    | 8946  | 1.6657          | 0.1887 | 0.4251 | 0.1464 | 0.4211       | 0.2224          | 0.0711     | 0.1144      | 0.1145   | 0.3201    | 0.1218     | 0.0594    | 0.2036 | 0.3098 | 0.3264  | 0.5401           | 0.3797              | 0.1969         | 0.2492          | 0.2662       | 0.4914    | 0.2757     | 0.089     |
| 1.2684        | 84.9953 | 9052  | 1.6059          | 0.1868 | 0.4275 | 0.1465 | 0.4249       | 0.202           | 0.0698     | 0.1142      | 0.123    | 0.3274    | 0.1197     | 0.0689    | 0.2071 | 0.316  | 0.3318  | 0.5414           | 0.3785              | 0.2076         | 0.2446          | 0.2867       | 0.5061    | 0.2798     | 0.098     |
| 1.2139        | 86.0    | 9159  | 1.6737          | 0.179  | 0.4036 | 0.1311 | 0.4209       | 0.1797          | 0.0633     | 0.1148      | 0.1163   | 0.3285    | 0.108      | 0.0531    | 0.198  | 0.3064 | 0.3235  | 0.5338           | 0.3608              | 0.204          | 0.24            | 0.2791       | 0.5049    | 0.2728     | 0.0884    |
| 1.2115        | 86.9953 | 9265  | 1.6361          | 0.1782 | 0.4103 | 0.1284 | 0.4221       | 0.1971          | 0.0676     | 0.0939      | 0.1104   | 0.3287    | 0.1059     | 0.0584    | 0.1994 | 0.3074 | 0.3244  | 0.5329           | 0.3671              | 0.2094         | 0.2231          | 0.2893       | 0.5104    | 0.2708     | 0.0959    |
| 1.1991        | 88.0    | 9372  | 1.6664          | 0.185  | 0.4126 | 0.1371 | 0.4191       | 0.2107          | 0.067      | 0.1185      | 0.1096   | 0.3265    | 0.1106     | 0.0786    | 0.2066 | 0.308  | 0.3264  | 0.5288           | 0.3658              | 0.2098         | 0.2523          | 0.2751       | 0.4988    | 0.274      | 0.1081    |
| 1.2357        | 88.9953 | 9478  | 1.6905          | 0.1851 | 0.4145 | 0.1407 | 0.4203       | 0.2132          | 0.0704     | 0.1139      | 0.1076   | 0.3294    | 0.1152     | 0.0774    | 0.2065 | 0.3061 | 0.3229  | 0.5356           | 0.3481              | 0.2103         | 0.2431          | 0.2773       | 0.5086    | 0.2681     | 0.108     |
| 1.2144        | 90.0    | 9585  | 1.6024          | 0.1937 | 0.433  | 0.1482 | 0.4231       | 0.2215          | 0.0744     | 0.1363      | 0.1133   | 0.3249    | 0.1261     | 0.0756    | 0.2137 | 0.3164 | 0.3326  | 0.5401           | 0.3722              | 0.2188         | 0.2508          | 0.2813       | 0.5022    | 0.2726     | 0.1134    |
| 1.1585        | 90.9953 | 9691  | 1.6317          | 0.1949 | 0.4222 | 0.1524 | 0.4313       | 0.2239          | 0.0729     | 0.1282      | 0.1181   | 0.3261    | 0.1249     | 0.0821    | 0.2104 | 0.3193 | 0.3351  | 0.5495           | 0.3709              | 0.2152         | 0.2554          | 0.2844       | 0.5104    | 0.2741     | 0.1178    |
| 1.1517        | 92.0    | 9798  | 1.6205          | 0.1936 | 0.4255 | 0.1621 | 0.4153       | 0.2211          | 0.0831     | 0.125       | 0.1237   | 0.3272    | 0.1274     | 0.0805    | 0.2122 | 0.3169 | 0.3363  | 0.5306           | 0.3797              | 0.2188         | 0.2569          | 0.2956       | 0.5048    | 0.2798     | 0.121     |
| 1.202         | 92.9953 | 9904  | 1.6812          | 0.1899 | 0.4182 | 0.1523 | 0.4211       | 0.2183          | 0.0691     | 0.1285      | 0.1127   | 0.3214    | 0.127      | 0.0679    | 0.2079 | 0.3146 | 0.3328  | 0.536            | 0.3684              | 0.2054         | 0.2615          | 0.2929       | 0.5019    | 0.2797     | 0.1146    |
| 1.1843        | 94.0    | 10011 | 1.6089          | 0.1959 | 0.4261 | 0.164  | 0.4213       | 0.2296          | 0.0743     | 0.13        | 0.1242   | 0.3337    | 0.1242     | 0.0871    | 0.2154 | 0.3181 | 0.3327  | 0.5396           | 0.3734              | 0.2045         | 0.2523          | 0.2938       | 0.5025    | 0.2777     | 0.1229    |
| 1.1846        | 94.9953 | 10117 | 1.6525          | 0.1874 | 0.4204 | 0.155  | 0.4136       | 0.2037          | 0.0733     | 0.1285      | 0.1178   | 0.3246    | 0.1192     | 0.0856    | 0.2069 | 0.3133 | 0.3305  | 0.5338           | 0.3582              | 0.2143         | 0.2569          | 0.2893       | 0.5035    | 0.2772     | 0.1252    |
| 1.1615        | 96.0    | 10224 | 1.6333          | 0.1948 | 0.4225 | 0.1649 | 0.4212       | 0.2234          | 0.0785     | 0.1191      | 0.1319   | 0.3228    | 0.1229     | 0.0963    | 0.2067 | 0.3128 | 0.3325  | 0.5338           | 0.3646              | 0.2107         | 0.2554          | 0.2982       | 0.51      | 0.2762     | 0.1292    |
| 1.161         | 96.9953 | 10330 | 1.6176          | 0.1973 | 0.4368 | 0.1637 | 0.4209       | 0.227           | 0.0755     | 0.1236      | 0.1392   | 0.3239    | 0.1303     | 0.0917    | 0.2106 | 0.3179 | 0.3374  | 0.5374           | 0.3772              | 0.2085         | 0.2631          | 0.3009       | 0.51      | 0.2873     | 0.1244    |
| 1.1522        | 98.0    | 10437 | 1.6197          | 0.1981 | 0.434  | 0.1623 | 0.4266       | 0.2284          | 0.0771     | 0.1232      | 0.1352   | 0.3217    | 0.1333     | 0.0801    | 0.2118 | 0.3156 | 0.3333  | 0.5446           | 0.3658              | 0.2098         | 0.2477          | 0.2987       | 0.5084    | 0.2789     | 0.1156    |
| 1.1879        | 98.9953 | 10543 | 1.6218          | 0.1971 | 0.4375 | 0.1676 | 0.4178       | 0.2239          | 0.0775     | 0.1302      | 0.1363   | 0.3264    | 0.1298     | 0.0847    | 0.209  | 0.3163 | 0.3322  | 0.5365           | 0.3608              | 0.2143         | 0.2508          | 0.2987       | 0.5065    | 0.2769     | 0.1178    |
| 1.1205        | 99.5305 | 10600 | 1.6173          | 0.1965 | 0.4335 | 0.1626 | 0.4181       | 0.227           | 0.0765     | 0.1245      | 0.1363   | 0.3222    | 0.1284     | 0.0855    | 0.2092 | 0.3167 | 0.3327  | 0.5347           | 0.3633              | 0.2134         | 0.2523          | 0.3          | 0.5071    | 0.2784     | 0.1181    |


### Framework versions

- Transformers 4.41.0.dev0
- Pytorch 1.13.0+cu117
- Datasets 2.18.0
- Tokenizers 0.19.0