ocr_dynamic_padding_checkpoints

This model is a fine-tuned version of lightonai/LightOnOCR-2-1B-base on the None dataset. It achieves the following results on the evaluation set:

• Loss: 0.1082

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 2e-05
• train_batch_size: 4
• eval_batch_size: 4
• seed: 42
• gradient_accumulation_steps: 4
• total_train_batch_size: 16
• optimizer: Use OptimizerNames.ADAMW_TORCH_FUSED with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 50
• num_epochs: 1

Training results

Training Loss	Epoch	Step	Validation Loss
0.3786	0.0027	200	0.3622
0.3270	0.0054	400	0.2925
0.3309	0.0081	600	0.2588
0.2303	0.0109	800	0.2380
0.3047	0.0136	1000	0.2222
0.2419	0.0163	1200	0.2089
0.2248	0.0190	1400	0.1998
0.1827	0.0217	1600	0.1918
0.2342	0.0244	1800	0.1852
0.1881	0.0271	2000	0.1795
0.1988	0.0299	2200	0.1747
0.1891	0.0326	2400	0.1700
0.1639	0.0353	2600	0.1668
0.1906	0.0380	2800	0.1631
0.1980	0.0407	3000	0.1593
0.1588	0.0434	3200	0.1567
0.1428	0.0461	3400	0.1550
0.1549	0.0488	3600	0.1524
0.1516	0.0516	3800	0.1504
0.1626	0.0543	4000	0.1483
0.1846	0.0570	4200	0.1462
0.1881	0.0597	4400	0.1449
0.1397	0.0624	4600	0.1430
0.1612	0.0651	4800	0.1418
0.1918	0.0678	5000	0.1404
0.1316	0.0706	5200	0.1391
0.1317	0.0733	5400	0.1380
0.1321	0.0760	5600	0.1371
0.1526	0.0787	5800	0.1361
0.1468	0.0814	6000	0.1350
0.1847	0.0841	6200	0.1340
0.1304	0.0868	6400	0.1330
0.1926	0.0896	6600	0.1320
0.1639	0.0923	6800	0.1309
0.1226	0.0950	7000	0.1308
0.1620	0.0977	7200	0.1300
0.1471	0.1004	7400	0.1295
0.1784	0.1031	7600	0.1288
0.1893	0.1058	7800	0.1278
0.1393	0.1086	8000	0.1275
0.1487	0.1113	8200	0.1267
0.1412	0.1140	8400	0.1265
0.1664	0.1119	8600	0.1633
0.1860	0.1145	8800	0.1623
0.1583	0.1171	9000	0.1610
0.1791	0.1197	9200	0.1598
0.1907	0.1223	9400	0.1588
0.1553	0.1249	9600	0.1583
0.1740	0.1275	9800	0.1577
0.1793	0.1301	10000	0.1567
0.1539	0.1327	10200	0.1561
0.1724	0.1353	10400	0.1555
0.1447	0.1379	10600	0.1551
0.1763	0.1405	10800	0.1544
0.1855	0.1431	11000	0.1539
0.1847	0.1457	11200	0.1538
0.1572	0.1484	11400	0.1532
0.1934	0.1510	11600	0.1530
0.1568	0.1601	11800	0.1203
0.1274	0.1628	12000	0.1199
0.1655	0.1655	12200	0.1197
0.1194	0.1683	12400	0.1193
0.1388	0.1710	12600	0.1189
0.1258	0.1737	12800	0.1188
0.1268	0.1764	13000	0.1185
0.0911	0.1791	13200	0.1183
0.1650	0.1818	13400	0.1178
0.1045	0.1845	13600	0.1177
0.1022	0.1873	13800	0.1173
0.1293	0.1900	14000	0.1172
0.1273	0.1927	14200	0.1170
0.1546	0.1954	14400	0.1169
0.0967	0.1981	14600	0.1168
0.1209	0.2008	14800	0.1167
0.1482	0.2035	15000	0.1163
0.1308	0.2063	15200	0.1161
0.1212	0.2090	15400	0.1159
0.1306	0.2117	15600	0.1157
0.1123	0.2144	15800	0.1155
0.1376	0.2171	16000	0.1154
0.1377	0.2198	16200	0.1152
0.1256	0.2225	16400	0.1149
0.1348	0.2252	16600	0.1150
0.1293	0.2280	16800	0.1147
0.0979	0.2307	17000	0.1147
0.1364	0.2334	17200	0.1145
0.0922	0.2361	17400	0.1142
0.1217	0.2388	17600	0.1139
0.1149	0.2415	17800	0.1141
0.1819	0.2442	18000	0.1139
0.0858	0.2470	18200	0.1140
0.1859	0.2497	18400	0.1137
0.1256	0.2524	18600	0.1135
0.1466	0.2551	18800	0.1133
0.1465	0.2578	19000	0.1133
0.1247	0.2605	19200	0.1132
0.1157	0.2632	19400	0.1130
0.1242	0.2660	19600	0.1129
0.1024	0.2687	19800	0.1129
0.1312	0.2714	20000	0.1128
0.1256	0.2741	20200	0.1126
0.1041	0.2768	20400	0.1126
0.1436	0.2795	20600	0.1124
0.1069	0.2822	20800	0.1122
0.0815	0.2850	21000	0.1123
0.1502	0.2877	21200	0.1120
0.1057	0.2904	21400	0.1119
0.1233	0.2931	21600	0.1119
0.1104	0.2958	21800	0.1118
0.1434	0.2985	22000	0.1117
0.1057	0.3012	22200	0.1118
0.1166	0.3039	22400	0.1116
0.0859	0.3067	22600	0.1114
0.1349	0.3094	22800	0.1114
0.1314	0.3121	23000	0.1113
0.1333	0.3148	23200	0.1112
0.0983	0.3175	23400	0.1111
0.1604	0.3202	23600	0.1110
0.1136	0.3229	23800	0.1110
0.1367	0.3257	24000	0.1109
0.1104	0.3284	24200	0.1109
0.0942	0.3311	24400	0.1109
0.1515	0.3338	24600	0.1108
0.1485	0.3365	24800	0.1109
0.1770	0.3392	25000	0.1107
0.1067	0.3419	25200	0.1106
0.1187	0.3447	25400	0.1105
0.0929	0.3474	25600	0.1105
0.1262	0.3501	25800	0.1104
0.1395	0.3528	26000	0.1104
0.1376	0.3555	26200	0.1104
0.1029	0.3582	26400	0.1103
0.1138	0.3609	26600	0.1103
0.1061	0.3637	26800	0.1103
0.1094	0.3664	27000	0.1102
0.0850	0.3691	27200	0.1102
0.1083	0.3718	27400	0.1102
0.0856	0.3745	27600	0.1102
0.1397	0.3772	27800	0.1102
0.1238	0.3799	28000	0.1102
0.1128	0.3826	28200	0.1100
0.1165	0.3854	28400	0.1099
0.1092	0.3881	28600	0.1099
0.1484	0.3908	28800	0.1098
0.1208	0.3935	29000	0.1097
0.0940	0.3962	29200	0.1097
0.1222	0.3989	29400	0.1097
0.1583	0.4016	29600	0.1097
0.1429	0.4044	29800	0.1097
0.0967	0.4071	30000	0.1096
0.1099	0.4098	30200	0.1096
0.1284	0.4125	30400	0.1096
0.1019	0.4152	30600	0.1097
0.1128	0.4179	30800	0.1096
0.1005	0.4206	31000	0.1096
0.0982	0.4234	31200	0.1095
0.1344	0.4261	31400	0.1095
0.1461	0.4288	31600	0.1095
0.1374	0.4315	31800	0.1094
0.1630	0.4342	32000	0.1094
0.1678	0.4369	32200	0.1094
0.1447	0.4396	32400	0.1094
0.1482	0.4424	32600	0.1093
0.1061	0.4451	32800	0.1093
0.1041	0.4478	33000	0.1093
0.1299	0.4505	33200	0.1092
0.0975	0.4532	33400	0.1092
0.1132	0.4559	33600	0.1092
0.1293	0.4586	33800	0.1091
0.1221	0.4614	34000	0.1091
0.1533	0.4641	34200	0.1091
0.1781	0.4668	34400	0.1091
0.1635	0.4695	34600	0.1092
0.0984	0.4722	34800	0.1091
0.1037	0.4749	35000	0.1091
0.1400	0.4776	35200	0.1092
0.1102	0.4803	35400	0.1091
0.1199	0.4831	35600	0.1090
0.1199	0.4858	35800	0.1090
0.1253	0.4885	36000	0.1089
0.1350	0.4912	36200	0.1089
0.1128	0.4939	36400	0.1089
0.1337	0.4966	36600	0.1089
0.0890	0.4993	36800	0.1089
0.1014	0.5021	37000	0.1089
0.0924	0.5048	37200	0.1089
0.1389	0.5075	37400	0.1089
0.1231	0.5102	37600	0.1088
0.1370	0.5129	37800	0.1088
0.1548	0.5156	38000	0.1088
0.1020	0.5183	38200	0.1088
0.1125	0.5211	38400	0.1088
0.1113	0.5238	38600	0.1088
0.1061	0.5265	38800	0.1088
0.1006	0.5292	39000	0.1088
0.1128	0.5319	39200	0.1087
0.1252	0.5346	39400	0.1087
0.1325	0.5373	39600	0.1087
0.1216	0.5401	39800	0.1087
0.0962	0.5428	40000	0.1087
0.0989	0.5455	40200	0.1087
0.1189	0.5482	40400	0.1087
0.0979	0.5509	40600	0.1087
0.1364	0.5536	40800	0.1087
0.1136	0.5563	41000	0.1086
0.1671	0.5590	41200	0.1087
0.1279	0.5618	41400	0.1087
0.1055	0.5645	41600	0.1086
0.1221	0.5672	41800	0.1086
0.1353	0.5699	42000	0.1086
0.1250	0.5726	42200	0.1086
0.1274	0.5753	42400	0.1086
0.1480	0.5780	42600	0.1086
0.1248	0.5808	42800	0.1086
0.1385	0.5835	43000	0.1086
0.1753	0.5862	43200	0.1086
0.0971	0.5889	43400	0.1086
0.1293	0.5916	43600	0.1086
0.1238	0.5943	43800	0.1086
0.1544	0.5970	44000	0.1086
0.1354	0.5998	44200	0.1086
0.1564	0.6025	44400	0.1085
0.1253	0.6052	44600	0.1085
0.0937	0.6079	44800	0.1085
0.0903	0.6106	45000	0.1085
0.1170	0.6133	45200	0.1085
0.0952	0.6160	45400	0.1085
0.1350	0.6188	45600	0.1085
0.1344	0.6215	45800	0.1085
0.1061	0.6242	46000	0.1085
0.0866	0.6269	46200	0.1084
0.0932	0.6296	46400	0.1084
0.1353	0.6323	46600	0.1084
0.1697	0.6350	46800	0.1084
0.0960	0.6377	47000	0.1084
0.1140	0.6405	47200	0.1084
0.0913	0.6432	47400	0.1084
0.1177	0.6459	47600	0.1084
0.0985	0.6486	47800	0.1084
0.1067	0.6513	48000	0.1084
0.1123	0.6540	48200	0.1084
0.1190	0.6567	48400	0.1084
0.1307	0.6595	48600	0.1084
0.1179	0.6622	48800	0.1084
0.1062	0.6649	49000	0.1084
0.1102	0.6676	49200	0.1084
0.1090	0.6703	49400	0.1084
0.0888	0.6730	49600	0.1084
0.1144	0.6757	49800	0.1084
0.1164	0.6785	50000	0.1084
0.1233	0.6812	50200	0.1084
0.0901	0.6839	50400	0.1084
0.1195	0.6866	50600	0.1083
0.1242	0.6893	50800	0.1083
0.0996	0.6920	51000	0.1084
0.0999	0.6947	51200	0.1083
0.0892	0.6975	51400	0.1083
0.1514	0.7002	51600	0.1084
0.1415	0.7029	51800	0.1084
0.1013	0.7056	52000	0.1083
0.1378	0.7083	52200	0.1083
0.1123	0.7110	52400	0.1083
0.1273	0.7137	52600	0.1084
0.0996	0.7164	52800	0.1083
0.1604	0.7192	53000	0.1083
0.1421	0.7219	53200	0.1083
0.1287	0.7246	53400	0.1083
0.1245	0.7273	53600	0.1083
0.1546	0.7300	53800	0.1083
0.1051	0.7327	54000	0.1083
0.1493	0.7354	54200	0.1083
0.1292	0.7382	54400	0.1083
0.1102	0.7409	54600	0.1083
0.1216	0.7436	54800	0.1083
0.1371	0.7463	55000	0.1083
0.1597	0.7490	55200	0.1083
0.0998	0.7517	55400	0.1083
0.1167	0.7544	55600	0.1083
0.1394	0.7572	55800	0.1083
0.1078	0.7599	56000	0.1083
0.1428	0.7626	56200	0.1083
0.1354	0.7653	56400	0.1083
0.1420	0.7680	56600	0.1083
0.1945	0.7707	56800	0.1083
0.1160	0.7734	57000	0.1083
0.1350	0.7762	57200	0.1083
0.1631	0.7789	57400	0.1082
0.0880	0.7816	57600	0.1083
0.1549	0.7843	57800	0.1083
0.1097	0.7870	58000	0.1083
0.1586	0.7897	58200	0.1083
0.1357	0.7924	58400	0.1083
0.1656	0.7952	58600	0.1082
0.1257	0.7979	58800	0.1083
0.1320	0.8006	59000	0.1083
0.1248	0.8033	59200	0.1083
0.1065	0.8060	59400	0.1082
0.1066	0.8087	59600	0.1082
0.1274	0.8114	59800	0.1082
0.1018	0.8141	60000	0.1082
0.0958	0.8169	60200	0.1082
0.1063	0.8196	60400	0.1083
0.1028	0.8223	60600	0.1083
0.1400	0.8250	60800	0.1083
0.1097	0.8277	61000	0.1082
0.1026	0.8304	61200	0.1082
0.1244	0.8331	61400	0.1083
0.1221	0.8359	61600	0.1082
0.0995	0.8386	61800	0.1083
0.1211	0.8413	62000	0.1083
0.1536	0.8440	62200	0.1083
0.1121	0.8467	62400	0.1082
0.1293	0.8494	62600	0.1082
0.1238	0.8521	62800	0.1082
0.1332	0.8549	63000	0.1082
0.1035	0.8576	63200	0.1082
0.1535	0.8603	63400	0.1082
0.1044	0.8630	63600	0.1082
0.1103	0.8657	63800	0.1082
0.1193	0.8684	64000	0.1082
0.1090	0.8711	64200	0.1083
0.1452	0.8739	64400	0.1083
0.1099	0.8766	64600	0.1082
0.1455	0.8793	64800	0.1082
0.1390	0.8820	65000	0.1082
0.1297	0.8847	65200	0.1082
0.1168	0.8874	65400	0.1082
0.1812	0.8901	65600	0.1082
0.1027	0.8928	65800	0.1082
0.1464	0.8956	66000	0.1082
0.1048	0.8983	66200	0.1082
0.1542	0.9010	66400	0.1082
0.1291	0.9037	66600	0.1082
0.1212	0.9064	66800	0.1082
0.1377	0.9091	67000	0.1082
0.1140	0.9118	67200	0.1083
0.1263	0.9146	67400	0.1082
0.1084	0.9173	67600	0.1082
0.1520	0.9200	67800	0.1082
0.1513	0.9227	68000	0.1082
0.1194	0.9254	68200	0.1082
0.1717	0.9281	68400	0.1082
0.1161	0.9308	68600	0.1082
0.1446	0.9336	68800	0.1082
0.0995	0.9363	69000	0.1082
0.1298	0.9390	69200	0.1082
0.1217	0.9417	69400	0.1082
0.1061	0.9444	69600	0.1082
0.1188	0.9471	69800	0.1082
0.1393	0.9498	70000	0.1082
0.0963	0.9526	70200	0.1082
0.1514	0.9553	70400	0.1082
0.1705	0.9580	70600	0.1082
0.1454	0.9607	70800	0.1082
0.0777	0.9634	71000	0.1082
0.1253	0.9661	71200	0.1082
0.1140	0.9688	71400	0.1082
0.1580	0.9715	71600	0.1082
0.0825	0.9743	71800	0.1082
0.1197	0.9770	72000	0.1082
0.1190	0.9797	72200	0.1082
0.1276	0.9824	72400	0.1082
0.1489	0.9851	72600	0.1082
0.0948	0.9878	72800	0.1082
0.1032	0.9905	73000	0.1082
0.1300	0.9933	73200	0.1082
0.0911	0.9960	73400	0.1082
0.0918	0.9987	73600	0.1082

Framework versions

• Transformers 5.0.0
• Pytorch 2.11.0+cu128
• Datasets 5.0.1
• Tokenizers 0.22.2