codet5p-770m-py-sanitized-codebleu-1-True-5e-05-0.1-lora-layer_21

This model is a fine-tuned version of Salesforce/codet5p-770m-py on the mbpp dataset. It achieves the following results on the evaluation set:

• Loss: 0.7296
• Codebleu: 0.1019
• Ngram Match Score: 0.0230
• Weighted Ngram Match Score: 0.0432
• Syntax Match Score: 0.1217
• Dataflow Match Score: 0.1165

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 5e-05
• train_batch_size: 8
• eval_batch_size: 8
• seed: 42
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 100
• num_epochs: 300

Training results

Training Loss	Epoch	Step	Validation Loss	Codebleu	Ngram Match Score	Weighted Ngram Match Score	Syntax Match Score	Dataflow Match Score
0.9738	1.0	15	0.9246	0.0072	0.0000	0.0000	0.0079	0.0100
0.9612	2.0	30	0.9235	0.0072	0.0000	0.0000	0.0079	0.0100
0.9731	3.0	45	0.9207	0.0072	0.0000	0.0000	0.0079	0.0100
0.9423	4.0	60	0.9141	0.0080	0.0000	0.0000	0.0079	0.0120
0.9586	5.0	75	0.8998	0.0207	0.0000	0.0042	0.0185	0.0321
0.9443	6.0	90	0.8742	0.0559	0.0019	0.0270	0.0622	0.0703
0.9229	7.0	105	0.8425	0.0957	0.0227	0.0517	0.1283	0.0924
0.8655	8.0	120	0.8200	0.0994	0.0217	0.0500	0.1323	0.0984
0.8435	9.0	135	0.8052	0.0993	0.0215	0.0493	0.1323	0.0984
0.8205	10.0	150	0.7929	0.1055	0.0179	0.0470	0.1310	0.1165
0.8027	11.0	165	0.7803	0.1046	0.0180	0.0465	0.1310	0.1145
0.7978	12.0	180	0.7709	0.0983	0.0180	0.0468	0.1230	0.1064
0.7797	13.0	195	0.7659	0.0983	0.0181	0.0476	0.1230	0.1064
0.7618	14.0	210	0.7614	0.0932	0.0143	0.0367	0.1138	0.1064
0.7805	15.0	225	0.7567	0.0971	0.0137	0.0367	0.1177	0.1124
0.7814	16.0	240	0.7537	0.0949	0.0121	0.0325	0.1138	0.1124
0.7636	17.0	255	0.7507	0.0951	0.0148	0.0395	0.1098	0.1145
0.7462	18.0	270	0.7481	0.1074	0.0172	0.0435	0.1310	0.1225
0.7561	19.0	285	0.7453	0.1118	0.0240	0.0563	0.1310	0.1285
0.7426	20.0	300	0.7423	0.1098	0.0286	0.0636	0.1310	0.1205
0.7306	21.0	315	0.7396	0.1080	0.0248	0.0576	0.1310	0.1185
0.7317	22.0	330	0.7366	0.1080	0.0248	0.0576	0.1310	0.1185
0.7265	23.0	345	0.7346	0.1101	0.0264	0.0612	0.1349	0.1185
0.7291	24.0	360	0.7328	0.1080	0.0208	0.0533	0.1310	0.1205
0.7456	25.0	375	0.7310	0.1071	0.0222	0.0539	0.1283	0.1205
0.7243	26.0	390	0.7286	0.1092	0.0287	0.0608	0.1323	0.1185
0.7096	27.0	405	0.7276	0.1066	0.0251	0.0564	0.1296	0.1165
0.7168	28.0	420	0.7258	0.1074	0.0273	0.0597	0.1323	0.1145
0.7	29.0	435	0.7239	0.1027	0.0233	0.0542	0.1270	0.1104
0.704	30.0	450	0.7230	0.1026	0.0242	0.0543	0.1243	0.1124
0.6983	31.0	465	0.7219	0.0984	0.0253	0.0543	0.1138	0.1124
0.6946	32.0	480	0.7221	0.1034	0.0272	0.0591	0.1164	0.1205
0.6973	33.0	495	0.7211	0.1036	0.0288	0.0603	0.1204	0.1165
0.6989	34.0	510	0.7187	0.1034	0.0288	0.0599	0.1138	0.1225
0.6828	35.0	525	0.7181	0.0995	0.0250	0.0542	0.1124	0.1165
0.7052	36.0	540	0.7163	0.1038	0.0224	0.0516	0.1124	0.1285
0.6854	37.0	555	0.7159	0.0970	0.0205	0.0475	0.1071	0.1185
0.6887	38.0	570	0.7155	0.0972	0.0224	0.0502	0.1124	0.1124
0.6828	39.0	585	0.7156	0.1035	0.0235	0.0536	0.1190	0.1205
0.6915	40.0	600	0.7149	0.1052	0.0264	0.0568	0.1217	0.1205
0.6735	41.0	615	0.7139	0.1080	0.0305	0.0625	0.1243	0.1225
0.6665	42.0	630	0.7135	0.1075	0.0289	0.0591	0.1243	0.1225
0.6697	43.0	645	0.7157	0.1039	0.0291	0.0568	0.1138	0.1245
0.6737	44.0	660	0.7136	0.0996	0.0221	0.0472	0.1111	0.1205
0.6668	45.0	675	0.7159	0.1010	0.0233	0.0474	0.1124	0.1225
0.6594	46.0	690	0.7163	0.1009	0.0230	0.0487	0.1138	0.1205
0.6622	47.0	705	0.7134	0.0990	0.0235	0.0488	0.1151	0.1145
0.6593	48.0	720	0.7146	0.0923	0.0237	0.0483	0.1085	0.1044
0.6603	49.0	735	0.7143	0.0895	0.0198	0.0419	0.1058	0.1024
0.6535	50.0	750	0.7140	0.0895	0.0199	0.0418	0.0979	0.1104
0.6726	51.0	765	0.7121	0.1017	0.0237	0.0509	0.1151	0.1205
0.6665	52.0	780	0.7110	0.0996	0.0219	0.0472	0.1111	0.1205
0.6613	53.0	795	0.7116	0.0921	0.0183	0.0403	0.1032	0.1124
0.6271	54.0	810	0.7101	0.1030	0.0247	0.0518	0.1138	0.1245
0.6508	55.0	825	0.7100	0.0950	0.0217	0.0417	0.1111	0.1104
0.6447	56.0	840	0.7091	0.1004	0.0311	0.0579	0.1164	0.1124
0.6487	57.0	855	0.7121	0.1113	0.0289	0.0541	0.1230	0.1345
0.6429	58.0	870	0.7092	0.1012	0.0276	0.0531	0.1164	0.1165
0.6545	59.0	885	0.7090	0.0992	0.0264	0.0531	0.1177	0.1104
0.6299	60.0	900	0.7117	0.0992	0.0257	0.0480	0.1190	0.1104
0.6435	61.0	915	0.7125	0.1119	0.0330	0.0590	0.1283	0.1285
0.6267	62.0	930	0.7111	0.1087	0.0361	0.0637	0.1283	0.1185
0.6375	63.0	945	0.7106	0.0987	0.0235	0.0454	0.1190	0.1104
0.6221	64.0	960	0.7102	0.1097	0.0295	0.0530	0.1230	0.1305
0.6449	65.0	975	0.7104	0.0995	0.0235	0.0454	0.1151	0.1165
0.615	66.0	990	0.7106	0.1170	0.0335	0.0588	0.1310	0.1386
0.6353	67.0	1005	0.7083	0.1148	0.0363	0.0629	0.1296	0.1325
0.6265	68.0	1020	0.7118	0.1065	0.0283	0.0522	0.1217	0.1245
0.6125	69.0	1035	0.7086	0.1178	0.0387	0.0666	0.1336	0.1345
0.64	70.0	1050	0.7109	0.1121	0.0349	0.0613	0.1296	0.1265
0.6257	71.0	1065	0.7100	0.1199	0.0365	0.0663	0.1336	0.1406
0.6188	72.0	1080	0.7087	0.1199	0.0365	0.0663	0.1336	0.1406
0.6225	73.0	1095	0.7086	0.1157	0.0313	0.0580	0.1283	0.1386
0.6139	74.0	1110	0.7091	0.1194	0.0345	0.0632	0.1336	0.1406
0.6052	75.0	1125	0.7109	0.1194	0.0345	0.0632	0.1336	0.1406
0.6104	76.0	1140	0.7101	0.1221	0.0330	0.0618	0.1389	0.1426
0.6149	77.0	1155	0.7100	0.1113	0.0259	0.0493	0.1270	0.1325
0.6111	78.0	1170	0.7089	0.1085	0.0296	0.0547	0.1296	0.1205
0.608	79.0	1185	0.7094	0.1113	0.0313	0.0602	0.1349	0.1205
0.6034	80.0	1200	0.7078	0.0986	0.0256	0.0528	0.1204	0.1064
0.606	81.0	1215	0.7117	0.1040	0.0276	0.0544	0.1270	0.1124
0.6059	82.0	1230	0.7121	0.1048	0.0267	0.0561	0.1310	0.1104
0.6151	83.0	1245	0.7103	0.1057	0.0270	0.0562	0.1270	0.1165
0.6104	84.0	1260	0.7104	0.1058	0.0281	0.0564	0.1270	0.1165
0.5909	85.0	1275	0.7108	0.1061	0.0279	0.0543	0.1283	0.1165
0.593	86.0	1290	0.7110	0.1007	0.0265	0.0549	0.1230	0.1084
0.5886	87.0	1305	0.7112	0.1098	0.0274	0.0544	0.1257	0.1285
0.5986	88.0	1320	0.7137	0.1065	0.0267	0.0564	0.1270	0.1185
0.6015	89.0	1335	0.7137	0.1049	0.0269	0.0564	0.1270	0.1145
0.5929	90.0	1350	0.7121	0.0993	0.0242	0.0531	0.1204	0.1084
0.5933	91.0	1365	0.7118	0.1007	0.0258	0.0550	0.1190	0.1124
0.5968	92.0	1380	0.7127	0.1013	0.0254	0.0539	0.1230	0.1104
0.5747	93.0	1395	0.7143	0.1055	0.0264	0.0551	0.1270	0.1165
0.5804	94.0	1410	0.7130	0.0993	0.0256	0.0550	0.1217	0.1064
0.5975	95.0	1425	0.7117	0.0972	0.0235	0.0520	0.1217	0.1024
0.5965	96.0	1440	0.7125	0.1018	0.0251	0.0538	0.1243	0.1104
0.5908	97.0	1455	0.7132	0.1002	0.0251	0.0538	0.1243	0.1064
0.5847	98.0	1470	0.7136	0.1003	0.0255	0.0540	0.1243	0.1064
0.6006	99.0	1485	0.7136	0.1011	0.0256	0.0538	0.1243	0.1084
0.5907	100.0	1500	0.7139	0.1027	0.0256	0.0538	0.1243	0.1124
0.581	101.0	1515	0.7133	0.1026	0.0273	0.0538	0.1257	0.1104
0.5755	102.0	1530	0.7148	0.1022	0.0265	0.0540	0.1230	0.1124
0.5866	103.0	1545	0.7133	0.1022	0.0265	0.0540	0.1230	0.1124
0.5793	104.0	1560	0.7129	0.0985	0.0263	0.0538	0.1217	0.1044
0.5728	105.0	1575	0.7155	0.0987	0.0256	0.0540	0.1243	0.1024
0.5874	106.0	1590	0.7137	0.1012	0.0265	0.0540	0.1243	0.1084
0.5987	107.0	1605	0.7139	0.1012	0.0265	0.0540	0.1243	0.1084
0.5704	108.0	1620	0.7140	0.1004	0.0267	0.0538	0.1243	0.1064
0.5809	109.0	1635	0.7137	0.0998	0.0264	0.0537	0.1270	0.1024
0.5807	110.0	1650	0.7148	0.1006	0.0266	0.0539	0.1270	0.1044
0.5733	111.0	1665	0.7156	0.0998	0.0264	0.0537	0.1270	0.1024
0.5635	112.0	1680	0.7164	0.0971	0.0264	0.0538	0.1243	0.0984
0.5664	113.0	1695	0.7153	0.0964	0.0272	0.0538	0.1243	0.0964
0.5794	114.0	1710	0.7151	0.0975	0.0274	0.0537	0.1270	0.0964
0.5814	115.0	1725	0.7142	0.0966	0.0271	0.0539	0.1270	0.0944
0.5667	116.0	1740	0.7168	0.0999	0.0272	0.0539	0.1270	0.1024
0.5578	117.0	1755	0.7162	0.0971	0.0265	0.0536	0.1243	0.0984
0.5741	118.0	1770	0.7162	0.0979	0.0231	0.0487	0.1243	0.1024
0.5699	119.0	1785	0.7180	0.0960	0.0207	0.0425	0.1217	0.1024
0.5517	120.0	1800	0.7168	0.0960	0.0213	0.0421	0.1217	0.1024
0.5594	121.0	1815	0.7159	0.0952	0.0214	0.0421	0.1217	0.1004
0.567	122.0	1830	0.7154	0.0951	0.0205	0.0423	0.1217	0.1004
0.571	123.0	1845	0.7181	0.0970	0.0210	0.0422	0.1243	0.1024
0.5686	124.0	1860	0.7179	0.0970	0.0210	0.0422	0.1243	0.1024
0.5709	125.0	1875	0.7165	0.1018	0.0214	0.0414	0.1283	0.1104
0.5489	126.0	1890	0.7178	0.0970	0.0214	0.0420	0.1243	0.1024
0.5582	127.0	1905	0.7202	0.0971	0.0217	0.0420	0.1243	0.1024
0.5576	128.0	1920	0.7182	0.0971	0.0216	0.0427	0.1243	0.1024
0.5558	129.0	1935	0.7188	0.0970	0.0211	0.0422	0.1243	0.1024
0.5581	130.0	1950	0.7191	0.0958	0.0222	0.0420	0.1190	0.1044
0.5542	131.0	1965	0.7167	0.1012	0.0214	0.0413	0.1270	0.1104
0.5671	132.0	1980	0.7181	0.1032	0.0273	0.0527	0.1296	0.1084
0.5648	133.0	1995	0.7187	0.0972	0.0222	0.0425	0.1243	0.1024
0.5531	134.0	2010	0.7177	0.0971	0.0218	0.0427	0.1243	0.1024
0.5547	135.0	2025	0.7150	0.1013	0.0214	0.0420	0.1270	0.1104
0.5521	136.0	2040	0.7165	0.1014	0.0220	0.0419	0.1270	0.1104
0.5359	137.0	2055	0.7166	0.1014	0.0223	0.0419	0.1270	0.1104
0.5558	138.0	2070	0.7172	0.1014	0.0223	0.0419	0.1270	0.1104
0.5542	139.0	2085	0.7186	0.1012	0.0207	0.0415	0.1270	0.1104
0.5498	140.0	2100	0.7183	0.1012	0.0214	0.0413	0.1270	0.1104
0.5618	141.0	2115	0.7184	0.0972	0.0222	0.0425	0.1243	0.1024
0.5655	142.0	2130	0.7170	0.1006	0.0224	0.0418	0.1230	0.1124
0.5444	143.0	2145	0.7190	0.0964	0.0226	0.0424	0.1204	0.1044
0.5603	144.0	2160	0.7199	0.1005	0.0221	0.0414	0.1230	0.1124
0.5446	145.0	2175	0.7221	0.0964	0.0228	0.0424	0.1204	0.1044
0.5517	146.0	2190	0.7212	0.0984	0.0201	0.0375	0.1190	0.1124
0.5497	147.0	2205	0.7203	0.0991	0.0196	0.0377	0.1230	0.1104
0.5445	148.0	2220	0.7206	0.1015	0.0223	0.0429	0.1270	0.1104
0.551	149.0	2235	0.7200	0.0996	0.0219	0.0430	0.1243	0.1084
0.536	150.0	2250	0.7222	0.0992	0.0194	0.0388	0.1230	0.1104
0.5453	151.0	2265	0.7214	0.1020	0.0220	0.0429	0.1283	0.1104
0.5451	152.0	2280	0.7231	0.1012	0.0202	0.0387	0.1217	0.1165
0.5426	153.0	2295	0.7215	0.1017	0.0200	0.0387	0.1230	0.1165
0.5487	154.0	2310	0.7205	0.0976	0.0198	0.0387	0.1190	0.1104
0.5495	155.0	2325	0.7205	0.0971	0.0201	0.0387	0.1177	0.1104
0.5579	156.0	2340	0.7225	0.1026	0.0225	0.0429	0.1296	0.1104
0.5335	157.0	2355	0.7218	0.1026	0.0225	0.0429	0.1296	0.1104
0.5564	158.0	2370	0.7219	0.0961	0.0217	0.0430	0.1217	0.1024
0.5398	159.0	2385	0.7228	0.0966	0.0197	0.0388	0.1164	0.1104
0.5368	160.0	2400	0.7240	0.1028	0.0218	0.0430	0.1243	0.1165
0.5441	161.0	2415	0.7254	0.1020	0.0215	0.0430	0.1243	0.1145
0.5361	162.0	2430	0.7222	0.1039	0.0221	0.0429	0.1270	0.1165
0.5607	163.0	2445	0.7204	0.0942	0.0192	0.0388	0.1124	0.1084
0.5423	164.0	2460	0.7202	0.0999	0.0225	0.0429	0.1270	0.1064
0.5318	165.0	2475	0.7176	0.0993	0.0219	0.0430	0.1217	0.1104
0.53	166.0	2490	0.7209	0.1004	0.0221	0.0429	0.1243	0.1104
0.5366	167.0	2505	0.7210	0.0956	0.0201	0.0387	0.1138	0.1104
0.5298	168.0	2520	0.7210	0.0942	0.0201	0.0384	0.1085	0.1124
0.5251	169.0	2535	0.7216	0.0980	0.0220	0.0427	0.1164	0.1124
0.5358	170.0	2550	0.7236	0.0980	0.0220	0.0430	0.1204	0.1084
0.5429	171.0	2565	0.7221	0.1001	0.0218	0.0430	0.1217	0.1124
0.5434	172.0	2580	0.7232	0.0993	0.0217	0.0430	0.1217	0.1104
0.5418	173.0	2595	0.7241	0.1001	0.0219	0.0430	0.1217	0.1124
0.5356	174.0	2610	0.7232	0.1007	0.0225	0.0429	0.1270	0.1084
0.5348	175.0	2625	0.7250	0.1008	0.0230	0.0429	0.1270	0.1084
0.5322	176.0	2640	0.7252	0.1007	0.0223	0.0429	0.1270	0.1084
0.5254	177.0	2655	0.7276	0.0993	0.0225	0.0424	0.1257	0.1064
0.5261	178.0	2670	0.7257	0.1012	0.0223	0.0429	0.1243	0.1124
0.5417	179.0	2685	0.7243	0.1004	0.0222	0.0429	0.1243	0.1104
0.5238	180.0	2700	0.7251	0.0960	0.0197	0.0384	0.1151	0.1104
0.5365	181.0	2715	0.7285	0.0960	0.0198	0.0384	0.1151	0.1104
0.5306	182.0	2730	0.7258	0.0950	0.0200	0.0388	0.1124	0.1104
0.5322	183.0	2745	0.7241	0.0950	0.0200	0.0388	0.1124	0.1104
0.5226	184.0	2760	0.7265	0.0937	0.0204	0.0388	0.1151	0.1044
0.5235	185.0	2775	0.7259	0.0980	0.0224	0.0430	0.1243	0.1044
0.5173	186.0	2790	0.7260	0.0997	0.0256	0.0483	0.1204	0.1104
0.5213	187.0	2805	0.7263	0.0996	0.0252	0.0480	0.1204	0.1104
0.5338	188.0	2820	0.7268	0.0996	0.0248	0.0480	0.1204	0.1104
0.5368	189.0	2835	0.7273	0.0996	0.0252	0.0480	0.1204	0.1104
0.5217	190.0	2850	0.7278	0.0996	0.0248	0.0480	0.1204	0.1104
0.5316	191.0	2865	0.7296	0.0988	0.0249	0.0480	0.1204	0.1084
0.5284	192.0	2880	0.7285	0.0988	0.0249	0.0480	0.1204	0.1084
0.5346	193.0	2895	0.7266	0.0983	0.0252	0.0480	0.1151	0.1124
0.5155	194.0	2910	0.7276	0.0996	0.0252	0.0480	0.1204	0.1104
0.5268	195.0	2925	0.7269	0.0983	0.0252	0.0480	0.1151	0.1124
0.5396	196.0	2940	0.7260	0.0989	0.0252	0.0483	0.1204	0.1084
0.5337	197.0	2955	0.7251	0.0989	0.0252	0.0483	0.1204	0.1084
0.5301	198.0	2970	0.7258	0.0997	0.0252	0.0483	0.1204	0.1104
0.5282	199.0	2985	0.7278	0.0989	0.0252	0.0483	0.1204	0.1084
0.5296	200.0	3000	0.7248	0.1040	0.0277	0.0522	0.1296	0.1104
0.5245	201.0	3015	0.7247	0.1040	0.0277	0.0522	0.1296	0.1104
0.5161	202.0	3030	0.7257	0.1035	0.0277	0.0520	0.1243	0.1145
0.5231	203.0	3045	0.7248	0.1035	0.0277	0.0520	0.1243	0.1145
0.514	204.0	3060	0.7253	0.1016	0.0269	0.0522	0.1217	0.1124
0.5273	205.0	3075	0.7272	0.1035	0.0277	0.0520	0.1243	0.1145
0.5275	206.0	3090	0.7283	0.1040	0.0272	0.0523	0.1296	0.1104
0.5143	207.0	3105	0.7280	0.1056	0.0275	0.0523	0.1296	0.1145
0.5085	208.0	3120	0.7285	0.1040	0.0276	0.0523	0.1296	0.1104
0.5214	209.0	3135	0.7274	0.1039	0.0269	0.0516	0.1217	0.1185
0.5236	210.0	3150	0.7263	0.1057	0.0280	0.0522	0.1296	0.1145
0.5295	211.0	3165	0.7259	0.1070	0.0283	0.0522	0.1270	0.1205
0.5265	212.0	3180	0.7260	0.1053	0.0274	0.0520	0.1270	0.1165
0.5222	213.0	3195	0.7253	0.1037	0.0273	0.0521	0.1270	0.1124
0.5179	214.0	3210	0.7267	0.1049	0.0281	0.0523	0.1296	0.1124
0.518	215.0	3225	0.7283	0.1044	0.0284	0.0523	0.1283	0.1124
0.5128	216.0	3240	0.7293	0.1049	0.0281	0.0523	0.1296	0.1124
0.5206	217.0	3255	0.7271	0.1048	0.0276	0.0520	0.1296	0.1124
0.5142	218.0	3270	0.7278	0.1029	0.0279	0.0516	0.1230	0.1145
0.5103	219.0	3285	0.7292	0.1049	0.0281	0.0523	0.1296	0.1124
0.5054	220.0	3300	0.7283	0.1005	0.0256	0.0485	0.1204	0.1124
0.5239	221.0	3315	0.7281	0.0992	0.0257	0.0482	0.1151	0.1145
0.5151	222.0	3330	0.7287	0.0992	0.0257	0.0482	0.1151	0.1145
0.5182	223.0	3345	0.7281	0.1034	0.0277	0.0516	0.1243	0.1145
0.5192	224.0	3360	0.7279	0.1011	0.0275	0.0522	0.1243	0.1084
0.5147	225.0	3375	0.7287	0.0968	0.0254	0.0483	0.1151	0.1084
0.5041	226.0	3390	0.7288	0.0968	0.0254	0.0483	0.1151	0.1084
0.5166	227.0	3405	0.7303	0.1011	0.0275	0.0522	0.1243	0.1084
0.5186	228.0	3420	0.7292	0.1016	0.0269	0.0522	0.1217	0.1124
0.5146	229.0	3435	0.7288	0.1056	0.0279	0.0518	0.1217	0.1225
0.5082	230.0	3450	0.7297	0.0996	0.0250	0.0478	0.1124	0.1185
0.518	231.0	3465	0.7303	0.0997	0.0251	0.0482	0.1124	0.1185
0.5124	232.0	3480	0.7304	0.0997	0.0247	0.0482	0.1124	0.1185
0.5089	233.0	3495	0.7293	0.1056	0.0276	0.0518	0.1217	0.1225
0.5329	234.0	3510	0.7294	0.1027	0.0259	0.0484	0.1177	0.1205
0.5054	235.0	3525	0.7299	0.1027	0.0262	0.0484	0.1177	0.1205
0.5078	236.0	3540	0.7294	0.1004	0.0261	0.0489	0.1177	0.1145
0.5133	237.0	3555	0.7281	0.0990	0.0254	0.0485	0.1124	0.1165
0.5048	238.0	3570	0.7286	0.1013	0.0209	0.0394	0.1177	0.1205
0.5225	239.0	3585	0.7288	0.0990	0.0254	0.0485	0.1124	0.1165
0.5051	240.0	3600	0.7301	0.0990	0.0254	0.0485	0.1124	0.1165
0.503	241.0	3615	0.7309	0.1014	0.0259	0.0485	0.1124	0.1225
0.5138	242.0	3630	0.7304	0.1014	0.0258	0.0482	0.1124	0.1225
0.5112	243.0	3645	0.7300	0.0990	0.0254	0.0485	0.1124	0.1165
0.5066	244.0	3660	0.7295	0.0990	0.0258	0.0485	0.1124	0.1165
0.5067	245.0	3675	0.7285	0.1057	0.0280	0.0524	0.1217	0.1225
0.521	246.0	3690	0.7285	0.1033	0.0279	0.0524	0.1217	0.1165
0.5115	247.0	3705	0.7292	0.1033	0.0279	0.0524	0.1217	0.1165
0.5144	248.0	3720	0.7287	0.1033	0.0279	0.0524	0.1217	0.1165
0.5168	249.0	3735	0.7291	0.1033	0.0279	0.0524	0.1217	0.1165
0.5215	250.0	3750	0.7296	0.1033	0.0279	0.0524	0.1217	0.1165
0.5023	251.0	3765	0.7296	0.1018	0.0226	0.0432	0.1217	0.1165
0.5081	252.0	3780	0.7299	0.1019	0.0230	0.0432	0.1217	0.1165
0.5109	253.0	3795	0.7298	0.1043	0.0231	0.0432	0.1217	0.1225
0.504	254.0	3810	0.7290	0.1018	0.0226	0.0432	0.1217	0.1165
0.516	255.0	3825	0.7294	0.1018	0.0226	0.0432	0.1217	0.1165
0.5053	256.0	3840	0.7293	0.1043	0.0228	0.0431	0.1217	0.1225
0.502	257.0	3855	0.7288	0.1056	0.0275	0.0518	0.1217	0.1225
0.4989	258.0	3870	0.7285	0.1032	0.0278	0.0520	0.1217	0.1165
0.5106	259.0	3885	0.7284	0.1032	0.0278	0.0520	0.1217	0.1165
0.5152	260.0	3900	0.7297	0.1033	0.0279	0.0524	0.1217	0.1165
0.5061	261.0	3915	0.7300	0.1057	0.0280	0.0524	0.1217	0.1225
0.5055	262.0	3930	0.7299	0.1043	0.0231	0.0432	0.1217	0.1225
0.5052	263.0	3945	0.7297	0.1043	0.0232	0.0435	0.1217	0.1225
0.5182	264.0	3960	0.7298	0.1043	0.0232	0.0435	0.1217	0.1225
0.507	265.0	3975	0.7298	0.1043	0.0232	0.0435	0.1217	0.1225
0.5053	266.0	3990	0.7297	0.1043	0.0232	0.0435	0.1217	0.1225
0.4932	267.0	4005	0.7301	0.1043	0.0232	0.0435	0.1217	0.1225
0.5092	268.0	4020	0.7295	0.1043	0.0232	0.0435	0.1217	0.1225
0.5173	269.0	4035	0.7302	0.1038	0.0237	0.0435	0.1243	0.1185
0.496	270.0	4050	0.7303	0.1043	0.0232	0.0435	0.1217	0.1225
0.5208	271.0	4065	0.7300	0.1043	0.0231	0.0432	0.1217	0.1225
0.507	272.0	4080	0.7301	0.1043	0.0231	0.0432	0.1217	0.1225
0.5113	273.0	4095	0.7299	0.1038	0.0236	0.0432	0.1243	0.1185
0.5044	274.0	4110	0.7297	0.1043	0.0231	0.0432	0.1217	0.1225
0.4971	275.0	4125	0.7298	0.1043	0.0231	0.0432	0.1217	0.1225
0.4936	276.0	4140	0.7295	0.1043	0.0232	0.0431	0.1217	0.1225
0.5252	277.0	4155	0.7293	0.1045	0.0240	0.0444	0.1217	0.1225
0.5102	278.0	4170	0.7291	0.1045	0.0239	0.0444	0.1217	0.1225
0.5105	279.0	4185	0.7288	0.1021	0.0238	0.0445	0.1217	0.1165
0.4974	280.0	4200	0.7288	0.1021	0.0238	0.0445	0.1217	0.1165
0.5002	281.0	4215	0.7289	0.1021	0.0238	0.0445	0.1217	0.1165
0.5031	282.0	4230	0.7292	0.1043	0.0231	0.0431	0.1217	0.1225
0.5055	283.0	4245	0.7295	0.1045	0.0239	0.0444	0.1217	0.1225
0.5153	284.0	4260	0.7297	0.1043	0.0231	0.0431	0.1217	0.1225
0.5121	285.0	4275	0.7296	0.1043	0.0231	0.0431	0.1217	0.1225
0.5056	286.0	4290	0.7295	0.1043	0.0231	0.0431	0.1217	0.1225
0.508	287.0	4305	0.7297	0.1043	0.0231	0.0431	0.1217	0.1225
0.5102	288.0	4320	0.7298	0.1043	0.0231	0.0431	0.1217	0.1225
0.4981	289.0	4335	0.7298	0.1043	0.0231	0.0431	0.1217	0.1225
0.4945	290.0	4350	0.7296	0.1019	0.0230	0.0432	0.1217	0.1165
0.4945	291.0	4365	0.7296	0.1019	0.0230	0.0432	0.1217	0.1165
0.5054	292.0	4380	0.7295	0.1019	0.0230	0.0432	0.1217	0.1165
0.5139	293.0	4395	0.7296	0.1019	0.0230	0.0432	0.1217	0.1165
0.5153	294.0	4410	0.7298	0.1019	0.0230	0.0432	0.1217	0.1165
0.5003	295.0	4425	0.7298	0.1019	0.0230	0.0432	0.1217	0.1165
0.5078	296.0	4440	0.7297	0.1019	0.0230	0.0432	0.1217	0.1165
0.5026	297.0	4455	0.7296	0.1019	0.0230	0.0432	0.1217	0.1165
0.509	298.0	4470	0.7296	0.1019	0.0230	0.0432	0.1217	0.1165
0.5151	299.0	4485	0.7296	0.1019	0.0230	0.0432	0.1217	0.1165
0.5126	300.0	4500	0.7296	0.1019	0.0230	0.0432	0.1217	0.1165

Framework versions

• Transformers 4.31.0
• Pytorch 2.0.1
• Datasets 2.14.4
• Tokenizers 0.13.3