codet5p-770m-py-sanitized-codebleu-1-True-5e-05-0.1-lora-layer_23

This model is a fine-tuned version of Salesforce/codet5p-770m-py on the mbpp dataset. It achieves the following results on the evaluation set:

• Loss: 0.7190
• Codebleu: 0.1227
• Ngram Match Score: 0.0276
• Weighted Ngram Match Score: 0.0500
• Syntax Match Score: 0.1548
• Dataflow Match Score: 0.1325

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 5e-05
• train_batch_size: 8
• eval_batch_size: 8
• seed: 42
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 100
• num_epochs: 300

Training results

Training Loss	Epoch	Step	Validation Loss	Codebleu	Ngram Match Score	Weighted Ngram Match Score	Syntax Match Score	Dataflow Match Score
0.9712	1.0	15	0.9245	0.0072	0.0000	0.0000	0.0079	0.0100
0.9613	2.0	30	0.9231	0.0072	0.0000	0.0000	0.0079	0.0100
0.9713	3.0	45	0.9198	0.0072	0.0000	0.0000	0.0079	0.0100
0.9412	4.0	60	0.9127	0.0080	0.0000	0.0000	0.0079	0.0120
0.9526	5.0	75	0.8978	0.0096	0.0000	0.0002	0.0079	0.0161
0.9399	6.0	90	0.8712	0.0499	0.0013	0.0263	0.0556	0.0622
0.9212	7.0	105	0.8362	0.0818	0.0150	0.0397	0.1045	0.0863
0.8577	8.0	120	0.8078	0.0948	0.0231	0.0500	0.1283	0.0904
0.8366	9.0	135	0.7896	0.1034	0.0230	0.0509	0.1415	0.0984
0.8125	10.0	150	0.7768	0.0988	0.0217	0.0514	0.1362	0.0924
0.7883	11.0	165	0.7656	0.0990	0.0220	0.0513	0.1349	0.0944
0.789	12.0	180	0.7567	0.1040	0.0167	0.0400	0.1415	0.1044
0.778	13.0	195	0.7513	0.1108	0.0152	0.0373	0.1455	0.1185
0.7559	14.0	210	0.7461	0.1135	0.0195	0.0462	0.1468	0.1205
0.775	15.0	225	0.7418	0.1144	0.0224	0.0520	0.1468	0.1205
0.7788	16.0	240	0.7387	0.1199	0.0309	0.0666	0.1508	0.1245
0.7604	17.0	255	0.7364	0.1119	0.0247	0.0546	0.1455	0.1145
0.7461	18.0	270	0.7340	0.1122	0.0254	0.0569	0.1415	0.1185
0.7528	19.0	285	0.7312	0.1176	0.0327	0.0711	0.1455	0.1225
0.7441	20.0	300	0.7290	0.1217	0.0337	0.0708	0.1455	0.1325
0.7305	21.0	315	0.7251	0.1195	0.0332	0.0708	0.1442	0.1285
0.7276	22.0	330	0.7218	0.1137	0.0317	0.0653	0.1336	0.1265
0.7249	23.0	345	0.7205	0.1077	0.0241	0.0499	0.1323	0.1185
0.7264	24.0	360	0.7189	0.1134	0.0278	0.0581	0.1376	0.1245
0.7405	25.0	375	0.7166	0.1067	0.0237	0.0509	0.1296	0.1185
0.7219	26.0	390	0.7144	0.0955	0.0222	0.0466	0.1071	0.1145
0.7072	27.0	405	0.7119	0.0964	0.0229	0.0466	0.1071	0.1165
0.7132	28.0	420	0.7106	0.0935	0.0205	0.0418	0.1098	0.1084
0.7	29.0	435	0.7094	0.1024	0.0221	0.0464	0.1243	0.1145
0.6974	30.0	450	0.7076	0.0928	0.0213	0.0422	0.1058	0.1104
0.6879	31.0	465	0.7065	0.0945	0.0215	0.0421	0.1058	0.1145
0.6905	32.0	480	0.7049	0.0963	0.0270	0.0527	0.1085	0.1124
0.692	33.0	495	0.7028	0.0970	0.0266	0.0521	0.1124	0.1104
0.6941	34.0	510	0.7005	0.0950	0.0202	0.0404	0.1058	0.1165
0.6756	35.0	525	0.7010	0.0987	0.0256	0.0484	0.1138	0.1145
0.6979	36.0	540	0.6982	0.0969	0.0206	0.0404	0.1085	0.1185
0.6803	37.0	555	0.6994	0.1042	0.0267	0.0521	0.1164	0.1245
0.6852	38.0	570	0.6999	0.1029	0.0268	0.0521	0.1190	0.1185
0.6777	39.0	585	0.6989	0.1011	0.0260	0.0506	0.1190	0.1145
0.6795	40.0	600	0.6995	0.1040	0.0259	0.0506	0.1164	0.1245
0.6668	41.0	615	0.6999	0.1024	0.0259	0.0506	0.1164	0.1205
0.662	42.0	630	0.6991	0.1006	0.0261	0.0509	0.1138	0.1185
0.6658	43.0	645	0.7002	0.1000	0.0259	0.0506	0.1085	0.1225
0.6689	44.0	660	0.6984	0.0996	0.0275	0.0523	0.1085	0.1205
0.6595	45.0	675	0.6978	0.0993	0.0262	0.0505	0.1085	0.1205
0.6503	46.0	690	0.6980	0.0938	0.0199	0.0395	0.0992	0.1205
0.6532	47.0	705	0.6961	0.0896	0.0274	0.0515	0.1019	0.1024
0.6496	48.0	720	0.6977	0.0901	0.0271	0.0515	0.0992	0.1064
0.6572	49.0	735	0.6975	0.0922	0.0268	0.0515	0.1005	0.1104
0.6438	50.0	750	0.6978	0.0907	0.0214	0.0420	0.0966	0.1145
0.6643	51.0	765	0.6964	0.0945	0.0216	0.0420	0.1058	0.1145
0.658	52.0	780	0.6952	0.0914	0.0224	0.0425	0.1019	0.1104
0.6524	53.0	795	0.6961	0.0904	0.0227	0.0421	0.0913	0.1185
0.6278	54.0	810	0.6982	0.0898	0.0224	0.0418	0.0939	0.1145
0.6441	55.0	825	0.6971	0.0949	0.0226	0.0422	0.1005	0.1205
0.6367	56.0	840	0.6970	0.0897	0.0220	0.0419	0.0979	0.1104
0.6418	57.0	855	0.6984	0.0877	0.0222	0.0423	0.0926	0.1104
0.6407	58.0	870	0.6984	0.0878	0.0233	0.0428	0.0926	0.1104
0.6476	59.0	885	0.6980	0.0878	0.0233	0.0428	0.0926	0.1104
0.6311	60.0	900	0.6977	0.0935	0.0233	0.0434	0.0966	0.1205
0.6391	61.0	915	0.6995	0.1003	0.0263	0.0478	0.1058	0.1265
0.6241	62.0	930	0.6993	0.1019	0.0263	0.0478	0.1058	0.1305
0.6291	63.0	945	0.6994	0.0911	0.0254	0.0470	0.0992	0.1104
0.6186	64.0	960	0.6994	0.1012	0.0266	0.0480	0.1098	0.1245
0.6425	65.0	975	0.6975	0.1005	0.0264	0.0475	0.1164	0.1165
0.6165	66.0	990	0.6982	0.1078	0.0304	0.0522	0.1124	0.1365
0.6334	67.0	1005	0.6970	0.1034	0.0280	0.0478	0.1111	0.1285
0.6242	68.0	1020	0.6969	0.1094	0.0300	0.0524	0.1164	0.1365
0.6124	69.0	1035	0.6989	0.1058	0.0294	0.0514	0.1058	0.1386
0.6321	70.0	1050	0.6976	0.1016	0.0253	0.0434	0.1124	0.1245
0.6181	71.0	1065	0.6985	0.1018	0.0276	0.0480	0.1111	0.1245
0.6184	72.0	1080	0.6990	0.1019	0.0248	0.0434	0.1111	0.1265
0.6168	73.0	1095	0.6993	0.1077	0.0257	0.0479	0.1204	0.1305
0.6097	74.0	1110	0.6996	0.1099	0.0299	0.0522	0.1138	0.1406
0.6067	75.0	1125	0.6985	0.1106	0.0308	0.0525	0.1151	0.1406
0.6096	76.0	1140	0.6980	0.1073	0.0305	0.0518	0.1151	0.1325
0.6138	77.0	1155	0.6986	0.1110	0.0295	0.0507	0.1230	0.1345
0.6039	78.0	1170	0.6985	0.1070	0.0283	0.0483	0.1177	0.1305
0.6067	79.0	1185	0.6986	0.1006	0.0254	0.0439	0.1138	0.1205
0.5986	80.0	1200	0.6972	0.0992	0.0252	0.0433	0.1164	0.1145
0.6063	81.0	1215	0.7005	0.1096	0.0320	0.0552	0.1177	0.1345
0.6071	82.0	1230	0.6983	0.1008	0.0281	0.0481	0.1085	0.1245
0.6196	83.0	1245	0.6986	0.1062	0.0303	0.0519	0.1164	0.1285
0.6026	84.0	1260	0.6982	0.1088	0.0323	0.0548	0.1177	0.1325
0.5911	85.0	1275	0.6975	0.1136	0.0321	0.0550	0.1177	0.1446
0.5935	86.0	1290	0.6983	0.1014	0.0248	0.0445	0.1138	0.1225
0.5877	87.0	1305	0.6978	0.0991	0.0246	0.0434	0.1164	0.1145
0.6023	88.0	1320	0.6985	0.1135	0.0297	0.0509	0.1230	0.1406
0.6001	89.0	1335	0.6975	0.1059	0.0302	0.0511	0.1098	0.1345
0.6011	90.0	1350	0.6984	0.1021	0.0299	0.0512	0.1124	0.1225
0.5906	91.0	1365	0.6989	0.1021	0.0299	0.0512	0.1124	0.1225
0.5954	92.0	1380	0.7000	0.1104	0.0300	0.0519	0.1190	0.1365
0.5827	93.0	1395	0.6992	0.1083	0.0300	0.0513	0.1098	0.1406
0.5805	94.0	1410	0.7008	0.1021	0.0300	0.0512	0.1124	0.1225
0.5887	95.0	1425	0.7011	0.1021	0.0300	0.0512	0.1124	0.1225
0.5961	96.0	1440	0.7023	0.1055	0.0262	0.0470	0.1230	0.1225
0.596	97.0	1455	0.7018	0.0998	0.0278	0.0487	0.1098	0.1205
0.5865	98.0	1470	0.7023	0.0996	0.0285	0.0486	0.1071	0.1225
0.5994	99.0	1485	0.7025	0.1057	0.0288	0.0512	0.1177	0.1265
0.5916	100.0	1500	0.7030	0.1158	0.0320	0.0557	0.1270	0.1406
0.5871	101.0	1515	0.7017	0.1102	0.0305	0.0518	0.1164	0.1386
0.574	102.0	1530	0.7016	0.1097	0.0303	0.0518	0.1151	0.1386
0.5866	103.0	1545	0.7019	0.1095	0.0275	0.0476	0.1204	0.1345
0.5795	104.0	1560	0.7019	0.1109	0.0322	0.0577	0.1283	0.1265
0.5746	105.0	1575	0.7037	0.1052	0.0300	0.0530	0.1177	0.1245
0.5892	106.0	1590	0.7036	0.1043	0.0257	0.0450	0.1124	0.1305
0.5993	107.0	1605	0.7023	0.1069	0.0320	0.0546	0.1190	0.1265
0.5701	108.0	1620	0.7025	0.1143	0.0313	0.0556	0.1376	0.1265
0.5809	109.0	1635	0.7010	0.1136	0.0325	0.0553	0.1336	0.1285
0.5791	110.0	1650	0.7021	0.1071	0.0255	0.0450	0.1177	0.1325
0.5791	111.0	1665	0.7022	0.1108	0.0276	0.0475	0.1257	0.1325
0.5657	112.0	1680	0.7047	0.1017	0.0252	0.0444	0.1204	0.1165
0.5678	113.0	1695	0.7043	0.1077	0.0270	0.0469	0.1283	0.1225
0.5776	114.0	1710	0.7027	0.1024	0.0250	0.0440	0.1204	0.1185
0.5777	115.0	1725	0.7037	0.1099	0.0269	0.0452	0.1323	0.1245
0.5652	116.0	1740	0.7041	0.1100	0.0272	0.0456	0.1323	0.1245
0.5613	117.0	1755	0.7037	0.1113	0.0288	0.0491	0.1283	0.1305
0.5758	118.0	1770	0.7047	0.1113	0.0288	0.0491	0.1283	0.1305
0.5717	119.0	1785	0.7049	0.1156	0.0337	0.0573	0.1336	0.1325
0.558	120.0	1800	0.7046	0.1164	0.0337	0.0573	0.1336	0.1345
0.5664	121.0	1815	0.7040	0.1189	0.0299	0.0519	0.1323	0.1446
0.566	122.0	1830	0.7034	0.1147	0.0332	0.0571	0.1336	0.1305
0.5714	123.0	1845	0.7048	0.1141	0.0327	0.0568	0.1323	0.1305
0.5686	124.0	1860	0.7051	0.1181	0.0338	0.0580	0.1296	0.1426
0.5729	125.0	1875	0.7052	0.1150	0.0293	0.0511	0.1349	0.1325
0.5522	126.0	1890	0.7057	0.1141	0.0331	0.0570	0.1323	0.1305
0.5548	127.0	1905	0.7059	0.1180	0.0337	0.0578	0.1296	0.1426
0.5631	128.0	1920	0.7056	0.1164	0.0337	0.0573	0.1336	0.1345
0.5565	129.0	1935	0.7064	0.1141	0.0331	0.0570	0.1323	0.1305
0.5597	130.0	1950	0.7058	0.1188	0.0336	0.0578	0.1336	0.1406
0.5554	131.0	1965	0.7069	0.1161	0.0295	0.0510	0.1336	0.1365
0.5748	132.0	1980	0.7072	0.1145	0.0294	0.0511	0.1336	0.1325
0.5651	133.0	1995	0.7056	0.1167	0.0295	0.0517	0.1310	0.1406
0.5516	134.0	2010	0.7055	0.1211	0.0310	0.0523	0.1455	0.1365
0.5516	135.0	2025	0.7058	0.1158	0.0337	0.0573	0.1323	0.1345
0.5561	136.0	2040	0.7059	0.1192	0.0345	0.0584	0.1442	0.1305
0.5425	137.0	2055	0.7059	0.1229	0.0346	0.0585	0.1495	0.1345
0.5627	138.0	2070	0.7062	0.1221	0.0343	0.0585	0.1495	0.1325
0.5594	139.0	2085	0.7065	0.1194	0.0302	0.0521	0.1455	0.1325
0.5583	140.0	2100	0.7065	0.1145	0.0292	0.0511	0.1336	0.1325
0.5633	141.0	2115	0.7061	0.1105	0.0320	0.0569	0.1296	0.1245
0.5664	142.0	2130	0.7083	0.1122	0.0327	0.0567	0.1296	0.1285
0.5473	143.0	2145	0.7098	0.1121	0.0322	0.0566	0.1296	0.1285
0.5641	144.0	2160	0.7097	0.1141	0.0331	0.0570	0.1323	0.1305
0.5437	145.0	2175	0.7091	0.1105	0.0315	0.0566	0.1296	0.1245
0.5588	146.0	2190	0.7080	0.1188	0.0336	0.0578	0.1415	0.1325
0.5593	147.0	2205	0.7088	0.1202	0.0347	0.0582	0.1468	0.1305
0.5444	148.0	2220	0.7080	0.1152	0.0335	0.0571	0.1349	0.1305
0.5561	149.0	2235	0.7083	0.1142	0.0333	0.0571	0.1323	0.1305
0.543	150.0	2250	0.7093	0.1158	0.0336	0.0571	0.1323	0.1345
0.55	151.0	2265	0.7084	0.1121	0.0321	0.0566	0.1296	0.1285
0.5487	152.0	2280	0.7095	0.1187	0.0335	0.0576	0.1415	0.1325
0.5442	153.0	2295	0.7096	0.1171	0.0332	0.0576	0.1415	0.1285
0.553	154.0	2310	0.7095	0.1187	0.0335	0.0576	0.1415	0.1325
0.5582	155.0	2325	0.7094	0.1225	0.0352	0.0585	0.1442	0.1386
0.5641	156.0	2340	0.7096	0.1221	0.0344	0.0578	0.1415	0.1406
0.5378	157.0	2355	0.7099	0.1221	0.0344	0.0578	0.1415	0.1406
0.5519	158.0	2370	0.7102	0.1235	0.0349	0.0582	0.1468	0.1386
0.5441	159.0	2385	0.7106	0.1198	0.0337	0.0576	0.1442	0.1325
0.5397	160.0	2400	0.7120	0.1182	0.0333	0.0578	0.1442	0.1285
0.5462	161.0	2415	0.7125	0.1198	0.0334	0.0576	0.1442	0.1325
0.5416	162.0	2430	0.7107	0.1201	0.0295	0.0515	0.1455	0.1345
0.56	163.0	2445	0.7106	0.1181	0.0329	0.0578	0.1442	0.1285
0.5458	164.0	2460	0.7092	0.1165	0.0328	0.0579	0.1442	0.1245
0.5386	165.0	2475	0.7108	0.1182	0.0334	0.0578	0.1442	0.1285
0.5386	166.0	2490	0.7110	0.1182	0.0330	0.0577	0.1442	0.1285
0.5413	167.0	2505	0.7114	0.1181	0.0329	0.0578	0.1442	0.1285
0.5362	168.0	2520	0.7123	0.1214	0.0339	0.0576	0.1442	0.1365
0.5322	169.0	2535	0.7114	0.1198	0.0334	0.0578	0.1442	0.1325
0.5416	170.0	2550	0.7129	0.1223	0.0293	0.0523	0.1429	0.1426
0.5482	171.0	2565	0.7146	0.1152	0.0308	0.0568	0.1336	0.1325
0.5515	172.0	2580	0.7139	0.1217	0.0296	0.0515	0.1455	0.1386
0.5414	173.0	2595	0.7120	0.1217	0.0296	0.0515	0.1455	0.1386
0.5434	174.0	2610	0.7113	0.1169	0.0288	0.0519	0.1455	0.1265
0.535	175.0	2625	0.7131	0.1218	0.0300	0.0516	0.1455	0.1386
0.5401	176.0	2640	0.7139	0.1218	0.0300	0.0516	0.1455	0.1386
0.5281	177.0	2655	0.7138	0.1239	0.0299	0.0521	0.1508	0.1386
0.5316	178.0	2670	0.7140	0.1239	0.0296	0.0520	0.1508	0.1386
0.5466	179.0	2685	0.7135	0.1239	0.0296	0.0520	0.1508	0.1386
0.5296	180.0	2700	0.7147	0.1216	0.0285	0.0517	0.1495	0.1345
0.5412	181.0	2715	0.7148	0.1233	0.0287	0.0517	0.1495	0.1386
0.5267	182.0	2730	0.7148	0.1217	0.0297	0.0515	0.1455	0.1386
0.5335	183.0	2745	0.7130	0.1201	0.0293	0.0517	0.1455	0.1345
0.5258	184.0	2760	0.7132	0.1186	0.0292	0.0524	0.1455	0.1305
0.5304	185.0	2775	0.7146	0.1178	0.0294	0.0525	0.1455	0.1285
0.5175	186.0	2790	0.7165	0.1178	0.0294	0.0525	0.1455	0.1285
0.5269	187.0	2805	0.7161	0.1178	0.0297	0.0525	0.1455	0.1285
0.5364	188.0	2820	0.7153	0.1223	0.0293	0.0517	0.1468	0.1386
0.543	189.0	2835	0.7150	0.1217	0.0296	0.0515	0.1455	0.1386
0.535	190.0	2850	0.7150	0.1205	0.0302	0.0523	0.1442	0.1365
0.5473	191.0	2865	0.7141	0.1227	0.0324	0.0560	0.1481	0.1365
0.5277	192.0	2880	0.7136	0.1252	0.0357	0.0611	0.1481	0.1406
0.5378	193.0	2895	0.7135	0.1236	0.0357	0.0611	0.1481	0.1365
0.5252	194.0	2910	0.7132	0.1236	0.0357	0.0611	0.1481	0.1365
0.5296	195.0	2925	0.7130	0.1216	0.0320	0.0560	0.1495	0.1325
0.5372	196.0	2940	0.7143	0.1279	0.0356	0.0617	0.1548	0.1406
0.5354	197.0	2955	0.7140	0.1244	0.0316	0.0552	0.1508	0.1386
0.5277	198.0	2970	0.7145	0.1244	0.0318	0.0552	0.1508	0.1386
0.5283	199.0	2985	0.7149	0.1244	0.0318	0.0552	0.1508	0.1386
0.5329	200.0	3000	0.7164	0.1214	0.0273	0.0479	0.1481	0.1365
0.5282	201.0	3015	0.7166	0.1214	0.0273	0.0479	0.1481	0.1365
0.5171	202.0	3030	0.7163	0.1214	0.0271	0.0481	0.1481	0.1365
0.5261	203.0	3045	0.7173	0.1202	0.0279	0.0486	0.1468	0.1345
0.5202	204.0	3060	0.7174	0.1248	0.0303	0.0526	0.1508	0.1406
0.5358	205.0	3075	0.7164	0.1247	0.0312	0.0562	0.1534	0.1365
0.5374	206.0	3090	0.7156	0.1232	0.0323	0.0560	0.1495	0.1365
0.5248	207.0	3105	0.7167	0.1247	0.0312	0.0562	0.1534	0.1365
0.5104	208.0	3120	0.7161	0.1232	0.0324	0.0560	0.1495	0.1365
0.5308	209.0	3135	0.7158	0.1270	0.0327	0.0563	0.1548	0.1406
0.5298	210.0	3150	0.7150	0.1270	0.0327	0.0563	0.1548	0.1406
0.5352	211.0	3165	0.7156	0.1285	0.0316	0.0565	0.1587	0.1406
0.5244	212.0	3180	0.7162	0.1232	0.0324	0.0560	0.1495	0.1365
0.528	213.0	3195	0.7167	0.1245	0.0318	0.0559	0.1508	0.1386
0.5212	214.0	3210	0.7181	0.1247	0.0312	0.0562	0.1534	0.1365
0.5253	215.0	3225	0.7173	0.1247	0.0312	0.0562	0.1534	0.1365
0.5174	216.0	3240	0.7174	0.1232	0.0323	0.0560	0.1495	0.1365
0.5205	217.0	3255	0.7179	0.1232	0.0323	0.0560	0.1495	0.1365
0.5201	218.0	3270	0.7172	0.1245	0.0319	0.0559	0.1508	0.1386
0.509	219.0	3285	0.7169	0.1245	0.0319	0.0559	0.1508	0.1386
0.5119	220.0	3300	0.7168	0.1202	0.0279	0.0486	0.1468	0.1345
0.5233	221.0	3315	0.7161	0.1199	0.0318	0.0549	0.1455	0.1325
0.526	222.0	3330	0.7162	0.1232	0.0323	0.0560	0.1495	0.1365
0.5298	223.0	3345	0.7163	0.1232	0.0324	0.0560	0.1495	0.1365
0.5313	224.0	3360	0.7169	0.1235	0.0332	0.0573	0.1495	0.1365
0.528	225.0	3375	0.7169	0.1232	0.0323	0.0560	0.1495	0.1365
0.5123	226.0	3390	0.7162	0.1254	0.0313	0.0574	0.1548	0.1365
0.5186	227.0	3405	0.7160	0.1262	0.0317	0.0574	0.1548	0.1386
0.5184	228.0	3420	0.7166	0.1247	0.0328	0.0572	0.1508	0.1386
0.5218	229.0	3435	0.7166	0.1247	0.0328	0.0572	0.1508	0.1386
0.517	230.0	3450	0.7170	0.1217	0.0282	0.0499	0.1481	0.1365
0.5259	231.0	3465	0.7166	0.1231	0.0327	0.0571	0.1508	0.1345
0.5201	232.0	3480	0.7179	0.1247	0.0328	0.0572	0.1508	0.1386
0.5169	233.0	3495	0.7181	0.1244	0.0366	0.0632	0.1495	0.1365
0.535	234.0	3510	0.7188	0.1247	0.0327	0.0572	0.1508	0.1386
0.5189	235.0	3525	0.7190	0.1260	0.0308	0.0561	0.1548	0.1386
0.5208	236.0	3540	0.7187	0.1230	0.0266	0.0487	0.1521	0.1365
0.5231	237.0	3555	0.7179	0.1232	0.0273	0.0500	0.1521	0.1365
0.5108	238.0	3570	0.7182	0.1230	0.0266	0.0487	0.1521	0.1365
0.5304	239.0	3585	0.7171	0.1229	0.0313	0.0564	0.1508	0.1345
0.5138	240.0	3600	0.7175	0.1230	0.0266	0.0487	0.1521	0.1365
0.5118	241.0	3615	0.7182	0.1215	0.0275	0.0485	0.1481	0.1365
0.5178	242.0	3630	0.7181	0.1230	0.0266	0.0487	0.1521	0.1365
0.5236	243.0	3645	0.7183	0.1230	0.0266	0.0487	0.1521	0.1365
0.5178	244.0	3660	0.7180	0.1230	0.0266	0.0487	0.1521	0.1365
0.5144	245.0	3675	0.7182	0.1232	0.0273	0.0500	0.1521	0.1365
0.5273	246.0	3690	0.7185	0.1232	0.0272	0.0500	0.1521	0.1365
0.5134	247.0	3705	0.7185	0.1232	0.0273	0.0500	0.1521	0.1365
0.5194	248.0	3720	0.7184	0.1262	0.0317	0.0574	0.1548	0.1386
0.5245	249.0	3735	0.7190	0.1262	0.0316	0.0574	0.1548	0.1386
0.5324	250.0	3750	0.7178	0.1232	0.0273	0.0500	0.1521	0.1365
0.5043	251.0	3765	0.7175	0.1232	0.0273	0.0500	0.1521	0.1365
0.5243	252.0	3780	0.7172	0.1217	0.0283	0.0498	0.1481	0.1365
0.5138	253.0	3795	0.7178	0.1231	0.0327	0.0571	0.1508	0.1345
0.5112	254.0	3810	0.7184	0.1223	0.0319	0.0549	0.1495	0.1345
0.523	255.0	3825	0.7183	0.1253	0.0363	0.0619	0.1521	0.1365
0.5124	256.0	3840	0.7181	0.1213	0.0312	0.0563	0.1508	0.1305
0.509	257.0	3855	0.7178	0.1213	0.0312	0.0563	0.1508	0.1305
0.5033	258.0	3870	0.7183	0.1213	0.0312	0.0563	0.1508	0.1305
0.5199	259.0	3885	0.7187	0.1213	0.0312	0.0563	0.1508	0.1305
0.522	260.0	3900	0.7186	0.1213	0.0312	0.0563	0.1508	0.1305
0.5156	261.0	3915	0.7184	0.1211	0.0304	0.0550	0.1508	0.1305
0.5168	262.0	3930	0.7182	0.1211	0.0304	0.0550	0.1508	0.1305
0.5152	263.0	3945	0.7180	0.1211	0.0304	0.0550	0.1508	0.1305
0.5228	264.0	3960	0.7181	0.1213	0.0312	0.0563	0.1508	0.1305
0.5107	265.0	3975	0.7183	0.1211	0.0304	0.0550	0.1508	0.1305
0.515	266.0	3990	0.7180	0.1213	0.0312	0.0563	0.1508	0.1305
0.499	267.0	4005	0.7179	0.1213	0.0312	0.0563	0.1508	0.1305
0.5235	268.0	4020	0.7176	0.1198	0.0323	0.0561	0.1468	0.1305
0.5265	269.0	4035	0.7178	0.1213	0.0312	0.0563	0.1508	0.1305
0.5118	270.0	4050	0.7177	0.1198	0.0323	0.0561	0.1468	0.1305
0.5232	271.0	4065	0.7178	0.1227	0.0277	0.0500	0.1548	0.1325
0.5164	272.0	4080	0.7178	0.1216	0.0273	0.0500	0.1521	0.1325
0.5227	273.0	4095	0.7177	0.1227	0.0277	0.0500	0.1548	0.1325
0.5122	274.0	4110	0.7177	0.1212	0.0287	0.0498	0.1508	0.1325
0.5091	275.0	4125	0.7178	0.1227	0.0277	0.0500	0.1548	0.1325
0.5139	276.0	4140	0.7178	0.1227	0.0277	0.0500	0.1548	0.1325
0.5303	277.0	4155	0.7179	0.1227	0.0277	0.0500	0.1548	0.1325
0.5191	278.0	4170	0.7181	0.1227	0.0277	0.0500	0.1548	0.1325
0.5161	279.0	4185	0.7182	0.1227	0.0277	0.0500	0.1548	0.1325
0.507	280.0	4200	0.7185	0.1227	0.0277	0.0500	0.1548	0.1325
0.5069	281.0	4215	0.7186	0.1227	0.0277	0.0500	0.1548	0.1325
0.5091	282.0	4230	0.7188	0.1227	0.0277	0.0500	0.1548	0.1325
0.5104	283.0	4245	0.7187	0.1227	0.0277	0.0500	0.1548	0.1325
0.5252	284.0	4260	0.7188	0.1227	0.0277	0.0500	0.1548	0.1325
0.5169	285.0	4275	0.7188	0.1227	0.0277	0.0500	0.1548	0.1325
0.5053	286.0	4290	0.7191	0.1227	0.0276	0.0500	0.1548	0.1325
0.5245	287.0	4305	0.7190	0.1210	0.0278	0.0485	0.1508	0.1325
0.5169	288.0	4320	0.7191	0.1210	0.0278	0.0485	0.1508	0.1325
0.5022	289.0	4335	0.7191	0.1227	0.0276	0.0500	0.1548	0.1325
0.5072	290.0	4350	0.7191	0.1212	0.0286	0.0498	0.1508	0.1325
0.503	291.0	4365	0.7190	0.1212	0.0286	0.0498	0.1508	0.1325
0.5025	292.0	4380	0.7190	0.1227	0.0276	0.0500	0.1548	0.1325
0.5171	293.0	4395	0.7190	0.1227	0.0276	0.0500	0.1548	0.1325
0.5245	294.0	4410	0.7190	0.1227	0.0276	0.0500	0.1548	0.1325
0.5121	295.0	4425	0.7190	0.1227	0.0276	0.0500	0.1548	0.1325
0.5001	296.0	4440	0.7190	0.1227	0.0276	0.0500	0.1548	0.1325
0.5094	297.0	4455	0.7191	0.1227	0.0276	0.0500	0.1548	0.1325
0.5178	298.0	4470	0.7191	0.1227	0.0276	0.0500	0.1548	0.1325
0.5269	299.0	4485	0.7191	0.1227	0.0276	0.0500	0.1548	0.1325
0.5136	300.0	4500	0.7190	0.1227	0.0276	0.0500	0.1548	0.1325

Framework versions

• Transformers 4.31.0
• Pytorch 2.0.1
• Datasets 2.14.4
• Tokenizers 0.13.3