codet5p-770m-py-sanitized-codebleu-1-True-5e-05-0.1-lora-layer_16

This model is a fine-tuned version of Salesforce/codet5p-770m-py on the mbpp dataset. It achieves the following results on the evaluation set:

• Loss: 0.7389
• Codebleu: 0.1205
• Ngram Match Score: 0.0378
• Weighted Ngram Match Score: 0.0627
• Syntax Match Score: 0.1336
• Dataflow Match Score: 0.1426

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 5e-05
• train_batch_size: 8
• eval_batch_size: 8
• seed: 42
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 100
• num_epochs: 300

Training results

Training Loss	Epoch	Step	Validation Loss	Codebleu	Ngram Match Score	Weighted Ngram Match Score	Syntax Match Score	Dataflow Match Score
0.9725	1.0	15	0.9245	0.0072	0.0000	0.0000	0.0079	0.0100
0.9642	2.0	30	0.9230	0.0072	0.0000	0.0000	0.0079	0.0100
0.9704	3.0	45	0.9194	0.0072	0.0000	0.0000	0.0079	0.0100
0.9425	4.0	60	0.9113	0.0080	0.0000	0.0000	0.0079	0.0120
0.9459	5.0	75	0.8949	0.0298	0.0001	0.0149	0.0265	0.0442
0.9355	6.0	90	0.8693	0.0695	0.0046	0.0302	0.0807	0.0843
0.9177	7.0	105	0.8480	0.0998	0.0209	0.0519	0.1270	0.1044
0.8639	8.0	120	0.8348	0.0996	0.0225	0.0530	0.1257	0.1044
0.8514	9.0	135	0.8216	0.1007	0.0173	0.0396	0.1230	0.1145
0.8417	10.0	150	0.8075	0.0932	0.0121	0.0336	0.1111	0.1104
0.8193	11.0	165	0.7927	0.0928	0.0123	0.0345	0.1098	0.1104
0.8126	12.0	180	0.7793	0.0946	0.0126	0.0341	0.1164	0.1084
0.795	13.0	195	0.7711	0.0985	0.0119	0.0338	0.1204	0.1145
0.775	14.0	210	0.7645	0.0961	0.0121	0.0339	0.1204	0.1084
0.7835	15.0	225	0.7597	0.0991	0.0117	0.0326	0.1243	0.1124
0.7843	16.0	240	0.7562	0.1034	0.0127	0.0340	0.1323	0.1145
0.7694	17.0	255	0.7531	0.1019	0.0152	0.0403	0.1283	0.1124
0.7455	18.0	270	0.7499	0.1019	0.0152	0.0403	0.1283	0.1124
0.7556	19.0	285	0.7466	0.1023	0.0193	0.0464	0.1310	0.1084
0.7477	20.0	300	0.7431	0.1102	0.0238	0.0571	0.1389	0.1165
0.7326	21.0	315	0.7397	0.1159	0.0243	0.0573	0.1389	0.1305
0.7276	22.0	330	0.7369	0.1169	0.0253	0.0579	0.1389	0.1325
0.7286	23.0	345	0.7358	0.1148	0.0260	0.0602	0.1389	0.1265
0.7297	24.0	360	0.7340	0.1160	0.0271	0.0608	0.1376	0.1305
0.7418	25.0	375	0.7321	0.1127	0.0268	0.0595	0.1336	0.1265
0.7177	26.0	390	0.7307	0.1099	0.0274	0.0603	0.1283	0.1245
0.705	27.0	405	0.7287	0.1118	0.0285	0.0595	0.1310	0.1265
0.7123	28.0	420	0.7280	0.1105	0.0289	0.0593	0.1296	0.1245
0.6947	29.0	435	0.7272	0.1084	0.0285	0.0600	0.1243	0.1245
0.6975	30.0	450	0.7260	0.1094	0.0282	0.0600	0.1270	0.1245
0.6922	31.0	465	0.7249	0.1084	0.0285	0.0600	0.1243	0.1245
0.6889	32.0	480	0.7244	0.1116	0.0312	0.0599	0.1257	0.1305
0.6871	33.0	495	0.7225	0.1178	0.0313	0.0637	0.1362	0.1345
0.6864	34.0	510	0.7204	0.1162	0.0308	0.0639	0.1362	0.1305
0.6716	35.0	525	0.7185	0.1133	0.0308	0.0641	0.1310	0.1285
0.6956	36.0	540	0.7178	0.1148	0.0276	0.0584	0.1310	0.1345
0.682	37.0	555	0.7173	0.1074	0.0295	0.0600	0.1217	0.1245
0.681	38.0	570	0.7160	0.1161	0.0303	0.0639	0.1362	0.1305
0.6687	39.0	585	0.7142	0.1168	0.0266	0.0559	0.1349	0.1365
0.6784	40.0	600	0.7132	0.1153	0.0298	0.0616	0.1349	0.1305
0.6634	41.0	615	0.7123	0.1161	0.0268	0.0559	0.1349	0.1345
0.6587	42.0	630	0.7117	0.1089	0.0269	0.0559	0.1230	0.1285
0.6613	43.0	645	0.7097	0.1145	0.0307	0.0635	0.1362	0.1265
0.6589	44.0	660	0.7091	0.1142	0.0272	0.0557	0.1323	0.1325
0.65	45.0	675	0.7099	0.1177	0.0276	0.0583	0.1362	0.1365
0.6481	46.0	690	0.7098	0.1162	0.0251	0.0538	0.1362	0.1345
0.6481	47.0	705	0.7084	0.1181	0.0247	0.0514	0.1376	0.1386
0.6529	48.0	720	0.7086	0.1099	0.0229	0.0494	0.1323	0.1245
0.6512	49.0	735	0.7089	0.1181	0.0247	0.0514	0.1376	0.1386
0.6432	50.0	750	0.7098	0.1173	0.0257	0.0538	0.1389	0.1345
0.6639	51.0	765	0.7087	0.1174	0.0257	0.0542	0.1389	0.1345
0.6557	52.0	780	0.7079	0.1189	0.0249	0.0517	0.1376	0.1406
0.6454	53.0	795	0.7070	0.1275	0.0308	0.0630	0.1548	0.1406
0.616	54.0	810	0.7056	0.1201	0.0295	0.0591	0.1415	0.1365
0.6373	55.0	825	0.7058	0.1111	0.0255	0.0528	0.1336	0.1245
0.6424	56.0	840	0.7060	0.1070	0.0248	0.0526	0.1336	0.1145
0.6379	57.0	855	0.7068	0.1126	0.0262	0.0541	0.1389	0.1225
0.629	58.0	870	0.7061	0.1159	0.0270	0.0550	0.1429	0.1265
0.6456	59.0	885	0.7064	0.1216	0.0328	0.0656	0.1429	0.1365
0.6178	60.0	900	0.7073	0.1172	0.0273	0.0544	0.1442	0.1285
0.6374	61.0	915	0.7069	0.1163	0.0290	0.0590	0.1402	0.1285
0.6167	62.0	930	0.7068	0.1176	0.0335	0.0598	0.1402	0.1305
0.6208	63.0	945	0.7065	0.1165	0.0330	0.0596	0.1376	0.1305
0.6037	64.0	960	0.7076	0.1059	0.0274	0.0524	0.1243	0.1205
0.6415	65.0	975	0.7061	0.1113	0.0260	0.0518	0.1323	0.1265
0.6083	66.0	990	0.7082	0.1175	0.0339	0.0634	0.1349	0.1345
0.6279	67.0	1005	0.7080	0.1072	0.0285	0.0532	0.1270	0.1205
0.6166	68.0	1020	0.7093	0.1175	0.0332	0.0638	0.1389	0.1305
0.6048	69.0	1035	0.7070	0.1073	0.0280	0.0528	0.1257	0.1225
0.6248	70.0	1050	0.7060	0.1127	0.0341	0.0630	0.1270	0.1305
0.6106	71.0	1065	0.7067	0.1049	0.0280	0.0523	0.1217	0.1205
0.6089	72.0	1080	0.7070	0.1087	0.0267	0.0521	0.1296	0.1225
0.6153	73.0	1095	0.7082	0.1080	0.0272	0.0526	0.1296	0.1205
0.5973	74.0	1110	0.7083	0.1075	0.0287	0.0533	0.1257	0.1225
0.5898	75.0	1125	0.7106	0.1127	0.0284	0.0529	0.1389	0.1225
0.5987	76.0	1140	0.7104	0.1101	0.0285	0.0536	0.1283	0.1265
0.6044	77.0	1155	0.7103	0.1116	0.0336	0.0634	0.1243	0.1305
0.5943	78.0	1170	0.7096	0.1150	0.0345	0.0642	0.1283	0.1345
0.5945	79.0	1185	0.7108	0.1185	0.0340	0.0629	0.1376	0.1345
0.5915	80.0	1200	0.7081	0.1029	0.0263	0.0523	0.1190	0.1185
0.5972	81.0	1215	0.7114	0.1038	0.0274	0.0523	0.1190	0.1205
0.5947	82.0	1230	0.7084	0.1038	0.0272	0.0522	0.1190	0.1205
0.6097	83.0	1245	0.7091	0.1038	0.0270	0.0524	0.1190	0.1205
0.5972	84.0	1260	0.7084	0.1038	0.0270	0.0524	0.1190	0.1205
0.5781	85.0	1275	0.7092	0.1065	0.0284	0.0522	0.1217	0.1245
0.5791	86.0	1290	0.7120	0.1067	0.0260	0.0482	0.1217	0.1265
0.5771	87.0	1305	0.7123	0.1093	0.0297	0.0545	0.1217	0.1305
0.5864	88.0	1320	0.7096	0.1103	0.0279	0.0528	0.1270	0.1285
0.5859	89.0	1335	0.7079	0.1092	0.0293	0.0538	0.1257	0.1265
0.5855	90.0	1350	0.7096	0.1080	0.0286	0.0537	0.1230	0.1265
0.5831	91.0	1365	0.7107	0.1080	0.0286	0.0537	0.1230	0.1265
0.5792	92.0	1380	0.7109	0.1081	0.0297	0.0536	0.1230	0.1265
0.5629	93.0	1395	0.7128	0.1092	0.0272	0.0501	0.1230	0.1305
0.5659	94.0	1410	0.7101	0.1076	0.0292	0.0538	0.1257	0.1225
0.585	95.0	1425	0.7124	0.1068	0.0280	0.0528	0.1283	0.1185
0.5827	96.0	1440	0.7108	0.1071	0.0278	0.0529	0.1270	0.1205
0.5828	97.0	1455	0.7100	0.1088	0.0287	0.0538	0.1270	0.1245
0.5722	98.0	1470	0.7115	0.1063	0.0263	0.0489	0.1204	0.1265
0.5862	99.0	1485	0.7109	0.1077	0.0288	0.0528	0.1283	0.1205
0.5751	100.0	1500	0.7153	0.1199	0.0365	0.0663	0.1415	0.1325
0.5716	101.0	1515	0.7125	0.1101	0.0294	0.0527	0.1283	0.1265
0.5524	102.0	1530	0.7117	0.1089	0.0278	0.0502	0.1283	0.1245
0.5782	103.0	1545	0.7127	0.1102	0.0314	0.0565	0.1230	0.1305
0.5651	104.0	1560	0.7137	0.1167	0.0311	0.0561	0.1415	0.1285
0.5563	105.0	1575	0.7148	0.1138	0.0309	0.0561	0.1362	0.1265
0.5734	106.0	1590	0.7108	0.1180	0.0322	0.0571	0.1402	0.1325
0.5797	107.0	1605	0.7135	0.1124	0.0322	0.0571	0.1362	0.1225
0.5586	108.0	1620	0.7123	0.1072	0.0321	0.0575	0.1230	0.1225
0.571	109.0	1635	0.7108	0.1047	0.0316	0.0575	0.1230	0.1165
0.5677	110.0	1650	0.7147	0.1085	0.0318	0.0575	0.1243	0.1245
0.5633	111.0	1665	0.7132	0.1114	0.0319	0.0575	0.1296	0.1265
0.5506	112.0	1680	0.7125	0.1103	0.0321	0.0574	0.1270	0.1265
0.5524	113.0	1695	0.7134	0.1096	0.0319	0.0557	0.1217	0.1305
0.5599	114.0	1710	0.7130	0.1096	0.0313	0.0559	0.1257	0.1265
0.5624	115.0	1725	0.7163	0.1096	0.0313	0.0561	0.1257	0.1265
0.5574	116.0	1740	0.7158	0.1096	0.0313	0.0561	0.1257	0.1265
0.5467	117.0	1755	0.7144	0.1089	0.0324	0.0557	0.1217	0.1285
0.5633	118.0	1770	0.7144	0.1080	0.0316	0.0557	0.1217	0.1265
0.5604	119.0	1785	0.7142	0.1104	0.0315	0.0559	0.1257	0.1285
0.5398	120.0	1800	0.7158	0.1080	0.0319	0.0557	0.1217	0.1265
0.5452	121.0	1815	0.7172	0.1081	0.0322	0.0557	0.1217	0.1265
0.5486	122.0	1830	0.7160	0.1138	0.0312	0.0559	0.1362	0.1265
0.5527	123.0	1845	0.7167	0.1122	0.0315	0.0557	0.1323	0.1265
0.5536	124.0	1860	0.7169	0.1132	0.0314	0.0553	0.1349	0.1265
0.5562	125.0	1875	0.7168	0.1136	0.0330	0.0600	0.1402	0.1205
0.5371	126.0	1890	0.7173	0.1173	0.0343	0.0605	0.1389	0.1305
0.5393	127.0	1905	0.7173	0.1122	0.0313	0.0553	0.1323	0.1265
0.5385	128.0	1920	0.7151	0.1100	0.0325	0.0561	0.1243	0.1285
0.5473	129.0	1935	0.7179	0.1121	0.0348	0.0610	0.1257	0.1305
0.5359	130.0	1950	0.7198	0.1070	0.0320	0.0557	0.1190	0.1265
0.5435	131.0	1965	0.7175	0.1121	0.0354	0.0612	0.1257	0.1305
0.548	132.0	1980	0.7209	0.1062	0.0321	0.0561	0.1190	0.1245
0.5513	133.0	1995	0.7197	0.1094	0.0352	0.0610	0.1230	0.1265
0.5321	134.0	2010	0.7176	0.1086	0.0347	0.0610	0.1230	0.1245
0.5357	135.0	2025	0.7195	0.1057	0.0308	0.0552	0.1204	0.1225
0.5413	136.0	2040	0.7190	0.1075	0.0351	0.0607	0.1204	0.1245
0.5247	137.0	2055	0.7192	0.1083	0.0351	0.0607	0.1204	0.1265
0.5451	138.0	2070	0.7217	0.1062	0.0319	0.0555	0.1190	0.1245
0.539	139.0	2085	0.7220	0.1080	0.0342	0.0608	0.1217	0.1245
0.5431	140.0	2100	0.7195	0.1091	0.0347	0.0612	0.1243	0.1245
0.5451	141.0	2115	0.7195	0.1086	0.0353	0.0608	0.1230	0.1245
0.5409	142.0	2130	0.7201	0.1086	0.0353	0.0607	0.1230	0.1245
0.5295	143.0	2145	0.7221	0.1082	0.0317	0.0550	0.1243	0.1245
0.5468	144.0	2160	0.7206	0.1055	0.0316	0.0549	0.1217	0.1205
0.5276	145.0	2175	0.7223	0.1068	0.0317	0.0545	0.1230	0.1225
0.5429	146.0	2190	0.7222	0.1093	0.0290	0.0498	0.1270	0.1265
0.5389	147.0	2205	0.7199	0.1101	0.0322	0.0546	0.1230	0.1305
0.5255	148.0	2220	0.7198	0.1071	0.0314	0.0547	0.1217	0.1245
0.5407	149.0	2235	0.7225	0.1098	0.0320	0.0548	0.1243	0.1285
0.5266	150.0	2250	0.7230	0.1069	0.0298	0.0549	0.1217	0.1245
0.5301	151.0	2265	0.7220	0.1093	0.0296	0.0546	0.1217	0.1305
0.5385	152.0	2280	0.7238	0.1087	0.0312	0.0553	0.1217	0.1285
0.5306	153.0	2295	0.7232	0.1087	0.0312	0.0553	0.1217	0.1285
0.53	154.0	2310	0.7216	0.1093	0.0313	0.0557	0.1190	0.1325
0.541	155.0	2325	0.7216	0.1074	0.0313	0.0553	0.1204	0.1265
0.5486	156.0	2340	0.7222	0.1075	0.0316	0.0557	0.1204	0.1265
0.5258	157.0	2355	0.7224	0.1067	0.0307	0.0547	0.1230	0.1225
0.5443	158.0	2370	0.7223	0.1072	0.0316	0.0557	0.1217	0.1245
0.5202	159.0	2385	0.7269	0.1102	0.0329	0.0550	0.1230	0.1305
0.5215	160.0	2400	0.7284	0.1096	0.0324	0.0552	0.1257	0.1265
0.529	161.0	2415	0.7263	0.1085	0.0319	0.0551	0.1230	0.1265
0.5285	162.0	2430	0.7260	0.1129	0.0337	0.0548	0.1257	0.1345
0.5449	163.0	2445	0.7237	0.1087	0.0316	0.0545	0.1217	0.1285
0.5285	164.0	2460	0.7235	0.1085	0.0317	0.0549	0.1230	0.1265
0.5124	165.0	2475	0.7245	0.1105	0.0349	0.0615	0.1257	0.1265
0.5168	166.0	2490	0.7252	0.1085	0.0322	0.0547	0.1230	0.1265
0.522	167.0	2505	0.7273	0.1084	0.0319	0.0543	0.1230	0.1265
0.5163	168.0	2520	0.7272	0.1062	0.0315	0.0560	0.1230	0.1205
0.5128	169.0	2535	0.7274	0.1068	0.0310	0.0551	0.1230	0.1225
0.5197	170.0	2550	0.7291	0.1068	0.0304	0.0552	0.1230	0.1225
0.5311	171.0	2565	0.7276	0.1110	0.0334	0.0603	0.1257	0.1285
0.5319	172.0	2580	0.7261	0.1115	0.0344	0.0613	0.1243	0.1305
0.5255	173.0	2595	0.7296	0.1085	0.0322	0.0547	0.1230	0.1265
0.5234	174.0	2610	0.7289	0.1089	0.0327	0.0562	0.1257	0.1245
0.5223	175.0	2625	0.7288	0.1115	0.0346	0.0609	0.1283	0.1265
0.526	176.0	2640	0.7304	0.1095	0.0325	0.0562	0.1230	0.1285
0.5159	177.0	2655	0.7296	0.1087	0.0330	0.0562	0.1270	0.1225
0.5097	178.0	2670	0.7303	0.1066	0.0316	0.0547	0.1243	0.1205
0.5191	179.0	2685	0.7309	0.1066	0.0316	0.0547	0.1243	0.1205
0.5066	180.0	2700	0.7338	0.1068	0.0313	0.0547	0.1230	0.1225
0.5235	181.0	2715	0.7331	0.1057	0.0310	0.0547	0.1204	0.1225
0.5172	182.0	2730	0.7315	0.1074	0.0322	0.0543	0.1204	0.1265
0.5171	183.0	2745	0.7306	0.1071	0.0320	0.0546	0.1217	0.1245
0.5089	184.0	2760	0.7300	0.1082	0.0317	0.0547	0.1243	0.1245
0.5072	185.0	2775	0.7291	0.1088	0.0321	0.0546	0.1217	0.1285
0.5037	186.0	2790	0.7311	0.1103	0.0320	0.0546	0.1217	0.1325
0.5085	187.0	2805	0.7312	0.1193	0.0398	0.0672	0.1349	0.1365
0.5088	188.0	2820	0.7336	0.1116	0.0353	0.0619	0.1283	0.1265
0.5171	189.0	2835	0.7333	0.1161	0.0401	0.0672	0.1349	0.1285
0.5089	190.0	2850	0.7342	0.1158	0.0366	0.0617	0.1323	0.1325
0.5219	191.0	2865	0.7320	0.1164	0.0376	0.0615	0.1296	0.1365
0.5046	192.0	2880	0.7319	0.1196	0.0406	0.0670	0.1336	0.1386
0.5118	193.0	2895	0.7330	0.1167	0.0357	0.0615	0.1310	0.1365
0.5046	194.0	2910	0.7329	0.1148	0.0353	0.0616	0.1323	0.1305
0.5097	195.0	2925	0.7325	0.1177	0.0379	0.0671	0.1376	0.1305
0.5157	196.0	2940	0.7344	0.1186	0.0386	0.0669	0.1376	0.1325
0.5105	197.0	2955	0.7344	0.1153	0.0349	0.0617	0.1336	0.1305
0.5008	198.0	2970	0.7332	0.1149	0.0363	0.0615	0.1323	0.1305
0.5109	199.0	2985	0.7309	0.1146	0.0358	0.0617	0.1296	0.1325
0.5053	200.0	3000	0.7296	0.1140	0.0354	0.0619	0.1323	0.1285
0.5061	201.0	3015	0.7315	0.1181	0.0395	0.0669	0.1362	0.1325
0.5021	202.0	3030	0.7308	0.1180	0.0402	0.0669	0.1336	0.1345
0.5068	203.0	3045	0.7302	0.1179	0.0393	0.0669	0.1336	0.1345
0.5009	204.0	3060	0.7315	0.1102	0.0355	0.0603	0.1270	0.1245
0.5206	205.0	3075	0.7340	0.1113	0.0360	0.0598	0.1257	0.1285
0.5114	206.0	3090	0.7329	0.1102	0.0355	0.0603	0.1270	0.1245
0.5025	207.0	3105	0.7322	0.1074	0.0320	0.0543	0.1204	0.1265
0.4968	208.0	3120	0.7333	0.1082	0.0328	0.0539	0.1204	0.1285
0.5063	209.0	3135	0.7324	0.1082	0.0320	0.0541	0.1204	0.1285
0.5119	210.0	3150	0.7321	0.1157	0.0367	0.0610	0.1283	0.1365
0.5081	211.0	3165	0.7320	0.1138	0.0363	0.0613	0.1296	0.1305
0.5075	212.0	3180	0.7334	0.1159	0.0357	0.0613	0.1310	0.1345
0.5032	213.0	3195	0.7345	0.1162	0.0364	0.0610	0.1296	0.1365
0.5051	214.0	3210	0.7349	0.1161	0.0353	0.0612	0.1296	0.1365
0.5	215.0	3225	0.7346	0.1162	0.0364	0.0610	0.1296	0.1365
0.4981	216.0	3240	0.7360	0.1159	0.0361	0.0613	0.1310	0.1345
0.5038	217.0	3255	0.7352	0.1160	0.0364	0.0621	0.1310	0.1345
0.4955	218.0	3270	0.7357	0.1177	0.0372	0.0619	0.1310	0.1386
0.4957	219.0	3285	0.7359	0.1171	0.0366	0.0624	0.1336	0.1345
0.4917	220.0	3300	0.7362	0.1183	0.0369	0.0622	0.1283	0.1426
0.51	221.0	3315	0.7362	0.1213	0.0405	0.0677	0.1336	0.1426
0.5028	222.0	3330	0.7357	0.1227	0.0426	0.0692	0.1362	0.1426
0.5041	223.0	3345	0.7357	0.1211	0.0431	0.0690	0.1362	0.1386
0.5114	224.0	3360	0.7353	0.1198	0.0413	0.0683	0.1336	0.1386
0.4999	225.0	3375	0.7360	0.1199	0.0419	0.0680	0.1336	0.1386
0.4884	226.0	3390	0.7349	0.1199	0.0419	0.0680	0.1336	0.1386
0.4896	227.0	3405	0.7355	0.1197	0.0403	0.0677	0.1336	0.1386
0.5042	228.0	3420	0.7355	0.1193	0.0403	0.0673	0.1349	0.1365
0.4984	229.0	3435	0.7366	0.1194	0.0410	0.0671	0.1349	0.1365
0.4971	230.0	3450	0.7356	0.1193	0.0403	0.0673	0.1349	0.1365
0.5038	231.0	3465	0.7358	0.1190	0.0397	0.0668	0.1362	0.1345
0.4893	232.0	3480	0.7367	0.1189	0.0390	0.0670	0.1362	0.1345
0.4947	233.0	3495	0.7365	0.1189	0.0390	0.0670	0.1362	0.1345
0.5095	234.0	3510	0.7357	0.1192	0.0395	0.0667	0.1349	0.1365
0.484	235.0	3525	0.7369	0.1192	0.0400	0.0665	0.1349	0.1365
0.491	236.0	3540	0.7360	0.1192	0.0393	0.0667	0.1349	0.1365
0.4948	237.0	3555	0.7347	0.1194	0.0410	0.0671	0.1349	0.1365
0.4902	238.0	3570	0.7359	0.1188	0.0405	0.0673	0.1376	0.1325
0.5029	239.0	3585	0.7344	0.1192	0.0400	0.0665	0.1349	0.1365
0.4888	240.0	3600	0.7360	0.1208	0.0428	0.0692	0.1376	0.1365
0.4905	241.0	3615	0.7372	0.1194	0.0407	0.0677	0.1349	0.1365
0.4957	242.0	3630	0.7373	0.1208	0.0421	0.0695	0.1376	0.1365
0.4931	243.0	3645	0.7370	0.1208	0.0421	0.0695	0.1376	0.1365
0.4908	244.0	3660	0.7377	0.1195	0.0404	0.0685	0.1349	0.1365
0.4889	245.0	3675	0.7398	0.1206	0.0396	0.0675	0.1362	0.1386
0.5044	246.0	3690	0.7394	0.1206	0.0396	0.0675	0.1362	0.1386
0.4944	247.0	3705	0.7381	0.1205	0.0386	0.0669	0.1362	0.1386
0.499	248.0	3720	0.7370	0.1205	0.0386	0.0669	0.1362	0.1386
0.5011	249.0	3735	0.7368	0.1205	0.0386	0.0669	0.1362	0.1386
0.5044	250.0	3750	0.7362	0.1205	0.0386	0.0669	0.1362	0.1386
0.4826	251.0	3765	0.7360	0.1188	0.0384	0.0669	0.1362	0.1345
0.4967	252.0	3780	0.7366	0.1188	0.0379	0.0669	0.1362	0.1345
0.4931	253.0	3795	0.7370	0.1201	0.0390	0.0678	0.1389	0.1345
0.4855	254.0	3810	0.7370	0.1193	0.0397	0.0672	0.1349	0.1365
0.4855	255.0	3825	0.7391	0.1200	0.0410	0.0682	0.1402	0.1325
0.4873	256.0	3840	0.7400	0.1193	0.0404	0.0670	0.1349	0.1365
0.4918	257.0	3855	0.7395	0.1193	0.0397	0.0672	0.1349	0.1365
0.4802	258.0	3870	0.7377	0.1193	0.0397	0.0672	0.1349	0.1365
0.4982	259.0	3885	0.7374	0.1193	0.0397	0.0672	0.1349	0.1365
0.5008	260.0	3900	0.7370	0.1189	0.0370	0.0629	0.1336	0.1386
0.493	261.0	3915	0.7366	0.1189	0.0376	0.0627	0.1336	0.1386
0.4907	262.0	3930	0.7378	0.1181	0.0376	0.0625	0.1336	0.1365
0.484	263.0	3945	0.7377	0.1209	0.0389	0.0634	0.1362	0.1406
0.4972	264.0	3960	0.7386	0.1209	0.0389	0.0634	0.1362	0.1406
0.4917	265.0	3975	0.7385	0.1196	0.0372	0.0627	0.1336	0.1406
0.4861	266.0	3990	0.7383	0.1196	0.0372	0.0627	0.1336	0.1406
0.4756	267.0	4005	0.7386	0.1209	0.0399	0.0672	0.1349	0.1406
0.4986	268.0	4020	0.7387	0.1209	0.0399	0.0672	0.1349	0.1406
0.5028	269.0	4035	0.7386	0.1209	0.0399	0.0672	0.1349	0.1406
0.481	270.0	4050	0.7381	0.1209	0.0399	0.0672	0.1349	0.1406
0.5009	271.0	4065	0.7376	0.1180	0.0370	0.0627	0.1336	0.1365
0.4886	272.0	4080	0.7376	0.1189	0.0370	0.0629	0.1336	0.1386
0.4892	273.0	4095	0.7377	0.1189	0.0370	0.0629	0.1336	0.1386
0.4776	274.0	4110	0.7377	0.1189	0.0370	0.0629	0.1336	0.1386
0.4814	275.0	4125	0.7378	0.1189	0.0376	0.0627	0.1336	0.1386
0.4844	276.0	4140	0.7383	0.1181	0.0376	0.0625	0.1336	0.1365
0.5056	277.0	4155	0.7384	0.1197	0.0378	0.0625	0.1336	0.1406
0.4828	278.0	4170	0.7384	0.1197	0.0378	0.0625	0.1336	0.1406
0.4899	279.0	4185	0.7380	0.1189	0.0370	0.0629	0.1336	0.1386
0.4882	280.0	4200	0.7379	0.1189	0.0370	0.0629	0.1336	0.1386
0.4892	281.0	4215	0.7379	0.1189	0.0370	0.0629	0.1336	0.1386
0.4819	282.0	4230	0.7382	0.1189	0.0376	0.0627	0.1336	0.1386
0.4887	283.0	4245	0.7385	0.1189	0.0376	0.0627	0.1336	0.1386
0.5026	284.0	4260	0.7388	0.1189	0.0376	0.0627	0.1336	0.1386
0.4957	285.0	4275	0.7387	0.1205	0.0378	0.0627	0.1336	0.1426
0.4834	286.0	4290	0.7389	0.1205	0.0378	0.0627	0.1336	0.1426
0.4973	287.0	4305	0.7391	0.1205	0.0378	0.0627	0.1336	0.1426
0.4912	288.0	4320	0.7393	0.1189	0.0376	0.0627	0.1336	0.1386
0.4764	289.0	4335	0.7392	0.1205	0.0378	0.0627	0.1336	0.1426
0.4779	290.0	4350	0.7390	0.1205	0.0378	0.0627	0.1336	0.1426
0.4845	291.0	4365	0.7389	0.1205	0.0378	0.0627	0.1336	0.1426
0.4844	292.0	4380	0.7389	0.1205	0.0378	0.0627	0.1336	0.1426
0.4917	293.0	4395	0.7390	0.1205	0.0378	0.0627	0.1336	0.1426
0.4957	294.0	4410	0.7389	0.1205	0.0378	0.0627	0.1336	0.1426
0.4799	295.0	4425	0.7389	0.1205	0.0378	0.0627	0.1336	0.1426
0.4827	296.0	4440	0.7389	0.1205	0.0378	0.0627	0.1336	0.1426
0.4948	297.0	4455	0.7389	0.1205	0.0378	0.0627	0.1336	0.1426
0.4886	298.0	4470	0.7389	0.1205	0.0378	0.0627	0.1336	0.1426
0.4953	299.0	4485	0.7389	0.1205	0.0378	0.0627	0.1336	0.1426
0.4813	300.0	4500	0.7389	0.1205	0.0378	0.0627	0.1336	0.1426

Framework versions

• Transformers 4.31.0
• Pytorch 2.0.1
• Datasets 2.14.4
• Tokenizers 0.13.3