codet5p-770m-py-sanitized-codebleu-1-True-5e-05-0.1-lora-layer_22

This model is a fine-tuned version of Salesforce/codet5p-770m-py on the mbpp dataset. It achieves the following results on the evaluation set:

• Loss: 0.7133
• Codebleu: 0.1063
• Ngram Match Score: 0.0288
• Weighted Ngram Match Score: 0.0547
• Syntax Match Score: 0.1283
• Dataflow Match Score: 0.1165

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 5e-05
• train_batch_size: 8
• eval_batch_size: 8
• seed: 42
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 100
• num_epochs: 300

Training results

Training Loss	Epoch	Step	Validation Loss	Codebleu	Ngram Match Score	Weighted Ngram Match Score	Syntax Match Score	Dataflow Match Score
0.9723	1.0	15	0.9246	0.0072	0.0000	0.0000	0.0079	0.0100
0.9639	2.0	30	0.9235	0.0072	0.0000	0.0000	0.0079	0.0100
0.9718	3.0	45	0.9207	0.0072	0.0000	0.0000	0.0079	0.0100
0.943	4.0	60	0.9145	0.0080	0.0000	0.0000	0.0079	0.0120
0.9594	5.0	75	0.9013	0.0268	0.0000	0.0118	0.0238	0.0402
0.947	6.0	90	0.8787	0.0537	0.0021	0.0263	0.0569	0.0703
0.9326	7.0	105	0.8523	0.0997	0.0235	0.0554	0.1230	0.1064
0.8775	8.0	120	0.8308	0.0914	0.0225	0.0514	0.1177	0.0924
0.8583	9.0	135	0.8139	0.0918	0.0235	0.0514	0.1204	0.0904
0.8364	10.0	150	0.7983	0.0924	0.0239	0.0518	0.1217	0.0904
0.8097	11.0	165	0.7815	0.1045	0.0255	0.0590	0.1336	0.1064
0.8037	12.0	180	0.7648	0.1043	0.0248	0.0582	0.1296	0.1104
0.7838	13.0	195	0.7554	0.1050	0.0236	0.0578	0.1296	0.1124
0.7623	14.0	210	0.7494	0.1062	0.0197	0.0471	0.1243	0.1245
0.7775	15.0	225	0.7450	0.1096	0.0240	0.0536	0.1362	0.1185
0.7815	16.0	240	0.7417	0.1150	0.0260	0.0571	0.1402	0.1265
0.7625	17.0	255	0.7389	0.1144	0.0280	0.0626	0.1429	0.1205
0.7439	18.0	270	0.7360	0.1189	0.0278	0.0627	0.1481	0.1265
0.753	19.0	285	0.7335	0.1189	0.0277	0.0627	0.1481	0.1265
0.7443	20.0	300	0.7313	0.1195	0.0289	0.0624	0.1495	0.1265
0.7295	21.0	315	0.7280	0.1147	0.0252	0.0547	0.1442	0.1225
0.7233	22.0	330	0.7251	0.1123	0.0257	0.0549	0.1402	0.1205
0.728	23.0	345	0.7239	0.1112	0.0269	0.0555	0.1389	0.1185
0.7274	24.0	360	0.7220	0.1112	0.0267	0.0555	0.1389	0.1185
0.7438	25.0	375	0.7197	0.1110	0.0261	0.0543	0.1349	0.1225
0.7234	26.0	390	0.7181	0.1112	0.0267	0.0555	0.1389	0.1185
0.7073	27.0	405	0.7159	0.1112	0.0267	0.0555	0.1389	0.1185
0.7133	28.0	420	0.7150	0.1111	0.0264	0.0552	0.1389	0.1185
0.6991	29.0	435	0.7138	0.1092	0.0258	0.0558	0.1362	0.1165
0.7	30.0	450	0.7123	0.1108	0.0258	0.0557	0.1362	0.1205
0.6925	31.0	465	0.7110	0.1125	0.0261	0.0561	0.1362	0.1245
0.6911	32.0	480	0.7091	0.1042	0.0243	0.0520	0.1190	0.1225
0.6979	33.0	495	0.7071	0.1016	0.0251	0.0520	0.1204	0.1145
0.6958	34.0	510	0.7041	0.1047	0.0259	0.0555	0.1190	0.1225
0.68	35.0	525	0.7027	0.1040	0.0261	0.0557	0.1190	0.1205
0.6991	36.0	540	0.7019	0.1059	0.0253	0.0520	0.1230	0.1225
0.6856	37.0	555	0.7015	0.1078	0.0258	0.0520	0.1257	0.1245
0.6923	38.0	570	0.7009	0.1078	0.0258	0.0520	0.1257	0.1245
0.6849	39.0	585	0.6991	0.1078	0.0258	0.0520	0.1257	0.1245
0.6886	40.0	600	0.6992	0.1141	0.0277	0.0540	0.1362	0.1285
0.6754	41.0	615	0.6983	0.1129	0.0269	0.0537	0.1296	0.1325
0.6688	42.0	630	0.6979	0.1095	0.0243	0.0494	0.1349	0.1205
0.6673	43.0	645	0.6979	0.1118	0.0260	0.0497	0.1402	0.1205
0.672	44.0	660	0.6974	0.1111	0.0261	0.0495	0.1323	0.1265
0.6628	45.0	675	0.6970	0.1102	0.0258	0.0497	0.1362	0.1205
0.662	46.0	690	0.6969	0.1119	0.0265	0.0497	0.1362	0.1245
0.662	47.0	705	0.6951	0.1084	0.0262	0.0497	0.1336	0.1185
0.6605	48.0	720	0.6950	0.1086	0.0260	0.0497	0.1362	0.1165
0.6643	49.0	735	0.6943	0.1086	0.0260	0.0497	0.1362	0.1165
0.6535	50.0	750	0.6946	0.1072	0.0251	0.0496	0.1310	0.1185
0.6739	51.0	765	0.6938	0.1070	0.0250	0.0497	0.1323	0.1165
0.6689	52.0	780	0.6930	0.1064	0.0251	0.0520	0.1323	0.1145
0.6607	53.0	795	0.6922	0.1070	0.0250	0.0497	0.1323	0.1165
0.6325	54.0	810	0.6916	0.1083	0.0257	0.0520	0.1349	0.1165
0.6505	55.0	825	0.6912	0.1057	0.0253	0.0496	0.1310	0.1145
0.6507	56.0	840	0.6917	0.1024	0.0244	0.0496	0.1230	0.1145
0.6494	57.0	855	0.6908	0.1032	0.0246	0.0519	0.1283	0.1104
0.6459	58.0	870	0.6911	0.1037	0.0247	0.0494	0.1243	0.1165
0.6517	59.0	885	0.6907	0.1035	0.0257	0.0517	0.1270	0.1124
0.6366	60.0	900	0.6908	0.1025	0.0254	0.0492	0.1230	0.1145
0.6464	61.0	915	0.6916	0.1041	0.0264	0.0515	0.1243	0.1165
0.6309	62.0	930	0.6917	0.1042	0.0264	0.0492	0.1230	0.1185
0.6336	63.0	945	0.6922	0.1063	0.0267	0.0519	0.1257	0.1205
0.6263	64.0	960	0.6922	0.1044	0.0263	0.0492	0.1257	0.1165
0.649	65.0	975	0.6911	0.0996	0.0266	0.0490	0.1177	0.1124
0.618	66.0	990	0.6918	0.1016	0.0311	0.0558	0.1177	0.1145
0.6354	67.0	1005	0.6913	0.1010	0.0268	0.0515	0.1204	0.1124
0.6284	68.0	1020	0.6913	0.1020	0.0264	0.0519	0.1190	0.1165
0.6167	69.0	1035	0.6907	0.1025	0.0255	0.0475	0.1257	0.1124
0.6409	70.0	1050	0.6895	0.0991	0.0308	0.0560	0.1177	0.1084
0.6246	71.0	1065	0.6903	0.0985	0.0264	0.0515	0.1124	0.1145
0.6197	72.0	1080	0.6909	0.1012	0.0265	0.0513	0.1190	0.1145
0.623	73.0	1095	0.6908	0.1025	0.0268	0.0536	0.1217	0.1145
0.6118	74.0	1110	0.6903	0.1010	0.0325	0.0599	0.1190	0.1104
0.6061	75.0	1125	0.6903	0.1029	0.0326	0.0601	0.1217	0.1124
0.6113	76.0	1140	0.6903	0.1057	0.0334	0.0601	0.1243	0.1165
0.6195	77.0	1155	0.6898	0.1000	0.0279	0.0539	0.1190	0.1104
0.6096	78.0	1170	0.6898	0.1025	0.0277	0.0532	0.1217	0.1145
0.6103	79.0	1185	0.6885	0.0994	0.0322	0.0601	0.1151	0.1104
0.5997	80.0	1200	0.6879	0.0983	0.0279	0.0532	0.1151	0.1104
0.6109	81.0	1215	0.6903	0.0992	0.0269	0.0519	0.1138	0.1145
0.6087	82.0	1230	0.6917	0.1031	0.0276	0.0535	0.1190	0.1185
0.623	83.0	1245	0.6918	0.1037	0.0295	0.0548	0.1217	0.1165
0.6076	84.0	1260	0.6884	0.1049	0.0307	0.0573	0.1217	0.1185
0.5905	85.0	1275	0.6897	0.1045	0.0326	0.0599	0.1217	0.1165
0.5975	86.0	1290	0.6909	0.1039	0.0319	0.0597	0.1243	0.1124
0.5977	87.0	1305	0.6894	0.1060	0.0317	0.0575	0.1243	0.1185
0.6021	88.0	1320	0.6884	0.1033	0.0310	0.0573	0.1177	0.1185
0.6022	89.0	1335	0.6875	0.1033	0.0309	0.0575	0.1177	0.1185
0.6004	90.0	1350	0.6880	0.1054	0.0308	0.0575	0.1270	0.1145
0.5899	91.0	1365	0.6887	0.1026	0.0265	0.0523	0.1243	0.1124
0.5969	92.0	1380	0.6892	0.1039	0.0279	0.0533	0.1270	0.1124
0.5797	93.0	1395	0.6899	0.1033	0.0276	0.0530	0.1257	0.1124
0.5797	94.0	1410	0.6906	0.1029	0.0298	0.0548	0.1177	0.1185
0.593	95.0	1425	0.6906	0.1030	0.0304	0.0553	0.1177	0.1185
0.5958	96.0	1440	0.6903	0.1008	0.0304	0.0569	0.1177	0.1124
0.595	97.0	1455	0.6899	0.1081	0.0313	0.0572	0.1296	0.1185
0.587	98.0	1470	0.6906	0.1090	0.0298	0.0568	0.1323	0.1185
0.5978	99.0	1485	0.6926	0.1014	0.0222	0.0448	0.1243	0.1124
0.5923	100.0	1500	0.6926	0.1031	0.0248	0.0487	0.1270	0.1124
0.5842	101.0	1515	0.6922	0.0979	0.0217	0.0444	0.1177	0.1104
0.5729	102.0	1530	0.6924	0.1052	0.0291	0.0547	0.1296	0.1124
0.5886	103.0	1545	0.6919	0.1000	0.0259	0.0508	0.1204	0.1104
0.5831	104.0	1560	0.6908	0.0999	0.0249	0.0506	0.1204	0.1104
0.5713	105.0	1575	0.6927	0.1043	0.0267	0.0508	0.1270	0.1145
0.5848	106.0	1590	0.6922	0.1048	0.0301	0.0546	0.1243	0.1165
0.5992	107.0	1605	0.6923	0.1048	0.0300	0.0548	0.1243	0.1165
0.5694	108.0	1620	0.6926	0.1080	0.0304	0.0547	0.1283	0.1205
0.5771	109.0	1635	0.6921	0.1002	0.0293	0.0547	0.1151	0.1145
0.5815	110.0	1650	0.6933	0.1087	0.0288	0.0547	0.1283	0.1225
0.5754	111.0	1665	0.6940	0.1014	0.0287	0.0539	0.1124	0.1205
0.5633	112.0	1680	0.6955	0.1029	0.0239	0.0476	0.1230	0.1165
0.5666	113.0	1695	0.6933	0.1026	0.0232	0.0475	0.1243	0.1145
0.581	114.0	1710	0.6925	0.1021	0.0239	0.0472	0.1230	0.1145
0.5781	115.0	1725	0.6937	0.1009	0.0226	0.0471	0.1243	0.1104
0.5691	116.0	1740	0.6933	0.0981	0.0233	0.0473	0.1151	0.1124
0.5604	117.0	1755	0.6936	0.1013	0.0239	0.0472	0.1230	0.1124
0.5778	118.0	1770	0.6935	0.0992	0.0205	0.0431	0.1217	0.1104
0.5726	119.0	1785	0.6937	0.1013	0.0235	0.0468	0.1111	0.1245
0.559	120.0	1800	0.6941	0.1005	0.0240	0.0470	0.1190	0.1145
0.563	121.0	1815	0.6940	0.0981	0.0235	0.0472	0.1151	0.1124
0.5629	122.0	1830	0.6948	0.1012	0.0228	0.0470	0.1230	0.1124
0.5696	123.0	1845	0.6949	0.0902	0.0167	0.0362	0.0979	0.1145
0.5691	124.0	1860	0.6943	0.0941	0.0174	0.0372	0.1071	0.1145
0.5729	125.0	1875	0.6951	0.0985	0.0169	0.0368	0.1124	0.1205
0.5502	126.0	1890	0.6959	0.1045	0.0218	0.0436	0.1243	0.1205
0.5566	127.0	1905	0.6966	0.1027	0.0225	0.0435	0.1177	0.1225
0.5571	128.0	1920	0.6956	0.0978	0.0190	0.0376	0.1098	0.1205
0.5579	129.0	1935	0.6971	0.0938	0.0172	0.0374	0.1085	0.1124
0.5524	130.0	1950	0.6959	0.0926	0.0168	0.0364	0.1058	0.1124
0.5589	131.0	1965	0.6973	0.0937	0.0172	0.0362	0.1085	0.1124
0.5657	132.0	1980	0.6969	0.0981	0.0214	0.0414	0.1111	0.1185
0.5642	133.0	1995	0.6971	0.0980	0.0184	0.0373	0.1085	0.1225
0.5471	134.0	2010	0.6973	0.0980	0.0187	0.0377	0.1085	0.1225
0.5489	135.0	2025	0.6974	0.0977	0.0202	0.0409	0.1085	0.1205
0.555	136.0	2040	0.6979	0.0983	0.0212	0.0406	0.1058	0.1245
0.5379	137.0	2055	0.6961	0.0948	0.0203	0.0410	0.1032	0.1185
0.5591	138.0	2070	0.6975	0.0939	0.0197	0.0406	0.1032	0.1165
0.5587	139.0	2085	0.6989	0.0923	0.0177	0.0370	0.1005	0.1165
0.55	140.0	2100	0.6976	0.0946	0.0195	0.0403	0.1032	0.1185
0.5607	141.0	2115	0.6975	0.0947	0.0197	0.0408	0.1032	0.1185
0.565	142.0	2130	0.6985	0.0976	0.0198	0.0405	0.1085	0.1205
0.5459	143.0	2145	0.6990	0.1029	0.0212	0.0416	0.1190	0.1225
0.5679	144.0	2160	0.6985	0.0968	0.0210	0.0419	0.1098	0.1165
0.5391	145.0	2175	0.6993	0.0983	0.0188	0.0374	0.1071	0.1245
0.5548	146.0	2190	0.6990	0.1005	0.0210	0.0415	0.1111	0.1245
0.5509	147.0	2205	0.6989	0.0988	0.0205	0.0412	0.1111	0.1205
0.5406	148.0	2220	0.6992	0.0928	0.0197	0.0402	0.1045	0.1124
0.5566	149.0	2235	0.6988	0.0952	0.0201	0.0403	0.1124	0.1104
0.5382	150.0	2250	0.6997	0.1026	0.0257	0.0477	0.1177	0.1205
0.5459	151.0	2265	0.6992	0.1036	0.0248	0.0476	0.1204	0.1205
0.5504	152.0	2280	0.6989	0.1018	0.0251	0.0478	0.1177	0.1185
0.5372	153.0	2295	0.6978	0.1013	0.0255	0.0478	0.1204	0.1145
0.5427	154.0	2310	0.6998	0.0995	0.0227	0.0441	0.1177	0.1145
0.5564	155.0	2325	0.7002	0.0968	0.0240	0.0469	0.1098	0.1145
0.5581	156.0	2340	0.7006	0.1006	0.0242	0.0477	0.1190	0.1145
0.5327	157.0	2355	0.7015	0.0993	0.0226	0.0466	0.1164	0.1145
0.5541	158.0	2370	0.7008	0.1011	0.0220	0.0467	0.1230	0.1124
0.54	159.0	2385	0.7018	0.0992	0.0220	0.0466	0.1164	0.1145
0.5358	160.0	2400	0.7023	0.1037	0.0222	0.0464	0.1217	0.1205
0.5455	161.0	2415	0.7015	0.1052	0.0250	0.0474	0.1243	0.1205
0.5383	162.0	2430	0.7016	0.1045	0.0244	0.0468	0.1230	0.1205
0.5608	163.0	2445	0.7007	0.1057	0.0244	0.0480	0.1257	0.1205
0.5428	164.0	2460	0.7005	0.1018	0.0252	0.0482	0.1177	0.1185
0.5279	165.0	2475	0.7026	0.1060	0.0237	0.0468	0.1230	0.1245
0.5366	166.0	2490	0.7024	0.1057	0.0244	0.0480	0.1257	0.1205
0.5409	167.0	2505	0.7018	0.1044	0.0249	0.0478	0.1204	0.1225
0.5272	168.0	2520	0.7032	0.1057	0.0244	0.0480	0.1257	0.1205
0.5294	169.0	2535	0.7029	0.1057	0.0247	0.0478	0.1257	0.1205
0.5366	170.0	2550	0.7028	0.1074	0.0254	0.0482	0.1257	0.1245
0.5429	171.0	2565	0.7045	0.1061	0.0243	0.0471	0.1230	0.1245
0.5457	172.0	2580	0.7049	0.1044	0.0237	0.0467	0.1230	0.1205
0.5401	173.0	2595	0.7032	0.1046	0.0231	0.0464	0.1217	0.1225
0.5364	174.0	2610	0.7028	0.1046	0.0231	0.0464	0.1217	0.1225
0.5336	175.0	2625	0.7051	0.1064	0.0237	0.0470	0.1217	0.1265
0.5272	176.0	2640	0.7053	0.1064	0.0237	0.0470	0.1217	0.1265
0.5278	177.0	2655	0.7060	0.1068	0.0243	0.0481	0.1243	0.1245
0.5275	178.0	2670	0.7062	0.1076	0.0245	0.0479	0.1243	0.1265
0.5375	179.0	2685	0.7052	0.1082	0.0255	0.0482	0.1257	0.1265
0.5182	180.0	2700	0.7061	0.1082	0.0255	0.0482	0.1257	0.1265
0.5327	181.0	2715	0.7064	0.1101	0.0255	0.0482	0.1283	0.1285
0.5243	182.0	2730	0.7073	0.1067	0.0242	0.0479	0.1243	0.1245
0.5304	183.0	2745	0.7067	0.1074	0.0252	0.0482	0.1257	0.1245
0.5192	184.0	2760	0.7061	0.1041	0.0239	0.0478	0.1177	0.1245
0.524	185.0	2775	0.7064	0.1022	0.0225	0.0470	0.1138	0.1245
0.5206	186.0	2790	0.7053	0.1042	0.0246	0.0484	0.1177	0.1245
0.5241	187.0	2805	0.7053	0.1047	0.0246	0.0484	0.1190	0.1245
0.5239	188.0	2820	0.7061	0.1042	0.0246	0.0484	0.1177	0.1245
0.5373	189.0	2835	0.7052	0.1025	0.0241	0.0480	0.1177	0.1205
0.5342	190.0	2850	0.7057	0.1046	0.0243	0.0478	0.1190	0.1245
0.5293	191.0	2865	0.7061	0.1030	0.0241	0.0480	0.1190	0.1205
0.5209	192.0	2880	0.7056	0.1057	0.0244	0.0480	0.1257	0.1205
0.5285	193.0	2895	0.7070	0.0967	0.0228	0.0470	0.1098	0.1145
0.5168	194.0	2910	0.7068	0.1031	0.0245	0.0480	0.1190	0.1205
0.5279	195.0	2925	0.7065	0.1018	0.0233	0.0469	0.1164	0.1205
0.5318	196.0	2940	0.7068	0.1057	0.0244	0.0480	0.1257	0.1205
0.5268	197.0	2955	0.7071	0.1057	0.0244	0.0480	0.1257	0.1205
0.5296	198.0	2970	0.7070	0.1057	0.0244	0.0480	0.1257	0.1205
0.5237	199.0	2985	0.7055	0.1057	0.0244	0.0480	0.1257	0.1205
0.5243	200.0	3000	0.7053	0.1057	0.0247	0.0480	0.1257	0.1205
0.5243	201.0	3015	0.7061	0.1123	0.0287	0.0561	0.1310	0.1285
0.5128	202.0	3030	0.7059	0.1057	0.0247	0.0480	0.1257	0.1205
0.5258	203.0	3045	0.7057	0.1057	0.0247	0.0480	0.1257	0.1205
0.5086	204.0	3060	0.7066	0.1057	0.0244	0.0480	0.1257	0.1205
0.5318	205.0	3075	0.7078	0.1073	0.0246	0.0478	0.1257	0.1245
0.5306	206.0	3090	0.7069	0.1082	0.0253	0.0478	0.1257	0.1265
0.5153	207.0	3105	0.7069	0.1082	0.0253	0.0478	0.1257	0.1265
0.5118	208.0	3120	0.7082	0.1092	0.0249	0.0478	0.1283	0.1265
0.5288	209.0	3135	0.7087	0.1077	0.0250	0.0484	0.1283	0.1225
0.5269	210.0	3150	0.7080	0.1077	0.0250	0.0484	0.1283	0.1225
0.5214	211.0	3165	0.7085	0.1128	0.0286	0.0539	0.1310	0.1305
0.5268	212.0	3180	0.7074	0.1128	0.0286	0.0539	0.1310	0.1305
0.5177	213.0	3195	0.7071	0.1129	0.0291	0.0539	0.1310	0.1305
0.5208	214.0	3210	0.7088	0.1092	0.0249	0.0478	0.1283	0.1265
0.5214	215.0	3225	0.7088	0.1092	0.0249	0.0478	0.1283	0.1265
0.5101	216.0	3240	0.7088	0.1076	0.0247	0.0480	0.1283	0.1225
0.5149	217.0	3255	0.7088	0.1124	0.0286	0.0545	0.1336	0.1265
0.5147	218.0	3270	0.7084	0.1087	0.0251	0.0484	0.1310	0.1225
0.5104	219.0	3285	0.7085	0.1112	0.0286	0.0541	0.1310	0.1265
0.507	220.0	3300	0.7088	0.1112	0.0286	0.0541	0.1310	0.1265
0.5196	221.0	3315	0.7079	0.1113	0.0286	0.0545	0.1310	0.1265
0.5146	222.0	3330	0.7087	0.1113	0.0286	0.0545	0.1310	0.1265
0.526	223.0	3345	0.7088	0.1112	0.0284	0.0541	0.1310	0.1265
0.5174	224.0	3360	0.7096	0.1112	0.0286	0.0541	0.1310	0.1265
0.5099	225.0	3375	0.7100	0.1113	0.0288	0.0541	0.1310	0.1265
0.5119	226.0	3390	0.7090	0.1112	0.0284	0.0541	0.1310	0.1265
0.5188	227.0	3405	0.7098	0.1113	0.0290	0.0541	0.1310	0.1265
0.5122	228.0	3420	0.7114	0.1103	0.0255	0.0481	0.1310	0.1265
0.5174	229.0	3435	0.7117	0.1087	0.0254	0.0480	0.1310	0.1225
0.5141	230.0	3450	0.7116	0.1087	0.0254	0.0480	0.1310	0.1225
0.5148	231.0	3465	0.7105	0.1077	0.0254	0.0480	0.1283	0.1225
0.5164	232.0	3480	0.7100	0.1077	0.0254	0.0480	0.1283	0.1225
0.5117	233.0	3495	0.7088	0.1112	0.0286	0.0541	0.1310	0.1265
0.5252	234.0	3510	0.7088	0.1113	0.0288	0.0541	0.1310	0.1265
0.5049	235.0	3525	0.7099	0.1112	0.0284	0.0541	0.1310	0.1265
0.5158	236.0	3540	0.7099	0.1113	0.0287	0.0548	0.1310	0.1265
0.5111	237.0	3555	0.7098	0.1112	0.0284	0.0541	0.1310	0.1265
0.511	238.0	3570	0.7108	0.1078	0.0291	0.0540	0.1283	0.1205
0.5214	239.0	3585	0.7105	0.1124	0.0292	0.0545	0.1336	0.1265
0.5083	240.0	3600	0.7102	0.1123	0.0286	0.0541	0.1336	0.1265
0.5009	241.0	3615	0.7109	0.1124	0.0287	0.0548	0.1336	0.1265
0.5122	242.0	3630	0.7112	0.1105	0.0256	0.0498	0.1310	0.1265
0.5165	243.0	3645	0.7121	0.1098	0.0289	0.0552	0.1310	0.1225
0.5078	244.0	3660	0.7114	0.1098	0.0289	0.0552	0.1310	0.1225
0.5063	245.0	3675	0.7109	0.1098	0.0291	0.0552	0.1310	0.1225
0.5174	246.0	3690	0.7116	0.1098	0.0291	0.0552	0.1310	0.1225
0.5064	247.0	3705	0.7120	0.1109	0.0291	0.0552	0.1336	0.1225
0.5074	248.0	3720	0.7114	0.1098	0.0293	0.0552	0.1310	0.1225
0.5144	249.0	3735	0.7113	0.1098	0.0291	0.0552	0.1310	0.1225
0.5285	250.0	3750	0.7108	0.1114	0.0289	0.0552	0.1310	0.1265
0.5044	251.0	3765	0.7108	0.1098	0.0289	0.0552	0.1310	0.1225
0.5167	252.0	3780	0.7116	0.1098	0.0291	0.0552	0.1310	0.1225
0.5062	253.0	3795	0.7123	0.1098	0.0291	0.0552	0.1310	0.1225
0.5035	254.0	3810	0.7124	0.1098	0.0295	0.0552	0.1310	0.1225
0.514	255.0	3825	0.7122	0.1097	0.0287	0.0548	0.1310	0.1225
0.5036	256.0	3840	0.7117	0.1098	0.0291	0.0548	0.1310	0.1225
0.5082	257.0	3855	0.7115	0.1098	0.0293	0.0552	0.1310	0.1225
0.4943	258.0	3870	0.7116	0.1098	0.0293	0.0552	0.1310	0.1225
0.5086	259.0	3885	0.7122	0.1098	0.0295	0.0552	0.1310	0.1225
0.5155	260.0	3900	0.7131	0.1098	0.0291	0.0552	0.1310	0.1225
0.5071	261.0	3915	0.7136	0.1109	0.0291	0.0552	0.1336	0.1225
0.5054	262.0	3930	0.7136	0.1109	0.0291	0.0552	0.1336	0.1225
0.4999	263.0	3945	0.7134	0.1108	0.0293	0.0548	0.1336	0.1225
0.5117	264.0	3960	0.7133	0.1108	0.0293	0.0548	0.1336	0.1225
0.5006	265.0	3975	0.7135	0.1109	0.0291	0.0552	0.1336	0.1225
0.5005	266.0	3990	0.7140	0.1064	0.0297	0.0550	0.1283	0.1165
0.4926	267.0	4005	0.7139	0.1109	0.0295	0.0552	0.1336	0.1225
0.5114	268.0	4020	0.7137	0.1109	0.0291	0.0552	0.1336	0.1225
0.5121	269.0	4035	0.7140	0.1109	0.0291	0.0552	0.1336	0.1225
0.5007	270.0	4050	0.7140	0.1063	0.0292	0.0550	0.1283	0.1165
0.5131	271.0	4065	0.7138	0.1063	0.0292	0.0550	0.1283	0.1165
0.505	272.0	4080	0.7135	0.1063	0.0291	0.0550	0.1283	0.1165
0.5176	273.0	4095	0.7133	0.1063	0.0288	0.0547	0.1283	0.1165
0.5019	274.0	4110	0.7133	0.1063	0.0288	0.0547	0.1283	0.1165
0.5019	275.0	4125	0.7130	0.1063	0.0288	0.0547	0.1283	0.1165
0.495	276.0	4140	0.7131	0.1063	0.0288	0.0547	0.1283	0.1165
0.5149	277.0	4155	0.7132	0.1108	0.0287	0.0548	0.1336	0.1225
0.5054	278.0	4170	0.7131	0.1108	0.0287	0.0548	0.1336	0.1225
0.5073	279.0	4185	0.7128	0.1108	0.0287	0.0548	0.1336	0.1225
0.4954	280.0	4200	0.7130	0.1063	0.0288	0.0547	0.1283	0.1165
0.497	281.0	4215	0.7131	0.1063	0.0288	0.0547	0.1283	0.1165
0.4976	282.0	4230	0.7132	0.1063	0.0288	0.0547	0.1283	0.1165
0.5036	283.0	4245	0.7132	0.1063	0.0288	0.0547	0.1283	0.1165
0.5241	284.0	4260	0.7134	0.1063	0.0288	0.0547	0.1283	0.1165
0.5097	285.0	4275	0.7134	0.1063	0.0288	0.0547	0.1283	0.1165
0.4983	286.0	4290	0.7136	0.1063	0.0288	0.0547	0.1283	0.1165
0.5082	287.0	4305	0.7136	0.1063	0.0288	0.0547	0.1283	0.1165
0.5	288.0	4320	0.7135	0.1063	0.0288	0.0547	0.1283	0.1165
0.4921	289.0	4335	0.7134	0.1063	0.0288	0.0547	0.1283	0.1165
0.4957	290.0	4350	0.7136	0.1063	0.0288	0.0547	0.1283	0.1165
0.4984	291.0	4365	0.7135	0.1063	0.0288	0.0547	0.1283	0.1165
0.5	292.0	4380	0.7134	0.1063	0.0288	0.0547	0.1283	0.1165
0.5081	293.0	4395	0.7134	0.1063	0.0288	0.0547	0.1283	0.1165
0.5156	294.0	4410	0.7134	0.1063	0.0288	0.0547	0.1283	0.1165
0.5035	295.0	4425	0.7133	0.1063	0.0288	0.0547	0.1283	0.1165
0.5004	296.0	4440	0.7132	0.1063	0.0288	0.0547	0.1283	0.1165
0.5049	297.0	4455	0.7133	0.1063	0.0288	0.0547	0.1283	0.1165
0.508	298.0	4470	0.7133	0.1063	0.0288	0.0547	0.1283	0.1165
0.5138	299.0	4485	0.7133	0.1063	0.0288	0.0547	0.1283	0.1165
0.5071	300.0	4500	0.7133	0.1063	0.0288	0.0547	0.1283	0.1165

Framework versions

• Transformers 4.31.0
• Pytorch 2.0.1
• Datasets 2.14.4
• Tokenizers 0.13.3