codet5p-770m-py-sanitized-codebleu-1-True-5e-05-0.1-lora-layer_14

This model is a fine-tuned version of Salesforce/codet5p-770m-py on the mbpp dataset. It achieves the following results on the evaluation set:

• Loss: 0.7219
• Codebleu: 0.0896
• Ngram Match Score: 0.0180
• Weighted Ngram Match Score: 0.0290
• Syntax Match Score: 0.0979
• Dataflow Match Score: 0.1145

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 5e-05
• train_batch_size: 8
• eval_batch_size: 8
• seed: 42
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 100
• num_epochs: 300

Training results

Training Loss	Epoch	Step	Validation Loss	Codebleu	Ngram Match Score	Weighted Ngram Match Score	Syntax Match Score	Dataflow Match Score
0.9766	1.0	15	0.9245	0.0072	0.0000	0.0000	0.0079	0.0100
0.9651	2.0	30	0.9231	0.0072	0.0000	0.0000	0.0079	0.0100
0.9767	3.0	45	0.9193	0.0080	0.0000	0.0000	0.0079	0.0120
0.946	4.0	60	0.9101	0.0080	0.0000	0.0000	0.0079	0.0120
0.9529	5.0	75	0.8912	0.0424	0.0009	0.0237	0.0397	0.0602
0.9385	6.0	90	0.8650	0.0851	0.0211	0.0477	0.1071	0.0884
0.9157	7.0	105	0.8455	0.0982	0.0229	0.0520	0.1243	0.1024
0.8619	8.0	120	0.8297	0.0991	0.0239	0.0522	0.1243	0.1044
0.8504	9.0	135	0.8170	0.0988	0.0166	0.0398	0.1243	0.1084
0.842	10.0	150	0.8058	0.1035	0.0201	0.0487	0.1230	0.1185
0.8296	11.0	165	0.7946	0.1083	0.0169	0.0448	0.1310	0.1245
0.8259	12.0	180	0.7852	0.1090	0.0161	0.0443	0.1349	0.1225
0.8021	13.0	195	0.7772	0.1078	0.0154	0.0430	0.1283	0.1265
0.7806	14.0	210	0.7685	0.1054	0.0124	0.0353	0.1270	0.1245
0.7869	15.0	225	0.7607	0.1050	0.0151	0.0401	0.1283	0.1205
0.7882	16.0	240	0.7571	0.1017	0.0156	0.0407	0.1177	0.1225
0.7703	17.0	255	0.7536	0.1043	0.0153	0.0406	0.1204	0.1265
0.7443	18.0	270	0.7504	0.1099	0.0216	0.0502	0.1243	0.1325
0.7542	19.0	285	0.7455	0.1095	0.0231	0.0501	0.1270	0.1285
0.7442	20.0	300	0.7427	0.1062	0.0238	0.0503	0.1204	0.1265
0.7291	21.0	315	0.7409	0.1112	0.0241	0.0503	0.1270	0.1325
0.7192	22.0	330	0.7384	0.1094	0.0248	0.0501	0.1243	0.1305
0.7218	23.0	345	0.7369	0.1079	0.0251	0.0501	0.1243	0.1265
0.7226	24.0	360	0.7347	0.1132	0.0254	0.0524	0.1349	0.1285
0.7394	25.0	375	0.7324	0.1125	0.0274	0.0547	0.1283	0.1325
0.7152	26.0	390	0.7322	0.1203	0.0309	0.0598	0.1415	0.1365
0.6971	27.0	405	0.7284	0.1173	0.0286	0.0587	0.1349	0.1365
0.6992	28.0	420	0.7283	0.1205	0.0336	0.0667	0.1336	0.1426
0.6838	29.0	435	0.7282	0.1115	0.0234	0.0487	0.1323	0.1285
0.6855	30.0	450	0.7268	0.1115	0.0234	0.0487	0.1323	0.1285
0.6801	31.0	465	0.7249	0.1091	0.0241	0.0503	0.1296	0.1245
0.6831	32.0	480	0.7235	0.1113	0.0246	0.0505	0.1310	0.1285
0.6689	33.0	495	0.7235	0.1170	0.0306	0.0611	0.1310	0.1386
0.6794	34.0	510	0.7210	0.1049	0.0205	0.0408	0.1204	0.1265
0.6596	35.0	525	0.7204	0.1169	0.0272	0.0537	0.1336	0.1386
0.6803	36.0	540	0.7210	0.1168	0.0286	0.0537	0.1310	0.1406
0.6755	37.0	555	0.7209	0.1158	0.0286	0.0535	0.1283	0.1406
0.6706	38.0	570	0.7217	0.1099	0.0229	0.0433	0.1257	0.1325
0.6608	39.0	585	0.7179	0.1207	0.0323	0.0616	0.1336	0.1446
0.6726	40.0	600	0.7169	0.1159	0.0288	0.0543	0.1283	0.1406
0.6574	41.0	615	0.7177	0.1120	0.0280	0.0538	0.1270	0.1325
0.6504	42.0	630	0.7182	0.1007	0.0206	0.0412	0.1177	0.1185
0.6542	43.0	645	0.7177	0.1138	0.0281	0.0530	0.1257	0.1386
0.6568	44.0	660	0.7173	0.1139	0.0288	0.0530	0.1257	0.1386
0.6476	45.0	675	0.7175	0.1128	0.0289	0.0530	0.1230	0.1386
0.6425	46.0	690	0.7175	0.1247	0.0380	0.0668	0.1349	0.1506
0.6495	47.0	705	0.7155	0.1163	0.0375	0.0662	0.1243	0.1406
0.6456	48.0	720	0.7156	0.1167	0.0370	0.0674	0.1270	0.1386
0.652	49.0	735	0.7130	0.1197	0.0378	0.0672	0.1283	0.1446
0.6336	50.0	750	0.7127	0.1147	0.0336	0.0595	0.1230	0.1406
0.6526	51.0	765	0.7130	0.1157	0.0320	0.0580	0.1283	0.1386
0.6508	52.0	780	0.7123	0.1165	0.0315	0.0580	0.1283	0.1406
0.6439	53.0	795	0.7122	0.1197	0.0334	0.0590	0.1296	0.1466
0.6124	54.0	810	0.7121	0.1109	0.0333	0.0587	0.1217	0.1325
0.6322	55.0	825	0.7118	0.1137	0.0325	0.0586	0.1270	0.1345
0.6357	56.0	840	0.7115	0.1175	0.0330	0.0587	0.1283	0.1426
0.6368	57.0	855	0.7107	0.1172	0.0316	0.0572	0.1283	0.1426
0.6261	58.0	870	0.7109	0.1104	0.0318	0.0581	0.1190	0.1345
0.6399	59.0	885	0.7097	0.1175	0.0328	0.0587	0.1283	0.1426
0.6219	60.0	900	0.7102	0.1159	0.0338	0.0599	0.1257	0.1406
0.6292	61.0	915	0.7118	0.1127	0.0316	0.0547	0.1217	0.1386
0.6201	62.0	930	0.7097	0.1237	0.0357	0.0614	0.1323	0.1526
0.6137	63.0	945	0.7083	0.1132	0.0272	0.0481	0.1257	0.1386
0.609	64.0	960	0.7087	0.1233	0.0352	0.0609	0.1336	0.1506
0.6422	65.0	975	0.7070	0.1172	0.0331	0.0579	0.1257	0.1446
0.6051	66.0	990	0.7078	0.1193	0.0340	0.0596	0.1283	0.1466
0.6275	67.0	1005	0.7072	0.1203	0.0351	0.0600	0.1283	0.1486
0.6189	68.0	1020	0.7075	0.1082	0.0273	0.0483	0.1230	0.1285
0.5992	69.0	1035	0.7081	0.1118	0.0284	0.0483	0.1257	0.1345
0.6212	70.0	1050	0.7081	0.1171	0.0371	0.0612	0.1257	0.1426
0.6126	71.0	1065	0.7077	0.1164	0.0362	0.0607	0.1243	0.1426
0.6159	72.0	1080	0.7069	0.1111	0.0271	0.0481	0.1243	0.1345
0.6138	73.0	1095	0.7070	0.1111	0.0270	0.0481	0.1243	0.1345
0.6016	74.0	1110	0.7053	0.1120	0.0284	0.0483	0.1243	0.1365
0.589	75.0	1125	0.7071	0.1137	0.0296	0.0504	0.1257	0.1386
0.6046	76.0	1140	0.7056	0.1126	0.0281	0.0488	0.1257	0.1365
0.6044	77.0	1155	0.7052	0.1106	0.0277	0.0484	0.1230	0.1345
0.5982	78.0	1170	0.7066	0.1137	0.0296	0.0504	0.1257	0.1386
0.6027	79.0	1185	0.7039	0.1106	0.0272	0.0485	0.1230	0.1345
0.5954	80.0	1200	0.7030	0.1103	0.0273	0.0486	0.1243	0.1325
0.5962	81.0	1215	0.7052	0.1101	0.0275	0.0489	0.1217	0.1345
0.5951	82.0	1230	0.7049	0.1112	0.0275	0.0489	0.1243	0.1345
0.6174	83.0	1245	0.7043	0.1112	0.0275	0.0489	0.1243	0.1345
0.5956	84.0	1260	0.7031	0.1084	0.0269	0.0480	0.1177	0.1345
0.5761	85.0	1275	0.7045	0.1156	0.0289	0.0489	0.1310	0.1386
0.5822	86.0	1290	0.7070	0.1125	0.0294	0.0495	0.1270	0.1345
0.5775	87.0	1305	0.7059	0.1124	0.0288	0.0492	0.1270	0.1345
0.5847	88.0	1320	0.7044	0.1107	0.0282	0.0491	0.1270	0.1305
0.5842	89.0	1335	0.7038	0.1117	0.0276	0.0484	0.1257	0.1345
0.594	90.0	1350	0.7040	0.1156	0.0285	0.0492	0.1310	0.1386
0.5825	91.0	1365	0.7019	0.1155	0.0306	0.0550	0.1349	0.1325
0.5749	92.0	1380	0.7043	0.1146	0.0289	0.0496	0.1323	0.1345
0.5671	93.0	1395	0.7058	0.1113	0.0300	0.0504	0.1296	0.1285
0.5702	94.0	1410	0.7041	0.1140	0.0283	0.0494	0.1310	0.1345
0.5833	95.0	1425	0.7034	0.1149	0.0272	0.0488	0.1336	0.1345
0.5827	96.0	1440	0.7042	0.1116	0.0283	0.0492	0.1270	0.1325
0.5763	97.0	1455	0.7044	0.1121	0.0303	0.0504	0.1296	0.1305
0.5633	98.0	1470	0.7055	0.1131	0.0305	0.0521	0.1296	0.1325
0.5853	99.0	1485	0.7043	0.1156	0.0326	0.0567	0.1362	0.1305
0.5745	100.0	1500	0.7061	0.1108	0.0305	0.0529	0.1257	0.1305
0.5686	101.0	1515	0.7043	0.1139	0.0301	0.0526	0.1336	0.1305
0.5645	102.0	1530	0.7029	0.1117	0.0324	0.0567	0.1243	0.1325
0.5675	103.0	1545	0.7039	0.1075	0.0301	0.0516	0.1177	0.1305
0.5643	104.0	1560	0.7053	0.1068	0.0251	0.0447	0.1190	0.1305
0.5599	105.0	1575	0.7075	0.1167	0.0291	0.0498	0.1336	0.1386
0.5702	106.0	1590	0.7044	0.1105	0.0209	0.0359	0.1296	0.1325
0.5794	107.0	1605	0.7040	0.1202	0.0314	0.0528	0.1389	0.1406
0.5481	108.0	1620	0.7049	0.1094	0.0213	0.0371	0.1283	0.1305
0.562	109.0	1635	0.7045	0.1015	0.0202	0.0367	0.1190	0.1205
0.5689	110.0	1650	0.7060	0.1075	0.0248	0.0441	0.1270	0.1245
0.5651	111.0	1665	0.7046	0.1093	0.0249	0.0441	0.1336	0.1225
0.5529	112.0	1680	0.7062	0.1112	0.0246	0.0441	0.1362	0.1245
0.551	113.0	1695	0.7048	0.1102	0.0253	0.0446	0.1336	0.1245
0.5548	114.0	1710	0.7046	0.1109	0.0259	0.0450	0.1349	0.1245
0.5619	115.0	1725	0.7046	0.1088	0.0254	0.0437	0.1283	0.1265
0.5585	116.0	1740	0.7067	0.1118	0.0301	0.0531	0.1283	0.1305
0.5496	117.0	1755	0.7060	0.1037	0.0248	0.0437	0.1217	0.1205
0.563	118.0	1770	0.7053	0.1039	0.0203	0.0363	0.1190	0.1265
0.5605	119.0	1785	0.7054	0.1118	0.0254	0.0441	0.1376	0.1245
0.5488	120.0	1800	0.7054	0.1130	0.0292	0.0523	0.1336	0.1285
0.5476	121.0	1815	0.7055	0.1151	0.0259	0.0445	0.1376	0.1325
0.5573	122.0	1830	0.7038	0.1190	0.0300	0.0529	0.1442	0.1325
0.5606	123.0	1845	0.7052	0.1040	0.0248	0.0440	0.1243	0.1185
0.5477	124.0	1860	0.7054	0.1058	0.0300	0.0512	0.1296	0.1145
0.5524	125.0	1875	0.7070	0.1011	0.0304	0.0517	0.1177	0.1145
0.5385	126.0	1890	0.7065	0.1053	0.0282	0.0508	0.1270	0.1165
0.5528	127.0	1905	0.7062	0.1105	0.0345	0.0595	0.1283	0.1245
0.541	128.0	1920	0.7065	0.1059	0.0304	0.0520	0.1257	0.1185
0.5465	129.0	1935	0.7071	0.1000	0.0265	0.0452	0.1177	0.1145
0.5375	130.0	1950	0.7079	0.0991	0.0259	0.0447	0.1177	0.1124
0.5368	131.0	1965	0.7079	0.0973	0.0205	0.0366	0.1124	0.1165
0.5474	132.0	1980	0.7128	0.0977	0.0254	0.0443	0.1124	0.1145
0.5548	133.0	1995	0.7099	0.0925	0.0206	0.0373	0.1085	0.1084
0.5346	134.0	2010	0.7071	0.1001	0.0210	0.0375	0.1151	0.1205
0.541	135.0	2025	0.7081	0.0994	0.0255	0.0448	0.1164	0.1145
0.539	136.0	2040	0.7087	0.0991	0.0217	0.0379	0.1124	0.1205
0.5208	137.0	2055	0.7086	0.0944	0.0216	0.0387	0.1085	0.1124
0.5459	138.0	2070	0.7094	0.0940	0.0256	0.0444	0.1071	0.1104
0.5368	139.0	2085	0.7101	0.1074	0.0305	0.0528	0.1190	0.1285
0.5354	140.0	2100	0.7091	0.1068	0.0256	0.0447	0.1270	0.1225
0.5417	141.0	2115	0.7091	0.0973	0.0204	0.0373	0.1124	0.1165
0.5523	142.0	2130	0.7100	0.1075	0.0208	0.0373	0.1257	0.1285
0.5296	143.0	2145	0.7093	0.0971	0.0210	0.0373	0.1098	0.1185
0.5482	144.0	2160	0.7105	0.1068	0.0216	0.0374	0.1257	0.1265
0.5303	145.0	2175	0.7115	0.1085	0.0242	0.0444	0.1257	0.1285
0.5475	146.0	2190	0.7092	0.1036	0.0236	0.0440	0.1177	0.1245
0.5336	147.0	2205	0.7090	0.1030	0.0247	0.0449	0.1217	0.1185
0.5242	148.0	2220	0.7120	0.1098	0.0317	0.0545	0.1243	0.1285
0.537	149.0	2235	0.7108	0.1125	0.0325	0.0548	0.1310	0.1285
0.5319	150.0	2250	0.7087	0.0969	0.0250	0.0449	0.1124	0.1124
0.5174	151.0	2265	0.7083	0.1062	0.0292	0.0512	0.1270	0.1185
0.5383	152.0	2280	0.7118	0.1052	0.0280	0.0503	0.1270	0.1165
0.5231	153.0	2295	0.7133	0.1001	0.0277	0.0503	0.1204	0.1104
0.5265	154.0	2310	0.7137	0.1043	0.0263	0.0485	0.1217	0.1205
0.5376	155.0	2325	0.7108	0.1048	0.0259	0.0456	0.1257	0.1185
0.5427	156.0	2340	0.7092	0.1004	0.0240	0.0438	0.1217	0.1124
0.5303	157.0	2355	0.7083	0.1045	0.0288	0.0506	0.1270	0.1145
0.5377	158.0	2370	0.7095	0.1045	0.0288	0.0506	0.1270	0.1145
0.5215	159.0	2385	0.7120	0.1088	0.0293	0.0495	0.1257	0.1265
0.5181	160.0	2400	0.7125	0.1088	0.0293	0.0497	0.1257	0.1265
0.5227	161.0	2415	0.7115	0.0951	0.0257	0.0438	0.1058	0.1145
0.5344	162.0	2430	0.7112	0.0985	0.0257	0.0440	0.1085	0.1205
0.5402	163.0	2445	0.7119	0.1003	0.0248	0.0441	0.1151	0.1185
0.528	164.0	2460	0.7092	0.1018	0.0255	0.0445	0.1164	0.1205
0.5087	165.0	2475	0.7122	0.0985	0.0254	0.0442	0.1085	0.1205
0.5156	166.0	2490	0.7144	0.1030	0.0273	0.0450	0.1190	0.1205
0.5235	167.0	2505	0.7147	0.1042	0.0267	0.0431	0.1124	0.1305
0.5164	168.0	2520	0.7134	0.0951	0.0236	0.0434	0.1085	0.1124
0.5063	169.0	2535	0.7130	0.0896	0.0252	0.0426	0.0926	0.1145
0.5167	170.0	2550	0.7141	0.1005	0.0289	0.0471	0.1058	0.1265
0.5263	171.0	2565	0.7140	0.0908	0.0258	0.0434	0.0952	0.1145
0.536	172.0	2580	0.7126	0.0908	0.0258	0.0434	0.0952	0.1145
0.5208	173.0	2595	0.7119	0.0960	0.0150	0.0261	0.1071	0.1225
0.5201	174.0	2610	0.7146	0.0984	0.0247	0.0433	0.1085	0.1205
0.5191	175.0	2625	0.7150	0.0956	0.0242	0.0424	0.1019	0.1205
0.5201	176.0	2640	0.7145	0.0950	0.0236	0.0427	0.1045	0.1165
0.504	177.0	2655	0.7149	0.0834	0.0200	0.0370	0.0939	0.1004
0.5115	178.0	2670	0.7151	0.0956	0.0267	0.0455	0.1085	0.1124
0.5247	179.0	2685	0.7150	0.0943	0.0258	0.0438	0.1019	0.1165
0.5044	180.0	2700	0.7159	0.0925	0.0216	0.0360	0.1045	0.1124
0.518	181.0	2715	0.7152	0.0900	0.0202	0.0363	0.1045	0.1064
0.5167	182.0	2730	0.7153	0.0924	0.0204	0.0359	0.1085	0.1084
0.5186	183.0	2745	0.7142	0.0941	0.0150	0.0258	0.1045	0.1205
0.5128	184.0	2760	0.7148	0.0930	0.0215	0.0357	0.1058	0.1124
0.5062	185.0	2775	0.7147	0.0923	0.0154	0.0262	0.1019	0.1185
0.5053	186.0	2790	0.7152	0.0939	0.0220	0.0360	0.1058	0.1145
0.5006	187.0	2805	0.7138	0.0939	0.0154	0.0262	0.1019	0.1225
0.5087	188.0	2820	0.7159	0.0936	0.0219	0.0360	0.1032	0.1165
0.5235	189.0	2835	0.7171	0.0948	0.0224	0.0362	0.1058	0.1165
0.512	190.0	2850	0.7160	0.0950	0.0223	0.0360	0.1085	0.1145
0.5208	191.0	2865	0.7158	0.0957	0.0215	0.0361	0.1085	0.1165
0.5054	192.0	2880	0.7166	0.0959	0.0227	0.0362	0.1085	0.1165
0.509	193.0	2895	0.7175	0.0948	0.0232	0.0381	0.1071	0.1145
0.5028	194.0	2910	0.7175	0.0998	0.0231	0.0378	0.1138	0.1205
0.5148	195.0	2925	0.7144	0.0989	0.0218	0.0359	0.1124	0.1205
0.5085	196.0	2940	0.7149	0.0913	0.0157	0.0263	0.0992	0.1185
0.5109	197.0	2955	0.7150	0.0947	0.0222	0.0361	0.1058	0.1165
0.5024	198.0	2970	0.7146	0.0938	0.0212	0.0358	0.1058	0.1145
0.5023	199.0	2985	0.7169	0.0828	0.0220	0.0363	0.0860	0.1064
0.5062	200.0	3000	0.7173	0.0914	0.0229	0.0363	0.0992	0.1145
0.5045	201.0	3015	0.7197	0.0911	0.0228	0.0363	0.0966	0.1165
0.4954	202.0	3030	0.7193	0.1003	0.0231	0.0375	0.1151	0.1205
0.5046	203.0	3045	0.7179	0.0953	0.0226	0.0360	0.1032	0.1205
0.5003	204.0	3060	0.7173	0.0995	0.0223	0.0360	0.1098	0.1245
0.5151	205.0	3075	0.7170	0.0945	0.0221	0.0359	0.1032	0.1185
0.5077	206.0	3090	0.7157	0.0937	0.0157	0.0261	0.0992	0.1245
0.4998	207.0	3105	0.7170	0.0918	0.0159	0.0261	0.0966	0.1225
0.4918	208.0	3120	0.7172	0.1012	0.0160	0.0265	0.1098	0.1325
0.4954	209.0	3135	0.7185	0.1006	0.0160	0.0264	0.1085	0.1325
0.513	210.0	3150	0.7188	0.0952	0.0169	0.0269	0.1005	0.1265
0.5022	211.0	3165	0.7165	0.0910	0.0155	0.0262	0.0966	0.1205
0.5106	212.0	3180	0.7172	0.0927	0.0162	0.0264	0.1005	0.1205
0.5043	213.0	3195	0.7184	0.0958	0.0170	0.0277	0.1058	0.1225
0.4973	214.0	3210	0.7186	0.0900	0.0164	0.0264	0.0939	0.1205
0.491	215.0	3225	0.7193	0.0878	0.0170	0.0277	0.0939	0.1145
0.4994	216.0	3240	0.7199	0.0859	0.0169	0.0277	0.0913	0.1124
0.5014	217.0	3255	0.7202	0.0918	0.0229	0.0376	0.1019	0.1124
0.4933	218.0	3270	0.7200	0.0899	0.0164	0.0275	0.0992	0.1145
0.4866	219.0	3285	0.7208	0.0932	0.0174	0.0282	0.0992	0.1225
0.4892	220.0	3300	0.7206	0.0943	0.0174	0.0282	0.1019	0.1225
0.4972	221.0	3315	0.7202	0.0956	0.0163	0.0267	0.1019	0.1265
0.4936	222.0	3330	0.7203	0.0920	0.0155	0.0259	0.0992	0.1205
0.5015	223.0	3345	0.7206	0.0940	0.0161	0.0265	0.1019	0.1225
0.4999	224.0	3360	0.7217	0.0940	0.0161	0.0265	0.1019	0.1225
0.4949	225.0	3375	0.7224	0.0984	0.0180	0.0286	0.1098	0.1245
0.4862	226.0	3390	0.7224	0.0972	0.0176	0.0285	0.1111	0.1205
0.4997	227.0	3405	0.7223	0.0945	0.0160	0.0266	0.1032	0.1225
0.4956	228.0	3420	0.7217	0.0945	0.0160	0.0266	0.1032	0.1225
0.4967	229.0	3435	0.7218	0.0957	0.0167	0.0272	0.1058	0.1225
0.4943	230.0	3450	0.7208	0.0957	0.0166	0.0269	0.1058	0.1225
0.5008	231.0	3465	0.7202	0.0969	0.0171	0.0281	0.1124	0.1185
0.4938	232.0	3480	0.7219	0.1033	0.0259	0.0414	0.1190	0.1225
0.4874	233.0	3495	0.7220	0.1021	0.0263	0.0415	0.1138	0.1245
0.5032	234.0	3510	0.7218	0.1040	0.0265	0.0414	0.1164	0.1265
0.4809	235.0	3525	0.7221	0.1015	0.0261	0.0414	0.1124	0.1245
0.486	236.0	3540	0.7211	0.0935	0.0173	0.0280	0.1019	0.1205
0.4927	237.0	3555	0.7210	0.1015	0.0262	0.0414	0.1124	0.1245
0.4919	238.0	3570	0.7208	0.1002	0.0265	0.0415	0.1111	0.1225
0.5056	239.0	3585	0.7212	0.0872	0.0175	0.0286	0.0899	0.1165
0.4897	240.0	3600	0.7221	0.0880	0.0178	0.0289	0.0899	0.1185
0.4923	241.0	3615	0.7227	0.0880	0.0178	0.0289	0.0899	0.1185
0.4898	242.0	3630	0.7222	0.0918	0.0179	0.0288	0.0952	0.1225
0.4914	243.0	3645	0.7218	0.0909	0.0176	0.0285	0.0952	0.1205
0.4903	244.0	3660	0.7213	0.0926	0.0181	0.0290	0.0952	0.1245
0.4878	245.0	3675	0.7215	0.0975	0.0260	0.0409	0.1005	0.1265
0.4931	246.0	3690	0.7221	0.0984	0.0261	0.0414	0.1005	0.1285
0.4903	247.0	3705	0.7222	0.0969	0.0182	0.0291	0.1019	0.1285
0.5015	248.0	3720	0.7216	0.0969	0.0182	0.0291	0.1019	0.1285
0.495	249.0	3735	0.7218	0.0969	0.0182	0.0291	0.1019	0.1285
0.5037	250.0	3750	0.7225	0.0932	0.0181	0.0292	0.0966	0.1245
0.4814	251.0	3765	0.7230	0.0881	0.0180	0.0292	0.0899	0.1185
0.4845	252.0	3780	0.7236	0.0881	0.0180	0.0292	0.0899	0.1185
0.4897	253.0	3795	0.7239	0.0913	0.0181	0.0293	0.0979	0.1185
0.4813	254.0	3810	0.7233	0.0921	0.0182	0.0291	0.0979	0.1205
0.4835	255.0	3825	0.7231	0.0921	0.0182	0.0291	0.0979	0.1205
0.4835	256.0	3840	0.7237	0.0921	0.0182	0.0291	0.0979	0.1205
0.4871	257.0	3855	0.7234	0.0971	0.0183	0.0291	0.1045	0.1265
0.4757	258.0	3870	0.7236	0.0958	0.0182	0.0291	0.1032	0.1245
0.4979	259.0	3885	0.7234	0.0958	0.0182	0.0291	0.1032	0.1245
0.4913	260.0	3900	0.7237	0.1009	0.0184	0.0291	0.1098	0.1305
0.4847	261.0	3915	0.7233	0.0951	0.0173	0.0279	0.1019	0.1245
0.4864	262.0	3930	0.7232	0.0950	0.0182	0.0292	0.1032	0.1225
0.4791	263.0	3945	0.7229	0.0958	0.0182	0.0291	0.1032	0.1245
0.4947	264.0	3960	0.7222	0.0957	0.0179	0.0287	0.1032	0.1245
0.4821	265.0	3975	0.7229	0.0949	0.0179	0.0288	0.1032	0.1225
0.4842	266.0	3990	0.7231	0.0949	0.0179	0.0288	0.1032	0.1225
0.4676	267.0	4005	0.7232	0.0942	0.0170	0.0277	0.1019	0.1225
0.4861	268.0	4020	0.7230	0.0942	0.0170	0.0277	0.1019	0.1225
0.4963	269.0	4035	0.7229	0.0942	0.0170	0.0277	0.1019	0.1225
0.4795	270.0	4050	0.7224	0.0949	0.0179	0.0288	0.1032	0.1225
0.4929	271.0	4065	0.7227	0.0949	0.0179	0.0288	0.1032	0.1225
0.4889	272.0	4080	0.7226	0.0949	0.0179	0.0288	0.1032	0.1225
0.489	273.0	4095	0.7220	0.0933	0.0178	0.0286	0.1032	0.1185
0.4749	274.0	4110	0.7217	0.0933	0.0178	0.0286	0.1032	0.1185
0.477	275.0	4125	0.7214	0.0933	0.0178	0.0286	0.1032	0.1185
0.4852	276.0	4140	0.7212	0.0933	0.0178	0.0286	0.1032	0.1185
0.5047	277.0	4155	0.7211	0.0933	0.0178	0.0286	0.1032	0.1185
0.4796	278.0	4170	0.7213	0.0933	0.0179	0.0286	0.1032	0.1185
0.4828	279.0	4185	0.7216	0.0933	0.0178	0.0286	0.1032	0.1185
0.4749	280.0	4200	0.7218	0.0933	0.0178	0.0286	0.1032	0.1185
0.4801	281.0	4215	0.7222	0.0933	0.0178	0.0286	0.1032	0.1185
0.4917	282.0	4230	0.7223	0.0998	0.0257	0.0406	0.1085	0.1245
0.4805	283.0	4245	0.7224	0.0961	0.0256	0.0408	0.1032	0.1205
0.5027	284.0	4260	0.7225	0.0961	0.0259	0.0408	0.1032	0.1205
0.491	285.0	4275	0.7219	0.0961	0.0259	0.0408	0.1032	0.1205
0.49	286.0	4290	0.7218	0.0961	0.0256	0.0408	0.1032	0.1205
0.4847	287.0	4305	0.7219	0.0962	0.0261	0.0412	0.1032	0.1205
0.4842	288.0	4320	0.7222	0.0962	0.0261	0.0412	0.1032	0.1205
0.4791	289.0	4335	0.7221	0.0962	0.0261	0.0412	0.1032	0.1205
0.4734	290.0	4350	0.7221	0.0962	0.0261	0.0412	0.1032	0.1205
0.4721	291.0	4365	0.7221	0.0896	0.0180	0.0290	0.0979	0.1145
0.4759	292.0	4380	0.7220	0.0896	0.0180	0.0290	0.0979	0.1145
0.4917	293.0	4395	0.7219	0.0934	0.0181	0.0289	0.1032	0.1185
0.487	294.0	4410	0.7218	0.0934	0.0181	0.0289	0.1032	0.1185
0.4868	295.0	4425	0.7218	0.0934	0.0181	0.0289	0.1032	0.1185
0.4787	296.0	4440	0.7219	0.0896	0.0180	0.0290	0.0979	0.1145
0.4904	297.0	4455	0.7219	0.0896	0.0180	0.0290	0.0979	0.1145
0.4865	298.0	4470	0.7219	0.0896	0.0180	0.0290	0.0979	0.1145
0.4978	299.0	4485	0.7219	0.0896	0.0180	0.0290	0.0979	0.1145
0.4777	300.0	4500	0.7219	0.0896	0.0180	0.0290	0.0979	0.1145

Framework versions

• Transformers 4.31.0
• Pytorch 2.0.1
• Datasets 2.14.4
• Tokenizers 0.13.3