codet5p-770m-py-sanitized-codebleu-1-True-5e-05-0.1-lora-layer_4

This model is a fine-tuned version of Salesforce/codet5p-770m-py on the mbpp dataset. It achieves the following results on the evaluation set:

• Loss: 0.6972
• Codebleu: 0.0922
• Ngram Match Score: 0.0220
• Weighted Ngram Match Score: 0.0422
• Syntax Match Score: 0.0979
• Dataflow Match Score: 0.1165

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 5e-05
• train_batch_size: 8
• eval_batch_size: 8
• seed: 42
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 100
• num_epochs: 300

Training results

Training Loss	Epoch	Step	Validation Loss	Codebleu	Ngram Match Score	Weighted Ngram Match Score	Syntax Match Score	Dataflow Match Score
0.9777	1.0	15	0.9242	0.0072	0.0000	0.0000	0.0079	0.0100
0.9642	2.0	30	0.9216	0.0072	0.0000	0.0000	0.0079	0.0100
0.9673	3.0	45	0.9162	0.0080	0.0000	0.0000	0.0079	0.0120
0.94	4.0	60	0.9051	0.0198	0.0000	0.0039	0.0185	0.0301
0.9354	5.0	75	0.8846	0.0491	0.0015	0.0261	0.0516	0.0643
0.9196	6.0	90	0.8609	0.0926	0.0178	0.0467	0.1190	0.0964
0.8959	7.0	105	0.8479	0.0960	0.0216	0.0506	0.1257	0.0964
0.859	8.0	120	0.8408	0.0992	0.0230	0.0518	0.1270	0.1024
0.8458	9.0	135	0.8336	0.0992	0.0229	0.0518	0.1270	0.1024
0.8516	10.0	150	0.8240	0.1028	0.0219	0.0508	0.1323	0.1064
0.841	11.0	165	0.8123	0.1028	0.0219	0.0508	0.1323	0.1064
0.8445	12.0	180	0.7998	0.0994	0.0204	0.0502	0.1243	0.1064
0.821	13.0	195	0.7897	0.1021	0.0174	0.0486	0.1243	0.1145
0.8037	14.0	210	0.7805	0.1042	0.0166	0.0485	0.1257	0.1185
0.8125	15.0	225	0.7736	0.1026	0.0167	0.0485	0.1257	0.1145
0.8223	16.0	240	0.7680	0.1014	0.0132	0.0375	0.1243	0.1165
0.802	17.0	255	0.7620	0.1076	0.0127	0.0360	0.1362	0.1205
0.7802	18.0	270	0.7568	0.1111	0.0119	0.0346	0.1415	0.1245
0.7897	19.0	285	0.7520	0.1137	0.0117	0.0346	0.1442	0.1285
0.7832	20.0	300	0.7485	0.1151	0.0129	0.0366	0.1468	0.1285
0.766	21.0	315	0.7454	0.1110	0.0122	0.0340	0.1415	0.1245
0.7754	22.0	330	0.7429	0.1169	0.0161	0.0405	0.1455	0.1325
0.7662	23.0	345	0.7409	0.1161	0.0163	0.0405	0.1455	0.1305
0.7727	24.0	360	0.7393	0.1177	0.0162	0.0408	0.1495	0.1305
0.7873	25.0	375	0.7364	0.1211	0.0176	0.0442	0.1508	0.1365
0.7585	26.0	390	0.7343	0.1231	0.0183	0.0445	0.1534	0.1386
0.744	27.0	405	0.7323	0.1231	0.0188	0.0446	0.1534	0.1386
0.7558	28.0	420	0.7308	0.1261	0.0189	0.0446	0.1548	0.1446
0.7418	29.0	435	0.7293	0.1163	0.0178	0.0438	0.1389	0.1365
0.7347	30.0	450	0.7260	0.1224	0.0172	0.0438	0.1521	0.1386
0.7391	31.0	465	0.7231	0.1151	0.0162	0.0432	0.1362	0.1365
0.7333	32.0	480	0.7210	0.1115	0.0164	0.0393	0.1243	0.1406
0.722	33.0	495	0.7196	0.1177	0.0167	0.0395	0.1376	0.1426
0.738	34.0	510	0.7182	0.1115	0.0164	0.0393	0.1243	0.1406
0.7195	35.0	525	0.7185	0.1157	0.0151	0.0375	0.1376	0.1386
0.7423	36.0	540	0.7169	0.1079	0.0179	0.0415	0.1204	0.1345
0.7284	37.0	555	0.7167	0.1156	0.0170	0.0395	0.1362	0.1386
0.7263	38.0	570	0.7165	0.1049	0.0150	0.0355	0.1151	0.1345
0.7215	39.0	585	0.7146	0.1140	0.0155	0.0360	0.1336	0.1386
0.7358	40.0	600	0.7147	0.1145	0.0171	0.0394	0.1336	0.1386
0.7141	41.0	615	0.7150	0.1175	0.0180	0.0394	0.1389	0.1406
0.7088	42.0	630	0.7144	0.1060	0.0170	0.0394	0.1204	0.1305
0.7153	43.0	645	0.7138	0.1106	0.0174	0.0394	0.1257	0.1365
0.7188	44.0	660	0.7149	0.1063	0.0173	0.0391	0.1190	0.1325
0.7171	45.0	675	0.7135	0.1040	0.0177	0.0401	0.1190	0.1265
0.7097	46.0	690	0.7130	0.1034	0.0217	0.0460	0.1190	0.1225
0.7108	47.0	705	0.7125	0.1054	0.0184	0.0395	0.1164	0.1325
0.714	48.0	720	0.7126	0.1041	0.0185	0.0400	0.1190	0.1265
0.7142	49.0	735	0.7119	0.1026	0.0215	0.0460	0.1190	0.1205
0.6983	50.0	750	0.7104	0.1010	0.0172	0.0397	0.1177	0.1205
0.7204	51.0	765	0.7100	0.1083	0.0189	0.0397	0.1217	0.1345
0.7114	52.0	780	0.7099	0.1038	0.0183	0.0396	0.1164	0.1285
0.7073	53.0	795	0.7090	0.1025	0.0244	0.0479	0.1217	0.1165
0.6793	54.0	810	0.7081	0.1054	0.0187	0.0399	0.1164	0.1325
0.7045	55.0	825	0.7072	0.1055	0.0194	0.0399	0.1164	0.1325
0.7044	56.0	840	0.7064	0.1083	0.0195	0.0410	0.1230	0.1325
0.7166	57.0	855	0.7060	0.1113	0.0228	0.0472	0.1283	0.1325
0.6937	58.0	870	0.7056	0.1128	0.0196	0.0412	0.1283	0.1386
0.7047	59.0	885	0.7055	0.1128	0.0196	0.0412	0.1283	0.1386
0.6862	60.0	900	0.7064	0.1055	0.0199	0.0399	0.1204	0.1285
0.7056	61.0	915	0.7072	0.1058	0.0210	0.0418	0.1243	0.1245
0.689	62.0	930	0.7060	0.1175	0.0222	0.0432	0.1349	0.1426
0.6955	63.0	945	0.7058	0.1096	0.0208	0.0418	0.1217	0.1365
0.6828	64.0	960	0.7067	0.1046	0.0205	0.0408	0.1217	0.1245
0.7177	65.0	975	0.7052	0.1056	0.0211	0.0423	0.1257	0.1225
0.6792	66.0	990	0.7044	0.1115	0.0209	0.0432	0.1283	0.1345
0.6992	67.0	1005	0.7038	0.1137	0.0213	0.0432	0.1336	0.1345
0.69	68.0	1020	0.7041	0.1024	0.0196	0.0404	0.1164	0.1245
0.6777	69.0	1035	0.7048	0.1004	0.0202	0.0420	0.1151	0.1205
0.7014	70.0	1050	0.7039	0.1045	0.0208	0.0419	0.1230	0.1225
0.6837	71.0	1065	0.7019	0.1020	0.0202	0.0418	0.1190	0.1205
0.6816	72.0	1080	0.7011	0.0997	0.0198	0.0405	0.1177	0.1165
0.6865	73.0	1095	0.7020	0.1027	0.0201	0.0404	0.1190	0.1225
0.6815	74.0	1110	0.7016	0.1083	0.0216	0.0422	0.1243	0.1305
0.6661	75.0	1125	0.7018	0.1019	0.0199	0.0409	0.1230	0.1165
0.6834	76.0	1140	0.7010	0.1021	0.0209	0.0427	0.1230	0.1165
0.6941	77.0	1155	0.7017	0.1030	0.0204	0.0415	0.1257	0.1165
0.6636	78.0	1170	0.7029	0.1116	0.0219	0.0427	0.1323	0.1305
0.6807	79.0	1185	0.7024	0.1003	0.0199	0.0410	0.1111	0.1245
0.6644	80.0	1200	0.7015	0.0929	0.0175	0.0383	0.1058	0.1124
0.6646	81.0	1215	0.7025	0.1003	0.0190	0.0397	0.1217	0.1145
0.6695	82.0	1230	0.7023	0.1009	0.0192	0.0396	0.1190	0.1185
0.6926	83.0	1245	0.7007	0.1003	0.0190	0.0397	0.1217	0.1145
0.6742	84.0	1260	0.7011	0.1057	0.0190	0.0400	0.1190	0.1305
0.6574	85.0	1275	0.7012	0.0983	0.0195	0.0400	0.1124	0.1185
0.6597	86.0	1290	0.7008	0.0969	0.0194	0.0393	0.1151	0.1124
0.6583	87.0	1305	0.6999	0.1020	0.0195	0.0397	0.1257	0.1145
0.6651	88.0	1320	0.6995	0.1036	0.0194	0.0397	0.1257	0.1185
0.6682	89.0	1335	0.6995	0.1036	0.0194	0.0397	0.1257	0.1185
0.6648	90.0	1350	0.7004	0.0959	0.0193	0.0408	0.1164	0.1084
0.6648	91.0	1365	0.6995	0.1024	0.0196	0.0412	0.1243	0.1165
0.6655	92.0	1380	0.6990	0.1044	0.0193	0.0397	0.1257	0.1205
0.6447	93.0	1395	0.6988	0.1043	0.0193	0.0395	0.1257	0.1205
0.6444	94.0	1410	0.6984	0.0961	0.0178	0.0383	0.1098	0.1165
0.6676	95.0	1425	0.6988	0.0971	0.0187	0.0393	0.1138	0.1145
0.6701	96.0	1440	0.6999	0.0950	0.0188	0.0394	0.1124	0.1104
0.6545	97.0	1455	0.6996	0.0950	0.0190	0.0394	0.1124	0.1104
0.656	98.0	1470	0.6989	0.1015	0.0194	0.0398	0.1204	0.1185
0.6796	99.0	1485	0.6975	0.1036	0.0193	0.0397	0.1217	0.1225
0.6589	100.0	1500	0.6983	0.1008	0.0194	0.0409	0.1204	0.1165
0.6474	101.0	1515	0.6988	0.1000	0.0195	0.0410	0.1204	0.1145
0.6527	102.0	1530	0.6975	0.0971	0.0188	0.0392	0.1138	0.1145
0.6573	103.0	1545	0.6989	0.0977	0.0196	0.0392	0.1111	0.1185
0.6527	104.0	1560	0.6992	0.0972	0.0194	0.0392	0.1098	0.1185
0.646	105.0	1575	0.7004	0.0997	0.0196	0.0408	0.1138	0.1205
0.6566	106.0	1590	0.7002	0.1049	0.0206	0.0406	0.1204	0.1265
0.6645	107.0	1605	0.6980	0.0992	0.0193	0.0410	0.1164	0.1165
0.6413	108.0	1620	0.6978	0.0990	0.0193	0.0389	0.1164	0.1165
0.6539	109.0	1635	0.6972	0.0981	0.0190	0.0387	0.1164	0.1145
0.6626	110.0	1650	0.6970	0.0982	0.0193	0.0389	0.1164	0.1145
0.6512	111.0	1665	0.6972	0.0999	0.0194	0.0402	0.1204	0.1145
0.6421	112.0	1680	0.6978	0.0960	0.0186	0.0390	0.1111	0.1145
0.6394	113.0	1695	0.6977	0.0955	0.0194	0.0389	0.1138	0.1104
0.6551	114.0	1710	0.6976	0.0944	0.0189	0.0389	0.1111	0.1104
0.6523	115.0	1725	0.6976	0.0944	0.0187	0.0390	0.1111	0.1104
0.6426	116.0	1740	0.6990	0.0944	0.0186	0.0390	0.1111	0.1104
0.6449	117.0	1755	0.6997	0.0928	0.0185	0.0390	0.1071	0.1104
0.6541	118.0	1770	0.6999	0.0936	0.0187	0.0390	0.1071	0.1124
0.6495	119.0	1785	0.6990	0.0944	0.0187	0.0390	0.1071	0.1145
0.633	120.0	1800	0.6990	0.0936	0.0184	0.0390	0.1071	0.1124
0.6377	121.0	1815	0.6988	0.0939	0.0180	0.0403	0.1058	0.1145
0.6529	122.0	1830	0.6977	0.0944	0.0186	0.0390	0.1071	0.1145
0.6509	123.0	1845	0.6981	0.0949	0.0195	0.0403	0.1138	0.1084
0.6417	124.0	1860	0.6971	0.0949	0.0199	0.0407	0.1138	0.1084
0.6479	125.0	1875	0.6971	0.0936	0.0188	0.0389	0.1071	0.1124
0.6308	126.0	1890	0.6970	0.0940	0.0188	0.0406	0.1098	0.1104
0.6437	127.0	1905	0.6964	0.0965	0.0190	0.0409	0.1098	0.1165
0.6432	128.0	1920	0.6960	0.0947	0.0196	0.0407	0.1111	0.1104
0.6462	129.0	1935	0.6963	0.0929	0.0191	0.0393	0.1071	0.1104
0.6287	130.0	1950	0.6964	0.0941	0.0191	0.0411	0.1098	0.1104
0.6432	131.0	1965	0.6972	0.0937	0.0191	0.0395	0.1071	0.1124
0.6426	132.0	1980	0.6983	0.0913	0.0199	0.0411	0.1045	0.1084
0.6525	133.0	1995	0.6978	0.0939	0.0197	0.0407	0.1111	0.1084
0.6252	134.0	2010	0.6974	0.0935	0.0206	0.0410	0.1058	0.1124
0.6354	135.0	2025	0.6976	0.0910	0.0204	0.0410	0.1058	0.1064
0.6369	136.0	2040	0.6996	0.0939	0.0198	0.0407	0.1111	0.1084
0.6227	137.0	2055	0.7000	0.0947	0.0198	0.0407	0.1111	0.1104
0.6498	138.0	2070	0.6993	0.0941	0.0195	0.0409	0.1098	0.1104
0.6435	139.0	2085	0.6981	0.0921	0.0200	0.0412	0.1045	0.1104
0.6372	140.0	2100	0.6978	0.0913	0.0201	0.0412	0.1045	0.1084
0.6404	141.0	2115	0.6971	0.0913	0.0200	0.0411	0.1045	0.1084
0.6579	142.0	2130	0.6971	0.0895	0.0217	0.0406	0.1019	0.1064
0.6368	143.0	2145	0.6951	0.0930	0.0207	0.0414	0.1045	0.1124
0.6419	144.0	2160	0.6958	0.0930	0.0207	0.0414	0.1045	0.1124
0.6258	145.0	2175	0.6958	0.0913	0.0202	0.0414	0.1045	0.1084
0.6392	146.0	2190	0.6970	0.0900	0.0197	0.0397	0.1019	0.1084
0.6327	147.0	2205	0.6978	0.0900	0.0195	0.0393	0.1019	0.1084
0.6242	148.0	2220	0.6961	0.0901	0.0200	0.0400	0.1019	0.1084
0.6299	149.0	2235	0.6967	0.0901	0.0200	0.0400	0.1019	0.1084
0.6206	150.0	2250	0.6969	0.0914	0.0208	0.0414	0.1045	0.1084
0.6273	151.0	2265	0.6962	0.0914	0.0209	0.0414	0.1045	0.1084
0.6379	152.0	2280	0.6972	0.0934	0.0225	0.0413	0.1071	0.1104
0.6249	153.0	2295	0.6968	0.0899	0.0200	0.0400	0.0992	0.1104
0.6261	154.0	2310	0.6986	0.0942	0.0223	0.0413	0.1071	0.1124
0.6394	155.0	2325	0.6975	0.0942	0.0223	0.0413	0.1071	0.1124
0.6461	156.0	2340	0.6966	0.0898	0.0199	0.0400	0.0992	0.1104
0.6165	157.0	2355	0.6963	0.0910	0.0205	0.0400	0.1019	0.1104
0.6455	158.0	2370	0.6961	0.0898	0.0199	0.0400	0.0992	0.1104
0.6317	159.0	2385	0.6970	0.0897	0.0191	0.0397	0.0992	0.1104
0.6259	160.0	2400	0.6967	0.0910	0.0205	0.0400	0.1019	0.1104
0.624	161.0	2415	0.6965	0.0945	0.0220	0.0414	0.1058	0.1145
0.6335	162.0	2430	0.6969	0.0950	0.0223	0.0413	0.1071	0.1145
0.6481	163.0	2445	0.6963	0.0917	0.0201	0.0397	0.1019	0.1124
0.6297	164.0	2460	0.6955	0.0890	0.0200	0.0395	0.0952	0.1124
0.6188	165.0	2475	0.6964	0.0925	0.0211	0.0413	0.1032	0.1124
0.62	166.0	2490	0.6964	0.0917	0.0213	0.0411	0.1032	0.1104
0.6206	167.0	2505	0.6972	0.0928	0.0218	0.0411	0.1058	0.1104
0.6281	168.0	2520	0.6980	0.0936	0.0216	0.0413	0.1058	0.1124
0.6139	169.0	2535	0.6971	0.0920	0.0212	0.0414	0.1019	0.1124
0.6314	170.0	2550	0.6960	0.0942	0.0209	0.0400	0.1019	0.1185
0.6331	171.0	2565	0.6964	0.0909	0.0211	0.0413	0.0952	0.1165
0.6361	172.0	2580	0.6953	0.0890	0.0207	0.0412	0.0926	0.1145
0.6365	173.0	2595	0.6954	0.0936	0.0209	0.0414	0.1019	0.1165
0.6196	174.0	2610	0.6957	0.0917	0.0209	0.0416	0.0992	0.1145
0.6181	175.0	2625	0.6957	0.0933	0.0207	0.0416	0.0992	0.1185
0.6277	176.0	2640	0.6950	0.0933	0.0206	0.0414	0.0992	0.1185
0.6166	177.0	2655	0.6945	0.0951	0.0206	0.0414	0.1019	0.1205
0.6099	178.0	2670	0.6955	0.0917	0.0207	0.0414	0.0992	0.1145
0.6391	179.0	2685	0.6961	0.0935	0.0207	0.0414	0.1019	0.1165
0.6115	180.0	2700	0.6969	0.0933	0.0212	0.0413	0.1032	0.1145
0.6256	181.0	2715	0.6971	0.0949	0.0211	0.0413	0.1032	0.1185
0.6217	182.0	2730	0.6960	0.0917	0.0209	0.0414	0.0992	0.1145
0.6218	183.0	2745	0.6958	0.0883	0.0211	0.0422	0.0966	0.1084
0.6133	184.0	2760	0.6957	0.0933	0.0207	0.0414	0.0992	0.1185
0.6136	185.0	2775	0.6954	0.0917	0.0210	0.0414	0.0992	0.1145
0.6147	186.0	2790	0.6952	0.0922	0.0202	0.0414	0.0966	0.1185
0.6073	187.0	2805	0.6953	0.0933	0.0206	0.0414	0.0992	0.1185
0.6306	188.0	2820	0.6957	0.0933	0.0206	0.0414	0.0992	0.1185
0.6272	189.0	2835	0.6958	0.0915	0.0212	0.0421	0.1005	0.1124
0.6227	190.0	2850	0.6951	0.0912	0.0208	0.0416	0.1019	0.1104
0.6303	191.0	2865	0.6956	0.0909	0.0207	0.0416	0.0992	0.1124
0.6169	192.0	2880	0.6961	0.0964	0.0223	0.0415	0.1045	0.1205
0.6191	193.0	2895	0.6969	0.0964	0.0223	0.0415	0.1045	0.1205
0.6066	194.0	2910	0.6962	0.0948	0.0220	0.0416	0.1005	0.1205
0.6194	195.0	2925	0.6967	0.0917	0.0209	0.0416	0.0992	0.1145
0.6236	196.0	2940	0.6964	0.0930	0.0223	0.0422	0.0979	0.1185
0.6187	197.0	2955	0.6969	0.0930	0.0223	0.0422	0.0979	0.1185
0.6079	198.0	2970	0.6967	0.0938	0.0222	0.0422	0.0979	0.1205
0.6046	199.0	2985	0.6961	0.0904	0.0205	0.0422	0.0939	0.1165
0.612	200.0	3000	0.6960	0.0923	0.0204	0.0423	0.0966	0.1185
0.6137	201.0	3015	0.6960	0.0945	0.0217	0.0423	0.0979	0.1225
0.6121	202.0	3030	0.6973	0.0943	0.0220	0.0421	0.0992	0.1205
0.6139	203.0	3045	0.6972	0.0943	0.0219	0.0424	0.0992	0.1205
0.6095	204.0	3060	0.6973	0.0927	0.0219	0.0423	0.0952	0.1205
0.6275	205.0	3075	0.6976	0.0948	0.0220	0.0416	0.1005	0.1205
0.6138	206.0	3090	0.6976	0.0954	0.0224	0.0421	0.1019	0.1205
0.615	207.0	3105	0.6986	0.0946	0.0226	0.0420	0.1019	0.1185
0.602	208.0	3120	0.6978	0.0971	0.0222	0.0413	0.1045	0.1225
0.6148	209.0	3135	0.6967	0.0914	0.0223	0.0422	0.0979	0.1145
0.6081	210.0	3150	0.6966	0.0930	0.0226	0.0421	0.1019	0.1145
0.6061	211.0	3165	0.6971	0.0930	0.0226	0.0421	0.1019	0.1145
0.6126	212.0	3180	0.6972	0.0943	0.0221	0.0421	0.0992	0.1205
0.6179	213.0	3195	0.6972	0.0957	0.0222	0.0423	0.1005	0.1225
0.6075	214.0	3210	0.6969	0.0938	0.0222	0.0423	0.0979	0.1205
0.6151	215.0	3225	0.6968	0.0913	0.0210	0.0424	0.0979	0.1145
0.6073	216.0	3240	0.6972	0.0938	0.0222	0.0423	0.0979	0.1205
0.6166	217.0	3255	0.6973	0.0946	0.0227	0.0420	0.1019	0.1185
0.6015	218.0	3270	0.6977	0.0946	0.0227	0.0420	0.1019	0.1185
0.5986	219.0	3285	0.6981	0.0938	0.0222	0.0423	0.0979	0.1205
0.5975	220.0	3300	0.6978	0.0938	0.0222	0.0423	0.0979	0.1205
0.6085	221.0	3315	0.6972	0.0938	0.0221	0.0423	0.0979	0.1205
0.6056	222.0	3330	0.6973	0.0938	0.0221	0.0423	0.0979	0.1205
0.6182	223.0	3345	0.6972	0.0922	0.0220	0.0422	0.0979	0.1165
0.6145	224.0	3360	0.6978	0.0922	0.0220	0.0422	0.0979	0.1165
0.6124	225.0	3375	0.6979	0.0922	0.0220	0.0422	0.0979	0.1165
0.5939	226.0	3390	0.6977	0.0922	0.0220	0.0422	0.0979	0.1165
0.6099	227.0	3405	0.6971	0.0922	0.0220	0.0422	0.0979	0.1165
0.6103	228.0	3420	0.6968	0.0922	0.0220	0.0422	0.0979	0.1165
0.6136	229.0	3435	0.6966	0.0922	0.0220	0.0422	0.0979	0.1165
0.5998	230.0	3450	0.6965	0.0922	0.0220	0.0422	0.0979	0.1165
0.6145	231.0	3465	0.6959	0.0899	0.0208	0.0422	0.0966	0.1124
0.6007	232.0	3480	0.6965	0.0922	0.0220	0.0422	0.0979	0.1165
0.5967	233.0	3495	0.6963	0.0922	0.0220	0.0422	0.0979	0.1165
0.6192	234.0	3510	0.6966	0.0922	0.0220	0.0422	0.0979	0.1165
0.5993	235.0	3525	0.6971	0.0938	0.0221	0.0423	0.0979	0.1205
0.6022	236.0	3540	0.6970	0.0938	0.0221	0.0423	0.0979	0.1205
0.6023	237.0	3555	0.6968	0.0937	0.0219	0.0419	0.0979	0.1205
0.6053	238.0	3570	0.6969	0.0937	0.0219	0.0419	0.0979	0.1205
0.6097	239.0	3585	0.6963	0.0937	0.0219	0.0419	0.0979	0.1205
0.6101	240.0	3600	0.6964	0.0937	0.0219	0.0419	0.0979	0.1205
0.6014	241.0	3615	0.6969	0.0937	0.0219	0.0419	0.0979	0.1205
0.6096	242.0	3630	0.6977	0.0937	0.0219	0.0419	0.0979	0.1205
0.6011	243.0	3645	0.6978	0.0937	0.0219	0.0419	0.0979	0.1205
0.6076	244.0	3660	0.6974	0.0937	0.0219	0.0419	0.0979	0.1205
0.6026	245.0	3675	0.6971	0.0937	0.0219	0.0419	0.0979	0.1205
0.6113	246.0	3690	0.6971	0.0937	0.0219	0.0419	0.0979	0.1205
0.6044	247.0	3705	0.6972	0.0937	0.0219	0.0419	0.0979	0.1205
0.6125	248.0	3720	0.6973	0.0945	0.0219	0.0419	0.0979	0.1225
0.6067	249.0	3735	0.6975	0.0945	0.0219	0.0419	0.0979	0.1225
0.6139	250.0	3750	0.6973	0.0946	0.0221	0.0423	0.0979	0.1225
0.5976	251.0	3765	0.6975	0.0946	0.0221	0.0423	0.0979	0.1225
0.6107	252.0	3780	0.6973	0.0946	0.0221	0.0423	0.0979	0.1225
0.6103	253.0	3795	0.6976	0.0946	0.0221	0.0423	0.0979	0.1225
0.5933	254.0	3810	0.6974	0.0946	0.0221	0.0423	0.0979	0.1225
0.6116	255.0	3825	0.6972	0.0938	0.0221	0.0423	0.0979	0.1205
0.5962	256.0	3840	0.6970	0.0938	0.0221	0.0423	0.0979	0.1205
0.6085	257.0	3855	0.6969	0.0938	0.0221	0.0423	0.0979	0.1205
0.5908	258.0	3870	0.6968	0.0946	0.0221	0.0423	0.0979	0.1225
0.6093	259.0	3885	0.6965	0.0946	0.0221	0.0423	0.0979	0.1225
0.6071	260.0	3900	0.6967	0.0938	0.0221	0.0423	0.0979	0.1205
0.5981	261.0	3915	0.6969	0.0938	0.0221	0.0423	0.0979	0.1205
0.6018	262.0	3930	0.6973	0.0946	0.0221	0.0423	0.0979	0.1225
0.5952	263.0	3945	0.6971	0.0946	0.0221	0.0423	0.0979	0.1225
0.61	264.0	3960	0.6968	0.0946	0.0220	0.0422	0.0979	0.1225
0.5964	265.0	3975	0.6967	0.0946	0.0220	0.0422	0.0979	0.1225
0.6032	266.0	3990	0.6966	0.0946	0.0221	0.0423	0.0979	0.1225
0.5934	267.0	4005	0.6964	0.0930	0.0220	0.0422	0.0979	0.1185
0.6103	268.0	4020	0.6963	0.0930	0.0220	0.0422	0.0979	0.1185
0.6046	269.0	4035	0.6967	0.0930	0.0220	0.0422	0.0979	0.1185
0.587	270.0	4050	0.6965	0.0930	0.0220	0.0422	0.0979	0.1185
0.6042	271.0	4065	0.6964	0.0930	0.0219	0.0422	0.0979	0.1185
0.6032	272.0	4080	0.6964	0.0930	0.0220	0.0422	0.0979	0.1185
0.6049	273.0	4095	0.6963	0.0930	0.0220	0.0422	0.0979	0.1185
0.5889	274.0	4110	0.6962	0.0922	0.0220	0.0422	0.0979	0.1165
0.5828	275.0	4125	0.6963	0.0930	0.0219	0.0422	0.0979	0.1185
0.5955	276.0	4140	0.6962	0.0930	0.0219	0.0422	0.0979	0.1185
0.6138	277.0	4155	0.6962	0.0922	0.0219	0.0422	0.0979	0.1165
0.6032	278.0	4170	0.6962	0.0922	0.0219	0.0422	0.0979	0.1165
0.6025	279.0	4185	0.6962	0.0922	0.0219	0.0422	0.0979	0.1165
0.597	280.0	4200	0.6961	0.0922	0.0219	0.0422	0.0979	0.1165
0.6059	281.0	4215	0.6962	0.0930	0.0219	0.0422	0.0979	0.1185
0.5899	282.0	4230	0.6964	0.0930	0.0220	0.0422	0.0979	0.1185
0.5929	283.0	4245	0.6968	0.0930	0.0220	0.0422	0.0979	0.1185
0.6173	284.0	4260	0.6971	0.0930	0.0220	0.0422	0.0979	0.1185
0.6111	285.0	4275	0.6970	0.0930	0.0220	0.0422	0.0979	0.1185
0.6001	286.0	4290	0.6972	0.0930	0.0220	0.0422	0.0979	0.1185
0.5997	287.0	4305	0.6972	0.0930	0.0220	0.0422	0.0979	0.1185
0.5952	288.0	4320	0.6973	0.0935	0.0220	0.0422	0.0992	0.1185
0.5995	289.0	4335	0.6974	0.0927	0.0220	0.0422	0.0992	0.1165
0.5863	290.0	4350	0.6974	0.0927	0.0220	0.0422	0.0992	0.1165
0.5879	291.0	4365	0.6973	0.0927	0.0220	0.0422	0.0992	0.1165
0.5879	292.0	4380	0.6972	0.0927	0.0220	0.0422	0.0992	0.1165
0.6098	293.0	4395	0.6972	0.0927	0.0220	0.0422	0.0992	0.1165
0.609	294.0	4410	0.6972	0.0927	0.0220	0.0422	0.0992	0.1165
0.5891	295.0	4425	0.6973	0.0927	0.0220	0.0422	0.0992	0.1165
0.6028	296.0	4440	0.6973	0.0922	0.0220	0.0422	0.0979	0.1165
0.6043	297.0	4455	0.6972	0.0922	0.0220	0.0422	0.0979	0.1165
0.5961	298.0	4470	0.6972	0.0922	0.0220	0.0422	0.0979	0.1165
0.6064	299.0	4485	0.6972	0.0922	0.0220	0.0422	0.0979	0.1165
0.5918	300.0	4500	0.6972	0.0922	0.0220	0.0422	0.0979	0.1165

Framework versions

• Transformers 4.31.0
• Pytorch 2.0.1
• Datasets 2.14.4
• Tokenizers 0.13.3