bert-goemotions

This model is a fine-tuned version of bert-base-uncased on an unknown dataset. It achieves the following results on the evaluation set:

• Loss: 0.5536
• F1 Macro: 0.4281
• F1 Micro: 0.4774
• Subset Accuracy: 0.1664
• Hamming Loss: 0.0729
• F1 Class 0: 0.6568
• F1 Class 1: 0.7453
• F1 Class 2: 0.3980
• F1 Class 3: 0.3460
• F1 Class 4: 0.3317
• F1 Class 5: 0.3993
• F1 Class 6: 0.3287
• F1 Class 7: 0.4983
• F1 Class 8: 0.3353
• F1 Class 9: 0.2577
• F1 Class 10: 0.3797
• F1 Class 11: 0.2727
• F1 Class 12: 0.3862
• F1 Class 13: 0.2839
• F1 Class 14: 0.5669
• F1 Class 15: 0.7995
• F1 Class 16: 0.2373
• F1 Class 17: 0.3851
• F1 Class 18: 0.7477
• F1 Class 19: 0.2037
• F1 Class 20: 0.4087
• F1 Class 21: 0.5366
• F1 Class 22: 0.1608
• F1 Class 23: 0.2182
• F1 Class 24: 0.5792
• F1 Class 25: 0.3939
• F1 Class 26: 0.4558
• F1 Class 27: 0.6750

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 2e-05
• train_batch_size: 16
• eval_batch_size: 32
• seed: 42
• optimizer: Use OptimizerNames.ADAMW_TORCH with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
• lr_scheduler_type: linear
• lr_scheduler_warmup_ratio: 0.1
• num_epochs: 4

Training results

Training Loss	Epoch	Step	Validation Loss	F1 Macro	F1 Micro	Subset Accuracy	Hamming Loss	F1 Class 0	F1 Class 1	F1 Class 2	F1 Class 3	F1 Class 4	F1 Class 5	F1 Class 6	F1 Class 7	F1 Class 8	F1 Class 9	F1 Class 10	F1 Class 11	F1 Class 12	F1 Class 13	F1 Class 14	F1 Class 15	F1 Class 16	F1 Class 17	F1 Class 18	F1 Class 19	F1 Class 20	F1 Class 21	F1 Class 22	F1 Class 23	F1 Class 24	F1 Class 25	F1 Class 26	F1 Class 27
0.6185	1.0	2714	0.5662	0.3473	0.3757	0.0726	0.1136	0.5025	0.7130	0.3234	0.2861	0.2587	0.2643	0.2540	0.4341	0.3269	0.1701	0.2757	0.1935	0.2871	0.1789	0.4506	0.6089	0.1053	0.3352	0.7186	0.2056	0.3179	0.5806	0.1186	0.1268	0.4252	0.2867	0.3308	0.6450
0.48	2.0	5428	0.5114	0.3780	0.4043	0.0892	0.1019	0.5642	0.7517	0.3467	0.2967	0.2892	0.3086	0.3099	0.4733	0.2812	0.1834	0.3354	0.2231	0.2479	0.2020	0.5435	0.7912	0.2745	0.3263	0.7009	0.1860	0.3372	0.5517	0.1172	0.1509	0.4491	0.3289	0.3506	0.6634
0.3662	3.0	8142	0.5212	0.4038	0.4440	0.1178	0.0851	0.6315	0.7454	0.3980	0.3280	0.3157	0.3755	0.3152	0.4901	0.3166	0.2275	0.3584	0.2590	0.3544	0.2292	0.5205	0.7831	0.2373	0.3188	0.7396	0.176	0.3799	0.4583	0.1280	0.1871	0.5714	0.3726	0.4181	0.6712
0.3291	4.0	10856	0.5536	0.4281	0.4774	0.1664	0.0729	0.6568	0.7453	0.3980	0.3460	0.3317	0.3993	0.3287	0.4983	0.3353	0.2577	0.3797	0.2727	0.3862	0.2839	0.5669	0.7995	0.2373	0.3851	0.7477	0.2037	0.4087	0.5366	0.1608	0.2182	0.5792	0.3939	0.4558	0.6750

Framework versions

• Transformers 4.53.3
• Pytorch 2.4.1+cu121
• Datasets 2.21.0
• Tokenizers 0.21.4