Hugging Face's logo

devngho
/
ko-edu-classifier

Safetensors
bert
Generated from Trainer
Model card Files Community
ko-edu-classifier / README.md
devngho's picture
devngho
Model save
932a0e1 verified
preview code
|
raw
history blame
22 kB
metadata
license: apache-2.0
base_model: lemon-mint/LaBSE-EnKo-Nano-Preview-v0.3
tags:
  - generated_from_trainer
metrics:
  - precision
  - recall
  - accuracy
model-index:
  - name: ko-edu-classifier
    results: []

ko-edu-classifier

This model is a fine-tuned version of lemon-mint/LaBSE-EnKo-Nano-Preview-v0.3 on the None dataset. It achieves the following results on the evaluation set:

  • Loss: 0.3773
  • Precision: 0.2713
  • Recall: 0.2016
  • F1 Macro: 0.1949
  • Accuracy: 0.5907

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

  • learning_rate: 0.0005
  • train_batch_size: 64
  • eval_batch_size: 64
  • seed: 0
  • optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
  • lr_scheduler_type: cosine
  • lr_scheduler_warmup_ratio: 0.2
  • num_epochs: 20

Training results

Training Loss Epoch Step Validation Loss Precision Recall F1 Macro Accuracy
3.8465 0.0945 256 3.0189 0.0366 0.1607 0.0341 0.0453
1.8667 0.1890 512 0.8075 0.1370 0.1744 0.1380 0.3775
0.5548 0.2835 768 0.4790 0.2172 0.1802 0.1642 0.5589
0.4568 0.3780 1024 0.4423 0.2393 0.1822 0.1665 0.5652
0.4347 0.4725 1280 0.4239 0.2335 0.1842 0.1707 0.5658
0.4217 0.5670 1536 0.4139 0.2458 0.1912 0.1814 0.5745
0.421 0.6615 1792 0.4068 0.2593 0.1968 0.1896 0.5817
0.4024 0.7560 2048 0.3991 0.2657 0.1946 0.1856 0.5821
0.4024 0.8505 2304 0.3964 0.2669 0.2010 0.1954 0.5876
0.3864 0.9450 2560 0.3937 0.2636 0.1967 0.1891 0.5842
0.3989 1.0395 2816 0.3927 0.2623 0.1983 0.1916 0.5849
0.391 1.1340 3072 0.3930 0.2617 0.1982 0.1911 0.5842
0.3905 1.2285 3328 0.3920 0.2677 0.1988 0.1914 0.5876
0.3919 1.3230 3584 0.3911 0.2591 0.1972 0.1895 0.5824
0.3831 1.4175 3840 0.3909 0.2699 0.2027 0.1972 0.5883
0.3903 1.5120 4096 0.3883 0.2663 0.2018 0.1966 0.5866
0.389 1.6065 4352 0.3862 0.2640 0.2024 0.1977 0.5869
0.3913 1.7010 4608 0.3886 0.2575 0.2018 0.1963 0.5821
0.3913 1.7955 4864 0.3859 0.2605 0.1958 0.1875 0.5835
0.3783 1.8900 5120 0.3865 0.2611 0.1968 0.1894 0.5835
0.3854 1.9845 5376 0.3877 0.2637 0.2025 0.1978 0.5859
0.3816 2.0790 5632 0.3855 0.2630 0.1981 0.1915 0.5845
0.3798 2.1735 5888 0.3848 0.2637 0.1989 0.1927 0.5856
0.3807 2.2680 6144 0.3856 0.2665 0.2008 0.1943 0.5876
0.3886 2.3625 6400 0.3855 0.2606 0.1943 0.1845 0.5824
0.3744 2.4570 6656 0.3894 0.2646 0.2045 0.2001 0.5856
0.3884 2.5515 6912 0.3859 0.2622 0.2017 0.1961 0.5849
0.3888 2.6460 7168 0.3841 0.2597 0.1939 0.1849 0.5811
0.3768 2.7405 7424 0.3866 0.2597 0.1975 0.1896 0.5828
0.3851 2.8350 7680 0.3853 0.2690 0.1963 0.1875 0.5828
0.3846 2.9295 7936 0.3834 0.2597 0.1939 0.1836 0.5824
0.3814 3.0240 8192 0.3932 0.2692 0.2004 0.1911 0.5838
0.3811 3.1185 8448 0.3891 0.2657 0.2018 0.1946 0.5845
0.3773 3.2130 8704 0.3828 0.2677 0.2023 0.1972 0.5873
0.3711 3.3075 8960 0.3837 0.2654 0.1998 0.1925 0.5862
0.3863 3.4020 9216 0.3824 0.2669 0.1969 0.1888 0.5866
0.3884 3.4965 9472 0.3873 0.2643 0.1984 0.1905 0.5852
0.3828 3.5910 9728 0.3937 0.2594 0.1993 0.1907 0.5779
0.3794 3.6855 9984 0.3828 0.2552 0.1928 0.1819 0.5828
0.383 3.7800 10240 0.3829 0.2586 0.1922 0.1812 0.5821
0.3821 3.8745 10496 0.4009 0.2666 0.2048 0.1943 0.5842
0.3755 3.9690 10752 0.3818 0.2667 0.2076 0.2070 0.5862
0.372 4.0635 11008 0.3817 0.2647 0.1966 0.1886 0.5852
0.3795 4.1580 11264 0.3958 0.2719 0.2054 0.1961 0.5894
0.3821 4.2525 11520 0.3820 0.2626 0.1974 0.1901 0.5845
0.3764 4.3470 11776 0.3866 0.2665 0.2054 0.1982 0.5887
0.3753 4.4415 12032 0.3803 0.2582 0.1945 0.1854 0.5821
0.3813 4.5360 12288 0.3959 0.2721 0.2064 0.1967 0.5869
0.3765 4.6305 12544 0.3798 0.2684 0.2018 0.1967 0.5890
0.3832 4.7250 12800 0.3802 0.2596 0.1988 0.1923 0.5828
0.3849 4.8195 13056 0.3838 0.2528 0.1955 0.1878 0.5741
0.3766 4.9140 13312 0.3916 0.2588 0.1987 0.1914 0.5752
0.3744 5.0085 13568 0.3791 0.2689 0.1995 0.1916 0.5883
0.3811 5.1030 13824 0.3814 0.2630 0.1936 0.1825 0.5835
0.3761 5.1975 14080 0.3835 0.2656 0.1963 0.1867 0.5849
0.3701 5.2920 14336 0.3811 0.2611 0.1988 0.1931 0.5831
0.3775 5.3865 14592 0.3820 0.2585 0.1944 0.1850 0.5828
0.3778 5.4810 14848 0.4007 0.2653 0.2109 0.2018 0.5849
0.3763 5.5755 15104 0.3822 0.2672 0.1975 0.1888 0.5869
0.3741 5.6700 15360 0.3865 0.2671 0.2028 0.1954 0.5869
0.3779 5.7645 15616 0.3848 0.2661 0.1985 0.1915 0.5745
0.3783 5.8590 15872 0.3823 0.2643 0.1950 0.1857 0.5831
0.3774 5.9535 16128 0.3791 0.2707 0.2020 0.1956 0.5911
0.3742 6.0480 16384 0.3805 0.2643 0.2019 0.1970 0.5862
0.3712 6.1425 16640 0.3838 0.2690 0.1984 0.1913 0.5811
0.3714 6.2370 16896 0.3844 0.2713 0.2003 0.1926 0.5835
0.3769 6.3315 17152 0.3830 0.2731 0.1968 0.1887 0.5828
0.3714 6.4260 17408 0.3816 0.2651 0.1938 0.1841 0.5797
0.3804 6.5205 17664 0.3803 0.2610 0.1998 0.1946 0.5835
0.3778 6.6150 17920 0.3833 0.2676 0.2038 0.1972 0.5869
0.3755 6.7095 18176 0.3791 0.2740 0.1998 0.1933 0.5900
0.3777 6.8040 18432 0.3851 0.2680 0.2064 0.1991 0.5876
0.3762 6.8985 18688 0.3804 0.2705 0.2060 0.2034 0.5914
0.3708 6.9930 18944 0.3792 0.2639 0.1994 0.1930 0.5869
0.3756 7.0875 19200 0.3822 0.2626 0.2042 0.1985 0.5852
0.3724 7.1820 19456 0.3828 0.2601 0.1997 0.1920 0.5828
0.374 7.2765 19712 0.3805 0.2652 0.1948 0.1848 0.5849
0.3691 7.3710 19968 0.4004 0.2752 0.2007 0.1914 0.5721
0.3721 7.4655 20224 0.3788 0.2670 0.1989 0.1921 0.5869
0.3757 7.5600 20480 0.3818 0.2743 0.2001 0.1905 0.5904
0.3699 7.6545 20736 0.3919 0.2774 0.2048 0.1951 0.5880
0.3705 7.7490 20992 0.3796 0.2607 0.1972 0.1895 0.5838
0.3783 7.8435 21248 0.3826 0.2752 0.2070 0.2002 0.5932
0.3806 7.9380 21504 0.3835 0.2593 0.1991 0.1904 0.5835
0.3828 8.0325 21760 0.3806 0.2643 0.1965 0.1888 0.5821
0.3761 8.1270 22016 0.3794 0.2668 0.2026 0.1953 0.5873
0.3811 8.2215 22272 0.3834 0.2600 0.2025 0.1947 0.5856
0.3667 8.3160 22528 0.3845 0.2619 0.2009 0.1925 0.5845
0.3697 8.4105 22784 0.3845 0.2733 0.2026 0.1948 0.5900
0.3689 8.5050 23040 0.3939 0.2635 0.2009 0.1918 0.5776
0.3682 8.5995 23296 0.3787 0.2695 0.2004 0.1947 0.5883
0.3717 8.6940 23552 0.3838 0.2704 0.1955 0.1856 0.5831
0.3696 8.7885 23808 0.3850 0.2571 0.2010 0.1923 0.5811
0.3713 8.8830 24064 0.3800 0.2639 0.1969 0.1879 0.5859
0.3736 8.9775 24320 0.3816 0.2747 0.2037 0.1983 0.5925
0.3745 9.0720 24576 0.3807 0.2643 0.1986 0.1920 0.5849
0.3653 9.1665 24832 0.3818 0.2648 0.1944 0.1839 0.5845
0.3748 9.2610 25088 0.3813 0.2670 0.2090 0.2064 0.5887
0.3715 9.3555 25344 0.3812 0.2682 0.2019 0.1949 0.5887
0.3716 9.4500 25600 0.3790 0.2699 0.2021 0.1970 0.5897
0.3757 9.5445 25856 0.3810 0.2670 0.1968 0.1880 0.5873
0.3648 9.6390 26112 0.3797 0.2678 0.2010 0.1932 0.5883
0.372 9.7335 26368 0.3788 0.2683 0.2065 0.2020 0.5897
0.3667 9.8280 26624 0.3785 0.2741 0.2005 0.1950 0.5887
0.3784 9.9225 26880 0.3822 0.2735 0.2050 0.1979 0.5911
0.3766 10.0170 27136 0.3951 0.2620 0.2082 0.1990 0.5807
0.3737 10.1115 27392 0.3781 0.2665 0.2020 0.1968 0.5873
0.3683 10.2060 27648 0.3764 0.2680 0.2026 0.1984 0.5883
0.3627 10.3005 27904 0.3807 0.2684 0.1980 0.1903 0.5887
0.3732 10.3950 28160 0.3788 0.2626 0.1950 0.1862 0.5835
0.3758 10.4895 28416 0.3830 0.2662 0.1998 0.1916 0.5859
0.3634 10.5840 28672 0.3829 0.2621 0.1998 0.1911 0.5838
0.3742 10.6785 28928 0.3842 0.2684 0.2029 0.1982 0.5838
0.3685 10.7730 29184 0.3768 0.2693 0.1989 0.1921 0.5880
0.3681 10.8675 29440 0.3770 0.2689 0.1997 0.1935 0.5880
0.3793 10.9620 29696 0.3789 0.2660 0.1987 0.1899 0.5887
0.3771 11.0565 29952 0.3825 0.2670 0.2016 0.1931 0.5873
0.3638 11.1510 30208 0.3840 0.2668 0.1977 0.1901 0.5821
0.3666 11.2455 30464 0.3836 0.2675 0.2008 0.1920 0.5876
0.3702 11.3400 30720 0.3793 0.2691 0.2016 0.1970 0.5869
0.3679 11.4345 30976 0.3796 0.2722 0.1976 0.1898 0.5876
0.3602 11.5290 31232 0.3814 0.2676 0.2031 0.1957 0.5883
0.3816 11.6235 31488 0.3825 0.2592 0.1997 0.1915 0.5831
0.3688 11.7180 31744 0.3790 0.2613 0.1991 0.1929 0.5835
0.3712 11.8125 32000 0.3795 0.2666 0.1997 0.1910 0.5883
0.3744 11.9070 32256 0.3778 0.2698 0.1998 0.1922 0.5887
0.3686 12.0015 32512 0.3775 0.2644 0.2008 0.1941 0.5876
0.3698 12.0960 32768 0.3813 0.2695 0.2041 0.1966 0.5894
0.3628 12.1905 33024 0.3772 0.2707 0.2000 0.1933 0.5894
0.37 12.2850 33280 0.3818 0.2692 0.2053 0.1990 0.5897
0.3735 12.3795 33536 0.3763 0.2662 0.2015 0.1953 0.5880
0.3662 12.4740 33792 0.3779 0.2704 0.2049 0.2002 0.5907
0.3732 12.5685 34048 0.3796 0.2665 0.2004 0.1925 0.5880
0.364 12.6630 34304 0.3803 0.2660 0.2016 0.1948 0.5890
0.3722 12.7575 34560 0.3787 0.2689 0.2046 0.2003 0.5904
0.3701 12.8520 34816 0.3828 0.2688 0.2050 0.1984 0.5883
0.3697 12.9465 35072 0.3932 0.2674 0.2088 0.1993 0.5852
0.3671 13.0410 35328 0.3762 0.2685 0.1992 0.1925 0.5873
0.3641 13.1355 35584 0.3776 0.2654 0.2006 0.1939 0.5876
0.3707 13.2300 35840 0.3793 0.2678 0.2022 0.1948 0.5883
0.365 13.3245 36096 0.3771 0.2713 0.2015 0.1960 0.5900
0.3733 13.4190 36352 0.3775 0.2701 0.2017 0.1970 0.5883
0.3688 13.5135 36608 0.3881 0.2663 0.2036 0.1945 0.5835
0.3706 13.6080 36864 0.3805 0.2708 0.2036 0.1971 0.5907
0.3736 13.7025 37120 0.3778 0.2694 0.2013 0.1964 0.5876
0.3666 13.7970 37376 0.3802 0.2655 0.2020 0.1947 0.5876
0.3702 13.8915 37632 0.3791 0.2741 0.1989 0.1911 0.5911
0.3587 13.9860 37888 0.3804 0.2666 0.2026 0.1962 0.5873
0.3676 14.0805 38144 0.3867 0.2729 0.2042 0.1953 0.5866
0.3649 14.1750 38400 0.3778 0.2687 0.2015 0.1955 0.5894
0.3658 14.2695 38656 0.3778 0.2636 0.1995 0.1938 0.5845
0.3579 14.3640 38912 0.3796 0.2709 0.2047 0.1988 0.5907
0.3654 14.4585 39168 0.3783 0.2643 0.1971 0.1881 0.5862
0.3706 14.5530 39424 0.3769 0.2674 0.2009 0.1951 0.5876
0.3689 14.6475 39680 0.3779 0.2666 0.2041 0.1985 0.5890
0.3654 14.7420 39936 0.3776 0.2715 0.2015 0.1952 0.5904
0.3724 14.8365 40192 0.3791 0.2711 0.2037 0.1982 0.5914
0.3709 14.9310 40448 0.3778 0.2673 0.1976 0.1902 0.5862
0.3703 15.0255 40704 0.3803 0.2654 0.2018 0.1940 0.5873
0.3644 15.1200 40960 0.3776 0.2714 0.2004 0.1940 0.5907
0.3721 15.2145 41216 0.3791 0.2729 0.2029 0.1977 0.5921
0.3633 15.3090 41472 0.3769 0.2706 0.2008 0.1948 0.5897
0.3635 15.4035 41728 0.3769 0.2639 0.1962 0.1870 0.5856
0.3713 15.4980 41984 0.3803 0.2669 0.1999 0.1909 0.5887
0.3707 15.5925 42240 0.3837 0.2673 0.2010 0.1912 0.5869
0.3618 15.6870 42496 0.3818 0.2702 0.2014 0.1921 0.5894
0.3711 15.7815 42752 0.3770 0.2667 0.2008 0.1944 0.5883
0.3672 15.8760 43008 0.3778 0.2651 0.2022 0.1962 0.5880
0.3659 15.9705 43264 0.3772 0.2692 0.2016 0.1953 0.5897
0.3605 16.0650 43520 0.3804 0.2651 0.2010 0.1927 0.5866
0.3729 16.1595 43776 0.3774 0.2681 0.2003 0.1946 0.5880
0.3668 16.2540 44032 0.3774 0.2685 0.2002 0.1921 0.5894
0.3655 16.3485 44288 0.3763 0.2690 0.2004 0.1947 0.5883
0.3692 16.4430 44544 0.3772 0.2667 0.2019 0.1953 0.5887
0.3651 16.5375 44800 0.3771 0.2638 0.1998 0.1931 0.5866
0.3631 16.6320 45056 0.3791 0.2656 0.2011 0.1938 0.5869
0.3688 16.7265 45312 0.3772 0.2657 0.1991 0.1920 0.5869
0.3748 16.8210 45568 0.3782 0.2695 0.2006 0.1934 0.5894
0.3581 16.9155 45824 0.3772 0.2690 0.1999 0.1929 0.5887
0.36 17.0100 46080 0.3774 0.2716 0.2008 0.1942 0.5900
0.3621 17.1045 46336 0.3768 0.2683 0.2008 0.1946 0.5887
0.3682 17.1990 46592 0.3791 0.2676 0.2016 0.1937 0.5894
0.3687 17.2935 46848 0.3774 0.2734 0.2020 0.1952 0.5918
0.3609 17.3880 47104 0.3765 0.2686 0.1998 0.1932 0.5887
0.369 17.4825 47360 0.3776 0.2686 0.2007 0.1931 0.5887
0.3709 17.5770 47616 0.3775 0.2703 0.2009 0.1930 0.5897
0.3684 17.6715 47872 0.3770 0.2675 0.2004 0.1930 0.5883
0.3612 17.7660 48128 0.3766 0.2687 0.2012 0.1946 0.5894
0.3634 17.8605 48384 0.3774 0.2712 0.2017 0.1946 0.5911
0.3695 17.9550 48640 0.3771 0.2724 0.2018 0.1953 0.5911
0.3578 18.0495 48896 0.3776 0.2723 0.2028 0.1965 0.5918
0.3635 18.1440 49152 0.3769 0.2697 0.2016 0.1957 0.5900
0.3652 18.2385 49408 0.3783 0.2671 0.2022 0.1953 0.5890
0.3734 18.3330 49664 0.3769 0.2658 0.2002 0.1936 0.5876
0.3665 18.4275 49920 0.3768 0.2695 0.2014 0.1951 0.5900
0.3704 18.5220 50176 0.3771 0.2703 0.2020 0.1957 0.5907
0.364 18.6165 50432 0.3770 0.2675 0.2009 0.1940 0.5890
0.3587 18.7110 50688 0.3768 0.2678 0.1999 0.1928 0.5887
0.3622 18.8055 50944 0.3773 0.2694 0.2012 0.1943 0.5897
0.3648 18.9000 51200 0.3773 0.2712 0.2018 0.1953 0.5907
0.3688 18.9945 51456 0.3773 0.2700 0.2013 0.1945 0.5900
0.3638 19.0890 51712 0.3775 0.2712 0.2014 0.1946 0.5907
0.3609 19.1835 51968 0.3773 0.2692 0.2004 0.1933 0.5894
0.3633 19.2780 52224 0.3772 0.2693 0.2007 0.1937 0.5897
0.366 19.3725 52480 0.3772 0.2682 0.2000 0.1928 0.5890
0.365 19.4670 52736 0.3774 0.2688 0.2003 0.1933 0.5894
0.3689 19.5615 52992 0.3769 0.2678 0.1998 0.1926 0.5887
0.3663 19.6560 53248 0.3773 0.2704 0.2014 0.1947 0.5904
0.3712 19.7505 53504 0.3773 0.2714 0.2015 0.1948 0.5907
0.3616 19.8450 53760 0.3773 0.2713 0.2016 0.1949 0.5907
0.369 19.9395 54016 0.3773 0.2713 0.2016 0.1949 0.5907

Framework versions

  • Transformers 4.43.3
  • Pytorch 2.4.0+cu118
  • Datasets 2.19.1
  • Tokenizers 0.19.1