Dataset Preview
Go to dataset viewer
comments (string)contain_gender_bias (class label)bias (class label)hate (class label)
"(현재 호텔주인 심정) 아18 난 마른하늘에 날벼락맞고 호텔망하게생겼는데 누군 계속 추모받네...."
0 (False)
2 (others)
0 (hate)
"....한국적인 미인의 대표적인 분...너무나 곱고아름다운모습...그모습뒤의 슬픔을 미처 알지못했네요ㅠ"
0 (False)
0 (none)
2 (none)
"...못된 넘들...남의 고통을 즐겼던 넘들..이젠 마땅한 처벌을 받아야지..,그래야, 공정한 사회지...심은대로 거두거라..."
0 (False)
0 (none)
0 (hate)
"1,2화 어설펐는데 3,4화 지나서부터는 갈수록 너무 재밌던데"
0 (False)
0 (none)
2 (none)
"1. 사람 얼굴 손톱으로 긁은것은 인격살해이고2. 동영상이 몰카냐? 메걸리안들 생각이 없노"
1 (True)
1 (gender)
0 (hate)
"10+8 진짜 이승기랑 비교된다"
0 (False)
0 (none)
2 (none)
"100년안에 남녀간 성전쟁 한번 크게 치룬 후 일부다처제, 여성의 정치참여 금지, 여성 투표권 삭제가 세계의 공통문화로 자리잡을듯. 암탉이 너무 울어댐."
1 (True)
1 (gender)
0 (hate)
"10년뒤 윤서인은 분명히 재평가될것임. 말하나하나가 틀린게없음"
0 (False)
0 (none)
2 (none)
"10년만에 재미를 느끼는 프로였는데왜 니들때문에 폐지를해야되냐"
0 (False)
0 (none)
1 (offensive)
"10년차방탄팬인데 우리방탄처럼 성공은못하겠지만 일단 방탄의 부하가되고싶다는거니 이름기억은해둠ㅇㅇ"
0 (False)
0 (none)
1 (offensive)
"10살 차이가 넘을텐데 부부라고? 무슨 내용인지 긍금하네.."
0 (False)
2 (others)
2 (none)
"12월이나 1월이더 결혼성수기지 5월은 여름이라 비수기에속한다"
0 (False)
0 (none)
2 (none)
"13살 차이면 요즘 세상에 놀랄일도 아니네요"
0 (False)
0 (none)
2 (none)
"1400억 뜯기고 얼마나 억울 했을꼬 뒤질만큼 아플만 하지~~~~ㅋㅋㅋㅋ"
0 (False)
0 (none)
1 (offensive)
"15년생인 울아들은 유모차 안타는데"
0 (False)
0 (none)
2 (none)
"15살차이면 어릴때사고쳤으면 딸벌인데 ㅋㅋ 능력좋네 전현무 여자들이 전현무스타일이 좋은가봐"
0 (False)
2 (others)
1 (offensive)
"166에 57.4 다이어트 필요없지만건강위해더뺄거야다들 더마르게봄"
0 (False)
0 (none)
2 (none)
"17년도 아니고 27년이면 진짜 너무했다 이것이 사랑만으로 가능할수 있는지 도저히 납득이 가질 않는다"
0 (False)
2 (others)
2 (none)
"180넘어갈정도의 기럭지는 아님78에서79180넘는애들은 의심.의구심을 안하고안듬그래도 비율좋아 커보이긴함"
0 (False)
0 (none)
2 (none)
"180이하 호빗 한남들은 결혼 하지마셈 ㅋ 돈없으면 연애도 하지마셈 ㅋ 니들 호빗 유전자 받아서 고통받을 네 후손은 뭔죄임?"
1 (True)
1 (gender)
0 (hate)
"18키로감량을해야박수쳐주지 그냥 먹고싶은거다먹고디비져자고하면 18키로는그냥쪄"
0 (False)
0 (none)
0 (hate)
"1959년 자유당 시절에 하버드 로스쿨에 입학하셨다가 할리우드로 진출하셨어요? 대단하신 분이셨군요."
0 (False)
0 (none)
2 (none)
"19에서15로 바뀌고 망트리 탄거..."
0 (False)
0 (none)
2 (none)
"1년연예 ㅋㅋ 2년봅니다...."
0 (False)
0 (none)
1 (offensive)
"1년전인가 둘이 연남동 술집에서 술마시는거 봤는데 이제야 기사뜨는구나"
0 (False)
0 (none)
2 (none)
"1박2일 재미없고 이제 부도덕한것만 생각나요. 폐지하세요 학부모입장에서폐지비랍니다"
0 (False)
0 (none)
2 (none)
"1보다 재미없어요 진짜 보다 나올뻔"
0 (False)
0 (none)
1 (offensive)
"1부는 눈 썩는 거 같아서 2부만 봤다 졸라 웃기더만 ㅋㅋ"
0 (False)
0 (none)
2 (none)
"1억도 안아깝다 ☝️☝️☝️☝️☝️☝️☝️"
0 (False)
0 (none)
2 (none)
"1일1식보단 아침,점심만 먹고 저녁은 꾸준히 공복유지 하는게 건강에 더 좋은듯"
0 (False)
0 (none)
2 (none)
"1일1식은 난 못하겠네 흐흐 한상진씨 연기잘함"
0 (False)
0 (none)
2 (none)
"1회에 교도소에서 마취도 없이 자기몸 꿰매는거랑뜨거운 커피말고 차가운거만먹는거보고아랏는데 난 무통증 무감각이라고"
0 (False)
0 (none)
2 (none)
"2%로도 안되는 시청율 ㅎㅎ 연기도 못하더만 이거 때문에 북을 못가? ㅎㅎ"
0 (False)
0 (none)
2 (none)
"2,30대 골빈여자들은 이 기사에 다 모이는건가ㅋㅋㅋㅋ 이래서 여자는 투표권 주면 안된다. 엠넷사전투표나 하고 살아야지 계집들은"
1 (True)
1 (gender)
0 (hate)
"2002년도 여름에 봤는데 서지영이랑 스포츠카타고온거...18년전이네 ㅎㅎ"
0 (False)
0 (none)
2 (none)
"2006년 포도밭그사나이에서 흰가운입은 연구원 정소영봐라~!!솔까 대한민국 여배우중에 최고로 이쁘고 단아했다~!!! 급식충들은 멋도모르고 윤아 아이유 떠들겠지만.."
0 (False)
2 (others)
0 (hate)
"200억대 쳐바르고 홍보를 그렇게나했는데 시청률 5.0%가 자랑이라고 올렸냐... 그리고, 남녀 주인공이 비주얼이 너무 심각하고 남녀주연들 사극 말투가 더빙한것마냥 성우스러워서 시청률이 그 모양 그 꼴이잖아..."
0 (False)
2 (others)
1 (offensive)
"2014년 카톡은 안지우고 지끔까지 갖고 있었다는게 놀랍다~수집하니~지땜에 장씨 날벼락~"
0 (False)
0 (none)
1 (offensive)
"2016년 사진이래요 ㅋ"
0 (False)
0 (none)
2 (none)
"2018년 마마 진정한 승자 화사"
0 (False)
0 (none)
2 (none)
"2020년이 올거같냐 영배야ㅋㅋㅋㅋㅋㅋㅋㅋㅋ"
0 (False)
0 (none)
2 (none)
"206000달러 중 겨우 계약금 수준인 34700을 지불안했다면 뭔 사정이 있을거같아 중립기어 박아요"
0 (False)
0 (none)
2 (none)
"20년연애 너무 멋져요 !! 이제 결혼하셔서 행복한 가정이루시길"
0 (False)
0 (none)
2 (none)
"20년이 넘었다 부모는 속이 타고 억울하겠지만 이젠 묻어둬야지 그렇다면 억울하게 죽은 사람이 얼마나 많을까? 30년 지난 화성사건은 피해가족들은?그땐 가해자도 되었지만 시간이 지난 오늘은 피해자가 될수있다"
0 (False)
0 (none)
1 (offensive)
"20년째 열애중? 너무 길다."
0 (False)
2 (others)
2 (none)
"20대 30대 남자 비율보소 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ할짓 드럽게없나봐... 죽자고 덤벼드는거봐ㅠㅠ"
1 (True)
1 (gender)
0 (hate)
"20대다. 연애 많이 해봐라."
0 (False)
2 (others)
1 (offensive)
"20살차?? ㅉㅉ"
0 (False)
2 (others)
1 (offensive)
"21C에 주술사랑 ..."
0 (False)
0 (none)
2 (none)
"24살인데 술을먹어 발랑까졋네 고딩때도 먹엇을듯"
0 (False)
2 (others)
1 (offensive)
"25년전이면 한참 팔팔할때.. 오달수도 아마 이십대 초반.. 서로 어렸을때 반콩깠던거 같은데..저렇게 따지면 이세상에 성범죄자 아닌인간이 있을까 무섭다"
1 (True)
1 (gender)
1 (offensive)
"25년전이면오달수도 혈기왕성할때인데 그럴수도 있을듯 그리고 이제와서 25년일을 말하는사람도 참 이해못하겠네 혓재에 충실하고 살지 참"
1 (True)
1 (gender)
2 (none)
"26년 최수종님처럼 한결 같기는 힘들겠지만 서로 양보하고 배려하며 비슷하게만 살아도 싸울일 반으로 줄이고 아내 행복하게 만들어줌"
0 (False)
0 (none)
2 (none)
"290억 아니고?"
0 (False)
0 (none)
2 (none)
"29살까지 온갖 수단 다 동원해서 입대 연기하며 발악하다가 어쩔수없이 끌려가는게 머가 대단하다고 오바질이야 ㅋㅋ"
0 (False)
2 (others)
0 (hate)
"2~30대녀 :(쿵쾅쿵쾅) 꿀꿀꿀!!!!!!"
1 (True)
1 (gender)
0 (hate)
"2년 사귀었으면 ... 서로 온몸의 점 위치까지 다알 듯 ㅋㅋㅋ"
0 (False)
2 (others)
1 (offensive)
"2년도안되 ㅇㅈㅎ 양아치에게 통수 맞으니 분하겠죠 ......그동안 sns에서 충분히 느낄 수 있었ㆍ새로운 삶을 사세요"
0 (False)
0 (none)
1 (offensive)
"2박2일은 뭐니? 기레기야"
0 (False)
0 (none)
0 (hate)
"2차로 남자집을 왜 가.무조건 남자만 탓 할 일은 아니다.명백히 가려지길..."
1 (True)
1 (gender)
1 (offensive)
"2천만원짜리 조리원하며고기집 외식하며...참 가지가지 한다ㅋㅋㅋㅋㅋ관심병으로 더아프신거 아닌감??아무튼 건강하다니 다행이네...ㅋㅋㅋ"
0 (False)
2 (others)
1 (offensive)
"30넘어서 공익가는 꼴이란ㅋㅋㅋㅋㅋ진짜 모냥빠진다ㅋㅋㅋ"
0 (False)
2 (others)
1 (offensive)
"30대 아줌마들 남에 집에 감놔라배놔라 ㅋㅋㅋㅋㅋ"
1 (True)
1 (gender)
1 (offensive)
"30대 아줌마들;; 고만들 하세요;"
1 (True)
1 (gender)
1 (offensive)
"30대 여자들은 군대도 안가는데 군대 이야기에 이렇게 관심이 많을까?? 젤 싫어하는 이야기 탑3라면서??"
1 (True)
1 (gender)
1 (offensive)
"30대 여자비율이 가장높은거보니 고소영이뻐요 하는 이유를 알겠다 ^^ 여자들아 진심으로 한마디 하겠는데 30대 여자는 진심으로 여자로 아예안보여요~^^"
1 (True)
1 (gender)
0 (hate)
"30대여자들 한혜진 빙의해서 악플다는거 진짜 안쓰럽고 역겹다 본인인생이나 잘살기를 젊은여자들 질투하지말고"
1 (True)
1 (gender)
1 (offensive)
"33살이 청년임? 아저씨아님?"
0 (False)
2 (others)
0 (hate)
"38살 되도록 시집못갔으면 뭔가 문제있는 여자 아닌가?? 건모형 그냥 거르세요...상대할 필요도 없어요..."
1 (True)
1 (gender)
0 (hate)
"38세48세로 잘못적은거아닌가ㅋㅋㅋㅋ할정도로 동안이네요~~~"
0 (False)
2 (others)
2 (none)
"39세라고 나와있구만 ㅡㅡ 양세종은 20대 아님???"
0 (False)
0 (none)
2 (none)
"3명중에 최종훈이 제일 잘생겼네요♡"
0 (False)
0 (none)
2 (none)
"3번으로 탈락을 면 했군, 이제 술수를 부리지말라~티가난다!"
0 (False)
0 (none)
2 (none)
"3일에 12억원어치 팔만큼 파급력있는 사람입니다. 왜 다들 조롱만 하나요? 잘 알지 못한다면 더더욱 함부로 말하면 안되죠."
0 (False)
0 (none)
2 (none)
"40-50대로 가야지..할매를 부르면 우야노"
1 (True)
1 (gender)
0 (hate)
"40대 아줌마 지들 자식들은 피씨방에 있고 엄마들은 방탄 동영상 처보고 있다고 생각해봐라 그래놓고 경포대 문재인 아몰랑 지지하고 어후 토나와"
0 (False)
2 (others)
0 (hate)
"40대 아줌마들 댓글비율좀봐...."
1 (True)
1 (gender)
1 (offensive)
"40대 여자들이 나이값못하고 현빈 멋있다고 하악하악 거리는거 개극혐ㅋㅋㅋㅋ당신들의 튀어나온 뱃살과 흉측한 얼굴을보고 반성하길바람^^;;;"
1 (True)
1 (gender)
0 (hate)
"40대 이모라 집중이 안됨... 20살 초반으로좀 캐스팅좀 ㅠㅜㅠㅜ"
1 (True)
1 (gender)
1 (offensive)
"40대늙은이 32% 돌아이련들...쯧쯧쯧"
1 (True)
1 (gender)
0 (hate)
"40살에 폐경에 다리까지 노답이라이 ㅋㅋㅋ"
1 (True)
1 (gender)
0 (hate)
"40살여자랑 로맨스 ㅋㅋ별로다"
0 (False)
2 (others)
1 (offensive)
"40세 이상 한녀들은 임신도 못하는 사실상 쓸모없는 분리수거 대상"
1 (True)
1 (gender)
0 (hate)
"40이다 상관 없다는 넘들 애들이군"
0 (False)
2 (others)
1 (offensive)
"43.1 이라 .. 행복해서 살쪘다는걸 보여주고싶은건가? 아니면 임...신?"
1 (True)
1 (gender)
1 (offensive)
"45가 정상인가? 애들이 따라할까 무섭다"
0 (False)
2 (others)
1 (offensive)
"45억 빚진것도 신기하고, 그 빚을 이미 완전 인기가 저물어도 몇년만에 갚는다는게 더 신기하다. 그러면 홍진영 이런애들은 1년에 얼마 번다는거야 ㅋㅋ"
0 (False)
0 (none)
2 (none)
"47kg면 내 몸무겐데 난 소멸되겠다.ㅎㅎ"
0 (False)
0 (none)
2 (none)
"47살에 출산?"
0 (False)
2 (others)
1 (offensive)
"4년전정준영카톡이 이게 이렇게 큰일이냐?ㅋ 더럽네정말.. 누가봐도 꼬리짜르기구만"
1 (True)
1 (gender)
1 (offensive)
"4억 장윤정에게는 껌값일텐데 비정한딸"
0 (False)
2 (others)
1 (offensive)
"52도 빼야되냐"
0 (False)
0 (none)
2 (none)
"52면 날씬한건데.."
0 (False)
2 (others)
2 (none)
"52키로 딱 좋앙~~~"
0 (False)
0 (none)
2 (none)
"52퍼 되는 여자들 강한나 테러하네 ㅋㅋ 그만들 하세요 님들 너무 추해 보임"
1 (True)
1 (gender)
0 (hate)
"53살 아빠면 어때 아빠가 곽부성인데.... 축하해요"
0 (False)
0 (none)
2 (none)
"5명이랑 관계하면 거기 아플텐데... 누구말이 맞는건지.. 에휴"
1 (True)
1 (gender)
1 (offensive)
"60만원으로 무슨 5억 피해입은 마냥 폭로하는 놈도 그렇고, 60만원을 안 갚고 쌩깠던 매니저 놈도 그렇고.. 참 안습이다.. 인간들 요즘 왜 그런지 참 ㅉㅉ... 신상털기, 먼지털기가 인생 낙인갑다.."
0 (False)
0 (none)
2 (none)
"60에서 14면티가나는데 120에서 14면 흠"
0 (False)
0 (none)
2 (none)
"68%의 아줌마들아. 니들 자식들한테 고운말 하라고 가르치냐? 니들 댓글 모음이나 자식들 보여줘라"
1 (True)
1 (gender)
1 (offensive)
End of preview (truncated to 100 rows)

Dataset Card for [Dataset Name]

Dataset Summary

The Korean HateSpeech Dataset is a dataset of 8367 human-labeled entertainment news comments from a popular Korean news aggregation platform. Each comment was evaluated for either social bias (labels: gender, others none), hate speech (labels: hate, offensive, none) or gender bias (labels: True, False). The dataset was created to support the identification of toxic comments on online platforms where users can remain anonymous.

Supported Tasks and Leaderboards

  • multi-label classification: The dataset can be used to train a model for hate speech detection. A BERT model can be presented with a Korean entertainment news comment and be asked to label whether it contains social bias, gender bias and hate speech. Users can participate in a Kaggle leaderboard here.

Languages

The text in the dataset is in Korean and the associated is BCP-47 code is ko-KR.

Dataset Structure

Data Instances

An example data instance contains a comments containing the text of the news comment and then labels for each of the following fields: contain_gender_bias, bias and hate.

{'comments':'설마 ㅈ 현정 작가 아니지??'
 'contain_gender_bias': 'True',
 'bias': 'gender',
 'hate': 'hate'
}

Data Fields

  • comments: text from the Korean news comment
  • contain_gender_bias: a binary True/False label for the presence of gender bias
  • bias: determines the type of social bias, which can be:
    • gender: if the text includes bias for gender role, sexual orientation, sexual identity, and any thoughts on gender-related acts
    • others: other kinds of factors that are considered not gender-related but social bias, including race, background, nationality, ethnic group, political stance, skin color, religion, handicaps, age, appearance, richness, occupations, the absence of military service experience
    • none: a comment that does not incorporate the bias
  • hate: determines how aggressive the comment is, which can be:
    • hate: if the text is defined as an expression that display aggressive stances towards individuals/groups with certain characteristics (gender role, sexual orientation, sexual identity, any thoughts on gender-related acts, race, background, nationality, ethnic group, political stance, skin color, religion, handicaps, age, appearance, richness, occupations, the absence of military service experience, etc.)
    • offensive: if the text contains rude or aggressive contents, can emit sarcasm through rhetorical question or irony, encompass an unethical expression or conveys unidentified rumors
    • none: a comment that does not incorporate hate

Data Splits

The data is split into a training and development (test) set. It contains 8371 annotated comments that are split into 7896 comments in the training set and 471 comments in the test set.

Dataset Creation

Curation Rationale

The dataset was created to provide the first human-labeled Korean corpus for toxic speech detection from a Korean online entertainment news aggregator. Recently, two young Korean celebrities suffered from a series of tragic incidents that led to two major Korean web portals to close the comments section on their platform. However, this only serves as a temporary solution, and the fundamental issue has not been solved yet. This dataset hopes to improve Korean hate speech detection.

Source Data

Initial Data Collection and Normalization

A total of 10.4 million comments were collected from an online Korean entertainment news aggregator between Jan. 1, 2018 and Feb. 29, 2020. 1,580 articles were drawn using stratified sampling and the top 20 comments were extracted ranked in order of their Wilson score on the downvote for each article. Duplicate comments, single token comments and comments with more than 100 characters were removed (because they could convey various opinions). From here, 10K comments were randomly chosen for annotation.

Who are the source language producers?

The language producers are users of the Korean online news platform between 2018 and 2020.

Annotations

Annotation process

Each comment was assigned to three random annotators to assign a majority decision. For more ambiguous comments, annotators were allowed to skip the comment. See Appendix A in the paper for more detailed guidelines.

Who are the annotators?

Annotation was performed by 32 annotators, consisting of 29 annotators from the crowdsourcing platform DeepNatural AI and three NLP researchers.

Personal and Sensitive Information

[N/A]

Considerations for Using the Data

Social Impact of Dataset

The purpose of this dataset is to tackle the social issue of users creating toxic comments on online platforms. This dataset aims to improve detection of toxic comments online.

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

This dataset is curated by Jihyung Moon, Won Ik Cho and Junbum Lee.

Licensing Information

[N/A]

Citation Information

@inproceedings
{moon-et-al-2020-beep
    title = "{BEEP}! {K}orean Corpus of Online News Comments for Toxic Speech Detection",
    author = "Moon, Jihyung  and
      Cho, Won Ik  and
      Lee, Junbum",
    booktitle = "Proceedings of the Eighth International Workshop on Natural Language Processing for Social Media",
    month = jul,
    year = "2020",
    address = "Online",
    publisher = "Association for Computational Linguistics",
    url = "https://www.aclweb.org/anthology/2020.socialnlp-1.4",
    pages = "25--31",
    abstract = "Toxic comments in online platforms are an unavoidable social issue under the cloak of anonymity. Hate speech detection has been actively done for languages such as English, German, or Italian, where manually labeled corpus has been released. In this work, we first present 9.4K manually labeled entertainment news comments for identifying Korean toxic speech, collected from a widely used online news platform in Korea. The comments are annotated regarding social bias and hate speech since both aspects are correlated. The inter-annotator agreement Krippendorff{'}s alpha score is 0.492 and 0.496, respectively. We provide benchmarks using CharCNN, BiLSTM, and BERT, where BERT achieves the highest score on all tasks. The models generally display better performance on bias identification, since the hate speech detection is a more subjective issue. Additionally, when BERT is trained with bias label for hate speech detection, the prediction score increases, implying that bias and hate are intertwined. We make our dataset publicly available and open competitions with the corpus and benchmarks.",
}

Contributions

Thanks to @stevhliu for adding this dataset.

Models trained or fine-tuned on kor_hate