IvanFed/rubert-toxicity-multitask
Text Classification • Updated • 29 • 1
text string | profanity int64 | threat int64 | illegal int64 |
|---|---|---|---|
мне так никогда не скажет мой муж......... сама себя радую чем то ..... | 0 | 0 | 0 |
этот отец долбоеб!!! | 1 | 0 | 0 |
слов нет. феноменально. | 0 | 0 | 0 |
это же музейная ценность! | 0 | 0 | 0 |
пидараз ! русский ты , или не русский , это не является показателем того , что ты человек ! | 1 | 0 | 0 |
кто вам мешает, все в ваших руках. дерзайте. | 0 | 0 | 0 |
колеса все проткнуть, надеюсь поймет | 0 | 0 | 0 |
какой же он аппетитный!!! | 0 | 0 | 0 |
вишня крупная с доставкой. вопросы в лс | 0 | 0 | 0 |
если имеете ввиду росгвардия то там нет не чего святого хотя среди них есть достойные люди ценность на вызывает режим | 0 | 0 | 0 |
как опустошат сахалин можно и убивать гас по немногу | 0 | 1 | 0 |
хочу такой танк | 0 | 0 | 0 |
да..мы правда так в деревне отмечали.и соседи тащили кто яйца кто курения. кто маленького поросенка и похороны тоже помню родные скорбеть а заботу берут соседи от капота до блинов... | 0 | 0 | 0 |
как вам повезло с бабулей,берегите е!!! | 0 | 0 | 0 |
это уже болезнь, люди чокнулись а точнее ебнулись ,но разве можно пинать человека взрослые люди какой пример подают детям а водиле ебло бы разбить долбоящер ,а тот кто пнул чтоб жопу разорвало кончита ебанное чудовище | 1 | 1 | 0 |
так ответь счастливая не может | 0 | 0 | 0 |
да эти мрази совсем охуели... | 1 | 0 | 0 |
расстреляйте мразь !!!и живем дальше...тварь ещ и жопой крутит!!!!! | 1 | 1 | 0 |
продамдрова березовые срезку пиленную доставка бесплатно в з зб бб | 0 | 0 | 0 |
да, я вчера тоже наблюдала, завораживающе страшновато | 0 | 0 | 0 |
о себе напишите. что вы из себя кроме писи представляете? | 1 | 0 | 0 |
я делаю соус типа ткемали | 0 | 0 | 0 |
дурдом. больше вам ничего не могу сказать | 0 | 0 | 0 |
давно пора этот цирк заканчивать!!! браво!!! | 0 | 0 | 0 |
спасибо, ищем здесь | 0 | 0 | 0 |
боженька. дала. деток и сил даст. ты молодая женщина вытянешь | 0 | 0 | 0 |
да и без семьи можно.тишина | 0 | 0 | 0 |
на 5 новых фоток! | 0 | 0 | 0 |
долбоб мерзкий,который приехал...o | 1 | 0 | 0 |
и опека не отобрала? обычно таким нервы мотают проверками. | 0 | 0 | 0 |
а то, что мы пахали без выходных. каждая суббота черная. с тебя удерживали за этот день часть зарплаты. а сейчас попробуй с кого удержи или заставь хоть один день в месяц отработать бесплатно. молоджь этого не знает. а наше поколение пятилетками в три года сыто по горло. | 0 | 0 | 0 |
это че за пидар, суки руки поломать. | 1 | 1 | 0 |
и я бы хотела к нему попасть | 0 | 0 | 0 |
проэкт 4 свадьбы взялся вести наш местный славик! | 0 | 0 | 0 |
чт давно не заходила, и тут бамс...поздравляю!!!здоровья и любви вам обеим | 0 | 0 | 0 |
отличная танцплощадка для тех, кому за... | 0 | 0 | 0 |
юля здравствуйте , платья моего нет? | 0 | 0 | 0 |
в германии у себя запрещайте.не хрен свое рыло в чужую страну совать.запретчики хреновы | 1 | 0 | 0 |
ого, я тоже незнала, но теперь попробую, спасибо за совет, | 0 | 0 | 0 |
людей искренне жалко... знаю, что такое в пробках стоять... | 0 | 0 | 0 |
нужна мне помощь да поддержка дружеская, не хватает в хозяйстве вещи малой для дела важного. мне нужно масло подсолн. | 0 | 0 | 0 |
сидение на двух стульях не доведет батьку до добра... | 0 | 0 | 0 |
почему так дорого?? | 0 | 0 | 0 |
поминяюсь банками 10 трх литровый под закрутил на 10 поллитровых вентовых | 0 | 0 | 0 |
хуепутин снова удивлн | 1 | 0 | 0 |
мойка на кухне, а эта емкость умывальником зовется ! | 0 | 0 | 0 |
я твой врот ебаль | 1 | 0 | 0 |
я думаю что ты хочешь найти богатого парня и свалить из деревни | 0 | 0 | 0 |
царство небесное , пусть земля будет пухом | 0 | 0 | 0 |
она писала модератору... | 0 | 0 | 0 |
первый похож на нашего | 0 | 0 | 0 |
с годами конечно еристь, может 70 е , я согласна, но не 80е... и то конец 60х писали шариковыми. а здесь письмо пером с нажимом и волоском. | 0 | 0 | 0 |
значится так! если я действительно перейду к оскорблениям , это вс пойдт по ленте. и я таком возрасте, что мне уже глубоко насрать, кто и что обо мне подумает!!! | 0 | 0 | 0 |
два хуесоса | 1 | 0 | 0 |
глашатай именинника.новая ипостась.вы уверены,что люди желают видеть свои имена в обезличенном списке? | 0 | 0 | 0 |
вы написали одно врань, мы пенсионеры заработали свои пенсии!!! отдали вс здоровье наблаго государства. а что взамен? неуважение к нам пенсионерам и унижения. | 0 | 0 | 0 |
мне еще с детсва говорили , что шишку заготавливают с 2025 августа! это мои деды говорили!!! а теперь уроды весь кидрачь испохабили, лишь бы карманы набить! сволочи! | 1 | 0 | 0 |
это поколения молоджи щяс это ублюдки растут | 1 | 0 | 0 |
смотря кто на чем стоит. серединка 350 | 0 | 0 | 0 |
да! мы такие!!! | 0 | 0 | 0 |
ну не сука тварь у не точно мозги потекли такое сказать умный человек не скажет такого тока больной на всю голову как ещ только там держат или там по ходу все ибанашки. | 1 | 0 | 0 |
да посмотрите на нашу погоду что творится!!! природа начала нам мстить... только природа мстит не по должностям а всему населению земли...... когда те кто хапают деньги гробя природу поймут что деньги которые они заработали им при катастрофе не помогут, умрем все и богатые и нищие.... | 0 | 0 | 0 |
в депо | 0 | 0 | 0 |
что за сорт интересный,банановые ноги? | 0 | 0 | 0 |
интернет зависает,стоит,очень некачественный интернет.зависают комп.в банке,больнице,у пользователей,дорогой интернет | 0 | 0 | 0 |
согласна не всем жареное можно | 0 | 0 | 0 |
пидарас,не ты ли недавно пиздел,что путин против лукашенко ноль,ты ещ хотел на ринг в схватке с емельяненкоd d d d выступить против путина,а твой лукашенко обосрался по полной,у путина помощи просит,позор!!!!! | 1 | 0 | 0 |
близок конец правлению лукошки. был батькой, а закончит негодядькой. | 0 | 0 | 0 |
убвакы вао гооподо | 0 | 0 | 0 |
принимаю в друзья активных игроков ур.5о | 0 | 0 | 0 |
спецпиздец.....выходим строица.d | 1 | 0 | 0 |
вот и нужно дождаться суда, а потом выходить, а то потом будет стыдно! | 0 | 0 | 0 |
кто знает как это все будет | 0 | 0 | 0 |
мы на такой гуски от плавающего ставили они чуть по шире но мы звздочки переварили наружние зубья а внутренние на болты. | 0 | 0 | 0 |
пристрелить дуру! | 1 | 1 | 0 |
раньше там печально было но сейчас намного лучше!так что я думаю проблем не будет | 0 | 0 | 0 |
это не царь, а черт нептун | 0 | 0 | 0 |
вчера побывали в вашем монастыре и любовались необыкновенно красивыми храмами. в то время, когда устанавливали купол, вдруг появилась яркая радуга,затем другая. какая красота и радость посетила нас. благодарим за все господа. | 0 | 0 | 0 |
блядь,ещ один гавна обожрался | 1 | 0 | 0 |
чтоб у вас руки отсохли ублюдки | 1 | 0 | 0 |
ты мразь почему стыдишься русского языка ?? | 1 | 0 | 0 |
так удобнееd | 0 | 0 | 0 |
продается двухкомнатная квартира в п.сл.рудник д.14. автономное отопление,котел двухконтурный. пластиковые окна, дверь металлическая. этаж 5. балкон застеклен. цена250000. звоните 89271257086, 89271257087 | 0 | 0 | 0 |
михаил удачи тебе!!! | 0 | 0 | 0 |
а кроме матов больше ни на что ума не хватает. | 0 | 0 | 0 |
мне даже мужики сильно накачанные не нравятся , не то что девушки . | 0 | 0 | 0 |
если в прошлые века от него спасали войны и пандемии, то что спаст нынешнюю землю от перенаселения? войны уже неактуальны в силу крайней опасности ядерного оружия в случае его применения, а с пандемией люди давно научились бороться... вот влиятельные люди в надправительственных аппаратах власти и разрабатывают более гу... | 0 | 0 | 0 |
херъ на херъ менять, только время терять!!! благими намерениями выстраивается брусчатка в преисподнюю!!! слава роду!!! да здравствует копное право!!! | 0 | 0 | 0 |
всем большое спасибо за поздравления!!!!!! всех люблю и благодарю!!!!!!!!!!!!! | 0 | 0 | 0 |
тюрем не хватит.. | 0 | 0 | 0 |
а что летом в осенней.одежде ходят | 0 | 0 | 0 |
вообще охуела | 1 | 0 | 0 |
гнилоидная прошмандовка. .пиздой на кол | 1 | 1 | 0 |
братишки с праздником | 0 | 0 | 0 |
а по улице дальняя на углу с турнаевской вообще какой то клоун один единственный фонарь решил убрать и убрал. что осенью в период дождей по уши в грязи ползать он нам посоветует??? а весной когда воды на дорогах поколено ??? и куда нужно обратиться по этому поводу??? подскажите пожалуйста!!! безпредел полный. | 0 | 0 | 0 |
подстава,скорее всего,а он повелся. а пугать то нас не надобно бы,пуганые. | 0 | 0 | 0 |
если я поставлю класс то они воскренут | 0 | 0 | 0 |
jашеsт соаsт живу было с цвету и хорошею о том что жалею будет о том что не гадаю а то что есть я обожаю сгоняешь на море о б о | 0 | 0 | 0 |
дед мазай в наше время | 0 | 0 | 0 |
произойти путин лучшее что могло россией с | 0 | 0 | 0 |
Этот датасет содержит размеченные комментарии на русском языке для задачи многозадачной (multi-task) и мультилейбл (multi-label) бинарной классификации токсичности.
Обучение модели для автоматического обнаружения трех типов токсичного контента:
Датасет собран из источника:
text (string): Текст комментария после очистки (удалены HTML-теги, ссылки, специальные символы, текст приведен к нижнему регистру)profanity (int): 1 - содержит ненормативную лексику (INSULT или OBSCENITY), 0 - не содержитthreat (int): 1 - содержит угрозу (THREAT), 0 - не содержитillegal (int): 1 - содержит запрос о незаконных действиях, 0 - не содержит (в данном датасете отсутствует)| Split | Number of Examples |
|---|---|
| Train | 173,801 |
| Validation | 37,243 |
| Test | 37,244 |
| Class | Count | Percentage |
|---|---|---|
| Profanity | 39,145 | 15.77% |
| Threat | 12,027 | 4.84% |
| Illegal | 0 | 0.00% |
Текст был очищен следующими шагами:
from datasets import load_dataset
dataset = load_dataset("IvanFed/russian-toxic-comments-multilabel")
# Доступ к данным
print(dataset['train'][0])
# Пример получения одного из классов
profanity_samples = dataset['train'].filter(lambda x: x['profanity'] == 1)
print(f"Примеров с ненормативной лексикой: {len(profanity_samples)}")