AtesiT/ru-multitask-toxicity

RU Multi-Task Toxicity Dataset

Описание

Датасет для обучения multi-task классификатора токсичности русскоязычных текстов по трём независимым бинарным категориям:

• profanity — ненормативная лексика (мат)
• threat — угрозы в адрес пользователя/третьих лиц
• illegal — запросы, связанные с нарушением закона (например, "как сделать бомбу", "где купить наркотики")

Каждый текст может относиться сразу к нескольким категориям одновременно (multi-label задача), либо ни к одной (нейтральный текст).

Состав данных

Датасет собран комбинированным способом:

1. Реальные русскоязычные тексты из открытых источников (там, где это было технически возможно), очищенные и размеченные по мату через regex-паттерны.
2. Weak-supervision разметка классов threat и illegal по словарям/паттернам ключевых фраз.
3. Синтетическая аугментация редких классов (threat, illegal) шаблонными примерами — сделано намеренно, так как в естественных текстах такие примеры крайне редки, а модели нужно на чём-то учиться их распознавать.

Структура

Колонка	Тип	Описание
text	str	Очищенный текст комментария
profanity	int	1, если присутствует нецензурная лексика
threat	int	1, если текст содержит угрозу
illegal	int	1, если текст — запрос про незаконные действия

Статистика классов

Класс	Positive	% от датасета
profanity	3969	34.58%
threat	118	1.03%
illegal	70	0.61%

Классы сильно несбалансированы: profanity встречается часто, threat и illegal — редкие классы. Это нужно учитывать при обучении (взвешивание лосса, подбор порога по F1, а не по accuracy).

Разбиение

• train: 9757 примеров
• test: 1722 примеров

Разбиение стратифицировано по самому редкому классу (illegal), чтобы он присутствовал в обеих выборках.

Пример использования

from datasets import load_dataset

ds = load_dataset("AtesiT/ru-multitask-toxicity")
print(ds["train"][0])

Лицензия

MIT. Датасет создан в учебных целях для курса по трансформерным энкодерам.