petaevd/russian-toxicity-multilabel

Russian Toxicity and Safety Multi-label Dataset

Предупреждение: датасет содержит ненормативную лексику, угрозы и формулировки потенциально опасных или незаконных запросов.

О датасете

Русскоязычный учебный датасет для multi-label классификации текстов по трём независимым признакам:

• profanity — наличие ненормативной или обсценной лексики;
• threat — наличие прямой угрозы, обещания или пожелания причинить серьёзный вред;
• illegal — запрос, предложение или инструкция, способствующая незаконному либо опасному действию.

Каждая метка бинарная и принимает значение 0 или 1. Один текст может одновременно иметь несколько положительных меток.

В репозитории опубликован один split train, содержащий 6139 строк. В итоговую версию включены все строки, прошедшие очистку и дедупликацию.

Набор создан в рамках учебного задания и подходит для экспериментов с классификацией, анализом дисбаланса и модерацией. Его нельзя использовать как единственное основание для автоматической блокировки пользователей, юридических решений или других высокорисковых действий.

Как собран датасет

Исходный пул составлен из четырёх открытых наборов данных:

1. s-nlp/ru_paradetox — русские токсичные тексты и их нейтральные парафразы;
2. mteb/RuNLUIntentClassification — обычные русские пользовательские запросы;
3. MTS-AI-SearchSkill/MTSBerquad — русскоязычные вопросы;
4. JailbreakBench/JBB-Behaviors — англоязычные harmful и benign safety-запросы, автоматически переведённые на русский.

Основные этапы обработки:

1. приведение источников к общей схеме;
2. перевод JailbreakBench через OpenRouter моделью qwen/qwen3.6-35b-a3b;
3. Unicode-нормализация и очистка текста, удаление URL, email, HTML и управляющих символов;
4. фильтрация слишком коротких и слишком длинных текстов;
5. единая автоматическая multi-label разметка очищенных строк через OpenRouter моделью qwen/qwen3.6-35b-a3b со structured output;
6. дополнительный диагностический сигнал ненормативной лексики через регулярные выражения;
7. точная и fuzzy-дедупликация;
8. получение многоязычных embeddings через qwen/qwen3-embedding-8b;
9. семантическая дедупликация отдельно внутри одинаковых комбинаций меток с порогом сходства 0.98;
10. воспроизводимое перемешивание с random_state=42 и сохранение всех строк, прошедших фильтры качества.

Размеры на этапах текущего pipeline:

• raw_rows_loaded: 6200
• clean_rows: 6161
• quality_passed_rows: 6161
• after_fuzzy_dedup: 6156
• after_semantic_dedup: 6139
• final_rows: 6139

Структура данных

Поле	Тип	Описание
text	string	Очищенный русский текст
profanity	int8	Наличие ненормативной лексики
threat	int8	Наличие угрозы
illegal	int8	Наличие опасного или незаконного запроса
source	string	Исходный датасет или подмножество
source_id	string	Идентификатор исходной строки
source_split	string	Исходный split или подмножество
source_license	string	Лицензия исходного источника
original_text	string/null	Исходный текст до перевода, если применимо
original_labels	string/null	Метки или метаданные исходного источника
label_method	string	Метод получения итоговых меток
label_confidence	float/null	Самооценка уверенности модели
translation_method	string/null	Метод перевода
audit_status	string/null	Статус автоматической обработки
group_id	string	Идентификатор связанной группы или пары

Статистика

Целевые метки

• profanity: 2084 положительных (33.95%), 4055 отрицательных; negative/positive = 1.95
• threat: 118 положительных (1.92%), 6021 отрицательных; negative/positive = 51.03
• illegal: 96 положительных (1.56%), 6043 отрицательных; negative/positive = 62.95

Класс profanity представлен значительно лучше, чем threat и illegal. Редкие классы остаются сильно несбалансированными.

Комбинации меток

Порядок цифр: [profanity, threat, illegal].

• 000: 3899 (63.51%)
• 001: 82 (1.34%)
• 010: 66 (1.08%)
• 011: 8 (0.13%)
• 100: 2039 (33.21%)
• 101: 1 (0.02%)
• 110: 39 (0.64%)
• 111: 5 (0.08%)

Источники

• ru_paradetox_toxic: 2982 (48.57%)
• ru_paradetox_neutral: 1167 (19.01%)
• runlu_intent: 991 (16.14%)
• mtsberquad_question: 799 (13.02%)
• jailbreakbench: 200 (3.26%)

Методы разметки

• qwen/qwen3.6-35b-a3b_structured: 6139

Статусы обработки

• api_pass: 6087
• ambiguous: 52

Лицензии строк

• OpenRAIL++: 4149
• CC BY 4.0: 991
• Apache-2.0: 799
• MIT: 200

Длина текстов

• characters: min — 13, max — 471, среднее — 59.0, медиана — 53.0
• words: min — 3, max — 55, среднее — 9.3, медиана — 8.0

После нормализации регистра и пробелов точных дубликатов: 0.

Корреляция меток

	profanity	threat	illegal
profanity	1	0.01	-0.074
threat	0.01	1	0.107
illegal	-0.074	0.107	1

Корреляция показывает совместную встречаемость меток, но не доказывает причинную связь.

Примеры безопасных данных

В карточке приводятся только строки с комбинацией меток 000.

Текст	profanity	threat	illegal	Источник
Что стало новым этапом развития банковской системы Белоруссии?	0	0	0	mtsberquad_question
Джастин тимберлейк, его концерт 17 января, а я не знала и уже не успею доехать и купить билеты	0	0	0	ru_paradetox_neutral
БЛИН! В ОМСКЕ УЖЕ ТАК ТЕМНО... А МНЕ НА МАРКСА ПРЕТЬСЯ(	0	0	0	ru_paradetox_toxic

Загрузка

from datasets import load_dataset

dataset = load_dataset("petaevd/russian-toxicity-multilabel", split="train")
print(dataset)
print(dataset[0])

Основные столбцы:

dataset = dataset.select_columns(
    ["text", "profanity", "threat", "illegal"]
)

Ограничения

• Итоговые метки получены автоматически одной языковой моделью; отдельный независимый аудит всего датасета не выполнялся.
• label_confidence — самооценка модели, а не откалиброванная вероятность.
• Перевод JailbreakBench выполнен автоматически и может содержать отдельные стилистические ошибки.
• Классы threat и illegal сильно несбалансированы.
• Источники относятся к разным жанрам, поэтому модель может частично распознавать стиль источника, а не только целевые признаки.
• Дедупликация уменьшает число повторов, но не гарантирует отсутствие всех возможных парафразов.
• Перед реальным применением необходимы ручной аудит, отдельные train/validation/test splits и независимая оценка.

Этические соображения

Датасет содержит потенциально оскорбительные и опасные тексты. Он предназначен для исследований, обучения систем безопасности и образовательных задач.

Не рекомендуется использовать его для автоматического наказания пользователей без проверки человеком, профилирования людей, генерации вредоносных инструкций, юридических или правоохранительных решений.

Источники и лицензии

Итоговый набор объединяет материалы с разными лицензиями, поэтому репозиторий отмечен как license: other. Каждая строка сохраняет поля source и source_license; условия исходных лицензий продолжают применяться к соответствующим строкам.

Russian ParaDetox

• Репозиторий: https://huggingface.co/datasets/s-nlp/ru_paradetox
• Лицензия: OpenRAIL++.
• Использованы токсичные тексты и нейтральные парафразы.

RuNLUIntentClassification

• Репозиторий: https://huggingface.co/datasets/mteb/RuNLUIntentClassification
• Лицензия: CC BY 4.0.
• Требуется указание авторства и информации об изменениях.

MTSBerquad

• Репозиторий: https://huggingface.co/datasets/MTS-AI-SearchSkill/MTSBerquad
• Лицензия: Apache 2.0.
• Использовано поле question.

JailbreakBench JBB-Behaviors

• Репозиторий: https://huggingface.co/datasets/JailbreakBench/JBB-Behaviors
• Лицензия: MIT.
• Использованы harmful и benign запросы, автоматически переведённые с английского на русский.

Подробная информация также находится в файле SOURCE_LICENSES.md.

Воспроизводимость

• raw_rows_loaded: 6200

• clean_rows: 6161

• quality_passed_rows: 6161

• after_fuzzy_dedup: 6156

• after_semantic_dedup: 6139

• final_rows: 6139

• random_state: 42

• translation_model: qwen/qwen3.6-35b-a3b

• label_model: qwen/qwen3.6-35b-a3b

• embedding_model: qwen/qwen3-embedding-8b

• semantic_similarity_threshold: 0.98