Katerina-Bir/rubert-tiny2-secret-detection

RuBERT-tiny2 для обнаружения ПДн и секретов

Дообученная cointegrated/rubert-tiny2 для поиска чувствительных фрагментов в сообщениях, коде и конфигурациях перед отправкой во внешнюю LLM. Архитектура — BertForTokenClassification, 29,1 млн параметров, FP32. Версия: tiny2-mix-a-s1-ft-spacy-free-20261013-a-e2-b2.

Что распознаёт

PERSON, LOCATION, ORGANIZATION, LOGIN, PASSWORD, AUTH_TOKEN, SECRET_KEY, CONTRACT_NUMBER. Всего 17 BIO-меток: начало/продолжение восьми типов и O — обычный текст. Соответствие меток — в config.json.

Формат и запуск

Опубликован исходный checkpoint Safetensors с конфигурацией и токенизатором. Для целевого запуска используется профиль ANALYZER_PROFILE=tiny2 проекта ru-llm-proxy, PR 109:

Safetensors → экспорт в ONNX при сборке → Triton с ONNX Runtime.

torch и transformers используются для экспорта и сверки с исходной моделью. В Analyzer также остаются AutoTokenizer из Transformers и операции с тензорами PyTorch; вычисление самой нейросети в этом режиме выполняет Triton/ONNX Runtime. Полного удаления этих библиотек из проекта нет.

Параметры backend и обработки в этом профиле:

PRESIDIO_ANALYZER_NER_MODEL_PROFILE=tiny2
PRESIDIO_ANALYZER_NER_BACKEND=triton
PRESIDIO_ANALYZER_NER_O_LOGIT_BIAS=1.0
PRESIDIO_ANALYZER_NER_SPAN_POSTPROCESSING=secrets-contracts

Профиль использует окна по 384 содержательных токена, постобработку границ и объединение с правилами. NER spaCy отключён; токенизатор и лемматизатор остаются. Обычный pipeline() без этой обработки не воспроизводит приведённые результаты.

Дообучение

Кандидат продолжает обучение Tiny2 mix-a-s1 на смешанном корпусе NER и учётных данных, включая Collection3 и redmadrobot: 2 эпохи, learning rate 2e-5. Эпоха и калибровка выбраны по validation из 8224 строк. Сдвиг +2 для B-/I-меток PERSON/LOCATION/ORGANIZATION уже включён в веса; повторно добавлять его не нужно. Он отличается от O-logit bias сервиса выше.

Проверка и ограничения

Офлайн-оценка от 19.10.2026 на коде переноса в ru-llm-proxy:

Полностью закрытые значения	BERT fef2	Tiny2
Смешанный NER-корпус: имена, места, организации и учётные данные, из 5984	5437	5489
PII-Bench, из 1667	1445	1487

Это покрытие всех непробельных символов любой меткой после правил Analyzer, не F1 чистой модели. Tiny2 оценивалась через локальный ONNX Runtime; это не проверка текущей production-сборки. Смешанный NER-корпус ранее использовался для диагностики и не является закрытой независимой приёмочной выборкой.

Tiny2 уступает BERT по части классов, особенно организациям, и даёт больше лишних масок в коде/обычном тексте. Возможны пропуски и неточные границы. Модель сама не выполняет обратимое маскирование и не гарантирует обнаружение всех секретов; перед применением нужна проверка на целевых данных.