mvroz/dlp-poc-eval

DLP Guard PoC — локальное развертывание

Легковесный модуль инспекции текстовых данных (DLP & AppSec Guardrail): гибридный экстрактор ПДн на Rust (детерминированные сущности с контрольными суммами + NER ruBERT-tiny через ONNX) и Python-харнесс для сравнения NER-бэкендов.

Компонент	Где лежит
Rust-сервис (крейт dlp-guard: rules + ort-NER + masker + axum)	https://huggingface.co/spaces/mvroz/dlp-guard-demo
ONNX-модель (model.onnx 116 МБ + tokenizer.json)	https://huggingface.co/mvroz/ner-rubert-tiny-news-onnx
Python-харнесс + результаты eval	https://huggingface.co/datasets/mvroz/dlp-poc-eval

Три сценария развертывания — выберите по цели:

• Docker — воспроизводит живой Space байт-в-байт. Для «просто попробовать».
• Rust из исходников — цикл разработки, cargo test, правки правил.
• Python-харнесс — запуск сравнения бэкендов (Natasha/spaCy/GLiNER/RuBERT) на своих данных.

---

1. Вариант A: Docker (самый быстрый)

Требуется только Docker. Внутри образ сам скачивает модель с Hub.

git clone https://huggingface.co/spaces/mvroz/dlp-guard-demo
cd dlp-guard-demo
docker build -t dlp-guard .
docker run --rm -p 7860:7860 dlp-guard

Сборка включает cargo test --release как гейт: тесты правил (СНИЛС/паспорт/ИНН/карты, чексуммы) падают → сборка падает.

Проверка:

curl -s http://localhost:7860/health
# ok

curl -s http://localhost:7860/analyze \
  -H 'Content-Type: application/json' \
  -d '{"text":"Согласовано Петровым Иваном Ивановичем. СНИЛС 112-233-445 95, тел. +7 (912) 345-67-89, e-mail ivanov@mail.ru"}'

Другой порт: docker run -p 8080:7860 dlp-guard (порт внутри контейнера фиксирован — 7860 захардкожен в src/main.rs, env-переменной для него нет).

---

2. Вариант B: Rust из исходников (цикл разработки)

Предпосылки

• Linux x86_64 или macOS, Rust stable через rustup (проверено на 1.98).
• Компилятор C++ и OpenSSL headers — нужны статической линковке ONNX Runtime:
  • Debian/Ubuntu: sudo apt install -y g++ pkg-config libssl-dev ca-certificates
  • macOS: brew install pkg-config openssl
• Тонкое место: ort =2.0.0-rc.12 скачивает предсобранный статический ONNX Runtime с CDN pyke и линкует его статически. На свежем Debian trixie / текущих Ubuntu это проходит; на дистрибутивах со старыми binutils (например, Debian bookworm) линковка ort_sys падает с unresolved absl::lts_20250814. Решение — собрать в rust:1-slim-trixie или обновить binutils.
• Динамической libonnxruntime.so не существует: Runtime вшит в бинарник, отдельно ставить ONNX Runtime не нужно.

Шаги

# 1. Исходники
git clone https://huggingface.co/spaces/mvroz/dlp-guard-demo
cd dlp-guard-demo

# 2. Модель (~119 МБ суммарно; публичный репозиторий, токен не нужен)
mkdir -p models
curl -L -o models/model.onnx     https://huggingface.co/mvroz/ner-rubert-tiny-news-onnx/resolve/main/model.onnx
curl -L -o models/tokenizer.json https://huggingface.co/mvroz/ner-rubert-tiny-news-onnx/resolve/main/tokenizer.json

# 3. Тесты детекторов (контрольные суммы, форматы)
cargo test --release

# 4. Запуск
MODEL_PATH=$PWD/models/model.onnx \
TOKENIZER_PATH=$PWD/models/tokenizer.json \
cargo run --release
# listening on 0.0.0.0:7860

Если MODEL_PATH / TOKENIZER_PATH не заданы, сервис ищет /models/model.onnx и /models/tokenizer.json.

API

POST /analyze, тело {"text": "<произвольный текст>"}:

{
  "findings": [
    {"start": 10, "end": 35, "text": "Петровым Иваном Ивановичем", "etype": "PERSON", "source": "ner"},
    {"start": 43, "end": 57, "text": "112-233-445 95", "etype": "SNILS", "source": "rule"}
  ],
  "masked_text": "Согласовано [PERSON_1]. СНИЛС [SNILS_MASKED], тел. [PHONE_MASKED], e-mail [EMAIL_MASKED]",
  "mapping": [{"tag": "PERSON_1", "value": "Петровым Иваном Ивановичем", "etype": "PERSON"}]
}

• findings[].etype ∈ PERSON, LOCATION, SNILS, PASSPORT, INN, CREDIT_CARD, PHONE, EMAIL
• Правила с чексуммами: СНИЛС (включая официальный формат XXX-XXX-XXX XX), паспорт РФ, ИНН, карты (Luhn); regex: телефоны, e-mail; NER: ФИО/локации во всех падежах (косвенные падежи — «Петровым», «Ивану» — ловит NER)
• mapping сохраняет tag → исходное значение — обратное де-маскирование возможно
• GET / — HTML-демо-форма, GET /health — liveness

Латентность: ~5 мс/текст на 2 vCPU (CPU-инференс ruBERT-tiny, 29M параметров).

---

3. Вариант C: Python-харнесс (сравнение NER-бэкендов)

Установка

Python 3.12. Зависимости — под фактические прогоны eval:

git clone https://huggingface.co/datasets/mvroz/dlp-poc-eval
cd dlp-poc-eval

python3.12 -m venv .venv && source .venv/bin/activate
pip install "setuptools<81" datasets torch transformers tiktoken sentencepiece \
            protobuf gliner natasha spacy
python -m spacy download ru_core_news_md

Почему такой список: setuptools<81 — Natasha тянет pymorphy2, которому нужен pkg_resources (удалён в setuptools 81+); sentencepiece + protobuf — токенизатор mdeberta у GLiNER; tiktoken — фолбэк-путь transformers.

Быстрый прогон (rules-only, без GPU)

# Синтетический корпус с золотой разметкой (seed 20260911, детерминированный)
python synthetic.py

# Гибрид rules-only baseline на синтетике
python evaluate.py --skip-pii --synth corpus_synth.jsonl --out eval_synth_only.json

Полный прогон (все бэкенды)

# Нужен GPU: gliner / rubert-tiny / piibert автоматически уходят на CUDA;
# на CPU GLiNER считает ~180 с/текст.
python evaluate.py \
  --backends natasha,spacy,gliner,rubert-tiny,piibert \
  --synth corpus_synth.jsonl \
  --out eval_results.json

# Ускоренный проход по pii_benchmark (2841 предложение в полном):
python evaluate.py --pii-sample 200 --synth corpus_synth.jsonl --out eval_quick.json

Данные: redmadrobot-rnd/pii_benchmark (test, 2841) скачивается автоматически. Выход: per-backend ner_P/R/F1_overlap (PERSON+LOC, лидерборд-протокол), hybrid_P/R/F1_exact (PoC-скоуп: PERSON, LOCATION, SNILS, PASSPORT, INN, CREDIT_CARD, PHONE, EMAIL), токен-левель micro P/R/F1, per-type таблицы, ms_per_text.

Эталонные результаты — в eval/eval_results.json и eval/REPORT.md этого репозитория.

Модуль правил в Python

dlp_guard.py самодостаточен: from dlp_guard import detect_rules, resolve_overlaps, Span — детекторы с чексуммами; используется в eval и служит эталоном для src/rules.rs в Rust-сервисе (паритет правил проверен юнит-тестами).

---

Устранение неполадок

Симптом	Причина и решение
failed to find tool "c++" при сборке	Нет g++ — ort компилирует C-биндинги. Установите g++ (Debian/Ubuntu) или Xcode CLT (macOS)
unresolved absl::lts_20250814 на линковке ort_sys	Старые binutils (bookworm и старее). Соберите в rust:1-slim-trixie или обновите binutils
GLIBC_2.38 not found при запуске	Бинарник собран на более свежем дистрибутиве, чем запускается. Собирайте и запускайте на одинаковой базе — либо используйте Docker-вариант
Порт занят (7860 already in use)	Прежний демон держит порт: lsof -ti:7860 | xargs kill; либо мапьте другой (-p 8080:7860)
401 при скачивании модели	Репозиторий публичный — проверьте URL: https://huggingface.co/mvroz/ner-rubert-tiny-news-onnx/resolve/main/model.onnx
Сервис стартует, /analyze → 500	NER не загрузился: проверьте MODEL_PATH/TOKENIZER_PATH и что model.onnx скачался целиком (116 МБ)

---

Состав PoC (модули задания)

1. Детерминированные сущности (regex + контрольные суммы): СНИЛС, паспорт РФ, ИНН, номера карт, телефоны, e-mail — src/rules.rs / dlp_guard.py (паритет).
2. Контекстные сущности (NER): ФИО, адреса, локации со всеми падежными формами — ONNX ruBERT-tiny (29M), инференс прямо в Rust через ort.
3. Сравнение baseline'ов: Natasha, spaCy ru_core_news_md, GLiNER multi-v2.1, дистиллированный RuBERT-tiny, reference rubert-base-pii-ner — evaluate.py, результаты в eval/.
4. Маскирование: замена на [PERSON_1], [SNILS_MASKED], … с сохранением маппинга — src/masker.rs.

Ограничения PoC: NER-овер-триггеры на беглом тексте (нужен контекстный пост-фильтр); для продакшена — redmadrobot-rnd/rubert-base-pii-ner (177M, tok F1 0.904 на pii_benchmark, измерено этим же харнессом).