Instructions to use vladlinv/ru-pii-ner with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use vladlinv/ru-pii-ner with PEFT:
Task type is invalid.
- Notebooks
- Google Colab
- Kaggle
О модели
Модель ищет персональные данные в русскоязычных документах. Кроме имён, адресов, дат, телефонов и почты она размечает идентификаторы, по которым человека можно связать с документом: данные паспорта и миграционных документов, СНИЛС, ИНН и другие госномера, банковские реквизиты, медицинские, судебные, нотариальные, кадровые и учебные номера, данные об имуществе и транспорте, номера билетов и заказов, аккаунты, пропуска, внутренние коды систем и многое другое. В реальных документах именно на них приходится большая часть персональных данных.
Датасет размечен по контексту, поэтому модель находит идентификаторы, которые не описать регулярным выражением, и отличает данные человека от данных организации. Границы разметки опираются на 152-ФЗ и российскую правоприменительную практику. Разметка консервативная — если непонятно к кому данные относятся, значение считается персональными данными. При этом граница проводилась по юридическому смыслу, а не по принципу «замазать всё подряд», то есть данные организаций, справочные и служебные значения, не привязанные к человеку, остаются нетронутыми.
Метрики
Валидационная выборка: 457 примера, 2 433 уникальных сущности.
Для обезличивания основной практический показатель — Coverage: доля эталонных сущностей, полностью покрытых предсказанием. Строгий F1 дополнительно требует точного совпадения границ, которые часто расходятся на тексте с плохим OCR.
| Класс | Сущностей | Precision | Recall | F1 | Coverage |
|---|---|---|---|---|---|
| PERSON | 830 | 92.10% | 92.65% | 92.37% | 96.99% |
| LOCATION | 258 | 78.65% | 81.40% | 80.00% | 93.41% |
| DATE | 580 | 88.51% | 90.34% | 89.42% | 95.00% |
| PHONE | 138 | 87.69% | 82.61% | 85.07% | 86.23% |
| 62 | 86.76% | 95.16% | 90.77% | 96.77% | |
| PII | 2 433 | 84.34% | 85.86% | 85.09% | 93.51% |
| Общее | 4 301 | 86.18% | 87.54% | 86.85% | 94.19% |
Датасет
4 097 примеров
Датасет полностью сгенерирован. Работа проходила в несколько этапов: юридическая проработка состава ПДн и правил разметки, генерация и аугментация документов, затем ручная доработка части примеров.
Примеры охватывают личные документы физических лиц, кадровую и внутреннюю документацию организаций, корпоративные и административные материалы, юридические и нормативные документы, договорную, коммерческую, финансовую, бухгалтерскую и банковскую документацию. Также государственные и регистрационные документы, медицинские, социальные и образовательные материалы, производственная и техническая документация, документы об имуществе и транспорте, деловая и пользовательская переписка, реестры, справочники, формы, таблицы и другие примеры.
Различные варианты bad OCR, HTML и Markdown, и других форматов. Около 6% примеров иностранные — английский, белорусский, узбекский, казахский, киргизский, таджикский, армянский, грузинский, азербайджанский.
| Класс | Сущностей | Примеров |
|---|---|---|
| PERSON | 7 790 | 2 629 |
| LOCATION | 1 918 | 763 |
| DATE | 4 514 | 1 481 |
| PHONE | 1 548 | 889 |
| 1 004 | 600 | |
| PII | 22 466 | 3 103 |
Архитектура
Модель построена как LoRA-адаптер к ai-forever/ruRoberta-large. Выход трансформера поступает в линейную голову с 18 выходами — шесть типов сущностей × три состояния BIO. Каждый тип декодируется собственной CRF-цепью.
LoRA, NER-голова и CRF обучались совместно. CRF loss оценивает последовательность целиком; дисбаланс учитывается весами положительных цепей и focal-поправкой. Пропуски сущностей штрафуются сильнее лишних срабатываний, переходы O → I и START → I запрещены.
Использование
Стандартный PeftModel.from_pretrained из библиотеки PEFT загружает только LoRA-веса backbone. NER-голова и CRF хранятся отдельно в ner_head_crf.safetensors, поэтому для полного инференса используется библиотека из репозитория. Библиотека загружает LoRA, NER-голову и CRF и возвращает результат в формате token-classification pipeline Transformers.
Установка:
pip install "git+https://github.com/vladlinv/ru-pii-ner.git"
Загрузка модели и обработка текста:
from ru_pii_ner import load
model = load()
entities = model.predict(
"Иван Петров, телефон +7 999 123-45-67",
)
for entity in entities:
print(entity)
{
"entity_group": "PERSON",
"word": "Иван Петров",
"start": 0,
"end": 11,
"score": 0.99,
}
Несколько текстов можно обработать одним батчем, отфильтровать предсказания по минимальной уверенности и сместить переход O → B в матрице переходов CRF через o_to_b_shift — положительные значения повышают полноту, отрицательные делают разметку строже. По умолчанию 0.0.
results = model.predict(
[
"Иван Петров, телефон +7 999 123-45-67",
"Почта: example@mail.ru",
],
batch_size=16,
min_score=0.5,
o_to_b_shift={
"PERSON": 0.8,
"PHONE": 2,
"PII": -0.5,
},
)
PII — общий класс персональных данных. PERSON, LOCATION, DATE, PHONE, EMAIL его подклассы. Поэтому один фрагмент может одновременно получить общий PII и более конкретный класс. Для обезличивания рекомендуется использовать объединение всех найденных классов. Общий класс служит дополнительной страховкой и покрывает персональные идентификаторы, для которых нет отдельной категории.
Ограничения
NER модель — только один из слоёв системы обезличивания ПДн. В реальной системе её необходимо дополнять регулярными выражениями, словарями и прикладными правилами. При этом ни модель, ни полностью автоматический пайплайн не могут гарантировать обнаружение всех чувствительных данных.
Модель предназначена для поиска персональных данных. Она не выявляет коммерческую тайну и другую конфиденциальную информацию, не относящуюся к физическим лицам: без отдельных правил такие сведения останутся открытыми.
Примеры работы модели
| Гражданин(ка) | Савицкий [PERSON 1.00] [PII 1.00] |
| :--- | :--- |
| фамилия | Кирилл Андреевич [PERSON 1.00] [PII 1.00] |
| родился(лась) | 16 мая 2006 года [DATE 0.82] [PII 0.51] |
| две тысячи шестого года [DATE 0.86] [PII 0.72] |
| о чем в книге регистрации актов о рождении |
| чиста | 11 |
| произведена запись за № | 642 [PII 1.00] |
| Место рождения: республика (государство) [LOCATION 0.41] [PII 0.64] | Беларусь [LOCATION 0.84] [PII 0.95] |
| область (край) [LOCATION 0.98] [PII 0.99] | |
| район [LOCATION 0.85] [PII 0.92] | |
| город (поселок, село, деревня) | г. Могилёв [LOCATION 1.00] [PII 1.00] |
| РОДИТЕЛИ: | |
| Отец | Савицкий [PERSON 1.00] [PII 1.00] |
| Андрей Викторович [PERSON 0.98] [PII 1.00] |
| национальность | белорус |
| Мать | Савицкая [PERSON 1.00] [PII 1.00] |
| Елена Сергеевна [PERSON 0.99] [PII 1.00] |
| национальность | белорусская |
| Место регистрации рождения | О / ЗАГС администрации Ленинского района Могилёва |
| Дата выдачи « | 29 |
| мая | 2006 [DATE 0.99] [PII 0.99] |
| Руководитель органа записи актов гражданского состояния | |
| II-МГ № 4175836 [PII 0.92] |
ООО «Линия Интерьера»
190020, РФ, г. Санкт-Петербург,
наб. Обводного канала,
дом 134, офис 312
ОГРН 1187847236541 от 12.07.2018
р/с 40702810955000018426
Банк: Санкт-Петербургский филиал
АО «Расчётный Союз»
к/с 30101810600000000612
ИНН 7839127465, БИК 044030612
КПП 783901001
Покупатель:
Киреева Милана Рустамовна [PERSON 1.00] [PII 1.00]
443080,РФ, Самарская область [LOCATION 0.59] [PII 1.00] ,
Г. Самара, ул. Революционная, д. 91, кв. 28 [LOCATION 0.61] [PII 1.00]
ОГРНИП 321631200047816 [PII 1.00]
р/с 40802810761590003842 [PII 1.00]
Банк: Самарское отделение № 1182
АО «Расчётный Союз»
к/с 30101810600000000612
ИНН 631624837195, БИК
043601612
Форма № 2-1-Учет
Код по КНД 1122022
Федеральная налоговая служба
## О ПОСТАНОВКЕ НА УЧЕТ ФИЗИЧЕСКОГО ЛИЦА В НАЛОГОВОМ ОРГАНЕ
Настоящее свидетельство подтверждает, что
**КАРИМОВ РУСТАМ ФАРХОДОВИЧ [PERSON 0.96] [PII 0.99]**
пол — мужской
дата рождения — 18.11.1986 [DATE 1.00] [PII 1.00]
место рождения — КЫРГЫЗСТАН [LOCATION 1.00] [PII 1.00]
поставлен(а) на учет в соответствии с Налоговым кодексом Российской Федерации
с присвоением **17.05.2024 [DATE 1.00] [PII 1.00]**
ИНН: **0 2 0 4 9 8 6 1 5 6 5 4 [PII 0.98]**
---
Заместитель начальника Инспекции Федеральной налоговой службы по Октябрьскому району г. Саратова
А. В. Кондратьев [PERSON 1.00] [PII 1.00]
*(подпись)*
*(печать: МП ИНСПЕКЦИЯ ФЕДЕРАЛЬНОЙ НАЛОГОВОЙ СЛУЖБЫ ПО ОКТЯБРЬСКОМУ РАЙОНУ Г. САРАТОВА)*
+7 903 728-55-14 [PHONE 1.00] [PII 0.99] - Илья Зеврикс [PERSON 0.99] [PII 0.99] Юрист
office@meridian-group.ru <office@meridian-group.ru>
Daniel Novak [PERSON 1.00] [PII 0.99] <daniel.novak@meridian-group.ru [EMAIL 1.00] [PII 1.00] >
From: Yana Trofimova [PERSON 1.00] [PII 1.00]
Sent: Wednesday, November 24, 2021 9:18 AM [DATE 0.85] [PII 0.84]
To: Фролов Никита [PERSON 1.00] [PII 1.00] <expo7314@yandex.ru [EMAIL 0.81] [PII 0.99] >
Cc: Dario Mendez [PERSON 1.00] [PII 0.98] <dario.mendez@avento.com.tr [EMAIL 1.00] [PII 0.94] >; Victor Lebedev [PERSON 1.00] [PII 1.00] <victor.lebedev@meridian-group.ru [EMAIL 1.00] [PII 1.00] >; Julian Koenig [PERSON 1.00] [PII 0.98] <julian.koenig@avento.com.tr [EMAIL 0.99] [PII 0.92] >; Bruno Esteves [PERSON 0.99] [PII 0.98] <bruno.esteves@avento.com.tr [EMAIL 0.79] [PII 0.81] >; Stefan Varga [PERSON 0.99] [PII 0.98] <stefan.varga@avento.com.tr [EMAIL 0.86] [PII 0.85] >
Subject: EXPO 7314- B8,1,2, MERIDIAN-584-KDZ-MRP-7316
Importance: High
Уважаемый Никита [PERSON 0.99] [PII 1.00] ,
поскольку обеими сторонами не было подписано ДС 9, прошу подписать с вашей стороны. В связи с тем, что в ДС 9 изменился объем услуг, это тянет за собой ошибку в ДС 2, Поэтому направляю вам ДС9-2 на подписание, прошу подписать в прилагаемой редакции и направить оригиналы Виктору Лебедева [PERSON 1.00] [PII 1.00] тел +7 (937) 615 48 03 [PHONE 1.00] [PII 1.00] в наш офис
с уважением / best regards,
Yana Trofimova [PERSON 1.00] [PII 1.00]
Volga Expo Center Project
Contracts Specialist
Mobile:+7 951- 604- 3182 [PHONE 1.00] [PII 1.00]
адрес для отправки корреспонденции/ address for correspondence: 603006, г. Нижний Новгород, ул. Варварская, д. 32, корпус 2 (для курьерской доставки)
603006, г. Нижний Новгород, а/я 214 (при отправке почтой России)
Dario MENDEZ [PERSON 0.95] [PII 0.96]
Volga Expo Center
Project
Cost Control Chief
Mobile:+7 977 240 6815 [PHONE 0.88] [PII 0.82]
Нижний Новгород, ул. Совнаркомовская, д. 13, павильон 4
NIZHNY NOVGOROD, SOVNARKOMOVSKAYA ST. 13, PAVILION 4
www.aventobuild.com.tr & www.meridian-group.ru
Cc: Mateo Rios [PERSON 1.00] [PII 1.00] <mateo.rios@avento.com.tr [EMAIL 0.90] [PII 0.80] >; Viktor Hahn [PERSON 1.00] [PII 1.00] <viktor.hahn@avento.com. [EMAIL 0.94] [PII 0.98] tr >; Emil Costa [PERSON 1.00] [PII 1.00] <emil.costa@avento.com.tr [EMAIL 0.97] [PII 0.92] >; Pauline Markova [PERSON 1.00] [PII 1.00] <pauline.markova@meridian-group.ru [EMAIL 1.00] [PII 1.00] >
С уважением/ Saygilarimla
Daniel Novak [PERSON 1.00] [PII 0.97]
Tel № +7(926) 781-63-04 [PHONE 1.00] [PII 1.00]
Tel № +7(968) 245-19-87 [PHONE 1.00] [PII 1.00]
Добрый день!
В приложении направляем письмо № AVENTO-685-OPS-DOC-1738 [PII 1.00] от 18.11.2025 [DATE 1.00] [PII 0.99] г. в ответ на письмо исх. № 27 от 07.08.2025 г. «О предоставлении информации».
Просим в ответном письме подтвердить получение и дать входящий номер.
190031, г. Санкт-Петербург, Московский проспект, д. 8, корп. 2, лит. А, этаж 4, комната (офис) № 582
Тел: +7 812 271-44-12, +7 812 271-44-13
Факс: +7 812 271-44-14
www.meridian-group.ru
судебные расходы в сумме 8 317 рублей.
Решение суда может быть обжаловано в апелляционном порядке в течение одного месяца со
дня принятия решения суда в окончательной форме в Пермский краевой суд путем подачи
жалобы через Пермский районный суд Пермского края.
Судья: Белозерова Т.К. [PERSON 1.00] [PII 1.00]
Мотивированное решение составлено 17.08.2021
Документ для печати
https://permski--perm.sudrf.ru/modules.php?name=sud_delo&srv_num...
Стр. 7 из 7
11.04.2024, 14:37
Страница 1 из 2
Ленинский районный суд города Краснодара
350020, г. Краснодар, ул. Коммунаров, д. 179
Истец: Воронцов Максим Сергеевич [PERSON 1.00] [PII 1.00]
09.11.1984 [DATE 1.00] [PII 1.00] года рождения
Место рождения: с. Ключи, Шадринского
района Курганской обл. [LOCATION 0.99] [PII 1.00]
Водительское удостоверение: серии 6632 [PII 1.00] №
718405 [PII 1.00]
Место жительства: 350087, Краснодарский край, г. Краснодар,
ул. Российская, д. 267 [LOCATION 0.86] [PII 0.93]
Тел.: +7-918-417-6259 [PHONE 1.00] [PII 1.00]
Эл. почта: maxim.vorontsov84@outlook.com [EMAIL 1.00] [PII 1.00]
Ответчик: Алиев Тимур Эльдарович [PERSON 1.00] [PII 1.00]
24.03.1991 [DATE 1.00] [PII 1.00] года рождения
Место рождения: Азербайджан [LOCATION 0.99] [PII 1.00]
Водительское удостоверение: серии 6674 [PII 1.00] №
316528 [PII 1.00]
Место жительства: 344022, Ростовская область, г. Ростов-на-Дону,
ул. Пушкинская, д. 145, кв. 38 [LOCATION 1.00] [PII 0.99]
Тел.: +7-928-681-2047 [PHONE 1.00] [PII 1.00]
Судья: Н.В. Крылова [PERSON 1.00] [PII 1.00]
Дело №: 2-714/2026
Судебное заседание: 18.05.2026 в 10:30
В Тверской районный суд города Москвы
Автор Крылов Максим Романович [PERSON 1.00] [PII 0.99]
125047, Москва г, ул 1-я Тверская-Ямская, д 18, корп 2, кв
47 [LOCATION 1.00] [PII 0.99]
+7(916)7415826 [PHONE 1.00] [PII 1.00]
maxkrylov84@inbox.ru [EMAIL 1.00] [PII 1.00]
ОБРАЩЕНИЕ
Внепроцессуальное обращение Председателю Тверского
районного суда города Москвы
Просим рассмотреть настоящее обращение по нижеизложенным обстоятельствам.
В производстве Тверского районного суда города Москвы находится гражданское дело 2-1842024 по
иску Роговой
Марины Сергеевны [PERSON 1.00] [PII 1.00] к Роговой Елене Викторовне [PERSON 1.00] [PII 1.00] о разделе наследственного имущества
16.04.2024 Тверской районный суд города Москвы вынес решение по существу.
Заявитель подала в Московский городской суд апелляционную жалобу, и 28.05.2024
Московским городским судом решение Тверского районного суда города Москвы изменено без
направления дела на новое рассмотрение ввиду нарушения норм материального права изменен размер
компенсации, подлежащий выплате от Роговой М.С. [PERSON 0.97] [PII 0.98] в пользу Заявителя.
В связи с чем 28.05.2024 в силу ст. 392 ГПК РФ решение по делу № 2-1842024 вступило в законную силу.
04.06.2024 материалы из апелляционной инстанции вернулись в Тверской районный суд города Москвы.
Ввиду изложенного, 10.06.2024 Ответчик подал заявление о выдаче исполнительного листа.
Однако 12.06.2024 в ходе телефонного разговора сотрудник суда указал, что выдать исполнительный
лист невозможно, поскольку материалы дела переданы в суд кассационной инстанции, в связи с чем
Заявителю предложено обратиться с заявлением о выдаче исполнительного листа ориентировочно в
августе 2024 [PII 0.83] года.
15 марта 2022 [PII 0.75] г. 14:27 [DATE 0.65]
От кого: «Волков Геннадий Романович [PERSON 1.00] [PII 1.00] » <grvolkov@volgaexpo.ru [EMAIL 0.98] [PII 0.98] >
Кому: «Илья Сергеев [PERSON 0.76] [PII 0.99] » <sergeev.i@artmedia.ru [EMAIL 1.00] [PII 1.00] >
**Персонал:**
| | КОРШУНОВ АНТОН ЕВГЕНЬЕВИЧ [PERSON 1.00] [PII 1.00] | ЛАПИН ДЕНИС ВИКТОРОВИЧ [PERSON 1.00] [PII 1.00] | КОРОТКОВ ВАДИМ СЕРГЕЕВИЧ [PERSON 1.00] [PII 1.00] | АБДУЛЛИН РИНАТ МАРАТОВИЧ [PERSON 1.00] [PII 1.00] | ХАСАНОВ ТИМУР РАШИДОВИЧ [PERSON 1.00] [PII 1.00] | МЕЛЬНИКОВ ПАВЕЛ ОЛЕГОВИЧ [PERSON 1.00] [PII 1.00] |
|---|---|---|---|---|---|---|
| допуск | | | | | |
|
| допуск | | | | | | |
| допуск | | | | | | |
| допуск | | | | | | |
| допуск | | | | | | |
| допуск | | | | | | |
Согласован.
Данное письмо в распечатанном виде является согласованием для прохода через КПП в павильоны АО «ВОЛГА ЭКСПО ЦЕНТР».
Для получения пропуска необходимо обратиться в службу режима по адресу ул. Совнаркомовская, 13.
После прохождения КПП, до начала подготовки экспозиции, сотрудникам ООО «АРТ-МЕДИА» необходимо пройти инструктаж по пожарной безопасности и правилам работы в выставочных павильонах. Без отметки об инструктаже допуск к подготовке экспозиции не предоставляется.
С уважением,
Волков Геннадий Романович [PERSON 1.00] [PII 1.00]
Главный специалист службы пропускного режима
Дирекция безопасности
+7 (831) 251-74-19
+7 (920) 643-21-67 [PHONE 0.82] [PII 0.78]
grvolkov@volgaexpo.ru [EMAIL 0.96] [PII 1.00]
«Безопасность труда — дело каждого!»
**From:** Ilya Sergeev [PERSON 1.00] [PII 1.00] <sergeev.i@artmedia.ru [EMAIL 1.00] [PII 0.93] >
**Sent:** Tuesday, March 15, 2022 9:41 AM [DATE 0.98] [PII 0.96]
**To:** propuska <propuska@volgaexpo.ru [EMAIL 0.93] [PII 0.87] >
**Subject:** СОТРУДНИКИ ООО АРТ-МЕДИА
С уважением, руководитель бюро пропусков
ООО «АРТ-МЕДИА»
https://mail.yandex.ru/u5831/print?mid=284731905618442790&_uid=1130000064829175 [PII 0.66]
| Грамадзянін(ка) | Савіцкі [PERSON 1.00] [PII 1.00] |
| :--- | :--- |
| прозвішча | Кірыл Андрэевіч [PERSON 1.00] [PII 1.00] |
| нарадзіўся(пася) | 16 мая 2006 года [DATE 0.82] [PII 0.71] |
| дзве тысячы шостага года [DATE 0.98] [PII 0.95] |
| аб чым у кнізе рэгістрацыі актаў аб нараджэнні |
| чысло | 11 |
| зроблен запіс за № | 642 [PII 1.00] |
| Месца нараджэння: рэспубліка (дзяржава [LOCATION 0.57] [PII 0.72]) | Беларусь [LOCATION 0.88] [PII 0.95] |
| вобласць (край) [LOCATION 0.99] [PII 0.98] | |
| раён [PII 0.67] | |
| горад (пасёлак, сяло, вёска) [LOCATION 0.76] [PII 0.84] | г. Магілёў [LOCATION 1.00] [PII 1.00] |
| БАЦЬКІ: | |
| Бацька | Савіцкі [PERSON 1.00] [PII 1.00] |
| Андрэй Віктаравіч [PERSON 1.00] [PII 1.00] |
| нацыянальнасць | беларус |
| Маці
| Савіцкая [PERSON 1.00] [PII 1.00] |
| Алена Сяргееўна [PERSON 1.00] [PII 1.00] |
| нацыянальнасць | беларуская |
| Месца рэгістрацыі нараджэння | А / ЗАГС адміністрацыі Ленінскага раёна г. Магілёва |
| Дата выдачы « | 29 |
| мая | 2006 [DATE 0.97] [PII 0.98] |
| Крайнік органа запісу актаў грамадзянскага стану | |
| II-МГ № 4175836 [PII 1.00] |
**АО "ВОЛГА ЭКСПО ЦЕНТР"**
**ДИРЕКЦИЯ ВЫСТАВОЧНЫХ ПАВИЛЬОНОВ**
| | |
|---|---|
| **ВРЕМЕННЫЙ ПРОПУСК №:** | **073-61842 [PII 0.95] ** |
| | **008 547 [PII 0.82] ** |
| | **ООО "АРТ-МЕДИА";** |
| Ф | КОРОТКОВ [PERSON 1.00] [PII 1.00] |
| И | ВАДИМ [PERSON 1.00] [PII 0.99] |
| О | СЕРГЕЕВИЧ [PERSON 1.00] [PII 1.00] |
**ТЕХНИК ПО СВЕТОВОМУ ОБОРУДОВАНИЮ**
**должность**
| С: | 14.03.2022 [DATE 1.00] [PII 1.00] |
| ПО: | 30.11.2022 [DATE 1.00] [PII 1.00] |
Руководитель предприятия
М.П. ООО «АРТ-МЕДИА»
ИНН 5260487312
(уполномоченное лицо)
**Сергеев И. М [PERSON 0.98] [PII 0.98] . **
Фамилия, инициалы
Работник прошел инструктаж по пожарной безопасности и правилам работы в павильонах
(подпись инструктирующего)
"Согласовано" СБ АО "ВОЛГА ЭКСПО ЦЕНТР"
М.П.
(подпись)
- Downloads last month
- 54
Model tree for vladlinv/ru-pii-ner
Base model
ai-forever/ruRoberta-large