Привет. Я Игорь Буянов, старший разработчик группы разметки данных MTS AI. Я люблю датасеты и все методы, которые помогают их делать быстро и качественно. Недавно рассказывал о том, как делать иерархически датасет из Википедии. В этом посте хочу рассказать вам о Сноркеле - фреймворке для программирования данных (data programming). Познакомился я с ним случайно несколько лет назад, и меня поразил этот подход, который заключается в использовании разных эвристик и априорных знаний для автоматической разметки датасетов. Проект стартовал в Стэнфорде как инструмент для помощи в разметке датасетов для задачи information extraction, а сейчас разработчики делают платформу для пользования внешними заказчиками. Сноркель может существенно сократить время на проверку какой-либо идеи, когда данных мало или их нет совсем, или увеличить эффективность процесса создания качественного датасета, как это потребовалось в проекте медицинского чат-бота, про который почитать можно здесь. В этом посте я подготовил туториал, который наглядно покажет, как работать со Сноркелем, а также кратко объясню теоретические аспекты его работы. Арсенал Сноркеля включает в себя три ключевых инструмента: разметочные функции для создания датасета; преобразующие функции для аугментации датасета; срезающие (slicing) функции, выделяющие подмножества в датасете, которые критичны для производительности обучающихся моделей.  В этом посте мы остановимся лишь на разметочных функциях. В разметочные функции (labeling functions) закодированы все возможные правила, по которым можно поставить какую-либо метку каждому примеру из набора данных.  В качестве основы для таких функций используются: внешние базы данных, такие как WordNet или WikiBase (distant supervision); отдельные краудсорс-разметчики; правила и паттерны, составленные экспертом; правила и паттерны, полученные из анализа данных; словари; другие классификаторы. Важно, что эти функции необязательно должны быть точными или ортогональными. Генеративная модель, являющаяся сердцем Сноркеля, попытается учесть недостатки отдельных функций. Для справки, подход, использующий для обучения источники с ошибками, т.е. с шумом, называется обучением со слабым контролем (weak supervision). Основываясь на работе авторов и своем опыте, я пришел к следующему алгоритму действий: Разработка dev-датасета.  Небольшой датасет размечается людьми. Он нужен для того, чтобы тестировать гипотезы и разметочные функции.  Анализ данных.  На этом этапе ведется поиск различных признаков и эвристик, которые разделяют интересующие классы. Разработка разметочных функций. Здесь мы облачаем признаки и эвристики в функции, понятные Сноркелю. Оценка разметочных функций по dev-датасету.  Это важный этап, где оценивается поведение разметочных функций. Здесь мы поймем, насколько они точны, сколько примеров могут разметить, как пересекаются и есть ли противоречия. Анализ ошибок. Сравнивая между собой, например, истинную метку и метку, которую поставила функция, можно вычленить еще один признак, который не был заметен ранее, и модифицировать функцию для улучшения покрытия или точности. Возвращение к шагу 2 (опционально).  В результате анализа ошибок могут возникнуть новые гипотезы и идеи, которые обязательно нужно проверить. Обучение генеративной модели Применяя все разметочные функции к датасету мы получаем матрицу , где строка - это объект датасета, а столбец - соответствующая разметочная функция. В ячейках же стоит вывод каждой разметочной функции. На ее основе, обучается генеративная модель со специальной шумоподавляющей функцией потерь, которая присваивает веса функциям в зависимости от их взаимодействия между собой. Получение вероятностных целевых меток. С помощью обученной модели получаются метки в формате вероятности принадлежности примера к классу. Обучение модели. Заключительный этап — обучение уже любой модели, которая вам нужна. Для наглядности оставляю здесь иллюстрацию с последовательностью работы со Снокрелем для задачи information extraction из оригинальной статьи. Остановимся подробнее на генеративной модели, упомянутой выше. Авторы оригинальной статьи представляют ее как факторный граф, или графическую вероятностную модель. Для упрощения в модели делается предположение о независимости ошибок разметочных функций, то есть каждая ошибка совершается независимо от других функций. Помимо этого, можно смоделировать статистические зависимости срабатывания функций, таких как, например, срабатывание двух функций одновременно. Эти зависимости определяются с помощью матрицы .  Допустим, мы определи несколько типов зависимостей между функциями, такие как "разметочность", точность и попарная корреляция. Авторы отмечают, что эти зависимости встречаются чаще всего в разрабатываемых разметочных функциях.   Эти зависимости и являются факторами в графе генеративной модели. Тогда пусть для каждого примера  будет определен конкатенированный вектор этих факторов   для всех разметочных функций  и потенциальных корреляций из множества . Это множество содержит информацию о наличии взаимосвязи между парой функций. Пусть  - вектор параметров. Тогда модель определяется как Чтобы обучить эту модель без доступа к истинным меткам, это нужно обучаться с помощью логарифмического негативного маргинализированного правдоподобия, зная матрицу  Оптимизацию авторы проводили с помощью SGD с семплированием Гиббса. В конце концов, мы получаем  - вероятностные метки. После этого идет обучение дискриминативной модели  с помощью шумоустойчивой функции потерь, которая выглядит следующим образом: Теоретический анализ показывает: чем больше данных, тем сильнее модель получается похожей на ту, которую тренировали бы традиционно, т.е. с помощью обычного размеченного датасета. Это очень важное положение. Авторы также рассматривают две дилеммы — достижение точности модели и ее структуры.  Первая формируется так. Если у нас мало разметочных функций, или они часто "пропускают", то они даже при взвешивании не будут сильно отличаться от голосования большинством. С другой стороны, работы показывают, что при наличии достаточной плотности меток голосование большинством достаточно эффективен. Где найти грань, когда мы можем не заморачиваться с генеративной моделью и использовать просто это голосование? Теоретические исследования авторов показывают, что наибольшей эффективностью их подход обладает, когда разметочных функций насчитывается около 15 штук. Вторая формируется просто: при увеличении сложности структуры, т.е. при большом количестве учтенных взаимосвязей из множества , растет время ее обучения. Авторы на две с половиной страницы расписывают, как они все это решают, поэтому здесь я приведу только достаточно обобщённый алгоритм нахождения оптимального решения. В одной из своих статей авторы Сноркеля представили алгоритм быстрого выстраивания зависимостей  между факторами в графе. Этот алгоритм, однако, управляется параметром , который контролирует количество учитываемых взаимосвязей. Можно также сказать, что этот параметр определяет сложность модели. Встает вопрос о том, как выбрать этот параметр автоматически. Эмпирически авторы установили, что существует "локтевая точка", после прохождения которой количество учитываемых взаимосвязей, а соответственно, сложность модели, начинает стремительно расти. Получается, что эта точка и есть то оптимальное значение, которое нужно найти и авторы приводят алгоритм, как они это делают. За более подробной информации, отсылаю к статье. В этом разделе я покажу, как можно использовать Сноркель. У меня было несколько часов свободного времени, и я решил продемонстрировать его в действии на датасете для анализа сантиментов, составленный из отзывов на AliExpress. Используя готовый датасет, мы сможем оценить качество разметки, полученной от Сноркеля. Далее, я объясню по шагам, как работать со Снокрелем, опираясь на план, указанный выше.  Для начала, экспортируем все библиотеки. Несмотря на то, что традиционно задача анализа сентиментов имеет три метки, мы будем искать позитивные и негативные комментарии. Заведем соответствующие глобальные переменные. Переменная ABSTAIN нужна для случая, когда разметочная функция не может вынести решение о принадлежности к определенному классу. Импортируем данные и оставляем колонки с текстом и исходными метками. Мы также можем видеть, что датасет идеально сбалансирован. Перемешаем датасет и выделим три подвыборки: dev - небольшая подвыборка, при помощи которой мы будем изучать данные и находить эвристики. В реальности, эту подвыборку нужно разметить вручную. Подобный процесс может занять от 2 до 4 часов. train - основная часть данных, на которой мы будем тренировать модель Снокреля. Чем больше таких данных, тем лучше будет качество меток. test - тестовая часть данных, на которой мы будем сравнивать работу разметки от Сноркеля с истинной разметкой. И вот сейчас мы добрались до второй части работы. Она состоит из анализа данных и нацелена на поиск эвристик и зависимостей, характеризующих классы. Начнем с самого простого — со сравнения распределения количества токенов. Можно видеть, что есть небольшие различия в распределениях —  негативные комментарии содержат чуть больше токенов, чем позитивные. Давайте дальше посмотрим на распределение частей речи, раз уж мы заговорили про токены. Чтобы не усложнять, остановимся только на имени существительном, имени прилагательном и глаголе. Не забудем нормализовать полученное число на количество всех токенов в единице текста. Пожалуй, самой заметной разницей обладает сравнение по прилагательным, а именно в положительных комментариях их явно больше, причем порогом является значение примерно 0.2. Помимо анализа частей речи, полезно просто почитать соответствующие тексты и попробовать выделить какие-то лексические особенности. Если вы посмотрите соответствующий вывод по классам, то можно заметить, что в предложениях слова и эмоции повторяются.  Например, в позитивных часто присутствуют: слово спасибо; рекомендую; смайлик-скобка )  в негативных же можно заметить: частое использование частицы "не"; “грустный смайлик-скобку ( Ну а теперь закончим анализ данных и обратимся к другим ресурсам, которые могут нам помочь. Для определения тональности слов вне контекста машинного обучения, иногда используются словари, в которых каждому слову приписан сентимент.  Для русского языка я предлагаю использовать словарь проекта "Карта слов".  Выглядит он следующим образом: term tag value pstv ngtv neut dunno pstvNgtvDisagreementRatio 0 абажур NEUT 0.08 0.185 0.037 0.580 0.198 1 аббатство NEUT 0.10 0.192 0.038 0.578 0.192 2 аббревиатура NEUT 0.08 0.196 0.000 0.630 0.174 3 абзац NEUT 0.00 0.137 0.000 0.706 0.157 4 абиссинец NEUT 0.28 0.151 0.113 0.245 0.491 Особенность этого словаря в том, что он содержит непрерывное значение для сентимента в диапазоне [-1;1]. Это может дать более точную оценку слову. Однако мы пойдем по упрощенному пути, обращая внимание на теги. Документация, кстати, доступна в гитхабе проекта. Возьмем из таблицы слова и их теги, затем напишем функцию.  Она будет работать следующим образом: pymystem3 произведет морфологический разбор и определит части речи. Она нам нужна для того, чтобы получить все существительные и прилагательные из предложения. Затем полярность предложения мы сформулируем по простому правилу — сложим полярности по всем найденным существительным и прилагательным. Звучит немного мудрено, но я проверил — метод работает. Применим это на нашем датасете и посмотрим распределение.  Из картинки можно сделать вывод, что этот подход не точно, но работает - значения полярности согласуются с разметкой, причем чем больше полярность, тем точнее. Тем не менее, мы видим, что значительная часть текстов оказалась оценена, как нейтральные. Другим ресурсом при создании разметочных функций могут выступать ранее обученные модели , которые были натренированы на других доменах. Поскольку распределения данных отличаются, модель сама по себе будет работать не так хорошо, как на целевых данных, но работать будет. В качестве такой модели мы возьмем модель анализа тональности из библиотеки “Достоевский”, которая изначально была обучена на текстах социальных сетей. Давайте сравним, насколько хорошо эта модель отработает на наших отзывах с AliExpress. Так как мы используем только две метки, отфильтруем то, что модель определила, как нейтральный вариант. Видим, что точность модели довольно высока для внедоменных данных, но держим в голове, что половину датасета она предсказала, как нейтральный вариант. После того как мы провели анализ и подгрузили все ресурсы и модели, можем приступить к разработке разметочных функций. Сноркель предоставляет суперудобный способ записать все ваши эвристики в виде коротких и лаконичных функций. Напомню, что зависимости могут быть односторонним, т.е. проголосовать за какой-то класс или воздержаться (ABSTAIN). Должен еще сказать, что я схитрил, записав все результаты непосредственно в DataFrame, но вообще Снокрель умеет делать различный препроцессинг теми же анализаторами и позволяет вам написать свой. Вы можете об этом подробнее прочитать в документации. Теперь мы можем применить все наши разметочные функции и оценить их работу. Благодаря тому, что у нас есть разметка dev датасета, мы можем оценить точность наших правил, хотя разметка в dev датасете, строго говоря, не обязательна. Помимо точности, вне зависимости от наличия разметки, мы видим: покрытие - на каком проценте текстов сработало данное правило, т.е. дало метку отличную от ABSTAIN; перекрытие - на сколько правило согласуется с другими; конфликты - на сколько правило расходится с другими.  Поскольку у нас есть вариант "воздержаться", то последние два параметра могут отличаться. Name j Polarity Coverage Overlaps Conflicts Correct Incorrect Emp. Acc. contains_not 0  0.706667 0.463333 0.326667 123 89 0.580189 check_emo_dict 1  0.320000 0.300000 0.193333 75 21 0.781250 sentiment_model 2  0.396667 0.356667 0.200000 99 20 0.831933 check_adjective_count 3  0.120000 0.106667 0.046667 26 10 0.722222 contains_pasib 4  0.130000 0.116667 0.073333 34 5 0.871795 contains_r_paranth 5  0.096667 0.096667 0.070000 15 14 0.517241 contains_l_paranth 6  0.110000 0.103333 0.090000 27 6 0.818182 contains_recomend 7  0.083333 0.080000 0.066667 15 10 0.600000 Я предлагаю кратко остановиться на анализе ошибок, чтобы поскорее перейти к самому интересному. Суть этого этапа заключается в том, что вы смотрите на результат таблицы выше и анализируете, какие конфликты правил возникли или почему какое-то правило не оправдало ваших ожиданий. Для этого в Сноркеле есть полезный метод. Допустим, мы хотим увидеть, где правило contains_not сработало, т.е. поставило негативный класс, и где модель из “Достоевского” поставила позитивный класс. Сделать это можно следующим образом  ['Комбинезон классный. маломерит на свой 44-46 заказала L в самый раз. за такие деньги очень хороший комбинезон. советую)))',     'Шапка очень классная,пришла очень быстро,помпон пышный не искусственный,матерьял приятный-единственное тонковатая для Сибири, ну конечно кто как переносит холода.Помпон на клепке можно снять и постирать! Спасибо продавцу))) За такие деньги очень здорово!',     'На картинке вещь смотрится очень не плохо. Реально выглядит так себе. Как безвкусный балахон. Такой фасон можно сшить из без выкройки. Очень огорчена. Первый раз так получилось. Материал 100% синтетика. К телу липнет очень не приятно.',     'Сарафан без молнии на спине, что хорошо. Ткань приятная и сидит хорошо. Заужен книзу, похож на греческий хитоню',     'мягкий,хорошо тянется. для дома и повседневной носки отлично.с учетом объема под грудью 88,заказала 90В,но думаю что надо было 85,он очень хорошо тянется,было бы лучше',     'Это лучшее платье из всех заказанных ранее такого типа! Мягкое, безумно приятное к телу. Сидит идеально!',     'Носки просто супер!!!бант очень качественные, я даже не ожидала, что на столько все будет здорово!!! Товар не отслеживался, но До Алтайского края шел всего месяц!!! Огромное спасибо продавцу! Пойду закажу ещё парочку таких носков)',     'Очень довольна качеством, однако в плечах чуть узковато, но носить можно вполне комфортно ',     'Очень странно.год назад брала себе такую шапку ,чёрную .очень мне нравится .сейчас заказала серую сыну ,пришла маленькая ,совсем другая .я не довольна ',     'Кофточка тонкая . Короткая до пупка. S размер подошел на обхват  груди 86.  \r\nНе такая уж и классная вещь'] Сперва замечаем, что модель (или даже разметка) все-таки ошибается. С другой стороны, там где модель все-таки права, мы видим, что частица "не" стоит рядом с глаголом, что вместе характеризует хорошее качество товара. Как бы вы модернизировали это правило? Теперь настало время применить наши правила к большим данным и применить модель, о которой мы говорили в теоретической части. Она подсчитает зависимости между правилами и вынесет вероятностную метку. После этого нам необходимо отфильтровать те примеры, на которых не сработало ни одно правило и для простоты превратить вероятностные метки в полярные 0 и 1.   Для того, чтобы сравнить полученную разметку с истинной, обучим обычную логистическую регрессию на истинных метках тренировочного датасета и на метках, которые мы получили от Снокреля. Замеряться будем на тестовой выборке, которую мы подготовили в самом начале. В качестве векторизации используем обычный CountVectorizer. Итого, мы получили 80 процентов точности. Выглядит не особо впечатляюще по сравнению с точностью в 98 процентов. Однако я просто напомню, что разметка, на которой мы получили 80 процентов ( не фонтан, но достойно) собиралась за день работы максимум одного человека. Дальше ее можно использовать в качестве предразметки уже для аннотаторов, либо использовать алгоритмы удаления шума, которых я рассказывал в этой статье. За кадром остались эксперименты с объемом обучающей выборки. Вы можете сами ее поменять, чтобы посмотреть как изменяется качество конечной разметки от ее объема. Как я упомянул в начале, у нас в MTS AI Сноркель использовался командой, которая работала над медицинским чат-ботом. Я вспомнил об опыте, когда проект уже закрылся. Я взял на себя смелость найти сохранившиеся ноутбуки и связался с бывшей коллегой, чтобы спросить у нее об опыте использования и запечатлеть его. Изначально задача состояла в том, чтобы в текстах находить сущности из 74 классов общее число которых достигало 10 тысяч, такой большой NER. Проблема в том, что разметки, конечно, для такого количества классов не существует. Разметить тексты - это не проблема, в MTS AI есть собственный отдел, другое дело, что как-то не хочется отдавать в разметку случайные тексты, в которых может ничего не быть. Поэтому, чтобы как-то исправить это, моя бывшая коллега, придумала следующую методологию. Настя Табалина, кстати, привет, если читаешь! Исходными данными служат тексты с медицинских форумов и из протоколов осмотров. Допустим, мы хотим разметить тексты по сущностям из класса "диарея". Не самый лицеприятный класс, зато примеры остались.  Возьмем регулярку или их набор, которые описывает сущность. В данном случае, это просто слово диарея. Проходим по всем текстам и собираем те, в которых встретилось это слово. Таким образом мы получаем базовый датасет —  тексты, в которые входит эта регулярка. Ниже видны примеры таких текстов высыпания на ногах, чередования запоров и диареи. на общую слабость, озноб, тошноту, диарею до 4 р в сутки. на боли в животе, тошноту и рвоту, диарея, также общую слабость. Далее выполняем следующие действия:  для каждого слова выделим контекст слева и справа;  загрузим заранее обученную модель fastText, чей выбор объясняется наличием огромного количества опечаток в текстах; векторизуем контекстное окно вместе со словом,  усредняем его для каждого текста, а затем усредняем по всем текстам.  Таким образом мы получили опорный вектор для класса "диарея".  После того, как был получен опорный вектор, можно создать разметочную функцию, логика которой будет заключаться в векторизации каждого слова и его контекста в новых текстах, а полученный вектор сравнить с опорным. Если расстояние меньше заданного порога, который нужно подобрать эмпирически, разметочная функция сигнализирует о том, что сущность найдена. В качестве функций расстояния можно использовать косинусное и евклидово, а также корреляцию Пирсона. Вот на каких текстах сработала эта функция в нашем случае (орфография и пунктуация сохранены): тяжесть в области правого подреберья, вздутие живота, повышенное газообразование, послабление стула до 2-х раз за сутки чаще в утреннеее время,\nголовные боли в височно-теменных областях тупого характер.\nпериодически подъемы АД до 160/120 мм рт.ст. на появление головной боли в правой половине лба пульсирующего х-ра Тошноты , рвоты нет Т- норма , АД не повышается Ухудшение 3й день Накануне - прыжки на батуте Отмечает периодическое возникновение головных болей в одном и том же месте в течение последних 5 ти лет Эксперименты показали, что наивное усреднение всего текста работает значительно хуже. Возможно, это связано с тем, что в вектор попадают разные сущности. Из этого следует, также, что длину контекста тоже надо подобрать эмпирически. Разметка данных —  это самая важная часть любого проекта по машинному обучению и часто ее не так легко получить. Снокрель позволяет ускорить процесс создания разметки путем переиспользования существующих ресурсов и знаний, позволяя при этом сразу строить некоторые прототипы моделей, пока разметка доводится до ума. Надеюсь, что кто-то из прочитавших статью сэкономит время на новом проекте. В комментариях делитесь результатами своих экспериментов со Сноркелем, задавайте вопросы — я буду рад на них ответить.   NLP-разработчик (MTS AI)