kulyatinakatya/HSE_LING_VKR huggingface dataset:
Обобщающая суммаризация для норвежского языка на примере статей Википедии
Студент: Фёдорова Мария Валерьевна
Научный руководитель: Таерз Францис Мортон
Год защиты: 2019

Аннотация: В данной работе произведена попытка использовать статьи Википедии в качестве данных для суммаризации текста с использованием нейронной сети. Показано, что архитектура sequence-to-sequence с attention позволяет генерировать связные краткие содержания. Использование BPE, предобученных векторных представлений слов и ограничения на именованные сущности улучшает качество.
Извлечение фактов и мнений на основе материалов о Чернобыльской аварии
Студент: Тихомиров Даниил Олегович
Научный руководитель: Макаров Илья Андреевич
Год защиты: 2019

Аннотация: В работе предлагается и описывается проект системы извлечения фактов и мнений из документальных материалов о Чернобыльской аварии. Система состоит из нескольких модулей: модуль извлечения именованных сущностей на основе существующих RNN-библиотек, модуль извлечения отношений, основанный на синтаксических правилах, и модуль выделения аргументации. Качество извлеченной информации измеряется путем сравнения с опытом прочтения этих работ человеком.
Методы построения векторных моделей для сетей с текстовыми атрибутами
Студент: Семенова Наталья Александровна
Научный руководитель: Макаров Илья Андреевич
Год защиты: 2019

Аннотация: Графы или сети получили широкое распространение в качестве объекта исследования в связи с распространением областей применимости данной структуры для моделирования отношений между элементами взаимодействия в таких сферах как социальные науки, лингвистика, биология, рекомендательные системы и телекоммуникации. Сети представляют собой большое количество связанной информации и являются проблемой для обработки и изучения, поэтому была предложена концепция графовых векторных представлений или графовых эмбеддингов, первоначально созданных в качестве метода понижения размерности, однако получившего распространение в различных задачах, таких как классификация и кластеризация вершин графа, предсказание ребер, визуализация графа и т.д. В этой работе мы фокусируемся на методах построения векторных репрезентаций на основе структурных признаков вершин графа и с помощью текстовых атрибутов вершин. Выдвигается гипотеза о том, что векторизация текстовых атрибутов вершин графа могут успешно использоваться в задаче предсказания ребер. Для проверки гипотезы мы собрали набор данных, состоящий из указаний о статьях, опубликованных исследователями из НИУ ВШЭ и входящими в реферативную базу данных Scopus, вместе с сопутствующей информацией (авторы, аннотация, год публикации, тип публикации, ключевые слова и т.д), на основе которого была построена сеть соавторства, в которой в качестве вершин представлены авторы, а ребра – их совместные публикации. Мы апробировали построенные структурные и текстовые эмбеддинги (векторизованные аннотации) в задаче предсказания ребер (link prediction) с помощью бинарной классификации. Использовались классификаторы RandomForest и XGBoost, а также ряд стандартных метрик (Precision, Accuracy, F1-macro, F1-micro, Logloss, ROC AUC). Эксперименты показали, что векторные репрезентации, построенные на основе текстовых атрибутов вершин графа представляют сопоставимый результат со структурными эмбеддингами, построенными с помощью метода nod2vec на обучающей и тестовой выборках. Помимо этого мы предложили новый оператор для вычисления эмбеддинга ребра по эмбеддингам вершин, основанный на метриках расстояния, тестирование которого в задаче предсказания ребер показало работоспособность метода.
Использование статистической, тематической и синтаксической информации для автоматического ивлечения терминов
Студент: Шеянова Мария Викторовна
Научный руководитель: Воронцов Константин Вячеславович
Год защиты: 2019

Аннотация: Автоматическое Извлечение Терминов — раздел Автоматической Обработки Естественного Языка (Natural Language Processing, NLP), который направлен на извлечение специфичных для предметной области слов и словосочетаний из академических и научно-популярных документов. Извлечённые термины часто используются на этапе предобработки многих других задач NLP, например, в разработке онтологий, создании глоссариев, суммаризации текстов и визуализации данных. Данная работа объединяет подходы к извлечению терминологии, основанные на извлечении фраз, статистических метриках, тематическом моделировании и синтаксическом анализе. В то время как термины, состоящие из одного слова, не представляют большой сложности для извлечения, термины-фразы до сих пор представляют проблему для автоматического извлечения терминологии. Данное исследование уделяет особое внимание терминам, состоящим из нескольких слов, что осуществляется за счёт использования технологий, предназначенных для работы с фразами, а именно, алгоритма ToPMine для извлечения фраз, C-Value для ранжирования терминов и синтаксических правил, которые применяются к фразам. Система оценивается на открытом корпусе ACL RD-TEC 2.0.
Извлечение формулировок научной новизны исследования в области Life Sciences
Студент: Никифорова Софья Олеговна
Научный руководитель: Ефименко Ирина Владимировна
Год защиты: 2018

Аннотация: Целью работы было создание системы, которая, анализируя англоязычные статьи в области Life Sciences, автоматически определяла бы предложения, содержащие авторские формулировки научной новизны исследования. Для этого мы, во-первых, описали типы научной новизны, во-вторых, вручную разметили достаточное для разработки системы количество текстов, в-третьих, выделили признаки, позволяющие отличить предложения, содержащие новизну, от остальных предложений. В результате мы обучили алгоритм, способный с довольно высокой степенью качества отделять класс предложений, в которых описана научная новизна исследования, и дополнительно дифференцировать эти предложения по типу новизны.
200 лет русской драматургии: тематическое моделирование
Студент: Павлова Ирина Сергеевна
Научный руководитель: Год защиты: 2018
Год защиты: 2018

Аннотация: В данной работе представлен цифровой подход к изучению и формализации русской драмы при помощи тематического моделирования. Мы подробно опишем процесс исследования от препроцессинга до интерпретации результатов. В ходе работы мы оценим несколько разных тематических моделей и определим наиболее подходящую для наших данных. Эта модель будет применена к корпусу русских пьес для анализа и интерпретации распределения тем во времени, по жанрам, авторам и полу драматических персонажей. Несмотря на то, что используемый корпус среднего размера, результаты работы подтверждают, что тематическое моделирование может успешно применяться к русским драматическим текстам.
Реализация и оценка эффективности методов улучшения качества обработки поисковх запросов в русскоязычных интернет-магазинах
Студент: Присяжная Ангелина Юрьевна
Научный руководитель: Бонч-Осмоловская Анастасия Александровна
Год защиты: 2018

Аннотация: Целью данной работы является краткий обзор потенциальных направлений для повышения качества поисковых систем интернет-магазинов, выявленных на основе аналитики пользовательских запросов, а также оценки поисковых систем популярных интернет-магазинов России. Также, в данной работе подробно описан один из способов повышения качества обработки поисковых запросов в интернет-магазинах, а именно создание автоматической системы проверки правописания запросов на основе пользовательских данных. Результаты тестирования показали, что данная система показывает лучшие результаты по сравнению со стандартным спеллчекером на основе расстояния Левенштейна.
Использование активного обучения в задаче автоматического порождения форм слова
Студент: Пономарева Мария Алексеевна
Научный руководитель: Артемова Екатерина Леонидовна
Год защиты: 2018
Оценка: 9

Аннотация: В работе описано построение sequence-to-sequence модели для генерации форм существительных русского языка, применен метод активного обучения, показывающий, что при использовании значительно меньших объемов данных может быть достигнуто сравнимое качество.
Автоматическое обнаружение кодового переключения в текстах на малых языках России
Студент: Милинцевич Кирилл Николаевич
Научный руководитель: Артемова Екатерина Леонидовна
Год защиты: 2018
Оценка: 7

Аннотация: В данной работе автор изучил кодовое переключение среди малых языков России и разработал систему автоматического обнаружения кодового переключения. Система затем была протестирована на реальных комментариях пользователей на башкирском, татарском, удмуртском и якуском языках. В заключение, был произведён количественный и семантический анализ кодовых переключений.
Анализ поведенческих особенностей ударения в русском языке в зависимости от морфемного состава слова
Студент: Липунова Александра Евгеньевна
Научный руководитель: Ляшевская Ольга Николаевна
Год защиты: 2018
Оценка: 8

Аннотация: Ударение – один из ключевых компонентов звуковой структуры слова. В подавляющем большинстве случаев именно словесное ударение может послужить маркером того, какое именно значение закладывается в слово говорящим. В данной работе приводится обзорный анализ места расположения ударения в словоформах русского языка в зависимости от их морфемного состава. В работе рассматриваются три категории частей речи: имена существительные, имена прилагательные и глаголы. В ходе исследования были сформированы полные списки морфем для этих частей речи, произведён анализ информации о месте ударения в словах с определённым набором морфем, а на основе теоретической части исследования была создана автоматическая система, способная при обнаружении в словоформе морфем, однозначно указывающих на позицию ударения, выделять ударную гласную.
Применение методов машинного обучения в rule-based платформах для извлечения знаний из русскоязычных медицинских социальных сетей
Студент: Михайлов Сергей Аркадьевич
Научный руководитель: Ефименко Ирина Владимировна
Год защиты: 2018

Аннотация: Данное исследование посвящено созданию на базе платформы GATE гибридной системы, объединяющей правиловый подход и машинное обучение, для извлечения медицинской информации из русскоязычных медицинских социальных сетей. Созданная система была протестирована в рамках модельной задачи по извлечению описаний побочных эффектов препаратов из постов пользователей ресурса Здоровье@mail.ru.
Автоматическая генерация определения слова на основе контекста
Студент: Данилова Вероника Юрьевна
Научный руководитель: Орехов Борис Валерьевич
Год защиты: 2018

Аннотация: Данная работа призвана способствовать заполнению лакуны в области машинных способов написания семантических определений. Создание программного обеспечения, которое, используя минимальные данные о слове, способно быстро генерировать максимально простое, но содержательное определение, может принести пользу как для развития прикладной лексикографии, так и для повышения культурности и образованности пользователей, которые постоянно сталкиваются с малоизвестными или еще не задокументированными в словарях словами.
Разработка подхода для измерения читаемости текстов на русском языке
Студент: Садов Михаил Александрович
Научный руководитель: Бонч-Осмоловская Анастасия Александровна
Год защиты: 2018

Аннотация: В рамках этого исследования была изучена проблема измерения читаемости текста для обучающихся чтению детей. Практическим результатом работы стало создание пайплайна для анализа текста на всех уровнях языковой системы, а также построение модели машинного обучения для классификации текстов в соответствии с уровнем их сложности для читателей с не до конца сформировавшейся читательской компетенцией. Кроме того, был произведён анализ ошибок работы классификатора и были определены наиболее значимые признаки.
Морфологический анализ на основе рекуррентных нейронных сетей
Студент: Кенжаев Артур Закиржанович
Научный руководитель: Таерз Францис Мортон
Год защиты: 2018

Аннотация: В данной работе исследуются возможности применение Рекуррентных Нейронных Сетей (RNN) для решения открытых проблем морфологического анализа неизвестных слов.
Извлечение именованных сущностей для предметной области "Фармацевтика": разработка и реализация для русского языка
Студент: Дружкина Анна Александровна
Научный руководитель: Ефименко Ирина Владимировна
Год защиты: 2016
Оценка: 9

Аннотация: В данной работе представлены проект и реализация гибридной системы извлечения именованных сущностей для русского языка в предметной области “Фармацевтика”. Проект реализован в виде кода на языке Python. В основе системы лежит машинное обучение (метод Conditional Random Fields), также используются правила и внешние лексические ресурсы. Система была обучена и протестирована на разных частях корпуса патентных текстов на русском языке, который был вручную собран для этих целей и аннотирован четырьмя типами фармако-химических сущнсотей. Полученные результаты для извлечения данных четырех типов сущностей: F-мера 77.79, точность 90.3, полнота 73.3. В работе также комментируются полученные результаты и обсуждаются перспективы дальнейшей работы.
Метрики удобочитаемости для русского языка.
Студент: Дружкин Константин Юрьевич
Научный руководитель: Бонч-Осмоловская Анастасия Александровна
Год защиты: 2016
Оценка: 8

Аннотация: Настоящая работа решает задачу автоматического измерения сложности текстов, написанных на русском языке. "Сложность" понимается в духе факторного анализа, т.е. как скрытая переменная, влияющая на многие наблюдаемые свойства текстов. Отталкиваясь от заранее известного набора признаков сложности, с помощью анализа корреляций мы находим новые признаки сложности. В частности, предлагается использовать частоты некоторых концовок слов (как то: "-ция", "-ние"). Расширенный список признаков подвергается процедуре выделения основных компонент, благодаря которой они сводятся к единой оценке сложности.
Вклад семантической информации в распознавание кореферентных отношений
Студент: Азеркович Илья Леонидович
Научный руководитель: Толдова Светлана Юрьевна
Год защиты: 2016
Оценка: 8

Аннотация: Целью данной работы стало: 1) оценить степень влияния семантической информации, не содержащейся в исходном тексте, на качество работы систем автоматического анализа кореферентности и 2) предложить способ интеграции такого рода информации в уже существующие алгоритмы, не учитывавшие ее ранее. Первая цель была достигнута путем проведения эксперимента по сравнению качества работы одного и того же алгоритма разрешения анафоры и кореферентности при наличии и отсутствии семантической информации. Необходимость модификации алгоритма позволила также реализовать вторую из поставленных целей. Для достижения поставленных целей пришлось решить несколько промежуточных задач. Во-первых, были определены подход и теоретическая база, в рамках которых проводился эксперимент. Затем был собран и размечен в соответствии с выбранным подходом корпус текстов, на котором проводилась дальнейшая работа по анализу качества анализа и модификации признаков. Наконец, поскольку, как выяснилось в процессе работы, не существует готовых открытых решений для анализа кореферентности для русского языка, возникла необходимость разработать свою собственную систему для решения данной задачи и интегрировать в нее описанные знания. Полученные результаты позволяют с уверенностью сказать, что ориентированность на семантику многих уже существующих систем анализа обоснована, и использование экстралингвистической информации позволяет поднять производительность системы, даже если в ее основе лежит не очень сложный алгоритм.
Экспериментальное исследование конструкций новых глаголов
Студент: Буйлова Надежда Николаевна
Научный руководитель: Ляшевская Ольга Николаевна
Год защиты: 2016
Оценка: 9

Аннотация: В работе представлен анализ конструкций низкочастотных русских глаголов. Исследованы более 250 редких лексем, которые были классифицированы по нескольким признакам (происхождение, количество валентностей, глаголы-гиперонимы, частотности). Проведен эксперимент, в котором респонденты делали выбор между реально существующей конструкцией глагола и конструкцией глагола-синонима. Составлена база низкочастотных русских глаголов, представленная в машиночитаемом виде.
Моделирование речевого поведения носителя миноритарного языка РФ в социальной сети
Студент: Зайдельман Людмила Яковлевна
Научный руководитель: Орехов Борис Валерьевич
Год защиты: 2016
Оценка: 9

Аннотация: В работе рассмотрены 43 миноритарных языка России. В качестве материала для исследования использованы данные, полученные из более чем 1600 сообществ социальной сети Вконтакте. Задачей работы было нарисовать портрет типичного носителя миноритарного языка РФ, анализируя поведение как отдельно взятых пользователей Вконтакте, так и групп пользователей, объединенных в сообщества. Для моделирования поведения были использованы такие данные о пользователях, как возраст, место жительства, а также собственно речевое поведение: участие в диалогах, использование или неиспользование миноритарного языка, количество сообществ, говорящих на миноритарном языке, членом которых является конкретный пользователь и др. Для выявления связей между рассматриваемыми параметрами используется кластерный и корреляционный анализ. В результате исследования все рассматриваемые языки оказались отнесены к одной из четырех групп по степени их представленности в сети Вконтакте и активности их носителей. Кроме того, не выявлено никаких принципиальных различий в поведении носителей крупных и более мелких миноритарных языков, а потому для всех рассмотренных языков составлен единый портрет типичного носителя.
Система тегов Universal Dependencies для русского языка
Студент: Дроганова Кира Андреевна
Научный руководитель: Ляшевская Ольга Николаевна
Год защиты: 2016

Аннотация: В работе представлен корпус русского языка, аннотированный в системе тегов Universal Dependencies. Корпус был получен посредством конвертации Синтаксически размеченного корпуса русского языка (СинТагРус). В работе подробно рассмотрены правила конвертации и приведено описание и анализ результатов эксперимента по исследованию влияния морфологической разметки на качество парсинга синтаксических отношений. Корпус вошел в UD релиз 1.3, 15 мая 2016 года.
Извлечение вопроса из звукового корпуса
Студент: Шершнева Дарья Михайловна
Научный руководитель: Бронников Георгий Кириллович
Год защиты: 2018
Оценка: 8

Аннотация: Целью исследования было построение модели по определению вопросительной интонации в звучащей речи. В качестве материала использовались записи спонтанных разговоров носителей русского языка. Для решения задачи была обучена модель, основанная на нейросетях долго-краткосрочной памяти (LSTM). Результаты показали, что гибридная модель с использованием акустических и лексических признаков показывает лучшие результаты по сравнению с акустическими и лексическими моделями.
Жанровая адаптация в задаче морфологического и синтаксического парсинга русского языка: корпусное исследование
Студент: Шаврина Татьяна Олеговна
Научный руководитель: Ляшевская Ольга Николаевна
Год защиты: 2018

Аннотация: Работа посвящена исследованию признаков жанра, извлекаемых непосредственно из текста и пригодных как для задач классификации, так и для адаптации моделей автоматической морфологической и синтаксической разметки на данных различных жанров. Цель этой работы - выявить и описать существенные особенности жанра, полученные на больших данных исключительно из самих текстов (без использования метаданных, информации об авторе, дате, литературном стиле и методе и т. д.). Основываясь на выбранных признаках, проводится исследование, как тексты могут быть разделены в соответствии с одной из наиболее используемых филологических классификаций на этих признаках, и проверяется гипотеза о том, можно ли с опорой на внутренние признаки сгруппировать тексты по жанру. На основе наиболее важных обнаруженных функций предлагаются идеи адаптации моделей для автоматического морфологического и синтаксического разбора.
Создание русского парсера в открытой среде Spacy
Студент: Шубенок Дмитрий Валерьевич
Научный руководитель: Толдова Светлана Юрьевна
Год защиты: 2018

Аннотация: В данной работе были описаны основные подходы к автоматическому морфологическому анализу текста, в частности, рассмотрены алгоритмы стемминга, лемматизации и определения грамматических атрибутов слова, приведены основные алгоритмы для русского языка, а также краткий обзор существующих программных инструментов. Во второй части работы описан процесс обучения морфологических моделей открытого лингвистического анализатора Spacy на трех различных корпусах текстов и приведены результаты.
Извлечение информации из финансовых новостей для прогнозирования биржевых показателей
Студент: Шелепов Алексей -
Научный руководитель: Артемова Екатерина Леонидовна
Год защиты: 2018

Аннотация: Данная работа посвящена прогнозированию биржевых показателей на основе извлечения информации из новостных текстов. Сначала, в работе были приведены теоретические аспекты данной задачи. Затем был произведен анализ существующих работ на данную тематику. Наконец, была приведена собственная реализация метода. Для этого был создан корпус из новостных текстов о компаниях Microsoft и Apple путем скачивания этих текстов из интернета. Из текстов были извлечены извлечены триплеты Субъект – Предикат – Объект. После этого триплеты были преобразованы с помощью one-hot метода в вектора, которые были поданы на вход искуственной нейронной сети. Полученные результаты оказались сравнимыми с результатами уже имеющихся исследований. В работе указан ряд предложений по улучшению работы алгоритма. Прежде всего описанное исследование в работе будет полезно для анализа рисков и создания стратегий различного рода компаний. Также исследование будет полезно людям, занимающимся задачами прогнозирования биржевых показателей.
Снятие лексической омонимии в дистрибутивно-семантических моделях на основе искусственных нейронных сетей (для русского языка)
Студент: Мотина Надежда Евгеньевна
Научный руководитель: Кутузов Андрей Борисович
Год защиты: 2016
Оценка: 9

Аннотация: "Цель работы Целью данной работы было определить число значений полисемичных лексем в русском языке с помощью построения семантических графов используя дистрибутивно-семантические модели на основе искусственных нейронных сетей. Основные задачи Обозначить основные понятия и сделать обзор алгоритмов и методик оценивания, относящихся к задаче определения значений слов Подготовить Золотой стандарт, включающий 1000 слов русского языка с числом значений и их определениями. Осуществить метод RNG для построения семантических графов русских слов и применить алгоритмы поиска сообществ в графах Подобрать оптимальное сочетание значений параметров RNG и модели, дающее наилучший результат Оценить точность классификации однозначных и многозначных слов, а также оценить качество определения числа значений слов Результаты В данной работе реализован метод RNG для построения графов, используя семантические векторы слов, полученные с помощью дистрибутивно-семантических моделей. Основное предположение эксперимента состоит в том, что полисемичное слово имеет несколько групп семантически близких слов-соседей. Эти группы представляют значения данного слова. Наиболее высокие результаты были достигнуты путем подбора самых оптимальных параметров в ходе серии итераций алгоритма RNG (такими параметрами являются число соседей-вершин графа и порог семантической близости). Наилучший результат кластеризации графов показал Newman's leading eigenvector method с использованием модели, обученной на НКРЯ. Коэффициент корреляции Пирсона составил 0.473.",