JiamingLiu666/HSE_LING_VKR huggingface dataset:
Нейронный машинный перевод для языков с малым объёмом данных
Студент: Степачёв Павел Эдуардович
Научный руководитель: Таерз Францис Мортон
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2019

Данная работа посвящена нейроному машинному переводу для языков с малым объёмом данных. Цель работы состоит в анализе систем машинного перевода основанных на обучении без учителя, которые способны переводить без опоры на параллельные корпуса. А также проверить их работоспособность для неродственных языков в условиях ограниченных данных (на материале сингальского, непальского, урду и казахского языков).',
Автоматическое транскрибирование слов нейронными сетями
Студент: Степанов Артём Алексеевич
Научный руководитель: Таерз Францис Мортон
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2019

В данной работе мы решаем задачу «transcription to orthography», т.е. используя транскрипцию слова, мы восстанавливаем его орфографическую версию. Данная задача является подвидом задачи дешифрования текста, где шифром выступает транскрипция слова, а расшифровкой- его орфографический вид. Мы применим различные нейросетевые архитектуры для решения поставленной задачи и протестируем наши модели на данных из европейских языков.',
Разрешение лексической неоднозначности сущностей базы знаний на примере Википедии (для языков с различным объемом данных)
Студент: Никишина Ирина Александровна
Научный руководитель: Бонч-Осмоловская Анастасия Александровна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2019

Работа посвящена разрешению лексической неоднозначности сущностей базы знаний по Википедии для языков с различным объемом данных. Корректное разрешение неоднозначности (или дизамбигуация, от англ. «disambiguation») является одним из наиболее значимых условий успешной коммуникации. Однако в области автоматической обработки текстов задача определения «смысла» сказанного и интерпретации на основе контекста решена не полностью. Автоматическая дизамбигуация текстовых представлений может значительно повысить качество смежных задач, в том числе и для языков с ограниченным количеством ресурсов. Тексты с разрешенной неоднозначностью могут впоследствии использоваться в таких задачах компьютерной лингвистики, как классификация именованных сущностей, машинный перевод, разрешение кореферентности. Методы автоматического разрешения неоднозначности разрабатываются в основном для корпусов объемом более 400 млн. токенов, эффективность подобных методов для языков с меньшими ресурсами никак не устанавливается. Таким образом, в настоящей работе представлен языконезависимой нейросетевой архитектурой для разрешения лексической неоднозначности путем связывания упоминаний в тексте с правильными значениями (сущностями, концептами) из базы знаний Википедии для русского языка и языков с меньшим объемом данных (на примере украинского, армянского, белорусского и чувашского). Кроме того, в настоящем исследовании сравниваются различные методы построения векторных представлений сущностей Википедии и токенов, используемых для обучения нейросетевой модели; демонстрируется эффективность применения векторных представлений, расположенных в одном пространстве, подтверждается важность использования графовой структуры базы знаний при обучении векторов.',
Измерение сложности искусственных языков на основе сетей совместной встречаемости слов
Студент: Соколова Ирина Сергеевна
Научный руководитель: Макаров Илья Андреевич
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2019

Наша работа преследует две цели: 1) оценить лингвистическую сложность выборки искусственных языков разных типов, 2) разработать и протестировать метод автоматического определения лингвистической сложности языка без знания грамматики. В первой части работы мы оцениваем сложность искусственных языков в нашей выборке по имеющимся лингвистическим критериям. Мы делаем выводы о сложности искусственных языков в сравнении с большой выборкой естественных языков, описанной в литературе, а также о различии искусственных языков по сложности в зависимости от времени создания и типа языка. Во второй части работы мы выдвигаем гипотезу о том, что структура сети совместной встречаемости слов, построенной из текста, может предсказывать сложность языка, на котором этот текст написан. Для проверки гипотезы мы собираем тексты на 17 естественных языках, для которых известно числовое значение сложности, строим из них сети совместной встречаемости слов и обучаем модель на графовых признаках. В работе описаны эксперименты с разными способами извлечения признаков и разными размерами исходного текста. Для сравнения с графовым подходом были проведены эксперименты с обучением на текстовых эмбеддингах. В результате экспериментов получены хорошие предсказания при обучении и тестировании на всех языках в выборке, однако ошибка предсказания вырастает при тестировании на языках, не использованных в обучающей выборке. Показано, что графовые признаки предсказывают сложность языка лучше, чем текстовые эмбеддинги. Мы используем лучшую имеющуюся модель для измерения сложности искусственных языков в нашей выборке и сравниваем полученные результаты с выводами, сделанными в первой части работы. В заключении содержатся рекомендации по улучшению результатов предсказаний.',
Обобщающая суммаризация для норвежского языка на примере статей Википедии
Студент: Фёдорова Мария Валерьевна
Научный руководитель: Таерз Францис Мортон
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2019

В данной работе произведена попытка использовать статьи Википедии в качестве данных для суммаризации текста с использованием нейронной сети. Показано, что архитектура sequence-to-sequence с attention позволяет генерировать связные краткие содержания. Использование BPE, предобученных векторных представлений слов и ограничения на именованные сущности улучшает качество.',
Извлечение фактов и мнений на основе материалов о Чернобыльской аварии
Студент: Тихомиров Даниил Олегович
Научный руководитель: Макаров Илья Андреевич
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2019

В работе предлагается и описывается проект системы извлечения фактов и мнений из документальных материалов о Чернобыльской аварии. Система состоит из нескольких модулей: модуль извлечения именованных сущностей на основе существующих RNN-библиотек, модуль извлечения отношений, основанный на синтаксических правилах, и модуль выделения аргументации. Качество извлеченной информации измеряется путем сравнения с опытом прочтения этих работ человеком.',
Методы построения векторных моделей для сетей с текстовыми атрибутами
Студент: Семенова Наталья Александровна
Научный руководитель: Макаров Илья Андреевич
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2019

Графы или сети получили широкое распространение в качестве объекта исследования в связи с распространением областей применимости данной структуры для моделирования отношений между элементами взаимодействия в таких сферах как социальные науки, лингвистика, биология, рекомендательные системы и телекоммуникации. Сети представляют собой большое количество связанной информации и являются проблемой для обработки и изучения, поэтому была предложена концепция графовых векторных представлений или графовых эмбеддингов, первоначально созданных в качестве метода понижения размерности, однако получившего распространение в различных задачах, таких как классификация и кластеризация вершин графа, предсказание ребер, визуализация графа и т.д. В этой работе мы фокусируемся на методах построения векторных репрезентаций на основе структурных признаков вершин графа и с помощью текстовых атрибутов вершин. Выдвигается гипотеза о том, что векторизация текстовых атрибутов вершин графа могут успешно использоваться в задаче предсказания ребер. Для проверки гипотезы мы собрали набор данных, состоящий из указаний о статьях, опубликованных исследователями из НИУ ВШЭ и входящими в реферативную базу данных Scopus, вместе с сопутствующей информацией (авторы, аннотация, год публикации, тип публикации, ключевые слова и т.д), на основе которого была построена сеть соавторства, в которой в качестве вершин представлены авторы, а ребра – их совместные публикации. Мы апробировали построенные структурные и текстовые эмбеддинги (векторизованные аннотации) в задаче предсказания ребер (link prediction) с помощью бинарной классификации. Использовались классификаторы RandomForest и XGBoost, а также ряд стандартных метрик (Precision, Accuracy, F1-macro, F1-micro, Logloss, ROC AUC). Эксперименты показали, что векторные репрезентации, построенные на основе текстовых атрибутов вершин графа представляют сопоставимый результат со структурными эмбеддингами, построенными с помощью метода nod2vec на обучающей и тестовой выборках. Помимо этого мы предложили новый оператор для вычисления эмбеддинга ребра по эмбеддингам вершин, основанный на метриках расстояния, тестирование которого в задаче предсказания ребер показало работоспособность метода.',
Использование статистической, тематической и синтаксической информации для автоматического ивлечения терминов
Студент: Шеянова Мария Викторовна
Научный руководитель: Воронцов Константин Вячеславович
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2019

Автоматическое Извлечение Терминов — раздел Автоматической Обработки Естественного Языка (Natural Language Processing, NLP), который направлен на извлечение специфичных для предметной области слов и словосочетаний из академических и научно-популярных документов. Извлечённые термины часто используются на этапе предобработки многих других задач NLP, например, в разработке онтологий, создании глоссариев, суммаризации текстов и визуализации данных. Данная работа объединяет подходы к извлечению терминологии, основанные на извлечении фраз, статистических метриках, тематическом моделировании и синтаксическом анализе. В то время как термины, состоящие из одного слова, не представляют большой сложности для извлечения, термины-фразы до сих пор представляют проблему для автоматического извлечения терминологии. Данное исследование уделяет особое внимание терминам, состоящим из нескольких слов, что осуществляется за счёт использования технологий, предназначенных для работы с фразами, а именно, алгоритма ToPMine для извлечения фраз, C-Value для ранжирования терминов и синтаксических правил, которые применяются к фразам. Система оценивается на открытом корпусе ACL RD-TEC 2.0.',
Извлечение формулировок научной новизны исследования в области Life Sciences
Студент: Никифорова Софья Олеговна
Научный руководитель: Ефименко Ирина Владимировна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2018

Целью работы было создание системы, которая, анализируя англоязычные статьи в области Life Sciences, автоматически определяла бы предложения, содержащие авторские формулировки научной новизны исследования. Для этого мы, во-первых, описали типы научной новизны, во-вторых, вручную разметили достаточное для разработки системы количество текстов, в-третьих, выделили признаки, позволяющие отличить предложения, содержащие новизну, от остальных предложений. В результате мы обучили алгоритм, способный с довольно высокой степенью качества отделять класс предложений, в которых описана научная новизна исследования, и дополнительно дифференцировать эти предложения по типу новизны.',
200 лет русской драматургии: тематическое моделирование
Студент: Павлова Ирина Сергеевна
Научный руководитель: Год защиты: 2018
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2018

В данной работе представлен цифровой подход к изучению и формализации русской драмы при помощи тематического моделирования. Мы подробно опишем процесс исследования от препроцессинга до интерпретации результатов. В ходе работы мы оценим несколько разных тематических моделей и определим наиболее подходящую для наших данных. Эта модель будет применена к корпусу русских пьес для анализа и интерпретации распределения тем во времени, по жанрам, авторам и полу драматических персонажей. Несмотря на то, что используемый корпус среднего размера, результаты работы подтверждают, что тематическое моделирование может успешно применяться к русским драматическим текстам.',
Реализация и оценка эффективности методов улучшения качества обработки поисковх запросов в русскоязычных интернет-магазинах
Студент: Присяжная Ангелина Юрьевна
Научный руководитель: Бонч-Осмоловская Анастасия Александровна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2018

Целью данной работы является краткий обзор потенциальных направлений для повышения качества поисковых систем интернет-магазинов, выявленных на основе аналитики пользовательских запросов, а также оценки поисковых систем популярных интернет-магазинов России. Также, в данной работе подробно описан один из способов повышения качества обработки поисковых запросов в интернет-магазинах, а именно создание автоматической системы проверки правописания запросов на основе пользовательских данных. Результаты тестирования показали, что данная система показывает лучшие результаты по сравнению со стандартным спеллчекером на основе расстояния Левенштейна.',
Использование активного обучения в задаче автоматического порождения форм слова
Студент: Пономарева Мария Алексеевна
Научный руководитель: Артемова Екатерина Леонидовна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2018

В работе описано построение sequence-to-sequence модели для генерации форм существительных русского языка, применен метод активного обучения, показывающий, что при использовании значительно меньших объемов данных может быть достигнуто сравнимое качество.',
Автоматическое обнаружение кодового переключения в текстах на малых языках России
Студент: Милинцевич Кирилл Николаевич
Научный руководитель: Артемова Екатерина Леонидовна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2018

В данной работе автор изучил кодовое переключение среди малых языков России и разработал систему автоматического обнаружения кодового переключения. Система затем была протестирована на реальных комментариях пользователей на башкирском, татарском, удмуртском и якуском языках. В заключение, был произведён количественный и семантический анализ кодовых переключений.',
Анализ поведенческих особенностей ударения в русском языке в зависимости от морфемного состава слова
Студент: Липунова Александра Евгеньевна
Научный руководитель: Ляшевская Ольга Николаевна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2018

Ударение – один из ключевых компонентов звуковой структуры слова. В подавляющем большинстве случаев именно словесное ударение может послужить маркером того, какое именно значение закладывается в слово говорящим. В данной работе приводится обзорный анализ места расположения ударения в словоформах русского языка в зависимости от их морфемного состава. В работе рассматриваются три категории частей речи: имена существительные, имена прилагательные и глаголы. В ходе исследования были сформированы полные списки морфем для этих частей речи, произведён анализ информации о месте ударения в словах с определённым набором морфем, а на основе теоретической части исследования была создана автоматическая система, способная при обнаружении в словоформе морфем, однозначно указывающих на позицию ударения, выделять ударную гласную.',
Применение методов машинного обучения в rule-based платформах для извлечения знаний из русскоязычных медицинских социальных сетей
Студент: Михайлов Сергей Аркадьевич
Научный руководитель: Ефименко Ирина Владимировна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2018

Данное исследование посвящено созданию на базе платформы GATE гибридной системы, объединяющей правиловый подход и машинное обучение, для извлечения медицинской информации из русскоязычных медицинских социальных сетей. Созданная система была протестирована в рамках модельной задачи по извлечению описаний побочных эффектов препаратов из постов пользователей ресурса Здоровье@mail.ru.',
Автоматическая генерация определения слова на основе контекста
Студент: Данилова Вероника Юрьевна
Научный руководитель: Орехов Борис Валерьевич
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2018

Данная работа призвана способствовать заполнению лакуны в области машинных способов написания семантических определений. Создание программного обеспечения, которое, используя минимальные данные о слове, способно быстро генерировать максимально простое, но содержательное определение, может принести пользу как для развития прикладной лексикографии, так и для повышения культурности и образованности пользователей, которые постоянно сталкиваются с малоизвестными или еще не задокументированными в словарях словами.',
Разработка подхода для измерения читаемости текстов на русском языке
Студент: Садов Михаил Александрович
Научный руководитель: Бонч-Осмоловская Анастасия Александровна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2018

В рамках этого исследования была изучена проблема измерения читаемости текста для обучающихся чтению детей. Практическим результатом работы стало создание пайплайна для анализа текста на всех уровнях языковой системы, а также построение модели машинного обучения для классификации текстов в соответствии с уровнем их сложности для читателей с не до конца сформировавшейся читательской компетенцией. Кроме того, был произведён анализ ошибок работы классификатора и были определены наиболее значимые признаки.',
Морфологический анализ на основе рекуррентных нейронных сетей
Студент: Кенжаев Артур Закиржанович
Научный руководитель: Таерз Францис Мортон
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2018

В данной работе исследуются возможности применение Рекуррентных Нейронных Сетей (RNN) для решения открытых проблем морфологического анализа неизвестных слов.',
Извлечение именованных сущностей для предметной области "Фармацевтика": разработка и реализация для русского языка
Студент: Дружкина Анна Александровна
Научный руководитель: Ефименко Ирина Владимировна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2016

В данной работе представлены проект и реализация гибридной системы извлечения именованных сущностей для русского языка в предметной области “Фармацевтика”. Проект реализован в виде кода на языке Python. В основе системы лежит машинное обучение (метод Conditional Random Fields), также используются правила и внешние лексические ресурсы. Система была обучена и протестирована на разных частях корпуса патентных текстов на русском языке, который был вручную собран для этих целей и аннотирован четырьмя типами фармако-химических сущнсотей. Полученные результаты для извлечения данных четырех типов сущностей: F-мера 77.79, точность 90.3, полнота 73.3. В работе также комментируются полученные результаты и обсуждаются перспективы дальнейшей работы.',
Метрики удобочитаемости для русского языка.
Студент: Дружкин Константин Юрьевич
Научный руководитель: Бонч-Осмоловская Анастасия Александровна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2016

Настоящая работа решает задачу автоматического измерения сложности текстов, написанных на русском языке. "Сложность" понимается в духе факторного анализа, т.е. как скрытая переменная, влияющая на многие наблюдаемые свойства текстов. Отталкиваясь от заранее известного набора признаков сложности, с помощью анализа корреляций мы находим новые признаки сложности. В частности, предлагается использовать частоты некоторых концовок слов (как то: "-ция", "-ние"). Расширенный список признаков подвергается процедуре выделения основных компонент, благодаря которой они сводятся к единой оценке сложности.',
Вклад семантической информации в распознавание кореферентных отношений
Студент: Азеркович Илья Леонидович
Научный руководитель: Толдова Светлана Юрьевна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2016

Целью данной работы стало: 1) оценить степень влияния семантической информации, не содержащейся в исходном тексте, на качество работы систем автоматического анализа кореферентности и 2) предложить способ интеграции такого рода информации в уже существующие алгоритмы, не учитывавшие ее ранее. Первая цель была достигнута путем проведения эксперимента по сравнению качества работы одного и того же алгоритма разрешения анафоры и кореферентности при наличии и отсутствии семантической информации. Необходимость модификации алгоритма позволила также реализовать вторую из поставленных целей. Для достижения поставленных целей пришлось решить несколько промежуточных задач. Во-первых, были определены подход и теоретическая база, в рамках которых проводился эксперимент. Затем был собран и размечен в соответствии с выбранным подходом корпус текстов, на котором проводилась дальнейшая работа по анализу качества анализа и модификации признаков. Наконец, поскольку, как выяснилось в процессе работы, не существует готовых открытых решений для анализа кореферентности для русского языка, возникла необходимость разработать свою собственную систему для решения данной задачи и интегрировать в нее описанные знания. Полученные результаты позволяют с уверенностью сказать, что ориентированность на семантику многих уже существующих систем анализа обоснована, и использование экстралингвистической информации позволяет поднять производительность системы, даже если в ее основе лежит не очень сложный алгоритм.',
Экспериментальное исследование конструкций новых глаголов
Студент: Буйлова Надежда Николаевна
Научный руководитель: Ляшевская Ольга Николаевна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2016

В работе представлен анализ конструкций низкочастотных русских глаголов. Исследованы более 250 редких лексем, которые были классифицированы по нескольким признакам (происхождение, количество валентностей, глаголы-гиперонимы, частотности). Проведен эксперимент, в котором респонденты делали выбор между реально существующей конструкцией глагола и конструкцией глагола-синонима. Составлена база низкочастотных русских глаголов, представленная в машиночитаемом виде.',
Моделирование речевого поведения носителя миноритарного языка РФ в социальной сети
Студент: Зайдельман Людмила Яковлевна
Научный руководитель: Орехов Борис Валерьевич
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2016

В работе рассмотрены 43 миноритарных языка России. В качестве материала для исследования использованы данные, полученные из более чем 1600 сообществ социальной сети Вконтакте. Задачей работы было нарисовать портрет типичного носителя миноритарного языка РФ, анализируя поведение как отдельно взятых пользователей Вконтакте, так и групп пользователей, объединенных в сообщества. Для моделирования поведения были использованы такие данные о пользователях, как возраст, место жительства, а также собственно речевое поведение: участие в диалогах, использование или неиспользование миноритарного языка, количество сообществ, говорящих на миноритарном языке, членом которых является конкретный пользователь и др. Для выявления связей между рассматриваемыми параметрами используется кластерный и корреляционный анализ. В результате исследования все рассматриваемые языки оказались отнесены к одной из четырех групп по степени их представленности в сети Вконтакте и активности их носителей. Кроме того, не выявлено никаких принципиальных различий в поведении носителей крупных и более мелких миноритарных языков, а потому для всех рассмотренных языков составлен единый портрет типичного носителя.',
Система тегов Universal Dependencies для русского языка
Студент: Дроганова Кира Андреевна
Научный руководитель: Ляшевская Ольга Николаевна
Программа: Компьютерная лингвистика (Магистратура)
Год защиты: 2016

В работе представлен корпус русского языка, аннотированный в системе тегов Universal Dependencies. Корпус был получен посредством конвертации Синтаксически размеченного корпуса русского языка (СинТагРус). В работе подробно рассмотрены правила конвертации и приведено описание и анализ результатов эксперимента по исследованию влияния морфологической разметки на качество парсинга синтаксических отношений. Корпус вошел в UD релиз 1.3, 15 мая 2016 года.',