kulyatinakatya/HSE_LING_VKR huggingface dataset:
Использование памяти в генеративных диалоговых моделях
Студент: Зайцев Константин Николаевич
Научный руководитель: Толдова Светлана Юрьевна
Год защиты: 2023
Оценка: 9

Аннотация: В данном исследовании представлена реализация процесса применения памяти в генеративных диалоговых моделях. Этот процесс включает несколько этапов: извлечение фактов о участниках диалогов и суммаризаций сессий, интеграция полученной информации в контекст входных данных и генерация ответов, учитывающих этот контекст. Для извлечения информации и генерации реплик используется модель Vicuna. Чтобы оценить качество ответов модели, использовались как оценка человека, так и оценки от других чат-ботов. Результаты исследования показали, что модель с контекстом была предпочтительной среди всех разметчиков.
Применение методов объяснимого искусственного интеллекта к моделям диагностики психологического здоровья по данным профиля пользователя социальной сети ВКонтакте
Студент: Выдрина Светлана Владимировна
Научный руководитель: Клышинский Эдуард Станиславович
Год защиты: 2023
Оценка: 9

Аннотация: Выпускная квалификационная работа посвящена применению методов объяснимого искусственного интеллекта (XAI) к моделеям диагностики психологического здоровья по данным профиля пользователя социальной сети ВКонтакте. В рамках данной работы были выполнены две задачи. 1) Разработка моделей, способных выделять психологические характеристики с высокой точностью. На основании изученной литературы и экспериментов были выбраны оптимальная архитектура и гиперпараметры для моделей предсказания психологических характеристик. 2) Получение интерпретируемых результатов работы модели, достигнутых за счет выявления корреляции между определенными лингвистическими характеристиками текстов и уровнем субъективного благополучия. На основании изученной литературы и эмпирических предположений был выделен ряд лингвистических характеристик текстов социальной сети ВКонтакте. Затем для визуализации важности каждой из характеристик были применены методы XAI, такие как SHAP и PDP. Полученные корреляции были использованы для интерпретации результатов предсказания лучшей модели, полученной в результате выполнения первой задачи работы.
Извелечение именованных сущностей из документов, обработанных OCR, для русского языка
Студент: Грязнова Екатерина Сергеевна
Научный руководитель: Макаров Илья Андреевич
Год защиты: 2023
Оценка: 8

Аннотация: Это исследование посвящено задаче распознавания именованных сущностей (NER) в текстах, полученных с помощью оптического распознавания символов (OCR) на русском языке. NER является важной задачей в области обработки естественного языка (NLP), и включает в себя идентификацию и классификацию именованных сущностей, таких как имена людей, организаций и мест. Технология OCR значительно продвинулась в последние годы, что позволило преобразовывать печатный или рукописный текст в цифровую форму. Однако тексты, обработанные OCR, часто содержат ошибки, которые в свою очередь могут привести к неточностям в NER. В данном исследовании изучаются эти ошибки и их влияние на модели NER. Также применяются три модели глубокого обучения NER на деловых документах, написанных на на русском языке, для сравнения результатов. В целом, это исследование дает представление о проблемах и возможностях NER на текстах на русском языке, созданных с помощью OCR систем, и вносит вклад в разработку более точных и эффективных моделей NER.
Автоматическое выделение лексико-семантических групп имен существительных в моделях управления глаголов русского языка
Студент: Богданова Анна Евгеньевна
Научный руководитель: Клышинский Эдуард Станиславович
Год защиты: 2023
Оценка: 9

Аннотация: Разработка методов автоматического извлечения и создания ресурсов, содержащих информацию о сочетаемостных свойствах слов, является важным направлением исследований в компьютерной лингвистике. Такие ресурсы используются при решении различных задач в области обработки естественного языка: от выработки способов разрешения омонимии до оценки качества автоматической аннотации текстов. Существующие сегодня лексикографические источники, включающие сведения о глагольном управлении, отличаются либо ограниченным лексическим охватом и отсутствием машиночитаемого формата, либо отсутствием информации о лексико-семантических группах зависимых имен существительных, входящих в состав моделей управления глаголов. Данное исследование посвящено разработке метода автоматического создания базы данных глагольного управления, включающей сведения о лексико-семантическом выражении зависимых слов. Описанный подход позволил выявить коллекцию моделей глагольного управления для более чем 25 тысяч глаголов и включить в нее информацию о лексико-семантических группах имен существительных. Оценка качества полученной базы данных подтвердила, что такой подход обладает высоким потенциалом.
Анализ читательских предпочтений методом тестирования на распознавание автора на материале русского языка
Студент: Белова Татьяна Алексеевна
Научный руководитель: Клышинский Эдуард Станиславович
Год защиты: 2023

Аннотация: Выпускная квалификационная работа "Анализ читательских предпочтений методом тестирования на распознавание автора на материале русского языка" исследует, связаны ли читательские предпочтения и социально-демографические характеристики индивида. Методом исследования выбран тест на распознавание имен авторов, The Author Recognition Test (ART). Исследование проводилось на материале ответов на тест и анализирует социально-демографические характеристики 1109 участников. Исследование проводилось при помощи языка программирования Python. Результаты работы могут быть полезны для различных областей, от индустрии книгоиздания до разработки рекомендательных систем.
Использование NLP для маршрутизации обращений клиентов
Студент: Землякова Алина Руслановна
Научный руководитель: Ляшевская Ольга Николаевна
Год защиты: 2023

Аннотация: В работе рассматривается задача многоклассовой классификации обращений клиентов в сфере разработки программного обеспечения. С целью исследования методов машинного обучения, основанных на обработке естественного языка, для наиболее эффективной маршрутизации клиентских запросов был создан наиболее полный на сегодняшний день набор данных ошибок среды разработки Eclipse, состоящий из более чем 580 тысяч багов. Для поиска наиболее результативных стратегий препроцессинга и классификации были протестированы различные методы стемминга, лемматизации, исправление орфографии, очистка регулярными выражениями, уменьшение дисбаланса, настройка гиперпараметров, а также 4 метода векторного представления слов; после нахождения оптимального сочетания шагов предобработки были протестированы классификаторы случайного леса, k-ближайших соседей (kNN), метод опорных векторов (SVM) и наивный байесовский алгоритм. Данное исследование показало, что наиболее точным из традиционных моделей является метод опорных векторов (SVM). Полученные результаты подчеркивают важность выбора методов и подходов при работе с текстовыми данными и могут быть полезными для исследователей и практиков в области анализа текста и обработки запросов клиентов в сфере разработки.
Генерация правил практической транскрипции антропонимов: Мыкола или Николай?
Студент: Галимзянова Дарья Сергеевна
Научный руководитель: Клышинский Эдуард Станиславович
Год защиты: 2023

Аннотация: В данной статье представлено исследование по генерации правил транслитерации для машинной транслитерации личных имен на 14 языках. Были использованы два подхода: генетический алгоритм (GA) и модель выравнивания IBM. Подход GA породил контекстуализированные правила, что привело к улучшению транслитерации для половины языков. Однако другая половина, характеризуемая крайне неоднозначными данными с множественными транслитерациями одного и того же имени, показала ограниченное улучшение качества. Модель выравнивания IBM была обучена на наборе данных с именами. Она сгенерировала таблицу, указывающую вероятности транслитерации для каждого латинского символа. Благодаря объединению этих правил с исходными было отмечено значительное улучшение производительности транслитерации. Это исследование вносит свой вклад в область машинной транслитерации, исследуя два различных подхода к генерации правил и давая представление об их эффективности на нескольких языках. Полученные результаты подчеркивают важность учета неоднозначности данных и использования моделей выравнивания для повышения точности транслитерации.
Распознавание интентов с использованием контекста диалога
Студент: Ладонцев Александр Филиппович
Научный руководитель: Клышинский Эдуард Станиславович
Год защиты: 2023

Аннотация: Классификация интентов – одна из основных задач, возникающих при построении диалоговых систем. Современные архитектуры и большие языковые модели позволяют успешно решать эту задачу при наличии размеченных данных. В данной работе изучалась возможность использования паттернов и запросных строк платформы JAICP, созданных как rule-based реализация классификации интентов, для генерации данных, пригодных для обучения модели. Платформа позволяет создавать запросные строки с группировками элементов, перестановками групп, опциональными группами. Весь этот функционал был использован для генерации множества запросов для каждого из интентов. На получившемся датасете была обучена модель DeepPavlov/rubert-base-cased. Были сделаны выводы о возможности и перспективах применения такого подхода.
Генерация фреймовой информации для индо-европейских языков
Студент: Щербатов Денис Русланович
Научный руководитель: Ляшевская Ольга Николаевна
Год защиты: 2024
Оценка: 7

Аннотация: Данная работа посвящена решению проблемы неполноты фреймовых ресурсов путем автоматической генерации фреймов. В рамках исследования был собран набор актуальных фреймовых данных и корпус текстов в выбранной предметной области. Лексическим единицам из полученного корпуса затем были сопоставлены фреймы из актуальных ресурсов. Для лексических единиц без подходящих по семантике фреймов были проведены эксперименты по генерации тремя языковыми моделями. Результаты работы могут быть использованы в качестве базы для развития систем автоматизации составления фреймов экспертами-аннотаторами фреймовых ресурсов.
Мультитаск суммаризация диалогов с применением transfer-learning
Студент: Тухтина Елизавета Алексеевна
Научный руководитель: Толдова Светлана Юрьевна
Год защиты: 2023
Оценка: 7

Аннотация: Суммаризация текстов является одной из классических NLP-задач, привлекающей внимание многих исследователей. Суть данной задачи заключается в создании краткого содержания входного документа, с сохранением ключевых идей исходного текста. В последнее время особый интерес для исследований представляет задача суммаризации диалогов. Примерами практического применения данной задачи является автоматическое создание meeting minutes по итогам корпоративных встреч, а также суммаризация диалогов между пациентом и врачом. Большинство существующих исследований, посвященных задаче суммаризации диалогов, рассматривают абстрактивную и экстрактивную задачи по отдельности. Однако подходы на основе генеративных языковых моделей, которые на данный момент доминируют в области NLP-задач, не всегда выдают достоверный и фактически верный ответ. Чтобы у пользователя была возможность удостовериться в корректности сгенерированного абстрактивного саммари, можно подкреплять вывод модели «доказательствами» из исходного текста/транскриптов. Такой подход можно назвать evidence-supported суммаризацией (или суммаризацией, подкрепленной доказательством). Суть данной задачи заключается в генерации абстрактивных саммари одновременно с экстрактивными, где экстрактивное саммари представляет собой подтверждение абстрактивного. В данной работе рассматривается реализация алгоритма генерации evidence-supported суммаризации диалогов, основанного на multi-task дообучении авторегресионной языковой модели GPT-2. Помимо реализации алгоритма, в работе также сравниваются single-task и multi-task подходы к дообучению языковой модели. В качестве дополнительного эксперимента, в работе также был проведен анализ способностей больших языковых моделей (LLMs) генерировать evidence-supported саммари диалогов.
Сегментация диалогов нескольких собеседников с использованием BERT и лингвистических признаков
Студент: Шеин Александр Игоревич
Научный руководитель: Толдова Светлана Юрьевна
Год защиты: 2023
Оценка: 8

Аннотация: В работе рассматривается возможный способ решения задачи сегментации диалогов нескольких участников, то есть, разбиения диалога на логические составные части, максимально связные внутри себя и при этом имеющие как можно меньше общего между собой. Предлагается гибридная модель сегментации, основанная на использовании эмбеддингов предложений BERT и некоторых лингвистических признаков, уникальных для диалогов нескольких участников. Модель показывает хорошие результаты, сравнимые с ведущими результатами, описанными в работах по данной теме. Итогом работы стало создание полноценного инструмента, позволяющего производить сегментацию. Инструмент доступен в свободном доступе на платформе GitHub, исходный код проекта полностью открыт.
Диалоговая модель, способная общаться текстом и изображениями
Студент: Рыков Елисей Сергеевич
Научный руководитель: Ляшевская Ольга Николаевна
Год защиты: 2023
Оценка: 10

Аннотация: Данная выпускная квалификационная работа посвящена разработке новой диалоговой мультимодальной модели, которая обладает тремя функци- ями – понимания изображений, отправки изображений и ведения диалога на свободную тематику. В рамках работы был создан новый набор данных для обучения языковых моделей функции отправки изображений, а также пред- ложена новая архитектура для адаптации предобученных языковых моделей под задачу мультимодального диалога на свободную тему. В работе детально описан процесс обучения модели, а также приведено сравнение полученной модели с прочими существующими. Ключевые слова: обработка естественного языка, большие языковые модели, мультимодальные модели, диалоговые модели
Извлечение изображений химических молекул и их свойств из текстов документов
Студент: Туманов Александр Витальевич
Научный руководитель: Клышинский Эдуард Станиславович
Год защиты: 2023
Оценка: 9

Аннотация: Целью данной магистерской диссертации является создание мультиязычной модели нейронной сети для распознавания химических сущностей и их свойств в протоколах реакций, а также извлечения событий, и последующая конвертация найденных сущностей и связанных с ними событий в графическое представление.
Кластеризация устных корпусов русского языка на основе сравнения акустических свойств частотных слов
Студент: Минченко Анжелика -
Научный руководитель: Мороз Георгий Алексеевич
Год защиты: 2023
Оценка: 7

Аннотация: Данная работа посвящена применению алгоритмов кластеризации аудиосигналов, в частности иерархической кластеризации с использованием динамической трансформации временной шкалы (DTW), к корпусам диалектной речи. Целью работы является анализ вариативности диалектной речи (на примере устных корпусов). Анализ сосредоточен на пяти часто употребляемых односложных словах в русском языке. Кроме того, в исследовании рассматриваются потенциальные корреляции между расстояниями кластеризации и географическими расстояниями с использованием теста Мантела. Полученные данные дают представление о кластеризации нестандартных вариантов русского языка и показывают степень влияния географической близости на результаты кластеризации. Исследование способствует пониманию диалектных вариаций и фонологических особенностей в контексте русского языка.
Извлечение именованных сущностей из медицинских текстов на китайском языке
Студент: Суханова Анна Вячеславовна
Научный руководитель: Ляшевская Ольга Николаевна
Год защиты: 2023

Аннотация: Данная работа описывает создание и использование собственного датасета ZhMed для обучения и оценки моделей извлечения именованных сущностей (NER) в медицинских китайских текстах. Авторы провели эксперименты с различными архитектурами моделей (BERT, ALBERT, RoBERTa) и оценили их производительность на задаче NER. Данные из этого датасета позволили получить ценные результаты и выводы, а также улучшить точность и обобщающую способность некоторых моделей при работе с медицинскими китайскими текстами.
Применение методов объяснимого искусственного интеллекта к моделям диагностики большой пятерки личностных свойств по данным профиля пользователя социальной сети ВКонтакте
Студент: Палаткина Анна Сергеевна
Научный руководитель: Клышинский Эдуард Станиславович
Год защиты: 2023
Оценка: 9

Аннотация: Данная работа посвящена исследованию лингвистических характеристик текстов пользователей ВКонтакте с целью определения их связи с психологическими чертами личности. В рамках исследования были выполнены задачи изучения подходов к анализу личности, обработки текстовых данных, экспериментов с моделями глубокого обучения и морфо-синтаксическими характеристиками текстов, а также интерпретации результатов с помощью методов объяснимого искусственного интеллекта. В результате были разработаны модели для предсказания значений личностных черт авторов текстов, а также к выделены связи между морфо-синтаксическими признаками и каждой характеристикой в пятерке личностных черт.
Применение методов объяснимого искусственного интеллекта к моделям диагностики психологических характеристик на основе данных интервью
Студент: Сигдел Элина Сушиловна
Научный руководитель: Клышинский Эдуард Станиславович
Год защиты: 2023

Аннотация: В настоящей работе рассматривается проблема детекции психологических характеристик, таких как интеллект и метачерты из Круговой Структуры, на данных распознанной устной речи, порождаемой носителями русского языка в процессе интервью. Основной фокус направлен не только на разработку архитектур, успешно предсказывающих психологические особенности, но и на интерпретацию полученных предсказаний с применением методов объяснимого искусственного интеллекта (XAI). В рамках исследования были построены модели глубокого обучения, способные определить уровни по шкалам стабильности, расторможенности, пластичности, пассивности, сдержанности, поиска стимуляции, интегрированности, дисгармонии, кристаллизованного и флюидного типов интеллекта по текстам говорящих. С помощью глобальных методов XAI, примененных к моделям, удалось выявить морфологические, синтаксические и лексико-семантические паттерны, наибольшим образом влияющие на актуализацию каждой характеристики. Настоящее исследование демонстрирует, что deep-learning модели могут определять проявленность каждой психологической особенности в модусе устной речи даже в ситуациях узконаправленного контекста, а методы XAI помогают прослеживать взаимосвязь между текстовыми признаками и психологическими характеристиками.
Применение современных ML-подходов к задаче машинного перевода малоресурсных языков
Студент: Лебедева Анна Юрьевна
Научный руководитель: Ильвовский Дмитрий Алексеевич
Год защиты: 2023
Оценка: 9

Аннотация: В данной магистерской диссертации исследуются современные подходы ML для машинного перевода малоресурсных языков с целью их применения для перевода малоресурсных языков России. Основная цель состоит в том, чтобы воспроизвести эксперимент, проведенный в опубликованной статье семинара по машинному переводу (WMT), чтобы обеспечить правильную реализацию модели, применить ту же модель к другому набору данных и проверить, является ли достижение сопоставимых результатов возможным на других языковых парах. Целевой языковой парой для применения модели является пара русский-хакасский, а обучение проводилось с помощью пары русский-чувашский. Диссертация начинается с всестороннего обзора критериев, используемых для классификации языка как малоресурсного, и содержит обзор современных решений для моделей перевода, ориентированных на такие языки. В главе «Методы» исследуется архитектура Transformer, принципы обучения переносу, кодирование пар байтов и другие соответствующие методы, специально разработанные для малоресурсных языков. Кроме того, представлен анализ текущих показателей оценки машинного перевода. В главе «Данные» описан процесс воспроизведения эксперимента WMT путем описания используемых данных и их характеристик. Кроме того, в разделе объясняется, как были выбраны источники для пар языков России, описаны свойства и характеристики выбранных языков, а также используемые методы подготовки данных и методы векторизации. Раздел «Эксперименты» устанавливает гипотезу о том, что модель из статьи WMT даст благоприятные результаты на другом наборе данных. Подробно объясняется функционирование конкретной модели и описываются вычислительные ресурсы, используемые для обучения. Полученные результаты представлены вместе с визуализацией процесса обучения модели. Наконец, в разделе «Заключение и будущая работа» подводятся итоги исследования. Раздел включает анализ случаев и анализ ошибок, чтобы получить представление о производительности модели. Диссертация завершается описанием потенциальных областей для дальнейшего изучения и улучшения, таких как перевод в противоположном направлении и применение других методов обучения.
Кластеризация устных корпусов на основе сравнения акустических свойств одно- и двусложных слов
Студент: Филатов Игорь Евгеньевич
Научный руководитель: Мороз Георгий Алексеевич
Год защиты: 2023

Аннотация: Алгоритм динамической трансформации временной шкалы используется для кластеризации и сравнения отрывков человеческой речи, а следовательно и для изучения влияния индивидуальных особенностей голоса, возраста, гендера и диалекта на произношение слов. Данная работа посвящена анализу кластеризации речи и факторов, влияющих на нее, на основе результатов сравнения аудиозаписей с помощью DTW. В исследовании используется материал 13 устных корпусов русского языка международной лаборатории языковой конвергенции; выборка состоит из 500 аудиозаписей для 5 частотных слов русского языка. В данной работе ставится задача изучить то, как экстралингвистические факторы (диалект, гендер и возраст) влияют на группировку аудио семплов речи по классам, а также то, как связаны между собой медианные значения DTW по корпусам с географическим положением регионов происхождения диалектов этих корпусов. Результаты эксперимента показали, что четкой тенденции на кластеризацию примеров произношения слов по корпусам в данной выборке нет, а корреляция между локацией населенных пунктов носителей и матрицами медиан DTW отсутствует. Исследование имело ограничения; будущие исследования с более широким объемом данных и ресурсов помогут подтвердить результаты полученные результаты.
Машинный перевод немецко-английских текстов в специфическом домене: медицина.
Студент: Захарова Алина Андреевна
Научный руководитель: Толдова Светлана Юрьевна
Год защиты: 2022

Аннотация: Работа посвящена машинному переводу немецко-английских текстов в специфическом домене медицина с помощью нейронных сетей арихтектуры трансформер. Целью дипломной работы является получение двух моделей для перевода медицинских текстов с английского на немецкий и с немецкого на английский. Практическая значимость выпускной квалификационной работы состоит в возможности непосредственного использования результатов работы в деятельности предприятий, занимающихся переводом текстов. Научая новизна работы заключается в том, что модели дообучались на новом датасете и для каждой модели был проведен детальный подбор параметров генерации для улучшения ее результатов. В ходе работы ставились следующие задачи: 1. собрать данные 2. обучить модель baseline 3. улучшить модель 4. сравнить с похожими моделями 5. провести оценку результатов Для выполнения поставленных задач было сделано следующее: были найдены обученные модели для перевода текстов с английского на немецкий и с немецкого на английский. Были собраны медицинские тексты для дообучения моделей; так же было проведено сравнение результатов дообученных моделей с другими моделями перевода. Диплом состоит из введения, теоретической и практической частей, где описано решение поставленных задач и дано обоснование выбранным методам и раздела с выводами и дальнейшими направлениями исследований.