AtesiT/medassist-ru-sft-dataset

MedAssist RU: SFT Dataset for Medical Specialization Routing

Описание задачи

Этот датасет создан в рамках учебного проекта по подготовке данных для supervised fine-tuning (SFT) языковой модели, решающей задачу автоматической маршрутизации медицинских обращений пациентов к нужному врачу-специалисту (бизнес-кейс "МедАссистент").

Датасет содержит русскоязычные тексты жалоб пациентов, размеченные одной из 12 медицинских специализаций: Терапевт, Гинеколог, Невролог, Гастроэнтеролог, Дерматолог, Уролог, Отоларинголог, Травматолог, Хирург, Стоматолог, Офтальмолог, Проктолог.

Датасет объединяет данные, полученные тремя разными методами разметки/генерации, демонстрируя современные подходы к построению обучающих датасетов при ограниченном бюджете.

Процесс генерации данных

Датасет составлен из трёх источников (Часть 2 домашнего задания):

1. Синтетическая генерация (Self-Instruct) — 438 записей. Локальная модель Qwen/Qwen2.5-3B-Instruct генерировала новые реалистичные жалобы пациентов на основе нескольких реальных seed-примеров для каждой специализации, с явным требованием разнообразия стиля (короткие/длинные тексты, опечатки, сленг). Генерация выполнялась с temperature=0.9 для максимального разнообразия.

2. Разметка с оценкой уверенности (self-consistency) — 563 записей. Для каждого текста модель генерировала 5 ответов с temperature=0.8. Уверенность (confidence) рассчитывалась как доля наиболее частого класса среди 5 сэмплов. Примеры с высокой уверенностью (≥ 0.8) принимались автоматически.

3. Гибридная разметка (human-in-the-loop, симуляция) — 157 записей. Примеры с низкой уверенностью LLM (< 0.8) были переданы на симулированную ручную разметку (функция с 95% точностью и 5% случайной ошибкой), имитирующую работу реального асессора.

Модели, использованные в проекте:

• Qwen/Qwen2.5-3B-Instruct — генерация синтетики и zero-shot/few-shot классификация
• intfloat/multilingual-e5-base — построение эмбеддингов для дедупликации и t-SNE визуализации

Исходные данные: реальные вопросы взяты из blinoff/medical_qa_ru_data (использованы как seed-примеры для генерации и как источник reference-меток для оценки качества).

Численные показатели

• Итоговый размер датасета: 1158 записей
• Self-Instruct синтетика: 438
• LLM-разметка (высокая уверенность): 563
• Симулированная человеческая разметка (низкая уверенность LLM): 157

Распределение по классам (label)

Специализация	Количество
Гинеколог	289
Гастроэнтеролог	155
Терапевт	113
Хирург	93
Невролог	87
Отоларинголог	73
Уролог	67
Дерматолог	57
Офтальмолог	54
Стоматолог	48
Травматолог	42
Проктолог	40
Неизвестно	40

Визуализации

Распределение классов итогового датасета:

t-SNE визуализация семантических эмбеддингов (по реальным данным форума):

Распределение уверенности LLM (self-consistency, 5 сэмплов):

Эксперимент с порогом гибридной схемы разметки:

Структура датасета

Поле	Тип	Описание
text	string	Текст жалобы пациента
label	string	Итоговая метка специализации (использовать для обучения)
reference_label	string	Исходная метка из реального форума (для синтетики совпадает с label)
confidence	float / null	Уверенность LLM (self-consistency score), null для синтетических данных
label_source	string	Источник метки: self_instruct_generated, llm_high_confidence, human_simulated
generation_method	string	Метод генерации записи

Примеры данных

Пример 1 (label: Отоларинголог, source: human_simulated):

Два года назад у меня застряла кость в глотательной части горла. Ее вытащили в больнице, случайно зацепили еще что то, но не обратили внимания. Через какое то время в горле начало что то мешать, на том самом месте (примерно 5 см вниз от подбородка). лор прочитала горло, но симптомы не прошли. Вчера ...

Пример 2 (label: Травматолог, source: self_instruct_generated):

Доброе утро, врач! Уколы от боли еще не помогают.

Пример 3 (label: Гастроэнтеролог, source: self_instruct_generated):

Живот то рвет, то хочется в туалет постоянно, врачей было больше чем глаз народ

Ограничения

• Синтетические данные (Self-Instruct) могут содержать артефакты генерации (редкие случаи смешения кириллицы/латиницы при высокой temperature) и определённую степень однообразия формулировок в пределах одного класса.
• Симуляция ручной разметки — не настоящая ручная проверка, а статистическая имитация с фиксированным уровнем ошибки 5%, использована в учебных целях для демонстрации гибридного пайплайна.
• Датасет создан в учебных целях и не должен использоваться как единственный источник данных для реальной медицинской системы без дополнительной валидации специалистами.

Citation

Датасет создан в рамках домашнего задания "Специфика формирования наборов данных для дообучения LLM". Исходные реальные данные: blinoff/medical_qa_ru_data.