VladimirRH/medical-routing-dataset

Medical Routing Hybrid Dataset

Описание задачи

Датасет предназначен для дообучения модели-маршрутизатора, которая по тексту жалобы пациента определяет нужную медицинскую специализацию врача (мультиклассовая классификация текста). Каждая запись — это пара «текст жалобы → специализация».

Датасет собран как демонстрация полного пайплайна построения обучающих данных: от исходного реального корпуса (blinoff/medical_qa_ru_data) через синтетическую генерацию и гибридную LLM+human-in-the-loop разметку.

Процесс генерации и разметки

Все тексты размечены/сгенерированы с помощью модели yandexgpt-lite (через Yandex Cloud API, AsyncOpenAI-совместимый клиент).

1. Синтетическая генерация (Self-Instruct) — для каждой из специализаций модель генерировала разнообразные по стилю жалобы (короткие/длинные, с опечатками, разговорные и формальные) по промпту с указанием целевого класса. Метка в этом случае известна по построению.
2. LLM-разметка с оценкой уверенности — реальные тексты из очищенного и дедуплицированного корпуса размечались батчами с few-shot промптом, каждый пример прогонялся 5 раз при temperature=0.8. Уверенность (confidence) — доля совпадающих ответов среди 5 прогонов.
3. Гибридная финализация лейбла (порог T=0.8):
   • если confidence >= 0.8 — итоговый лейбл берётся напрямую от LLM (source = llm_confident);
   • если confidence < 0.8 — пример считается отправленным на ручную проверку; лейбл получен через симуляцию «шумного» асессора (с вероятностью 95% возвращает истинную метку, с 5% — ошибается) (source = human_reviewed).

Из построенных данных были удалены записи, где модель галлюцинировала специализацию, не входящую в исходный список классов.

Размер и структура

Поле	Тип	Описание
desc	string	Текст жалобы пациента
label	string	Специализация врача (целевой класс)
source	string	Происхождение лейбла: synthetic_self_instruct / llm_confident / human_reviewed

Всего записей: 1013

Распределение по источнику:

source	count	%
llm_confident	611	60.3%
synthetic_self_instruct	300	29.6%
human_reviewed	102	10.1%

Распределение по классам (label):

label	count
Гинеколог	230
Терапевт	144
Невролог	115
Гастроэнтеролог	88
Дерматолог	80
Отоларинголог	66
Уролог	65
Травматолог	57
Стоматолог	44
Хирург	43
Проктолог	42
Офтальмолог	39

Датасет сохраняет дисбаланс классов исходного корпуса (Гинеколог и Терапевт — самые частые специализации), что стоит учитывать при обучении (взвешивание классов / стратифицированное сэмплирование).

Визуализация

Примеры данных

desc	label	source
У меня сильные боли внизу живота, похоже на месячные, но что-то не так.	Гинеколог	synthetic_self_instruct
Голова болит сильно, уже дня три не проходит	Невролог	synthetic_self_instruct
Мазнуло розовым на 10 дц. Что это может быть?	Гинеколог	llm_confident
что будет если мне вчера делали куф и увч и через 18 часов сделали рентген пазух носа?	Отоларинголог	llm_confident
Здравствуйте, проблема такая, недавно стал ощущать периодически дискомфорт в яичках...	Уролог	human_reviewed
Здравствуйте! После бритья подмышек или ног у меня на шее появляются чёрные волосы...	Терапевт	human_reviewed

Ограничения

• Синтетическая часть (≈30%) сгенерирована одной LLM (yandexgpt-lite) и может содержать эффект однообразия формулировок внутри класса.
• Часть лейблов (human_reviewed) получена не от настоящих людей, а через симуляцию шумного асессора (95% accuracy) — это учебная имитация human-in-the-loop процесса, а не реальная ручная проверка.
• Источник реальных текстов — blinoff/medical_qa_ru_data, публичный форумный корпус; тексты могут содержать неформальную лексику, опечатки и неполные описания симптомов.