[ca] L'objectiu del treball és l'anàlisi i l'avaluació del resultat del procés d'adaptació d'un Gran Model de Llenguatge (LLM). Es vol observar el comportament d'un model de llenguatge entrenat en una sola tasca, sense necessitar coneixement teòric addicional, i per al que no fa falta una capacitat de generalització a altres àmbits. Per això s'ha realitzat un experiment que ha consistit en entrenar un LLM utilitzant exemples de converses mèdiques per tal d'identificar les limitacions i els avantatges del procés, donat els comportaments més complexos presents en aquest tipus de converses. S'ha analitzat la qualitat de la imitació d'aquest tipus de converses després de l'entrenament, incidint no només en la capacitat del model per donar respostes correctes a les preguntes dirigides a problemes o símptomes de salut actuals, sinó també la habilitat de fallar com ho fa un pacient real, aportant informació irrellevant o enganyosa quan les preguntes del metge no s'adrecen correctament. La metodologia ha inclòs l'entrenament d'un LLM mitjançant la tècnica d'adaptació Low Rank Adaptation (LoRA) en converses metge-pacient per avaluar la capacitat del model per aprendre i imitar aquestes interaccions complexes. Aquest enfocament posa de manifest el potencial dels models lingüístics pre-entrenats, combinats amb la tècnica LoRA, per gestionar tasques complexes en àmbits reduïts. En aquest cas, s'ha entrenat primer el model de llenguatge GPT-2 com a prova de concepte i desprès Llama-2 amb dades de entrevistes metge-pacient. En conclusió, encara tenint en compte les limitacions del mètode utilitzat, s'ha avaluat positivament els resultats de l'experiment. Al analitzar el comportament solament en un àmbit limitat del qual es tenen dades d'entrenament de bona qualitat, les al·lucinacions típiques dels models de llenguatge no han estat presents en cap dels resultats, i s'ha comprovat l'aprenentatge de comportaments complexos presents en les dades que no exhibeixen els models no adaptats.

[es] El objetivo de este trabajo es analizar y evaluar los resultados del proceso de adaptación de un Gran Modelo de Lenguaje (LLM). Se ha querido observar el comportamiento de un LLM entrenado para una tarea única, sin necesidad de conocimiento adicional y sin capacidad de generalización en otros campos. Con este fin, se ha llevado a cabo un experimento que ha consistido en entrenar un LLM utilizando ejemplos de conversaciones médicas para observar las ventajas e inconvenientes del proceso, teniendo en cuenta los comportamientos complejos presentes en este tipo de conversaciones. Se ha analizado la calidad de la imitación de estos tipos de conversaciones después del entrenamiento, considerando no solo la capacidad del modelo para proporcionar respuestas correctas a preguntas relacionadas con problemas o síntomas de salud actuales, sino también su habilidad para fallar como lo haría un paciente real, aportando información irrelevante cuando las preguntas del médico no se dirijan correctamente. La metodología incluye el entrenamiento de un LLM utilizando la técnica de Low Rank Adaptation (LoRA) en conversaciones entre médicos y pacientes para evaluar la capacidad del modelo para aprender e imitar estas interacciones complejas. Este enfoque destaca el potencial de los modelos lingüísticos, combinados con la técnica LoRA, para manejar tareas complejas en dominios reducidos. Para este experimento, se ha entrenado primero el modelo de lenguaje GPT-2 como prueba de concepto y después Llama-2 con datos de entrevistas médico-paciente. A pesar de las limitaciones del método utilizado, se han evaluado positivamente los resultados del experimento. Al analizar el comportamiento en un dominio limitado con datos de entrenamiento de buena calidad, no han estado presentes las alucinaciones típicas de los modelos de lenguaje en ninguno de los resultados y se ha comprobado el aprendizaje de comportamientos complejos presentes en los datos que no exhiben los modelos no adaptados.