[en] The objective of this work is to analyse and evaluate the result of the adaptation process of a Large Language Model (LLM). Specifically, we aim to observe the behaviour of an LLM trained for a single specialized task without requiring additional theoretical knowledge or generalization capability in other fields. To achieve this, an experiment was conducted that involved training an LLM using examples of medical conversations to identify the advantages and limitations of the process, focusing on more complex behaviours present in such conversations. The quality of imitation of these types of conversations after training will be evaluated, considering not only the model's ability to provide correct answers to questions related to actual problems or symptoms but also its skill in failing like a real patient would, providing irrelevant or misleading information when the doctor's questions are not aimed correctly. The methodology includes training an LLM using the Low Rank Adaptation (LoRA) technique on doctor-patient conversations to evaluate the model's ability to learn and imitate these complex interactions. This approach highlights the potential of pre-trained language models, combined with the LoRA technique, in handling complex tasks within reduced domains and with limited training data. For this experiment, GPT-2 was first trained as a proof of concept, followed by training Llama-2 using medical interview datasets. In conclusion, despite the limitations of the method used, the results of the experiment have been positively evaluated. Upon analysing the behaviour in a limited domain with high-quality training data, typical language model hallucinations were absent from all results, and complex behaviours present in the data that are not exhibited by non-adapted models were observed.

[es] El objetivo de este trabajo es analizar y evaluar los resultados del proceso de adaptación de un Gran Modelo de Lenguaje (LLM). Se ha querido observar el comportamiento de un LLM entrenado para una tarea única, sin necesidad de conocimiento adicional y sin capacidad de generalización en otros campos. Con este fin, se ha llevado a cabo un experimento que ha consistido en entrenar un LLM utilizando ejemplos de conversaciones médicas para observar las ventajas e inconvenientes del proceso, teniendo en cuenta los comportamientos complejos presentes en este tipo de conversaciones. Se ha analizado la calidad de la imitación de estos tipos de conversaciones después del entrenamiento, considerando no solo la capacidad del modelo para proporcionar respuestas correctas a preguntas relacionadas con problemas o síntomas de salud actuales, sino también su habilidad para fallar como lo haría un paciente real, aportando información irrelevante cuando las preguntas del médico no se dirijan correctamente. La metodología incluye el entrenamiento de un LLM utilizando la técnica de Low Rank Adaptation (LoRA) en conversaciones entre médicos y pacientes para evaluar la capacidad del modelo para aprender e imitar estas interacciones complejas. Este enfoque destaca el potencial de los modelos lingüísticos, combinados con la técnica LoRA, para manejar tareas complejas en dominios reducidos. Para este experimento, se ha entrenado primero el modelo de lenguaje GPT-2 como prueba de concepto y después Llama-2 con datos de entrevistas médico-paciente. A pesar de las limitaciones del método utilizado, se han evaluado positivamente los resultados del experimento. Al analizar el comportamiento en un dominio limitado con datos de entrenamiento de buena calidad, no han estado presentes las alucinaciones típicas de los modelos de lenguaje en ninguno de los resultados y se ha comprobado el aprendizaje de comportamientos complejos presentes en los datos que no exhiben los modelos no adaptados.