[en] A critical challenge in the design of robots that operate while interacting with humans is to ensure mutual understanding, which contributes to build reliable human-robot interactions. It is an arduous task since interactive scenarios are often uncertain, exposing robots to exogenous situations that affect their ongoing activities. In those cases, robots shall perceive and recognize unexpected changes in the environment, represent and reason about them, and decide how to adapt to them. This will certainly modify robots' internal knowledge, and it is fair to assume that part of the new robot beliefs might be hidden from other agents such as humans. Hence, robots shall also be capable of communicating or explaining the relevant knowledge about those beliefs updates. In this context, this thesis investigates the use of ontologies as an integrative framework for the construction of robot explanations, particularly within interactive settings involving humans. To this end, the thesis starts formulating the scope of the relevant domain knowledge to conceptualize, and it continues proposing novel ontological models and methods for ontology-based robot explanation generation. The first part of the thesis discusses two main contributions: a systematic review and classification of the state-of-the-art that narrows down the target set of reality phenomena to be conceptualized, and the investigation and development of novel robot perception methods to extract from realistic robot experiences the common patterns of the target conceptualization. The second part discusses the two remaining contributions: ontological analysis and modeling of the target domain knowledge, and the design and development of algorithms to construct ontology-based robot explanations. Note that the different ontological models and algorithms were mainly validated in collaborative and adaptive robotic scenarios. However, they were conceived from a foundational perspective, and we think that their scientific value extrapolates to other application domains (e.g. assistive robotics). Overall, the scientific contributions of this thesis set a solid foundational basis for the ontology-based explainable robots domain, boosting the design of trustworthy interactive robots.

[es] Un desafío crítico en el diseño de robots que operan mientras interactúan con humanos es garantizar el entendimiento mutuo, lo que contribuye a construir interacciones confiables entre humanos y robots. Es una tarea ardua ya que los escenarios interactivos suelen ser inciertos, lo que expone a los robots a situaciones exógenas que afectan sus actividades en curso. En esos casos, los robots deben percibir y reconocer cambios inesperados en el entorno, representarlos, razonar sobre ellos y decidir cómo adaptarse a ellos. Sin duda, esto modificará el conocimiento interno de los robots, y es justo suponer que parte de las nuevas creencias de los robots podrían estar ocultas a otros agentes como los humanos. Por tanto, los robots también deben ser capaces de comunicar o explicar el conocimiento relevante sobre las actualizaciones de esas creencias. En este contexto, esta tesis investiga el uso de ontologías como un marco integrador para la construcción de explicaciones de robots, particularmente dentro de entornos interactivos que involucran a humanos. Con este fin, la tesis comienza formulando el alcance del conocimiento del dominio relevante a conceptualizar y continúa proponiendo nuevos modelos y métodos ontológicos para la generación de explicaciones robóticas basadas en ontologías. La primera parte de la tesis analiza dos contribuciones principales: una revisión y clasificación sistemática del estado del arte que reduce el posible conjunto de fenómenos de la realidad a conceptualizar, y la investigación y el desarrollo de nuevos métodos de percepción de robots para extraer a partir de experiencias realistas de un robot los patrones comunes de la conceptualización objetivo. La segunda parte analiza las dos contribuciones restantes: el análisis ontológico y el modelado del conocimiento del dominio objetivo, y el diseño y desarrollo de algoritmos para construir explicaciones de robots basadas en ontologías. Cabe señalar que los diferentes modelos y algoritmos ontológicos se validaron principalmente en escenarios robóticos colaborativos y adaptativos. Sin embargo, fueron concebidos desde una perspectiva fundamental y creemos que su valor científico se extrapola a otros dominios de aplicación (por ejemplo, la robótica asistencial). En general, las contribuciones científicas de esta tesis establecen una base sólida para el dominio de los robots explicables basados ​​en ontologías, impulsando el diseño de robots interactivos confiables.