Systems that know what they are doing : A Model-Based Formal Specification for Robust Autonomy
Authors:   , Aguado González Esther 
Published: July 2024

Los sistemas técnicos se enfrentan a exigencias cada vez mayores, con tareas que crecen en complejidad e incertidumbre. Sin embargo, sus capacidades a menudo se quedan cortas, exigiendo la intervención humana o limitando su aplicabilidad. Esta investigación explora el conocimiento explícito como medio de gestionar las perturbaciones durante el funcionamiento.

Para ello, integramos elementos de tres ámbitos aparentemente no relacionados. En primer lugar, la ingeniería de sistemas ofrece un enfoque holístico, con la ingeniería basada en modelos (MBSE), que aboga por la representación del sistema a lo largo de todo el ciclo de vida. En robótica, los modelos formales sirven de base para lograr propiedades holísticas, como la fiabilidad funcional o la resiliencia adaptativa, y facilitan la producción automatizada de módulos. Esta investigación propone ampliar las conceptualizaciones formales más allá de la fase de ingeniería, utilizando modelos en tiempo de ejecución.

El segundo ámbito, Representación del Conocimiento y Razonamiento (KR"AND"R), se refiere a la descripción de la información en formatos computacionales que permitan a los agentes utilizarla para deducir hechos implícitos. De este modo, tendemos un puente entre la ingeniería y la adaptación en tiempo de ejecución, mediante la explotación de la información disponible desde el diseño hasta el funcionamiento del robot.

El tercer pilar es la Teoría de Categorías (CT), una teoría general de estructuras matemáticas que sirve como herramienta para razonar en diferentes niveles de abstracción. Proponemos utilizar estos formalismos para representar aspectos MBSE del sistema a través de la composicionalidad.

Aplicando estos principios, hemos desarrollado un metamodelo que sirve como lenguaje para definir aspectos de diseño relevantes para la adaptación del sistema. El modelo se basa en cuatro conceptos fundamentales: capacidad, componente, objetivo y valor, para garantizar que los sistemas aporten los beneficios necesarios a su propietario. El uso de CT para este lenguaje facilita el razonamiento a niveles superiores de abstracción. Por ejemplo, proporciona diferentes nociones de equivalencia dependiendo de la perspectiva o diversas granularidades en las relaciones conceptuales.

El metamodelo utiliza los resultados del lema de Yoneda-por el cual dos objetos son iguales si están relacionados con las mismas entidades-para identificar el candidato de adaptación más adecuado y con menor impacto en el funcionamiento. Además, utiliza el concepto de "pushout" para mejorar la explicabilidad. Al propagar información sobre cómo han cambiado los objetos y las relaciones, se puede informar a las partes interesadas sobre los cambios previstos en las métricas de desempeño. Por ejemplo, el cambio de un componente por otro puede aumentar la seguridad o reducir la precisión prevista.

Este metamodelo se hace operativo a través de un metacontrolador. Este instrumento busca completar los objetivos de la misión de forma similar a como los controladores clasicos persiguen mantener la señal de referencia. El metacontrolador se integra en la ejecución del robot razonando sobre su estado actual y las capacidades disponibles. Por tanto, cuando surge una emergencia, no hay formas preestablecidas de adaptar el sistema; se seleccionan en función de sus necesidades y disponibilidad.

La amplia aplicabilidad y versatilidad de este enfoque se demuestran a través de dos plataformas de pruebas-un robot minero y un robot móvil-en cinco escenarios, mostrando robustez y posibilidad de reutilización en distintos ambitos. En conclusión, esta investigación presenta un enfoque prometedor para mejorar la autonomía de los robots al formalizar diseños y adaptación. El metacontrolador y su metamodelo sirven de marco neutral para representar formalmente y razonar sobre sistemas autónomos. La solución avanza en la fiabilidad de los robots mediante el auto-conocimiento de los sistemas robóticos complejos.

ABSTRACT

Technical systems face increasing demands, with tasks that grow in complexity and uncertainty. Autonomous systems are increasingly sought after for performance, cost, and safety reasons. However, their capabilities often fall short, requiring human intervention or limiting their applicability. This research explores understanding as a means of handling disturbances during operation.

For this purpose, we integrate insights from three apparently unrelated domains. First, Systems Engineering offers a holistic approach, with Model-Based Systems Engineering (MBSE) advocating system representation throughout the life cycle. In robotics, formal models serve as the basis for achieving holistic properties, such as functional reliability or adaptive resilience, and facilitate the automated production of modules. We propose to extend formal conceptualizations beyond the engineering phase in the system life-cycle, providing accurate models for runtime operation.

The second domain, Knowledge Representation and Reasoning (KR"AND"R), concerns capturing knowledge in computational formats so that agents can use it to derive implicit facts. We bridge the gap between engineering and runtime adaptation, using these techniques to exploit information available from design to the robot operation.

The third pillar is Category Theory (CT), a general theory of mathematical structures that serves as a tool for reasoning on different levels of abstraction. We propose using this formalism to represent MBSE aspects of the system through compositionality.

Applying these approaches, we have developed a metamodel which serves as a language to define relevant design aspects for system adaptation. The model is rooted in four core concepts-capability, component, goal, and value-to ensure that the systems provide the required benefits to its acquirer. The use of CT for this language facilitates reasoning at higher levels of abstraction. For example, it provides different notions of sameness depending on the perspective or various granularities in conceptual relationships.

The metamodel uses the results of the Yoneda lemma-by which two objects are the same if they are related to the same entities-to identify the most suitable adaptation candidate with less impact on operation. This renders a formalization of mission-oriented functional equivalence of systems. Additionally, it uses the concept of "pushout" to enhance explainability. By propagating information on how objects and relationships have changed, stakeholders can be informed of expected changes in performance metrics. For example, the substitution of one component for another may result in increased expected security or decreased accuracy. These metrics hold major relevance for the human operator, who will receive notifications about these adjustments.

This metamodel is operationalized through a metacontroller; an application-agnostic instrument to pursue mission goals similar to classical controllers pursue set-point references. The metacontroller is integrated into robot execution by reasoning about its current state and available capabilities. Therefore, when a contingency arises, there are no pre-established ways to adapt the system; they are selected based on its necessities and availability.

The broad applicability and versatility of this approach is demonstrated through two testbeds-mining robots and mobile robotics-across five scenarios. Addressing challenges such as sensor failures, insufficient capabilities, and loss of communication, our proposed solution exhibits robustness and reusability. In conclusion, our research formalizing designs and recoveries presents a promising approach to enhancing robot autonomy and the engineering processes to attain it. The metacontroller and its metamodel serve as a neutral universal framework for formally representing and reasoning about systems. The solution advances in the topic of robot dependability through the self-awareness of complex robotic systems.