Software diagnostics for autonomous safety-critical control-systems based on artificial intelligence
Authors:   , Fernández Muñoz Javier 
Published: March 2024

(English) Machine Learning (ML) systems allow the efficient implementation of functionalities that can be hard to program by traditional software due to the high spectrum of inputs that hinder the definition of a specific procedural rule set. This characteristic of ML systems has encouraged their adoption in applications such as object detection or image classification in several safety-related domains, which are subject to safety certification. This certification is usually achieved by adhering to traditional functional safety standards such as IEC 61508 or ISO 26262. However, these standards were not devised to accommodate technologies such as ML in safety-related systems due to their development process, which is based on probabilistic models generated from training data, as opposed to traditional software components coded from specifications. Additionally, new challenges arise due to the fact that these ML algorithms need to process large volumes of data, and this requires High-Performance Embedded Computing (HPEC) platforms with computing capabilities far superior to traditional safety systems, such as multicore devices and GPU accelerators. Current functional safety standards do not provide explicit guidance for the use of HPEC platforms in safety-relevant systems, and the inherent complexity of those highly parallel architectures challenges certifications. With this Thesis, we attempt to address these challenges and give a step forward towards the functional safety certification of safety control systems integrating ML components in HPEC platforms.
(Español) Los sistemas de aprendizaje automático (ML) permiten la implementación eficiente de funcionalidades que pueden ser difíciles de programar por el software tradicional debido al elevado espectro de entradas que dificultan la definición de un conjunto de reglas procedimentales específicas. Esta característica de los sistemas ML ha fomentado su adopción en aplicaciones como la detección de objetos o la clasificación de imágenes en diversos ámbitos relacionados con la seguridad, que están sujetos a certificación de seguridad. Esta certificación suele lograrse mediante la adhesión a las normas tradicionales de seguridad funcional, como IEC 61508 o ISO 26262. Sin embargo, estas normas no se concibieron para dar cabida a tecnologías como el ML en los sistemas relacionados con la seguridad debido a su proceso de desarrollo, que se basa en modelos probabilísticos generados a partir de datos de entrenamiento, a diferencia de los componentes de software tradicionales codificados a partir de especificaciones. Además, surgen nuevos retos debido a que estos algoritmos de ML necesitan procesar grandes volúmenes de datos, lo que requiere plataformas de computación embebidas de alto rendimiento (HPEC) con capacidades de cálculo muy superiores a las de los sistemas de seguridad tradicionales, como dispositivos multinúcleo y aceleradores con GPUs. Las actuales normas de seguridad funcional no proporcionan orientaciones explícitas para el uso de plataformas HPEC en sistemas relevantes para la seguridad, y la complejidad inherente a esas arquitecturas altamente paralelas supone un reto para las certificaciones. Con esta Tesis, intentamos abordar estos retos y dar un paso adelante hacia la certificación de seguridad funcional de los sistemas de control de seguridad que integran componentes ML en plataformas HPEC.