Reference number : 180-2021-2022-Q2-CFPMN2-017, amendment number : 1, agreement type : C, recipient legal name : McMaster University, recipient country : CA, recipient province : ON, recipient city : Hamilton, recipient postal code : L8S 4L8, program name english : Innovation for Defence Excellence and Security Program - Innovation Networks, program name french : Programme d’innovation pour la défense, l’excellence et la sécurité - Réseaux d'innovation, program purpose english : Collaborate with academic and private sector partners to build a network of expertise to support Canada’s current and future defence and security needs., program purpose french : Collaborez avec des partenaires des secteurs universitaire et industriel afin de mettre en place un réseau d’expertise pour soutenir les besoins actuels et futurs du Canada en matière de défense et de sécurité., agreement title english : Quantifying Trust in Autonomous  Medical Advisory Systems, agreement title french : Mesure quantitative de la confiance envers les systèmes autonomes de consultation médicale., agreement number : CFPMN2-017, agreement value : 1479441.0, agreement start date : 2019-10-18, agreement end date : 2023-10-17, description english : Artificial intelligence (AI) and machine learning (ML) are key to medical support and care in remote and austere environments. However, they introduce two primary challenges for trust and adoption, which are not adequately addressed in existing autonomous systems because they are not well understood; these include: 1) uncertainty in AI decision models, and 2) the impact of autonomous systems on human-machine interaction as a joint cognitive system (JCS). We propose to develop a framework to quantify trust in autonomous medical advisory systems (AMAS) decisions and optimize for integration into a joint cognitive system (JCS)., description french : L'intelligence artificielle (IA) et l'apprentissage machine (ML) sont essentiels au soutien et aux soins médicaux dans les environnements éloignés et austères. Cependant, elles introduisent deux défis principaux pour la confiance et l'adoption, qui ne sont pas traités de manière adéquate dans les systèmes autonomes existants car ils ne sont pas bien compris ; il s'agit de : 1) l'incertitude des modèles de décision de l'IA, et 2) l'impact des systèmes autonomes sur l'interaction homme-machine en tant que système cognitif conjoint (SCC). Nous proposons de développer un cadre pour quantifier la confiance dans les décisions des systèmes autonomes de conseil médical et d'optimiser leur intégration dans un système cognitif conjoint., expected results english : The research objectives of this Project are to quantify uncertainty in AI medical decision models; to evaluate the role of AMAS in the context of performing as a JCS with an individual and as a team member; and to optimize AMAS trust metrics for operational medicine applications employing body-worn sensors and portable diagnostic imaging from a Solution Readiness Level (SRL) 1 to SRL 6 over the life of the project., expected results french : nan, additional information english : nan, additional information french : nan, owner organization : dnd-mdn, owner organization title : National Defence | Défense nationale