Reference number : 172-2022-2023-Q4-1000543, amendment number : , agreement type : G, recipient legal name : SIMON FRASER UNIVERSITY, recipient country : CA, recipient province : BC, recipient city : Burnaby|Burnaby, recipient postal code : V5A 1S6, program name english : Collaborative Science, Technology and Innovation Program - Collaborative R&D Initiatives, program name french : Programme de collaboration en science, en technologie et en innovation - Initiatives de collaboration en R-D, program purpose english : Collaborate on multiparty research and development programs to catalyze transformative, high-risk, high-reward research with the potential for game-changing scientific discoveries and technological breakthroughs in priority areas., program purpose french : Collaborer à des programmes multipartites de recherche-développement dans le but de profiter de la synergie entre la recherche transformatrice à haut risque et à haut rendement et le potentiel de découvertes scientifiques et de percées technologiques révolutionnaires dans des secteurs d’intervention prioritaires., agreement title english : An empirical framework for robust machine learning systems and its application in AI4L, agreement title french : Un cadre empirique pour les systèmes robustes d’apprentissage automatique et son application dans L’IA au service de la logistique (AI4L)., agreement number : 1000543, agreement value : 281765.0, agreement start date : 2023-03-28, agreement end date : 2026-03-31, description english : Machine Learning (ML) technologies have been widely adopted in many 
mission-critical fields to support intelligent decision-making with superior 
performance. With the success of these new technologies, the application of 
ML introduces novel and significant threats to AI-powered systems. 
Policymakers around the world have made a number of ongoing efforts on 
regulation enactment to enforce and normalize AI cybersecurity and privacy. 
It is essential to ensure that ML systems can achieve regulatory compliance 
and satisfy the standard requirements. 
This project will focus on developing a taxonomy of state-of-the-art ML 
offensive/defensive technologies based on a comprehensive literature 
review, including a collection of open-source adversarial challenges and 
defense utilities; devising efficient security and privacy defense mechanisms 
against the threats faced in the ML model training and prediction phase; and 
developing an empirical framework consisting of a toolset of best practices 
that can be leveraged to enable robust ML application development and 
deployment., description french : Les technologies d’apprentissage automatique ont été largement adoptées dans de nombreux domaines critiques afin de soutenir la prise de décision intelligente avec des performances supérieures. Avec le succès de ces nouvelles technologies, l’application du langage machine introduit des menaces nouvelles et appréciables pour les systèmes alimentés par l’IA. Les décideurs politiques du monde entier ont déployé des efforts pour promulguer des réglementations en vue de renforcer et de normaliser la cybersécurité et la protection de la vie privée dans le domaine de l’IA. Il est essentiel de veiller à ce que les systèmes d’intelligence artificielle puissent se conformer à la réglementation et satisfaire aux exigences standard. Ce projet se concentrera sur le développement d’une taxonomie des technologies offensives et défensives de pointe en matière d’intelligence artificielle, basée sur une analyse exhaustive de la littérature, y compris une collection de défis adverses et d’utilitaires de défense en source ouverte; sur la conception de mécanismes efficaces de défense de la sécurité et de la vie privée contre les menaces rencontrées dans la phase d’entraînement et de prédiction du modèle d’intelligence artificielle; et sur le développement d’un cadre empirique composé d’un ensemble d’outils de meilleures pratiques qui peuvent être utilisés pour permettre le développement et le déploiement d’applications d’intelligence artificielle robustes., expected results english : In the short term, anticipated outcomes will be strengthened collaborations across industry, academia, and government to support research excellence. In the medium term, anticipated outcomes will be the development of new and potentially disruptive technologies with collaborators. In the long term, find collaborative solutions to public policy challenges and create stronger innovation systems., expected results french : À court terme, les résultats prévus seront des collaborations renforcées entre l'industrie, le milieu universitaire et le gouvernement pour soutenir l'excellence en recherche. À moyen terme, les résultats attendus seront le développement de nouvelles technologies potentiellement perturbatrices avec des collaborateurs. À long terme, trouver des solutions collaboratives aux défis des politiques publiques et créer des systèmes d'innovation plus solides., additional information english : nan, additional information french : nan, owner organization : nrc-cnrc, owner organization title : National Research Council Canada | Conseil national de recherches Canada