Reference number : 172-2020-2021-Q2-954790, amendment number : , agreement type : C, recipient legal name : DarwinAI Corp., recipient country : CA, recipient province : ON, recipient city : Waterloo|Waterloo, recipient postal code : N2V 1K4, program name english : Industrial Research Assistance Program – Contributions to Firms, program name french : Programme d’aide à la recherche industrielle – Contributions aux entreprises, program purpose english : The purpose of IRAP Contributions to Firms is to support research, development, adoption and/or adaptation of innovative or technology-driven new or improved products, services or processes in Canada up to their commercialization, program purpose french : Le PARI, par le biais des Contributions aux entreprises, vise à appuyer la recherche, le développement, l’adaptation et/ou l’adoption au Canada de produits, de services ou de processus novateurs ou axés sur des technologies nouvelles ou améliorées, et ce jusqu’à leur commercialisation, agreement title english : Explainable AI for Early Stage Deep Learning Development, agreement title french : L'IA explicable pour le développement de l'apprentissage profond à un stade précoce, agreement number : 954790, agreement value : 250000.0, agreement start date : 2020-06-22, agreement end date : 2021-03-26, description english : The ‘black box’ problem in Artificial Intelligence represents one of the greatest business and societal risks of our time. The question of how deep neural networks make their decisions has plagued both academics and enterprises alike.  While neural networks behave in ways that reflect the data they are trained against and the human labelers who annotate that data (incorporating selection and human biases along the way), it remains unclear how they reach particular conclusions. 

Our team hopes to convert the intangible concepts of explainability into concrete tools that help deep learning designers and developers in the early stages of development., description french : Le problème de la « boîte noire » de l'intelligence artificielle représente l'un des plus grands risques commerciaux et sociétaux de notre époque. La question de savoir à quelle profondeur les réseaux neuronaux prennent leurs décisions a frappé aussi bien les universitaires que les entreprises. Si les réseaux neuronaux se comportent de manière à refléter les données sur lesquelles ils sont formés et les étiquettes personnelles qui annotent ces données (en intégrant la sélection et les préjugés des humains en cours de route), la manière dont ils parviennent à des conclusions particulières n'est pas claire. Notre équipe espère convertir les concepts intangibles d'explicabilité en outils concrets qui aideront les concepteurs et les développeurs à apprendre en profondeur dès les premières étapes de développement., expected results english : The purpose of IRAP Contributions to Firms is to support research, development, adoption and/or adaptation of innovative or technology-driven new or improved products, services or processes in Canada up to their commercialization, expected results french : Le PARI, par le biais des Contributions aux entreprises, vise à appuyer la recherche, le développement, l’adaptation et/ou l’adoption au Canada de produits, de services ou de processus novateurs ou axés sur des technologies nouvelles ou améliorées, et ce jusqu’à leur commercialisation, additional information english : nan, additional information french : nan, owner organization : nrc-cnrc, owner organization title : National Research Council Canada | Conseil national de recherches Canada