Reference number : 172-2020-2021-Q4-965532, amendment number : , agreement type : G, recipient legal name : Sir Mortimier B. Davis Jewish General Hospital, recipient country : CA, recipient province : QC, recipient city : Montreal|Montréal, recipient postal code : H3T 1E2, program name english : Collaborative Science, Technology and Innovation Program - Collaborative R&D Initiatives, program name french : Programme de collaboration en science, en technologie et en innovation - Initiatives de collaboration en R-D, program purpose english : Collaborate on multiparty research and development programs to catalyze transformative, high-risk, high-reward research with the potential for game-changing scientific discoveries and technological breakthroughs in priority areas., program purpose french : Collaborer à des programmes multipartites de recherche-développement dans le but de profiter de la synergie entre la recherche transformatrice à haut risque et à haut rendement et le potentiel de découvertes scientifiques et de percées technologiques révolutionnaires dans des secteurs d’intervention prioritaires., agreement title english : Acceptability of explainable machine learning based decision support tools in a clinical environment, agreement title french : Acceptabilité des outils d’aide à la prise de décisions par apprentissage automatique explicable en milieu hospitalier, agreement number : 965532, agreement value : 107996.0, agreement start date : 2021-03-01, agreement end date : 2022-03-01, description english : The urgency of the COVID-19 pandemic has triggered a surge in the development of algorithms that address forecasting, contact tracing, screening, and treatment of COVID-19 positive patients to aid clinicians in their decision-making. However, a common feature of this work is a concern that bias in the models may mean the results do not generalize well. Moreover, such models can present challenges to identifying the underlying functional mechanism by which predictions are made and, ultimately, when they do not perform to expectation. Taken together, these issues can present significant challenges to moving such methods into clinical practice.
This Project will seek to demonstrate that user-centric development, when combined with explainable approaches to machine learning can result in greater uptake of new data-driven aids to care by clinicians. This will be done through development of best practices for introducing explainable machine learning (ML) into clinical informatics applications and a validation of these approaches in a prototype presentation layer using an explainable ML analysis that is relevant to clinical needs during pandemics as a test case., description french : La crise engendrée par la pandémie de COVID-19 a entraîné le développement de nombreux algorithmes qui aident les cliniciens à prendre des décisions par la prévision, le traçage des contacts, le dépistage et le traitement des personnes atteintes de la maladie. Un point que ces travaux ont en commun cependant est la crainte que les modèles créés, à cause du biais qu’ils incorporent, aboutissent à des résultats difficiles à généraliser. D’autre part, ces modèles peuvent compliquer l’identification du mécanisme fonctionnel à la base de la formulation des prévisions et, au bout du compte, des raisons pour lesquelles ils ne fonctionnent pas comme prévu. C’est pourquoi il est passablement difficile de faire accepter les méthodes de ce genre aux cliniciens.
Le projet montrera qu’un développement centré sur l’utilisateur, combiné à des approches explicables à l’apprentissage automatique, peut amener les cliniciens à adopter davantage les nouveaux outils d’aide à la santé qui reposent sur l’exploitation des données. On y parviendra en créant des pratiques exemplaires pour intégrer l’apprentissage automatique (AA) explicable aux applications informatiques cliniques et en validant ces approches avec le prototype d’une couche explicative qui prendra comme cas type une analyse AA explicable dans le contexte des besoins cliniques engendrés par la pandémie., expected results english : In the short term, anticipated outcomes will be strengthened collaborations across industry, academia, and government to support research excellence. In the medium term, anticipated outcomes will be the development of new and potentially disruptive technologies with collaborators. In the long term, find collaborative solutions to public policy challenges and create stronger innovation systems., expected results french : À court terme, les résultats prévus seront des collaborations renforcées entre l'industrie, le milieu universitaire et le gouvernement pour soutenir l'excellence en recherche. À moyen terme, les résultats attendus seront le développement de nouvelles technologies potentiellement perturbatrices avec des collaborateurs. À long terme, trouver des solutions collaboratives aux défis des politiques publiques et créer des systèmes d'innovation plus solides., additional information english : nan, additional information french : nan, owner organization : nrc-cnrc, owner organization title : National Research Council Canada | Conseil national de recherches Canada