Supporting responsible AI for global health Soutenir une IA responsable pour la santé mondiale Researchers and innovators working with data and artificial intelligence (AI) are confronted with significant complexity regarding the validity and contextual fit of their innovations and the associated risks and harms. They face a regulatory landscape which is still under construction, and struggle to integrate international principles and national regulations concretely into their projects. When incorporating gender equality and inclusion requirements, they struggle to go deeper than disaggregated data and broad stakeholder consultations. They also struggle to explain their work to institutional review boards or national-level ethics committees used to dealing with ethical, legal and social implications of traditional research and development methodologies.

This project aims to address these challenges by contributing to the improved implementation of responsible and gender-responsive AI for global health in low- and lower-middle-income countries. The focus of the research is on epidemic/pandemic preparedness and response and sexual, reproductive and maternal health across a diversity of development contexts. More specifically, the project seeks to deepen the understanding of how to implement responsible and gender-responsive AI across a diversity of contexts and applications and strengthen the capacity of AI researchers and innovators to engage in responsible and gender-responsive AI. It also aims to expand the international research agenda on AI governance and enhance the granularity of international regulatory discussions about responsible and gender-responsive AI, informed by evidence-based approaches from real-world use cases and research in low- and lower-middle-income countries. Les chercheurs et les innovateurs qui travaillent avec des données et l’IA sont confrontés à une complexité importante concernant la validité et l’adéquation contextuelle de leurs innovations, ainsi que des risques et des préjudices associés. Ils sont confrontés à un paysage réglementaire qui est encore en cours d’élaboration, et peinent à intégrer concrètement les principes internationaux et les réglementations nationales dans leurs projets. Lorsque les chercheurs et les innovateurs intègrent des exigences en matière d’inclusion et d’égalité des sexes, ils ont du mal à aller au-delà des données ventilées et des vastes consultations des parties prenantes. Ils ont également du mal à expliquer leur travail aux conseils d’examen institutionnels ou aux comités d’éthique nationaux qui sont habitués à traiter les répercussions éthiques, juridiques et sociales des méthodologies traditionnelles de recherche et de développement.

Ce projet vise à relever ces défis en contribuant à l’amélioration de la mise en œuvre d’une IA responsable et adaptée aux sexospécificités pour la santé mondiale dans les pays à faible revenu et à revenu intermédiaire inférieur. La recherche est axée sur la préparation et la réponse aux épidémies et aux pandémies, ainsi que sur la santé sexuelle, reproductive et maternelle dans divers contextes de développement. Plus précisément, le projet vise à approfondir la compréhension de la manière de mettre en œuvre une IA responsable et adaptée aux sexospécificités dans divers contextes et d’applications, et à renforcer la capacité des chercheurs et des innovateurs en IA à participer à une IA responsable et adaptée aux sexospécificités. Il vise également à élargir le programme de recherche international sur la gouvernance de l’IA, ainsi qu’à améliorer le niveau de détail des discussions réglementaires internationales sur une IA responsable et adaptée aux sexospécificités, en s’appuyant sur des approches fondées sur des données probantes provenant de cas d’utilisation réels et de recherches dans les pays à revenu faible et à revenu intermédiaire inférieur.