L’intelligence artificielle en santé publique : mettre en avant le partenariat, l’équité et l’interdisciplinarité
Résumé public — 20 décembre 2021
Renseignements
Pour obtenir de plus amples renseignements sur Séances d'échanges meilleurs cerveaux, rendez-vous à IRSC-CIHR ou envoyez-nous un courriel à support-soutien@cihr-irsc.gc.ca
Résumé
Contexte
Au cours de la dernière décennie, la recherche a mis en évidence que l'intelligence artificielle (IA), et plus généralement les méthodologies basées sur les données, présentent un énorme potentiel pour la santé publique et des populations, car elles peuvent servir non seulement à contextualiser et à enrichir la compréhension d'un problème de santé publique particulier, mais aussi contribuer à la prise de décision. Des conversations sur l'application de ces types de technologies à la pratique de la santé publique ont eu lieu au cours des dernières années, créant ainsi une base de référence pour ce dialogue. Dans le monde entier, de nombreuses administrations locales, régionales, nationales et supranationales ont adopté certains outils d'IA ou à forte concentration de données pour améliorer les pratiques traditionnelles de santé publique. Au Canada, pays qui fait partie des chefs de file mondiaux dans le secteur de l'IA, on observe une adoption croissante, mais limitée de ces technologies à différents niveaux de gouvernance de la santé publique.
Le développement de l'IA coïncide avec la nécessité de renforcer les capacités de la santé publique et de réduire les iniquités en matière de santé. Cela met en évidence des occasions et des défis importants pour l'adoption responsable de l'IA et d'outils axés sur les données par les acteurs de la santé publique. C'est pourquoi le Bureau du conseiller scientifique en chef de l'Agence de la santé publique du Canada (ASPC) et l'Institut de la santé publique et des populations des Instituts de recherche en santé du Canada (ISPP-IRSC) cherchent à entretenir une discussion sur l'application efficace, équitable et éthiquement éclairée de l'IA et des technologies numériques émergentes dans les politiques et les pratiques de santé publique, le tout organisé autour d'une potentielle stratégie future. Le dialogue avec des experts locaux, nationaux et internationaux de divers domaines est nécessaire pour que l'ASPC et l'ISPP-IRSC recueillent des points de vue riches et interdisciplinaires sur les défis à relever et les leçons apprises. La nécessité d'une stratégie nationale ciblant l'IA pour la santé a été soulignée par l'ICRA dans le Rapport du groupe de travail sur l'intelligence artificielle au service de la santé (2020), qui comprend un appel urgent pour que « les plans fédéraux et provinciaux/territoriaux visant à faire progresser la santé numérique » soient associés à « une stratégie explicite en matière d'IA au service de la santé, comportant des politiques, des investissements, des partenariats et des cadres réglementaires pertinents ». À la lumière de ces appels, des travaux sont en cours pour définir une Stratégie pancanadienne de données sur la santé, sous la direction de l'ASPC. Ce travail axé sur les données s'aligne sur l'entretien de discussions et l'entreprise de travail sur l'IA et la santé publique, et les deux pourraient servir à s'informer mutuellement de manière bidirectionnelle. La présente séance du programme d'échanges Meilleurs cerveaux (EMC) sur l'IA et la pratique de la santé publique s'inscrit dans cette priorité et entend intégrer et exploiter les enseignements tirés de ce rapport.
Les présentations du personnel gouvernemental à divers échelons (provincial, fédéral et autres pays), de chercheurs ainsi que d'un organisme dirigé par des membres de Premières Nations ont porté sur les défis et les possibilités de l'utilisation de l'IA en santé publique, ainsi que sur des exemples de son utilisation. Les présentations ont souligné que l'IA n'est pas neutre. L'IA est un outil, et les valeurs et principes de santé publique (y compris l'équité et l'éthique) devraient guider quand et comment l'IA est utilisée. De nombreux défis ont été mis en évidence, notamment en ce qui concerne les données (p. ex. le manque d'interopérabilité des données, les questions relatives à la propriété des données), les impacts environnementaux et la nécessité de renforcer les capacités et les infrastructures. La nécessité d'innover, d'évaluer les interventions et de favoriser l'apprentissage continu a été soulignée. Les intervenants et intervenantes ont repéré de nombreuses questions et points à examiner pour l'adoption de l'IA en santé publique.
Résumé des thèmes de la discussion
Principes directeurs pour l'adoption de l'IA en santé publique :
- Transparence concrète, y compris sur les outils, ce qui est nécessaire pour les utiliser, ce qui a été fait pour les utiliser et comment ils seront utilisés.
- Co-création avec les communautés, en les invitant à la table dès le début pour une mobilisation significative. Cela permettra également d'accroître la confiance et d'améliorer la qualité des données si les gens s'engagent activement.
- Équipes pluridisciplinaires et agiles, notamment dans les domaines de la santé publique, de l'IA, des sciences humaines et sociales.
- Responsabilité envers les personnes et les populations, notamment en veillant à ce que les personnes aient la maîtrise de leurs propres données.
- Équité et inclusion, y compris la lutte contre les iniquités, la détermination des structures de pouvoir, la décolonisation, l'autochtonisation et le rééquilibrage du pouvoir. La co-création avec les communautés permettra de traiter ces sujets.
- L'IA en santé publique devrait être intentionnelle et utile pour la santé publique, de sorte que les besoins et les priorités de la santé publique déterminent l'utilisation de l'IA.
- Renforcer les capacités, les connaissances et le confort vis-à-vis l'IA en santé publique, notamment en investissant dans le renforcement de ces capacités dans le domaine et au niveau communautaire.
- Évaluation des risques et des coûts, y compris les coûts humains et cachés (p. ex. environnement, droits de la personne) et application de l'éthique à partir de la détermination des questions et de la fixation des priorités.
- Apprentissage continu afin de garantir que les changements sont effectués de manière itérative au fur et à mesure que l'on apprend.
Éléments nécessaires pour l'adoption fructueuse de l'AI en santé publique :
- Renforcement de la main-d'œuvre : Les participants et participantes ont noté qu'il existe des défis permanents en matière de travail et de rapprochement entre les disciplines. L'établissement de relations entre les secteurs est nécessaire, et des communautés de pratique devraient être créées pour encourager ce travail. Le renforcement des capacités dans le domaine de l'IA est nouveau et implique de nouveaux concepts et outils.
- Infrastructure : L'infrastructure doit être reconceptualisée et réimaginée au-delà de la technologie pour inclure un point de vue socio-technique plus large qui comprend divers facteurs, notamment la durabilité des ressources et de l'environnement et une politique ancrée dans les réalités sociales. Le manque de compétences et de compréhension des technologies constitue un défi. Les décideurs politiques doivent avoir une compréhension pratique et fonctionnelle des technologies et des infrastructures nécessaires pour permettre l'utilisation de l'IA. De nouvelles méthodes de collaboration entre le secteur public et le secteur privé sont nécessaires, et il convient de discuter davantage de l'importance d'établir des relations efficaces avec les communautés. Les infrastructures peuvent faciliter la collaboration multisectorielle, notamment par le biais d'une architecture et de systèmes partagés. Les coûts cachés des infrastructures devraient également être pris en compte. Une approche cohérente doit être adaptée au contexte et à la situation locale.
- Gouvernance : Au départ, il est important d'examiner les instruments déjà en place (p. ex. la Constitution canadienne – article 15 sur les principes d'intendance, la protection des droits/terres des peuples autochtones) et de s'assurer que l'on reste fidèle à ces instruments et que nous nous appuyons sur eux, en particulier en ce qui concerne l'équité. La gouvernance doit s'appuyer sur la communication avec les communautés. Un certain nombre de rapports de gouvernance passés et actuels devraient également être examinés dans le cadre de l'élaboration d'une stratégie de gouvernance. On doit également assurer une perspective canadienne (p. ex. la réconciliation avec les Autochtones). La Stratégie pancanadienne de données sur la santé pourrait comporter une table sur l'IA, qui constituerait un mécanisme permettant de créer un espace national pour discuter de ces questions.
- Pratiques exemplaires pour évaluer les résultats/impacts de l'IA : Les participants et participantes ont présenté des pratiques exemplaires pour évaluer les résultats et les impacts de l'IA, notamment en ce qui concerne l'équité, la transparence et la mobilisation.
- Équité – Il a été noté que l'évaluation du rendement des différents modèles dans les sous-groupes défavorisés de manière disproportionnée et structurellement marginalisés constituait une pratique exemplaire. Les évaluations obligatoires de l'impact sur l'équité ont également été désignées comme une pratique exemplaire potentielle.
- Transparence – Celle-ci doit être assurée tout au long du cycle de vie, notamment en expliquant comment l'algorithme a été élaboré, dans les rapports sur les données et les publications. Les rapports doivent être digestes et compréhensibles pour les gens. Le pré-enregistrement des projets de recherche en IA et en santé publique, à l'instar de ce qui se fait pour les essais cliniques, pourrait contribuer à garantir l'existence d'un catalogue de projets accessibles au public. La transparence est également essentielle lorsque le secteur privé est impliqué afin de s'assurer qu'il n'y a pas d'impact négatif sur la confiance du public.
- Mobilisation – Les partenariats authentiques sont importants. Les cadres et les pratiques exemplaires de la recherche en santé mondiale peuvent être adaptés à l'IA et à la santé publique. Il est également important de comprendre « à qui s'adressent les pratiques exemplaires », notamment en tenant compte de l'utilisateur final.
- Partenariats : Des équipes transdisciplinaires et multidisciplinaires sont nécessaires. La collaboration avec le monde universitaire, les jeunes entreprises et le secteur privé est nécessaire, avec des attentes écrites claires. Le gouvernement a été désigné comme un catalyseur clé des partenariats.
Conclusion
L'IA doit servir les besoins de la santé publique, y compris la lutte contre les iniquités. Il est nécessaire d'investir durablement pour appuyer le travail de l'IA dans le domaine de la santé publique, et il reste encore beaucoup à faire. Une voix forte de la santé publique est nécessaire.
- Date de modification :