Ottawa, Canada – L’ Institut des normes de gouvernance numérique (INGN), avec le soutien du Conseil canadien des normes (CCN), est heureux d’annoncer le lancement d’une nouvelle norme national du Canada axé sur l’IA transparente et imputable pour l’aide à la décision clinique.
Cette nouvelle initiative de développement de normes répond à l’utilisation croissante d’outils pilotés par l’IA dans les milieux de santé et à la nécessité de garantir que les systèmes d’aide à la décision clinique soient transparents, explicables, responsables et centrés sur le patient. La norme se concentrera sur la capacité des patients à mieux comprendre comment l’IA influence les décisions de santé qui affectent leurs soins, tout en soutenant les prestataires de santé et les organisations dans la mise en œuvre responsable de l’IA.
Promouvoir la confiance, la transparence et la responsabilité dans l’IA de la santé
Les systèmes d’aide à la décision clinique alimentés par l’IA sont de plus en plus utilisés pour éclairer le diagnostic, la planification du traitement et les parcours de soins. Bien que ces technologies offrent des avantages importants, elles soulèvent également des questions cruciales sur l’explicabilité, les biais, la responsabilité et la confiance des patients.
La norme proposée cherchera à traduire les principes fédéraux et les engagements éthiques en IA en exigences pratiques et applicables , garantissant que les systèmes d’IA utilisés en contexte clinique soient visibles et compréhensibles pour les patients, et que des mécanismes clairs de responsabilité soient en place.
« Notre travail portera sur la responsabilité et l’explication de l’IA pour les Canadiens ordinaires », a déclaré Atif Malik, directeur de l’IA chez Zarori.
« Nous y parviendrons en transformant les principes fédéraux de l’IA en outils pratiques qui aident les patients à comprendre les décisions de santé dans un langage explicable, à clarifier le rôle de l’IA en leur sein, et à devenir des partenaires actifs dans leur propre prise en charge grâce à des contrôles de biais, des appels et des résumés transparents.» M. Malik ajouta
Le Directeur de l’IA a conclu en déclarant que ce travail« assure également un soutien bilingue en anglais et en français, avec pour objectif d’accroître la visibilité des langues autochtones et communautaires pour les Canadiens diversifiés. »
Une approche centrée sur le patient pour la gouvernance clinique de l’IA
La norme abordera des considérations clés telles que :
- Visibilité des patients sur les décisions cliniques soutenues par l’IA
- Explicabilité des résultats de l’IA dans un langage clair et accessible
- Mécanismes de responsabilité et de supervision pour l’utilisation de l’IA dans la prestation des soins
- Processus d’identification, d’examen et d’appel des biais
- Exigences de transparence pour la prise de décision assistée par l’IA
- Alignement avec les contextes de la santé, de la réglementation et de la gouvernance des données au Canada
En centrant la compréhension et la participation des patients, la norme vise à renforcer la confiance du public dans l’IA des soins de santé tout en soutenant l’innovation conforme aux valeurs canadiennes.
Prochaines étapes et participation des parties prenantes
Alors que les travaux sont désormais en cours, l’INGN réunira des experts et des parties prenantes issues du secteur de la santé, du développement de l’IA, de la défense des patients, du milieu universitaire, du gouvernement et de la société civile pour soutenir l’élaboration de la norme.
Les organisations et individus souhaitant contribuer à ce travail sont encouragés à exprimer leur intérêt à participer et à contribuer à façonner un cadre national pour une IA responsable et visible par les patients dans le secteur de la santé. Le travail se fait généralement en anglais à ce stade, cependant, merci de nous informer si vous préférez le français, car nous prévoyons de nous adapter pour que vous puissiez participer à la langue de votre choix.
Pour consulter ce travail exploratoire actuel, consultez l’IA visible et responsable du patient en soutien à la décision clinique
Pour vous impliquer, veuillez contacter :
📧 info@dgc-cgn.org
À propos de l’Institut des normes de gouvernance numérique
L’Institut des normes de gouvernance numérique élabore des normes de gouvernance des technologies numériques adaptées à une utilisation mondiale. L’Institut collabore avec des experts, ainsi qu’avec des partenaires nationaux et mondiaux et le grand public pour élaborer des normes nationales qui réduisent les risques pour les Canadiens et les organisations canadiennes qui adoptent et utilisent des technologies numériques innovantes dans l’économie numérique actuelle. L’Institut est une division indépendante du Conseil de la gouvernance numérique. Pour en savoir plus sur l’organisation et ses initiatives, rendez-vous sur www.dgc-cgn.org ou contactez info@dgc-cgn.org.