IA RESPONSABLE

COMPÉTENCE:

IA responsable

Définition

Couche:Compétences spécifiques

Prendre en considération les enjeux éthiques et les valeurs sociétales qui sous-tendent l’utilisation de systèmes basés sur l'IA en santé au bénéfice de l’humain.

Quadrant: Relation

Les savoir-faire techniques spécifiques à l’IA sont à maitriser seulement après qu’une certaine base de compétences s’avère acquise. Il s’agit d’un ensemble de connaissances techniques qui permettront de mieux fonctionner dans un monde où les données, les algorithmes et l’IA sont présents.

Éléments clés

Agir en considérant les conséquences sur la sécurité et le bienêtre

Anticiper les situations qui peuvent poser des problèmes éthiques et déontologiques

Contribuer à la réflexion collective pour traiter les problèmes éthiques

Exemples

Participer à la recherche de solutions face à un enjeu éthique

Identifier les zones de risques associés à l’utilisation de l’IA

Demeurer attentif aux biais potentiels de l’IA

Développement de la compétence:

IA responsable

Apprendre dans l'action

Dans le flux du travail:

• Contactez les experts (comité d'éthique de la recherche, service de l’éthique clinique, comité de gouvernance des données, ordre professionnel, services juridiques, etc.) en cas de doutes en cours de développement ou d’utilisation d’un système IA.
• Portez-vous volontaire pour faire partie d’un comité (déontologie, scientifique, usagers, etc.) avec le mandat d’évaluer une problématique éthique. Cette expérience pourra enrichir votre compréhension du processus et des principes importants guidant leurs réflexions.

• Planifiez, au sein d’une équipe projet IA, des réflexions collectives sur l’IA responsable. Par exemple, discutez des répercussions humaines potentielles et de l’impact sur le bien-être des équipes et des patients. Adressez les biais potentiels qui guettent la conception des algorithmes à partir des données disponibles.

• Acceptez une invitation de participer à une expérience utilisateur d’une solution IA. Ceci vous permettra de vivre les impacts sociaux de la solution IA de l’angle de l’utilisateur.

• Assistez à des forums citoyens sur le développement de l’IA. Vous pourrez ainsi participer aux réflexions collectives en vous penchant sur les impacts sociétaux plus larges liés aux transformations de la société par l’IA.

• Familiarisez-vous avec l’Observatoire international sur les impacts sociétaux de l’IA (OBVIA), qui est un réseau interuniversitaire regroupant des chercheuses et chercheurs membres ainsi que de nombreux partenaires au Québec et à l’international. Ils offrent plusieurs ressources et publications et identifient les enjeux sociétaux de l’intelligence artificielle et du numérique. https://www.obvia.ca/

• Réflexion sur l'action :

• Choisissez 1 ou 2 principes de la Déclaration de Montréal et énumérez en quoi ils vous tiennent à cœur. Pourquoi est-ce important pour vous ? Quels engagements personnels prenez-vous ? Pourquoi ne pas profiter de l’occasion pour signer la Déclaration de Montréal IA responsable (declarationmontreal-iaresponsable.com) ?
• Consultez le Guide des principes d’innovation et d’intelligence artificielle en santé du CHUM. Ce guide a été créé par 60 collaborateurs pour accompagner la réflexion des innovateurs à chaque étape du cycle d’innovation, incluant la conception, l’expérimentation, l’implantation et la pérennisation des innovations.

• Prenez le temps de remplir le formulaire d’auto-évaluation suivant afin de prendre en considération les enjeux d’innovation et d’IA responsable en santé.

• Demandez à un.e collègue de vous partager une situation vécue comportant des enjeux éthiques. Réfléchissez ensemble aux différentes facettes de la problématique. Quels facteurs sont à considérer ? Quelle est la marche à suivre ?

Sous-titre

Ressources additionnelles:

IA responsable

Articles

Chang, Y.-L., & Ke, J. (2024). Socially Responsible Artificial Intelligence Empowered People Analytics: A Novel Framework Towards Sustainability. Human Resource Development Review, 23(1), 88–120.

De Saint-Affrique, D. (2022). Intelligence artificielle et médecine : quelles règles éthiques et juridiques pour une IA responsable ? Médecine & Droit, 2022(172), 5–7.

Li, F., Ruijs, N., & Lu, Y. (2022). Ethics & AI: A Systematic Review on Ethical Concerns and Related Strategies for Designing with AI in Healthcare. AI, 4(1), 28–53.

Marcoux, A. M. (2023). L’éthique de l’IA comme pratique en santé. Éthique publique, vol. 25, n° 1.

Sanderson, C., Douglas, D., & Lu, Q. (2023). Implementing Responsible AI: Tensions and Trade-Offs Between Ethics Aspects. 2023 International Joint Conference on Neural Networks (IJCNN), 1–7.

Tahri Sqalli, M., Aslonov, B., Gafurov, M., & Nurmatov, S. (2023). Humanizing AI in medical training: ethical framework for responsible design. Frontiers in Artificial Intelligence, 6.

Wang, W., Chen, L., Xiong, M., & Wang, Y. (2023). Accelerating AI Adoption with Responsible AI Signals and Employee Engagement Mechanisms in Health Care. Information Systems Frontiers, 25(6), 2239–2256.

Rapports et guides

Rapport, dossiers thématiques et documents de la réflexion collective sur l'encadrement de l'IA

Pour une conception et une utilisation responsables de l’Intelligence Artificielle Valérie Chapuis, Delphine Guégan

Livres

Guide des principes d’innovation et d’intelligence artificielle responsables en santé