VIGILANCE IA

Vigilance IA

COMPÉTENCE:

Définition

Couche:Compétences interface humain-IA

Assurer une surveillance dans le temps quant à une utilisation de systèmes basés sur IA dignes de confiance.

Quadrant: Relation

Les compétences de collaboration humain-machine sont relativement nouvelles et se manifestent une fois les équipes de travail en interaction avec l’IA. Elles représentent des rôles à maitriser après l’implantation de l’IA pour continuer à bien utiliser ses systèmes dans le temps.

Éléments clés

Détecter des impacts potentiellement indésirables et non anticipés sur la condition humaine et le monde vivant

Assurer l’acceptabilité sociale des systèmes basés sur l’IA en vérifiant les résultats

Éviter les dérives possibles en intervenant immédiatement

Exemples

Anticiper les problèmes potentiels dès qu’un changement est apporté aux systèmes IA

Assurer une surveillance continue du bon fonctionnement des systèmes d’IA

Prendre action dès qu’une anomalie est repérée

Développement de la compétence:

Vigilance IA

Apprendre dans l'action

Dans le flux du travail :

• Travaillez de concert avec les utilisateurs des systèmes IA pour monitorer les usages des systèmes IA. Des conversations régulières vous permettront de détecter un comportement imprévu ou un effet non désirable d’un algorithme.
• Mettez en place des forums de discussion sur un nouveau système IA pour que les utilisateurs puissent partager des observations qui mériteraient une attention particulière rapidement.

• Définissez une procédure complète incluant un plan de surveillance des données qui prévoit les indicateurs de performance, la méthode de collecte et l’échantillonnage. Prévoyez les analyses à dates prédéterminées afin d’assurer la maintenance et le bon fonctionnement des algorithmes.

• Lancez un comité de gestion des données, analysez des scénarios potentiels et définissez les méthodes pour les traiter. Les équipes cliniques, techniques, juridiques et autres doivent collaborer pour garantir la conformité juridique du projet d'IA et gérer les risques associés.

• Établissez des normes claires concernant la confidentialité, le consentement, les mesures de sécurité ainsi que le transfert et l'hébergement des données dans les bases de données. Assurez-vous également de définir clairement la responsabilité de ces processus et les moyens mis en place pour garantir leur conformité.

• Familiarisez-vous aux dimensions importantes à suivre pour assurer la performance des systèmes IA (les mécanismes pour assurer la qualité des données, l’accès aux données, les biais potentiels, la qualité des prédictions, etc.).

• Assurez-vous que l’évolution de vos modèles IA fait l’objet d’une surveillance continue pour détecter l’apparition de problèmes (ex. dérive conceptuelle, dérive des données, attaques antagonistes, etc.).

Réflexion sur l'action :

• Restez à l’affût de l’évolution du cadre règlementaire et légal de l’IA. Vous pourrez y puiser des informations pour alimenter votre processus de gestion des systèmes IA (ex. Code civil du Québec, Loi 5 sur les Renseignements personnels de santé et services sociaux, Loi 25 sur la protection des renseignements personnels des citoyens du Québec, Projet de loi C-27 aussi connu sous le nom de loi de 2022 sur la mise en œuvre de la Charte du numérique).
• Consultez des experts du domaine ou des responsables de gouvernance des données d’autres organisations d’avant-garde en la matière pour comparer ou améliorer vos pratiques de surveillance des données.

Sous-titre

Ressources additionnelles:

Vigilance IA

Articles

Zhang, J., & Zhang, Z. (2023). Ethics and governance of trustworthy medical artificial intelligence. BMC Medical Informatics and Decision Making, 23(1), 7.

Reddy, S., Rogers, W., Makinen, V.-P., Coiera, E., Brown, P., Wenzel, M., Weicken, E., Ansari, S., Mathur, P., Casey, A., & Kelly, B. (2021). Evaluation framework to guide implementation of AI systems into healthcare settings. BMJ Health & Care Informatics, 28(1), e100444.

Reddy, S., Allan, S., Coghlan, S., & Cooper, P. (2020). A governance model for the application of AI in health care. Journal of the American Medical Informatics Association, 27(3), 491‑497.

Polevikov, S. (2023). Advancing AI in healthcare: A comprehensive review of best practices. Clinica Chimica Acta, 548, 117519.

Mignot, L., & Schultz, É. (2022). Les innovations d’intelligence artificielle en radiologie à l’épreuve des régulations du système de santé. Réseaux, 232233(2), 65‑97.

Martineau, J. T., & Godin, F. R. (2023). Tour d’horizon des enjeux éthiques liés à l’IA en santé. Éthique publique, vol. 25, n° 1.

Kim, J. Y., Boag, W., Gulamali, F., Hasan, A., Hogg, H. D. J., Lifson, M., Mulligan, D., Patel, M., Raji, I. D., Sehgal, A., Shaw, K., Tobey, D., Valladares, A., Vidal, D., Balu, S., & Sendak, M. (2023). Organizational Governance of Emerging Technologies: AI Adoption in Healthcare. ACM.

Jeyaraman, M., Balaji, S., Jeyaraman, N., & Yadav, S. (2023). Unraveling the Ethical Enigma: Artificial Intelligence in Healthcare. Cureus.

Díaz-Rodríguez, N., Del Ser, J., Coeckelbergh, M., López De Prado, M., Herrera-Viedma, E., & Herrera, F. (2023). Connecting the dots in trustworthy Artificial Intelligence: From AI principles, ethics, and key requirements to responsible AI systems and regulation. Information Fusion, 99, 101896.

Livres et thèses

Kosatka, M.-S. (2023). Management et technologies de l’intelligence artificielle : points de vigilance pour une approche humaine [Mémoire accepté].