Algorithmovigilance, leçons tirées de la pharmacovigilance
Les systèmes basés sur l’intelligence artificielle (IA) sont de plus en plus déployés dans diverses applications à haut risque, notamment dans le secteur de la santé. Malgré une attention particulière portée à l’évaluation de ces systèmes, les incidents post-déploiement ne sont pas rares, et la mise en place de méthodes efficaces pour les mitiger reste un défi.
La sécurité des médicaments dispose d’une longue histoire en matière de surveillance, d’évaluation, de prévention, de gestion des effets indésirables liés à leur utilisation, une pratique connue sous le nom de pharmacovigilance.
Dans cet article, nous nous inspirons des méthodes de pharmacovigilance pour discuter de concepts pouvant être transposés et adaptés à la surveillance des systèmes d’IA dans le domaine de la santé, un concept proposé par Embi PJ en 2021 sous le terme algorithmovigilance.
Nous mettons notamment l’accent sur 5 principes issus de la pharmacovigilance, qui peuvent être transposés à la surveillance des systèmes d’IA dans le secteur de la santé :
- Évaluation post-autorisation : La nécessité d’évaluer en continu les systèmes d’IA après leur autorisation.
- Déclaration des incidents : L’importance de signaler les incidents liés à l’utilisation des systèmes d’IA.
- Standardisation des données : L’importance d’une terminologie standardisée pour améliorer le signalement et la détection des signaux d’alerte.
- Étude de la causalité : L’évaluation de la responsabilité des systèmes d’IA dans la survenue d’incidents.
- Diffusion des incidents : Garantir que les professionnels de santé et les patients soient informés des incidents connus et nouvellement découverts liés aux systèmes d’IA.
L’article souligne que les méthodes de surveillance des systèmes d’IA pourraient s’inspirer des pratiques éprouvées de la pharmacovigilance, tout en tenant compte des différences fondamentales entre les médicaments et les systèmes basés sur de l’IA.
Ce travail a été réalisé en collaboration avec le Dr. Mehdi Benchoufi, le Prof. Theodoros Evgeniou et le Prof. Philippe Ravaud, et a fait l’objet d’une publication dans npj Digital Medicine le 2 octobre 2024.
Par Alan Balendran
