IA Médical / Médecin : qui porte la responsabilité du diagnostic ?
Interview de Sylvie Jonas sur la responsabilité applicable en cas d’erreur de diagnostic générée par un outil d’Intelligence Artificielle (“IA”) pour la première émission What’s up Doc x Branchet Solutions “Faites entrer l’assuré(e)“. Conclusion de l’entrevue : Pas encore de responsabilité autonome de l’IA.
Quelques éléments clés sont à mentionner pour retenir que le médecin est responsable de son diagnostic :
- Principe d’indépendance : le praticien ne saurait être lié par le diagnostic produit par l’IA dans la réalisation de son diagnostic. Le médecin est considéré comme l’auteur du diagnostic ou du choix de traitement et non l’IA ayant participé à la prise de décision. En ce sens, le médecin « doit toujours élaborer son diagnostic avec le plus grand soin » (Code de la santé publique, art. R417-33).
- La responsabilité du praticien reste fondée sur la faute et la faute pourrait être induite par l’IA :
L’IA oriente le praticien vers un diagnostic erroné : le praticien pourrait se prévaloir de cette erreur provoquée par l’IA pour écarter sa faute si le résultat produit par l’IA est crédible et n’est pas de nature à créer un doute ; à défaut, il pourrait être reproché au praticien de ne pas avoir vérifié le résultat proposé par le logiciel.
L’IA est mal utilisée par le praticien (ex. : le praticien n’introduit pas correctement les caractéristiques du patient…). Là encore, la situation sera comparée avec ce qu’un médecin normalement compétent et diligent aurait fait.
⚠ Le concepteur de l’IA doit expliquer le fonctionnement de l’outil. L’article L4001-3 III du code de la santé publique exige que « les concepteurs d’un traitement algorithmique mentionné au I s’assurent de l’explicabilité de son fonctionnement par les utilisateurs ». L’arrêté qui déterminera les logiciels concernés par cette obligation reste toutefois attendu.
⚠ La responsabilité attribuée au professionnel de santé ou à l’établissement n’empêche pas l’existence d’un co-auteur (fabricant ou concepteur de l’IA).
- Responsabilité sans faute du fait des produits défectueux (Code civil, art. 1254) : le défaut du logiciel peut provenir d’un manque de représentativité, d’un défaut du matériel (composants physiques en mauvais état) ou d’une faille de sécurité composant le système. Pour pouvoir s’appliquer, les conditions du régime devront être remplies (exigence d’un défaut de sécurité du produit, préjudice, lien de causalité). La question reste à savoir si ce régime spécial de responsabilité reste adapté pour un outil d’IA.
* *
*
Le Pôle « IT, Data & Cyber » d’AGIL’IT se tient à votre disposition pour répondre à vos questions sur l’Intelligence Artificielle.
Par AGIL’IT – Pôle IT, Data & Sécurité
Sylvie Jonas, Avocate associée
