L'American Medical Association a appelé cette semaine à l'adoption de lois fédérales et étatiques pour protéger les médecins de toute responsabilité lorsque des produits d'IA blessent des patients, malgré l'utilisation des outils par les médecins conformément à leur intention.

Le groupe plaide également pour de nouvelles lois obligeant les entreprises d'IA à souscrire une assurance responsabilité adéquate et à divulguer les limites des produits ainsi que les données de performance.

Les hôpitaux, les systèmes de santé, les assureurs et les fournisseurs de technologies de santé devraient être tenus responsables si l'utilisation obligatoire de produits d'IA spécifiques entraîne des erreurs nuisibles, selon la politique de l'AMA.

Le déploiement rapide de l'intelligence artificielle dans les hôpitaux et les cliniques pousse le plus grand groupe de médecins du pays à faire du lobbying pour de nouvelles protections juridiques si l'IA blesse des patients. L'utilisation d'outils et de recommandations d'IA de plus en plus sophistiqués brouille les limites de la négligence dans le domaine des soins de santé, soulevant des questions sur la responsabilité des médecins pour des décisions fondées sur des logiciels.

Il y a une urgence accrue à mesure que l'IA autonome assume des tâches médicales de plus en plus importantes avec moins de supervision directe. La question est de savoir qui est responsable lorsque quelque chose tourne mal.

Cette initiative du groupe intervient alors que les outils cliniques d'IA inondent le système de santé, débloquant de nouvelles efficacités mais donnant aux algorithmes un pouvoir croissant pour prendre des décisions telles que l'ordre de passer un test diagnostique ou de prescrire un médicament coûteux.

Les experts juridiques et médicaux soulignent la possibilité d'erreurs de triage, dans lesquelles les systèmes d'IA qui traitent les antécédents cliniques, les signes vitaux et les images peuvent sous-estimer la gravité d'un cas sans que le médecin traitant ne le sache.

L'AMA soulève également la possibilité qu'un système d'IA formule une recommandation de traitement plausible, mais avec des résultats de laboratoire incomplets ou un diagnostic obsolète. Dans de tels cas, un médecin peut être incapable de vérifier les données d'entrée.

Dans les cas où un patient est blessé, la responsabilité devrait incomber aux fabricants et aux fournisseurs d'IA — et éventuellement aux systèmes de santé qui exigent l'utilisation des systèmes d'IA — plutôt que de faire l'objet d'une action en responsabilité médicale contre le médecin, soutient l'AMA.

Il y a déjà eu des procès liés à des décisions médicales basées sur des algorithmes, y compris une affaire de décès par négligence en Alabama impliquant un outil de dépistage des anomalies cardiaques. Le développeur du logiciel n'a pas été tenu responsable car son contrat de licence laissait les décisions médicales finales aux médecins.

Les tribunaux du pays concluent que les entreprises qui conçoivent, forment et déploient des systèmes d'IA assument la responsabilité de ce que font ces systèmes, a déclaré Martin Hilbert, professeur à l'Université de Californie à Davis, qui étudie le rôle des informations numériques et des algorithmes dans la société.

La responsabilité dépend de facteurs tels que la répartition des responsabilités lorsque plusieurs parties construisent un système d'IA, la manière de prouver la faute à l'intérieur d'un modèle opaque, et ce qu'il faut faire lorsque les dommages ne se manifestent qu'après le déploiement du système.

« Différentes parties sont responsables de différents cas, et vous ne pouvez pas simplement tenir l'utilisateur final pour responsable », a-t-il déclaré à Axios.

L'AMA souhaite aborder les situations où l'utilisation d'un système d'IA est obligatoire.

La Food and Drug Administration examine s'il est nécessaire d'élaborer un nouveau cadre pour la réglementation des dispositifs médicaux alimentés par l'IA. Mais l'agence supervise les logiciels qui répondent à la définition d'un dispositif médical, et non toute l'IA utilisée dans le domaine de la santé.

Les hôpitaux soutiennent généralement de transférer la charge sur les développeurs et les fournisseurs pour la surveillance des performances des systèmes, affirmant que la nature de « boîte noire » de nombreux systèmes peut rendre difficile l'identification des défauts.

AdvaMed, le groupe professionnel représentant les fabricants de dispositifs, exhorte la FDA à continuer d'utiliser ses approches actuelles pour évaluer les dispositifs médicaux alimentés par l'IA générative. Elle souhaite également que l'agence évite la surveillance post-commercialisation qui impose des charges supplémentaires indépendamment du risque réel d'un produit.

Sources (en anglais)

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.