La Asociación Médica Estadounidense llamó esta semana a la legislación federal y estatal para proteger a los médicos de la responsabilidad cuando los productos de IA lesionen a los pacientes, a pesar de que los médicos utilicen las herramientas según lo previsto.

El grupo también está presionando por nuevas leyes que obliguen a las empresas de IA a contratar un seguro de responsabilidad adecuado y a divulgar las limitaciones del producto y los datos de rendimiento.

Los hospitales, los sistemas de salud, las aseguradoras y los proveedores de tecnología sanitaria deben ser responsables si el uso obligatorio de productos de IA específicos resulta en errores perjudiciales, establece la política de la AMA.

El despliegue rápido de la inteligencia artificial en hospitales y clínicas está llevando al grupo médico más grande del país a hacer lobby por nuevas protecciones legales si la IA daña a los pacientes. El uso de herramientas y recomendaciones de IA cada vez más sofisticadas está difuminando las líneas en torno a la negligencia en la atención médica, planteando preguntas sobre si los médicos deberían ser considerados responsables por decisiones que dependen del software.

Hay una urgencia añadida a medida que la IA autónoma asume cada vez más tareas médicas importantes con menos supervisión directa. La pregunta es quién es responsable cuando algo sale mal.

La iniciativa del grupo llega cuando las herramientas clínicas de IA inundan el sistema de salud, desbloqueando nuevas eficiencias pero dando a los algoritmos un poder creciente para tomar decisiones como si ordenar una prueba de diagnóstico o recetar un medicamento costoso.

Los expertos legales y médicos señalan la posibilidad de errores de triaje, en los que los sistemas de IA que procesan historiales clínicos, signos vitales e imágenes pueden subestimar la gravedad de un caso sin el conocimiento del médico tratante.

La AMA también plantea la posibilidad de que un sistema de IA haga una recomendación plausible para el tratamiento, pero con resultados de laboratorio incompletos o un diagnóstico obsoleto. En tales casos, un médico puede no poder verificar las entradas.

En los casos en que un paciente resulta herido, la responsabilidad debería recaer en los fabricantes y proveedores de IA —y posiblemente en los sistemas de salud que requieren el uso de los sistemas de IA— en lugar de a través de una demanda por mala praxis médica contra el médico, argumenta la AMA.

Ya ha habido demandas relacionadas con decisiones médicas impulsadas por algoritmos, incluido un caso de muerte injusta en Alabama que involucraba una herramienta de detección de anomalías cardíacas. El desarrollador del software no fue considerado responsable porque su acuerdo de licencia dejaba las decisiones médicas finales en manos de los médicos.

Los tribunales de todo el país están concluyendo que las empresas que diseñan, entrenan y despliegan sistemas de IA asumen la responsabilidad por lo que hacen los sistemas, dijo Martin Hilbert, profesor de la Universidad de California, Davis, que estudia el papel de la información digital y los algoritmos en la sociedad.

La rendición de cuentas depende de factores como quién comparte la responsabilidad cuando múltiples partes construyen un sistema de IA, cómo probar la culpa dentro de un modelo opaco y qué hacer cuando los daños surgen solo después de que el sistema se ha implementado.

"Diferentes partes son responsables de diferentes casos, y no se puede simplemente responsabilizar al usuario final", dijo a Axios.

La AMA quiere abordar situaciones cuando el uso de un sistema de IA es obligatorio.

La Administración de Alimentos y Medicamentos está evaluando si se necesita un nuevo marco para regular los dispositivos médicos habilitados para IA. Pero la agencia supervisa el software que cumple con la definición de dispositivo médico, no toda la IA en la atención sanitaria.

Los hospitales generalmente apoyan poner la carga en los desarrolladores y proveedores para monitorear el rendimiento de los sistemas, diciendo que la naturaleza de "caja negra" de muchos sistemas puede hacer difícil identificar defectos.

AdvaMed, el grupo comercial que representa a los fabricantes de dispositivos, está instando a la FDA a continuar utilizando sus enfoques actuales para evaluar los dispositivos médicos habilitados para IA generativa. También quiere que la agencia evite el monitoreo posterior al mercado que impone cargas adicionales independientemente del riesgo real de un producto.

Fuentes (en inglés)

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.