A Associação Médica Americana pediu esta semana legislação federal e estadual para proteger os médicos de responsabilidade quando produtos de IA lesionam pacientes, apesar dos médicos usarem as ferramentas conforme o pretendido.

O grupo também está pressionando por novas leis que obriguem as empresas de IA a contrater seguro de responsabilidade adequado e a divulgar limitações do produto e dados de desempenho.

Hospitais, sistemas de saúde, seguradoras e fornecedores de tecnologia de saúde devem ser responsáveis se o uso obrigatório de produtos de IA específicos resultar em erros prejudiciais, afirma a política da AMA.

O rápido despliegue da inteligência artificial em hospitais e clínicas está levando o maior grupo de médicos do país a fazer lobby por novas proteções legais se a IA prejudicar pacientes. O uso de ferramentas e recomendações de IA cada vez mais sofisticadas está borrando as linhas em torno da negligência na assistência à saúde, levantando questões sobre se os médicos devem ser responsabilizados por decisões que dependem de software.

Há uma urgência adicional à medida que a IA autônoma assume tarefas médicas cada vez mais importantes com menos supervisão direta. A questão é quem é responsável quando algo dá errado.

O impulso do grupo ocorre à medida que as ferramentas clínicas de IA inundam o sistema de saúde, desbloqueando novas eficiências, mas dando aos algoritmos poder crescente para tomar decisões, como se deve solicitar um teste diagnóstico ou prescrever um medicamento caro.

Especialistas jurídicos e médicos apontam para a possibilidade de erros de triagem, nos quais sistemas de IA que processam históricos clínicos, sinais vitais e imagens podem subestimar a gravidade de um caso sem o conhecimento do médico assistente.

A AMA também levanta a possibilidade de um sistema de IA fazer uma recomendação plausível para tratamento, mas com resultados laboratoriais incompletos ou diagnósticos desatualizados. Nesses casos, um médico pode ser incapaz de verificar as entradas.

Em casos em que um paciente é prejudicado, a responsabilidade deve recair sobre os fabricantes e fornecedores de IA — e possivelmente sobre os sistemas de saúde que exigem o uso dos sistemas de IA — em vez de por meio de uma ação de negligência médica contra o médico, argumenta a AMA.

Já houve processos judiciais em torno de decisões médicas baseadas em algoritmos, incluindo um caso de morte culposa no Alabama envolvendo uma ferramenta de triagem para anomalias cardíacas. O desenvolvedor do software não foi considerado responsável porque seu contrato de licença deixava as decisões médicas finais a cargo dos médicos.

Tribunais em todo o país estão concluindo que as empresas que projetam, treinam e implantam sistemas de IA assumem responsabilidade pelo que os sistemas fazem, disse Martin Hilbert, professor da Universidade da Califórnia, Davis, que estuda o papel da informação digital e dos algoritmos na sociedade.

A responsabilização depende de fatores, incluindo quem compartilha a responsabilidade quando múltiplas partes constroem um sistema de IA, como provar a culpa dentro de um modelo opaco e o que fazer quando os danos surgem apenas após o sistema ser implantado.

"Partes diferentes são responsáveis por casos diferentes, e você não pode simplesmente responsabilizar o usuário final", disse ele à Axios.

A AMA quer abordar situações em que o uso de um sistema de IA é obrigatório.

A Food and Drug Administration está avaliando se é necessário um novo quadro para regular dispositivos médicos habilitados para IA. Mas a agência supervisiona software que atende à definição de dispositivo médico, não toda a IA na assistência à saúde.

Os hospitais geralmente apoiam colocar o ônus sobre os desenvolvedores e fornecedores para monitorar o desempenho dos sistemas, dizendo que a natureza de "caixa preta" de muitos sistemas pode tornar difícil identificar falhas.

A AdvaMed, o grupo comercial que representa os fabricantes de dispositivos, está incentivando a FDA a continuar usando suas abordagens atuais para avaliar dispositivos médicos habilitados para IA generativa. Ela também quer que a agência evite o monitoramento pós-mercado que impõe encargos adicionais, independentemente do risco real de um produto.

Fontes (em inglês)

Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.