美国医学会本周呼吁联邦和州立法机构通过法律，保护医生在人工智能产品伤害患者时免受责任追究，尽管医生是按照预期使用这些工具。

该组织还在推动新法律，强制要求人工智能公司购买充足的责任保险，并披露产品局限性和性能数据。

美国医学会的政策声明指出，如果强制使用特定人工智能产品导致有害错误，医院、医疗系统、保险公司和健康技术供应商应承担责任。

人工智能在医院和诊所的快速部署，促使美国最大的医生团体游说寻求新的法律保护，以防人工智能伤害患者。日益复杂的人工智能工具和推荐意见模糊了医疗保健中过失的界限，引发了关于医生是否应对其依赖软件做出的决定负责的问题。

随着自主人工智能承担越来越多重要的医疗任务，且直接监督越来越少，这一问题的紧迫性进一步增加。当出现问题时，谁该负责？

随着人工智能临床工具涌入医疗系统，在释放新效率的同时，算法在做出诸如是否开具诊断测试或处方昂贵药物等决策方面的权力也在增加。

法律和医学专家指出，存在分诊错误的可能性，即处理临床病史、生命体征和影像的人工智能系统可能在主治医生不知情的情况下误判病例的严重程度。

美国医学会还提出了另一种可能性：人工智能系统提出了看似合理的治疗建议，但实验室结果不完整或诊断已过时。在这种情况下，医生可能无法验证输入数据。

美国医学会认为，在患者受到伤害的情况下，责任应由人工智能制造商和供应商承担——如果强制使用人工智能系统，还可能由医疗系统承担——而不是通过针对医生的医疗过失索赔。

围绕算法驱动的医疗决策已经出现了诉讼，包括阿拉巴马州一起涉及心脏异常筛查工具的死亡诉讼。软件开发商未被追究责任，因为其许可协议将最终医疗决定权留给了医生。

研究数字信息和算法在社会中作用加州大学戴维斯分校教授马丁·希尔伯特表示，全国各地的法院正在得出结论，设计、训练和部署人工智能系统的公司应对其系统的行为负责。

问责制取决于多种因素，包括当多方共同构建人工智能系统时谁分担责任、如何在不透明的模型中证明过错，以及在损害仅在系统部署后才显现时该怎么办。

“不同方对不同案件负责，你不能仅仅让最终用户承担责任，”他对Axios表示。

美国医学会希望解决人工智能系统使用具有强制性的情况。

美国食品药品监督管理局正在权衡是否需要新的框架来监管人工智能赋能的医疗设备。但该机构监管符合医疗设备定义的软件，而非医疗保健中的所有人工智能。

医院通常支持将监控系统性能的责任放在开发商和供应商身上，称许多系统的“黑箱”性质使得难以识别缺陷。

代表设备制造商的行业协会AdvaMed敦促美国食品药品监督管理局继续使用其目前评估生成式人工智能医疗设备的方法。它还希望该机构避免实施无论产品实际风险如何都会增加负担的后市场监控。

来源（英文）

本文由人工智能翻译自英文原文，并经过自动审核，确保与原文意思一致。来源已用英文核实。