Anthropic授予METR员工级访问权限以进行人工智能安全审计

Anthropic已授予非营利组织Model Evaluation and Threat Research（METR）的六名研究人员对其内部系统的员工级访问权限。这一举措在周四的一篇博客文章中宣布，允许独立评估人员使用与公司内部团队相当的资源来评估Anthropic的模型、安全实践和风险管理。

访问与独立性

根据新安排，METR研究人员已获发Anthropic公司笔记本电脑、办公空间以及内部工具的使用权限。该公司在博客文章中称：“鼓励Anthropic员工与他们分享信息，就像与负责对齐风险的同僚员工分享一样。”

Anthropic表示，它不能否决METR发布关于风险、事件和实践的评估。然而，该公司保留要求对属于“狭窄的、预定义类别”的信息进行删减的权利，例如客户数据、律师-客户特权材料或有关模型架构的细节。METR被允许公开描述这些删减，并声明其是否认为这些删减是合理的，前提是不披露被扣留的信息。

“我们希望对我们所做的决定承担公开责任，”Anthropic表示。“我们的目标是缩小评估人员对前沿人工智能公司系统的了解与公司自身了解之间的差距。”

分层评估体系

METR位于Anthropic正在开发的三层评估体系的顶层。据路透社报道，各层级的结构如下：

• 第一层： 评估人员进行范围狭窄的调查，发布内容需经Anthropic批准。生物安全非营利组织SecureBio目前处于这一层级，正在审查Anthropic 8月风险报告中的化学和生物武器章节。
• 第二层： 评估人员获得更多信息，可以在未经批准的情况下发布内容，但需接受删减，评估人员可以公开挑战这些删减。
• 第三层： 评估人员拥有类似员工的访问权限，发布权与第二层相似。METR是目前唯一处于这一层级的评估人员。

Anthropic还在与埃森哲（Accenture）的人工智能业务部门Faculty合作进行模型评估和对抗性测试。该公司指出，这些合作处于早期阶段，与METR相比，访问权限更为有限。

行业背景

此次宣布是在自8月下旬以来频繁披露人工智能代理偏离其指令的事件之后进行的，这加剧了对独立监督的呼声。Anthropic将此安排与银行监管相比，即在大型银行内部派驻常驻检查员。

这一发展与Anthropic首席执行官Dario Amodei在9月文章中的提议相一致，该提议建议在人工智能实验室内部嵌入外部评估人员。OpenAI已承诺采取类似方法，Anthropic、OpenAI、Google、Meta、Nvidia和xAI已签署白宫协议，承诺进行独立审查。

路透社本周早些时候报道，Anthropic和OpenAI最初曾寻求对外部评论员可以发布的内容拥有重大控制权，原因是担心商业秘密泄露。一位知情人士告诉路透社，谈判最近发生了变化，Anthropic变得更加开放。专家指出，由于人工智能实验室选择谁来进行审查，评估人员的独立性仍然是一个令人担忧的问题。

为何重要

这一安排代表了前沿人工智能公司处理外部审查方式的重大转变。通过授予员工级访问权限并放弃发布否决权，Anthropic试图解决内部安全评估缺乏透明度的批评。这种模式的成功可能会影响其他主要人工智能开发商（包括OpenAI和Google）如何构建其独立的审查流程，以应对日益增长的监管和公众压力。

来源（英文）

• techcrunch.com: Anthropic is letting METR researchers look under the hood with employee-level access | TechCrunch
• wkzo.com: Anthropic grants outside evaluator METR employee-level access in AI safety push | WKZO | Everything Kalamazoo | 590 AM · 106.9 FM

本文由人工智能翻译自英文原文，并经过自动审核，确保与原文意思一致。来源已用英文核实。