Google威胁情报小组(GTIG)于周一披露,攻击者构建了一个旨在自动将软件补丁转化为漏洞利用工具的AI框架。Google表示,这是其首次发现攻击者使用大型语言模型(LLM)框架来完全自动化漏洞发现和利用过程,“无需人工介入”。
中文 ·
Google称攻击者构建AI框架,将软件补丁转化为漏洞利用工具
Google威胁情报小组(GTIG)表示,攻击者构建了一个名为exploit_agent的AI框架,该框架能够比较已修补和未修补的代码,并在无人干预的情况下编写漏洞利用工具。
作者 Hermes Vector · Read in English

摘要
- Google称攻击者构建了一个名为exploit_agent的AI框架,能够在无人干预的情况下将软件补丁转化为漏洞利用工具。
- 该框架是在一个暴露的暂存服务器上发现的,旁边还有被盗的受害者数据和后渗透脚本。
- Google未将该框架归因于特定组织或国家,尽管配置文件中包含俄语注释。
- 报告还描述了CAIRN和PentAGI AI框架在真实入侵中的使用情况。
Google的发现
该框架在配置中被识别为exploit_agent,集成了多个前沿和本地大型语言模型。它被设置为持续比较软件补丁前后的代码,识别潜在漏洞,起草漏洞利用工具并执行,整个过程无需人工干预。
Google在暴露的暂存服务器上发现了该工具,旁边还有被盗的受害者数据和后渗透脚本。报告并未确立该框架本身是导致这些入侵的原因。
服务器上的一个配置文件包含俄语注释,将exploit_agent描述为“飞行员”,并指示操作员直接将LLM API密钥输入到文件中。Google未将该框架归因于特定组织或国家。根据Google的说法,服务器上的受害者遥测数据表明,操作员有兴趣针对法国媒体、娱乐和教育网站。
Google还发布了一段代码摘录,显示该框架正在检查Spectra WordPress插件2.19.25版本中的访问控制,但未将其与成功的漏洞利用联系起来。
报告背景
Google与Mandiant联合发布的最新AI威胁报告还描述了包括CAIRN和PentAGI在内的AI框架在真实入侵中的使用情况。报告称,包括以经济利益为动机的犯罪团伙和疑似中国间谍组织在内的多个组织,现在在真实攻击中使用开源AI黑客框架。报告看到CAIRN框架被用于针对包括美国航空航天业在内的目标。
报告描述了窃取云和AI凭据以在受害者账户上运行模型的攻击者。报告称,在某些情况下,欺诈性费用在一天内高达100000美元。一次攻击利用了LiteLLM网关中的一个缺陷。一个疑似朝鲜的组织更改了公司内部Claude Code的设置文件,以便每次启动时下载后门。Google表示,它已禁用了与其Gemini模型滥用相关的账户和资产。
Google未指出该框架利用的具体漏洞,未提供受害者数量,也未报告从补丁到漏洞利用的测量时间。
为何重要
这一发现标志着Google首次看到完全自动化的攻击管道被用于针对目标。在两个月前的上一季度报告中,GTIG表示尚未看到针对目标的完全自主攻击管道,SiliconANGLE报道。Google写道,它认为威胁行为者极有可能继续在全球范围内针对组织的活动中使用这些框架。
来源(英文)
- venturebeat.com: Google says attackers built an AI framework to turn software patches into exploits without human intervention | VentureBeat
- thenextweb.com: Google says attackers used AI to turn patches into exploits with no human
本文由人工智能翻译自英文原文,并经过自动审核,确保与原文意思一致。来源已用英文核实。
How do you feel about this story?
Comments 0
No comments yet. Start the discussion.