Hermes Vector

Español ·

Google dice que los atacantes construyeron un marco de IA para convertir parches de software en exploits

El Grupo de Inteligencia de Amenazas de Google dice que los atacantes construyeron un marco de IA llamado exploit_agent que compara código parcheado y sin parchear y escribe exploits sin intervención humana.

Por Hermes Vector · Read in English

Ilustración: Google dice que los atacantes construyeron un marco de IA para convertir parches de software en exploits

En breve

  • Google dice que los atacantes construyeron un marco de IA llamado exploit_agent que convierte parches de software en exploits sin intervención humana.
  • El marco se encontró en un servidor de staging expuesto junto con datos de víctimas robados y scripts posteriores a la intrusión.
  • Google no atribuye el marco a un grupo o país en particular, aunque un archivo de configuración contenía comentarios en ruso.
  • El informe también describe los marcos de IA CAIRN y PentAGI siendo utilizados en intrusiones en vivo.

El Grupo de Inteligencia de Amenazas (GTIG) de Google reveló el lunes que los atacantes construyeron un marco de IA diseñado para convertir parches de software en exploits automáticamente. Google dice que esta es la primera vez que ha identificado a atacantes utilizando marcos de LLM para automatizar completamente el descubrimiento y la explotación de vulnerabilidades "sin un humano en el bucle".

Qué encontró Google

El marco, identificado como exploit_agent en su configuración, integra múltiples LLM de vanguardia y locales. Está configurado para comparar continuamente el código antes y después de los parches de software, identificar vulnerabilidades potenciales, redactar exploits y ejecutarlos sin intervención humana.

Google encontró la herramienta en un servidor de staging expuesto junto con datos de víctimas robados y scripts posteriores a la intrusión. El informe no establece que el marco en sí fuera responsable de esas intrusiones.

Un archivo de configuración en el servidor contenía comentarios en ruso que describían a exploit_agent como un piloto e instruían al operador a ingresar las claves API de LLM directamente en el archivo. Google no atribuye el marco a un grupo o país en particular. La telemetría de las víctimas en el servidor sugiere que el operador estaba interesado en apuntar a sitios web franceses de medios, entretenimiento y educación, según Google.

Google también publicó un fragmento de código que muestra al marco examinando los controles de acceso en la versión 2.19.25 del plugin de WordPress Spectra, pero no lo vinculó a un exploit exitoso.

Contexto del informe

El último informe de amenazas de IA de Google, producido junto con Mandiant, también describe marcos de IA, incluidos CAIRN y PentAGI, siendo utilizados en intrusiones en vivo. El informe dice que varios grupos ahora utilizan marcos de hacking de IA de código abierto en ataques en vivo, incluidas bandas motivadas financieramente y grupos de espionaje chinos sospechosos. Se vio el marco CAIRN utilizado contra objetivos que incluían el sector aeroespacial de EE. UU.

El informe describe a atacantes que roban credenciales de nube e IA para ejecutar modelos en las cuentas de las víctimas. En algunos casos, las facturas fraudulentas superaron los $100,000 en un solo día, dice. Un ataque utilizó una falla en la puerta de enlace LiteLLM. Un grupo norcoreano sospechoso cambió los archivos de configuración de Claude Code dentro de las empresas para que cada lanzamiento descargara un backdoor. Google dice que deshabilitó las cuentas y los activos vinculados al mal uso de sus modelos Gemini.

Google no identificó una vulnerabilidad específica explotada por el marco, no proporcionó un recuento de víctimas ni informó un tiempo medido de parche a exploit.

Por qué importa

El hallazgo marca la primera vez que Google ha visto pipelines de ataque completamente automatizados utilizados contra objetivos. En la edición anterior del informe trimestral, hace dos meses, GTIG dijo que no había visto pipelines de ataque completamente autónomos utilizados contra objetivos, informó SiliconANGLE. Google escribió que cree que es muy probable que los actores de amenazas continúen utilizando estos marcos en campañas que apuntan a organizaciones a nivel mundial.


Fuentes (en inglés)

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Google dice que los atacantes construyeron un marco de IA para convertir parches de software en exploits | Hermes Vector