Investigadores del MIT usan GPT-6 Astra para editar otros modelos de IA

Los investigadores del Instituto de Tecnología de Massachusetts (MIT) en Cambridge han demostrado cómo un modelo de IA llamado GPT-6 Astra puede interpretar los valores internos brutos de algunos otros modelos de IA lo suficientemente bien como para predecir qué hacen las diferentes partes de los sistemas, y luego editar los modelos para realizar mejoras, incluido el aumento de sus capacidades matemáticas. Los autores informaron sus hallazgos en un preprint el 2 de noviembre.

Cómo funciona el modelo

Los modelos de IA de vanguardia están "mostrando primeros indicios" de una capacidad para tratar las redes neuronales como archivos que pueden leer, razonar sobre ellos y cambiar, dice el coautor Rikiya Takehi, investigador de aprendizaje automático en el MIT.

Los resultados no significan que Astra pueda explicar o entender cómo funciona una red de IA determinada. Pero los hallazgos sugieren que los modelos de IA de propósito general, como ChatGPT o Claude, podrían ser capaces de modificar una red de maneras útiles, como un mecánico que puede identificar y solucionar problemas en un motor que ni diseñó ni comprende completamente.

Opiniones de expertos

Los investigadores ya intentan interpretar cómo los diferentes componentes de una red crean sus salidas. El preprint muestra que es posible automatizar algunos de estos métodos de "interpretabilidad", dice Fazl Barez, investigador de seguridad de IA en la Universidad de Oxford, Reino Unido.

Los investigadores esperan que una mejor comprensión de los modelos de esta manera ayude a crear sistemas de IA más seguros, aunque Barez advierte que esta suposición está "en gran medida sin probar".

Sigue sin estar claro si Astra está yendo más allá de aplicar información y técnicas aprendidas en su entrenamiento. Barez dice que se sorprendería si Astra fuera capaz de leer e interpretar modelos de maneras que vayan más allá de las capacidades humanas existentes.

Aún así, si se desarrolla más, dicha capacidad de reprogramar modelos podría ser un activo en el desarrollo de IA para la ciencia, dice Marinka Zitnik, científica de la computación y bioinformática en la Universidad de Harvard en Cambridge, Massachusetts. Por ejemplo, podría ayudar a detectar errores en un modelo antes de las pruebas en el mundo real, dice.

Por qué importa

Ser capaz de apuntar y depurar sistemas de IA podría mejorar la seguridad y la utilidad de la inteligencia artificial.

Fuentes (en inglés)

• nature.com: This AI ‘mechanic’ can peer inside the black box of other neural networks | Nature

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.