Pesquisadores do MIT usam GPT-6 Astra para editar outros modelos de IA

Pesquisadores do Instituto de Tecnologia de Massachusetts (MIT) em Cambridge demonstraram como um modelo de IA chamado GPT-6 Astra pode interpretar os valores internos brutos de alguns outros modelos de IA com precisão suficiente para prever o que diferentes partes dos sistemas fazem e, em seguida, editar os modelos para fazer melhorias, incluindo o aumento de suas habilidades matemáticas. Os autores relataram suas descobertas em um preprint em 2 de novembro.

Como o modelo funciona

Modelos de IA de fronteira estão "mostrando faíscas iniciais" de uma capacidade de tratar redes neurais como arquivos que podem ler, raciocinar sobre e alterar, diz o coautor Rikiya Takehi, pesquisador de aprendizado de máquina no MIT.

Os resultados não significam que o Astra possa explicar ou entender como uma determinada rede de IA funciona. Mas as descobertas sugerem que modelos de IA de propósito geral — como ChatGPT ou Claude — podem ser capazes de modificar uma rede de maneiras úteis, como um mecânico que pode identificar e corrigir problemas em um motor que ele nem projetou nem entende completamente.

Visões de especialistas

Pesquisadores já tentam interpretar como diferentes componentes de uma rede criam suas saídas. O preprint mostra que é possível automatizar alguns desses métodos de "interpretabilidade", diz Fazl Barez, pesquisador de segurança de IA na Universidade de Oxford, no Reino Unido.

Os pesquisadores esperam que uma melhor compreensão dos modelos dessa maneira ajude a criar sistemas de IA mais seguros, embora Barez alerte que essa suposição é "amplamente não testada".

Continua incerto se o Astra está indo além da aplicação de informações e técnicas aprendidas em seu treinamento. Barez diz que ficaria surpreso se o Astra fosse capaz de ler e interpretar modelos de maneiras que vão além das habilidades humanas existentes.

Ainda assim, se desenvolvido ainda mais, tal capacidade de reprogramar modelos pode ser um ativo no desenvolvimento de IA para a ciência, diz Marinka Zitnik, cientista da computação e bioinformata da Universidade de Harvard em Cambridge, Massachusetts. Por exemplo, ela diz que isso poderia ajudar a detectar erros em um modelo antes dos testes no mundo real.

Por que importa

Ser capaz de direcionar e depurar sistemas de IA pode melhorar a segurança e a utilidade da inteligência artificial.

Fontes (em inglês)

• nature.com: This AI ‘mechanic’ can peer inside the black box of other neural networks | Nature

Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.