Les chercheurs du MIT utilisent GPT-6 Astra pour modifier d'autres modèles d'IA

Des chercheurs du Massachusetts Institute of Technology (MIT) à Cambridge ont démontré comment un modèle d'IA appelé GPT-6 Astra peut interpréter les valeurs internes brutes de certains autres modèles d'IA suffisamment bien pour prédire ce que font différentes parties des systèmes, puis modifier les modèles pour apporter des améliorations, notamment en augmentant leurs capacités mathématiques. Les auteurs ont rapporté leurs résultats dans un prépublicatif le 2 novembre.

Comment fonctionne le modèle

Les modèles d'IA de pointe « montrent des signes précoces » de la capacité de traiter les réseaux neuronaux comme des fichiers qu'ils peuvent lire, analyser et modifier, déclare Rikiya Takehi, chercheur en apprentissage automatique au MIT et coauteur.

Les résultats ne signifient pas qu'Astra peut expliquer ou comprendre comment un réseau d'IA donné fonctionne. Mais les résultats suggèrent que les modèles d'IA à usage général — tels que ChatGPT ou Claude — pourraient être capables de modifier un réseau de manière utile, comme un mécanicien qui peut identifier et résoudre des problèmes dans un moteur qu'il n'a ni conçu ni entièrement compris.

Points de vue d'experts

Les chercheurs tentent déjà d'interpréter comment les différents composants d'un réseau créent ses sorties. Le prépublicatif montre qu'il est possible d'automatiser certaines de ces méthodes d'« interprétabilité », déclare Fazl Barez, chercheur en sécurité de l'IA à l'Université d'Oxford, au Royaume-Uni.

Les chercheurs espèrent qu'une meilleure compréhension des modèles de cette manière aidera à créer des systèmes d'IA plus sûrs, bien que Barez mette en garde en disant que cette hypothèse est « largement inexplorée ».

Il reste incertain si Astra va au-delà de l'application d'informations et de techniques apprises lors de son entraînement. Barez dit qu'il serait surpris si Astra était capable de lire et d'interpréter des modèles de manière à dépasser les capacités humaines existantes.

Cependant, si elle est développée davantage, une telle capacité à reprogrammer les modèles pourrait être un atout dans le développement de l'IA pour la science, déclare Marinka Zitnik, informaticienne et bioinformaticienne à l'Université Harvard à Cambridge, dans le Massachusetts. Par exemple, cela pourrait aider à repérer les erreurs dans un modèle avant les tests réels, dit-elle.

Pourquoi cela importe

Être capable de cibler et de déboguer les systèmes d'IA pourrait améliorer la sécurité et l'utilité de l'intelligence artificielle.

Sources (en anglais)

• nature.com: This AI ‘mechanic’ can peer inside the black box of other neural networks | Nature

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.