MIT-Forscher nutzen GPT-6 Astra, um andere KI-Modelle zu bearbeiten

Forscher des Massachusetts Institute of Technology (MIT) in Cambridge haben gezeigt, wie ein KI-Modell namens GPT-6 Astra die rohen internen Werte einiger anderer KI-Modelle so gut interpretieren kann, dass es vorhersagen kann, was verschiedene Teile der Systeme tun, und die Modelle dann bearbeiten kann, um Verbesserungen vorzunehmen, einschließlich der Steigerung ihrer mathematischen Fähigkeiten. Die Autoren berichteten über ihre Ergebnisse in einem Preprint am 2. November.

Wie das Modell funktioniert

Frontier-KI-Modelle zeigen "erste Anzeichen" der Fähigkeit, neuronale Netzwerke wie Dateien zu behandeln, die sie lesen, darüber nachdenken und ändern können, sagt Mitautor Rikiya Takehi, ein Machine-Learning-Forscher am MIT.

Die Ergebnisse bedeuten nicht, dass Astra erklären oder verstehen kann, wie ein bestimmtes KI-Netzwerk funktioniert. Die Ergebnisse deuten jedoch darauf hin, dass allgemeine KI-Modelle – wie ChatGPT oder Claude – ein Netzwerk auf nützliche Weise modifizieren könnten, ähnlich wie ein Mechaniker, der Probleme in einem Motor identifizieren und beheben kann, den er weder entworfen noch vollständig versteht.

Expertenmeinungen

Forscher versuchen bereits zu interpretieren, wie verschiedene Komponenten eines Netzwerks seine Ausgaben erzeugen. Das Preprint zeigt, dass es möglich ist, einige dieser "Interpretierbarkeits"-Methoden zu automatisieren, sagt Fazl Barez, ein KI-Sicherheitsforscher an der University of Oxford, UK.

Forscher hoffen, dass ein besseres Verständnis von Modellen auf diese Weise dazu beitragen wird, sicherere KI-Systeme zu schaffen, obwohl Barez davor warnt, dass diese Annahme "weitgehend ungetestet" ist.

Es bleibt unklar, ob Astra über die Anwendung von Informationen und Techniken hinausgeht, die in seinem Training gelernt wurden. Barez sagt, er wäre überrascht, wenn Astra in der Lage wäre, Modelle auf eine Weise zu lesen und zu interpretieren, die über die bestehenden menschlichen Fähigkeiten hinausgeht.

Trotzdem könnte eine solche Fähigkeit zur Neuprogrammierung von Modellen, wenn sie weiter entwickelt wird, ein Vorteil bei der Entwicklung von KI für die Wissenschaft sein, sagt Marinka Zitnik, eine Informatikerin und Bioinformatikerin an der Harvard University in Cambridge, Massachusetts. Sie könnte beispielsweise helfen, Fehler in einem Modell vor dem realen Test zu erkennen, sagt sie.

Warum es wichtig ist

Die Fähigkeit, KI-Systeme gezielt zu adressieren und zu debuggen, könnte die Sicherheit und den Nutzen der künstlichen Intelligenz verbessern.

Quellen (auf Englisch)

• nature.com: This AI ‘mechanic’ can peer inside the black box of other neural networks | Nature

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.