MIT-Forscher nutzen KI-Modell, um andere neuronale Netze zu interpretieren und zu bearbeiten

Forscher des Massachusetts Institute of Technology (MIT) in Cambridge haben ein künstliches-Intelligenz-Modell genutzt, um die internen Abläufe eines anderen KI-Netzwerks zu lesen und zu manipulieren, was einen neuen Weg bietet, in die „Black Box“ der KI zu blicken. Die Ergebnisse wurden in einem Preprint am 2. November berichtet.

Wie der KI-Mechaniker funktioniert

Das Team demonstrierte, wie ein KI-Modell namens GPT-6 Astra die rohen internen Werte einiger anderer Modelle so gut interpretieren kann, dass es vorhersagen kann, was verschiedene Teile der Systeme tun. Es kann die Modelle dann bearbeiten, um Verbesserungen vorzunehmen, einschließlich der Steigerung ihrer mathematischen Fähigkeiten.

Frontier-KI-Modelle zeigen „erste Anzeichen“ der Fähigkeit, neuronale Netze wie Dateien zu behandeln, die sie lesen, darüber nachdenken und ändern können, sagt Mitautor Rikiya Takehi, ein Machine-Learning-Forscher am MIT.

Die Ergebnisse bedeuten nicht, dass Astra, entwickelt von OpenAI in San Francisco, Kalifornien, erklären oder verstehen kann, wie ein bestimmtes KI-Netzwerk funktioniert. Aber die Ergebnisse deuten darauf hin, dass allgemeine KI-Modelle – wie ChatGPT oder Claude – ein Netzwerk auf nützliche Weise modifizieren könnten, ähnlich wie ein Mechaniker, der Probleme in einem Motor identifizieren und beheben kann, den er weder entworfen hat noch vollständig versteht.

Expertenreaktionen

Fazl Barez, ein KI-Sicherheitsforscher an der University of Oxford, UK, sagt, der Preprint zeige, dass es möglich ist, einige „Interpretierbarkeits“-Methoden zu automatisieren. Er warnt jedoch, dass die Hoffnung, dass ein besseres Verständnis der Modelle dazu beiträgt, sicherere KI-Systeme zu schaffen, „weitgehend ungetestet“ ist.

Barez sagt, er wäre überrascht, wenn Astra in der Lage wäre, Modelle auf eine Weise zu lesen und zu interpretieren, die über die bestehenden menschlichen Fähigkeiten hinausgeht, und es bleibt unklar, ob Astra über die Anwendung von Informationen und Techniken hinausgeht, die in seinem Training gelernt wurden.

Marinka Zitnik, eine Informatikerin und Bioinformatikerin an der Harvard University in Cambridge, Massachusetts, sagt, dass eine solche Fähigkeit zur Neuprogrammierung von Modellen, wenn sie weiterentwickelt wird, ein Vorteil bei der Entwicklung von KI für die Wissenschaft sein könnte, zum Beispiel durch das Aufspüren von Fehlern in einem Modell vor dem realen Test.

Warum es wichtig ist

Die Fähigkeit, KI-Systeme gezielt zu debuggen, könnte die Sicherheit und Nützlichkeit der künstlichen Intelligenz verbessern. Die komplexe Art und Weise, wie die Merkmale eines Modells mit seinen Ausgaben verknüpft sind, bedeutet, dass neuronale Netze oft als Black Boxes beschrieben werden, und Forscher für Interpretierbarkeit führen Experimente durch, um herauszufinden, welche Gewichte unter bestimmten Bedingungen aktiviert werden.

Quellen (auf Englisch)

• nature.com: This AI ‘mechanic’ can peer inside the black box of other neural networks | Nature

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.