Anthropic nutzt KI, um leistungsfähigere KI zu entwickeln, und seine Modelle verbessern sich etwa doppelt so schnell wie vor einem Jahr, so ein am Donnerstag von der KI-Sicherheitsforschungsorganisation METR veröffentlichter Bericht. Der Bericht folgt einer 11-wöchigen Untersuchung im Unternehmen, die deren KI-Forschung und -Entwicklung bewertete.
Deutsch ·
METR-Bericht findet heraus, dass KI die KI-Entwicklung bei Anthropic beschleunigt
Ein METR-Bericht besagt, dass sich die Modelle von Anthropic etwa doppelt so schnell verbessern wie vor einem Jahr, wobei ein Großteil der Beschleunigung auf KI zurückzuführen ist, während Anthropic einen Großteil der Beweise zensiert hat.
Von Hermes Vector · Read in English

Kurz gesagt
- METR sagt, dass sich die Modelle von Anthropic etwa doppelt so schnell verbessern wie vor einem Jahr, wobei die meiste Beschleunigung auf KI zurückzuführen ist.
- Anthropic hat in den letzten sechs Monaten drei nicht veröffentlichte Modelle trainiert, mit den Codenamen Model 2, Model 3 und Model 4.
- Anthropic hat einen Großteil der Beweise zensiert, die METR als am informativsten einstufte, aus dem öffentlichen Bericht.
- KI-Sicherheitsforscher haben das Unternehmen dafür kritisiert, Technologie zu beschleunigen, vor der es öffentlich warnt, da sie gefährlich ist.
Wichtige Erkenntnisse aus dem METR-Bericht
METR-Forscher sagten, sie "sind zuversichtlich", dass die Beschleunigung nicht einfach auf das Hochskalieren der zur Schulung der Modelle verwendeten Rechenleistung zurückzuführen war. Stattdessen sagten sie, dass der Großteil der Beschleunigung bis Oktober "auf KI zurückzuführen ist", wobei ihr Beitrag im Laufe der Zeit wuchs. Der Bericht stellt fest, dass Benchmark-Ergebnisse darauf hindeuten, "dass Anthropic in den letzten etwa zwei Jahre historischen Fortschritt gemacht hat".
Die Beschleunigung kommt teilweise daher, dass KI menschliche Forscher unterstützt. METR schrieb, dass Mitarbeiter, die Anthropics fähigstes internes Modell nutzten, im Durchschnitt selbst angaben, etwa 12-mal so produktiv bei ihrer jeweiligen Arbeit zu sein, wie sie es ohne KI-Unterstützung gewesen wären, etwa doppelt so viel, wie Mitarbeiter vor einigen Monaten bei der Nutzung von Mythos 5 berichtet hatten. METR warnte, "dass es einige Anzeichen gibt, dass vollständig autonome Beiträge bald eine größere Rolle spielen werden", und sagte, Forscher hätten keine klaren Anzeichen für abnehmende Grenzerträge oder beobachtbare Engpässe gefunden, die "eine noch schnellere Beschleunigung" verhindern könnten.
In den letzten sechs Monaten hat Anthropic drei Modelle abgeschlossen, die es noch nicht veröffentlicht hat, mit den Codenamen Model 2, Model 3 und Model 4, wobei die Schulung im Juli, August-September und September-Oktober respective abgeschlossen wurde. METR identifizierte auch ein nicht veröffentlichtes Modell aus dem Jahr 2022, genannt Unreleased 2022.
Zensuren und Reaktion des Unternehmens
Anthropic hatte die Macht, Informationen aus METRs endgültigem Bericht zu zensieren, und nutzte diese Macht in großem Umfang. METR schrieb auf X: "Wir haben Anthropic einen ~100-seitigen vollständigen Bericht über unsere Bewertung vorgelegt. Für die öffentliche Version hat Anthropic einen Großteil der Beweise zensiert, die wir als am informativsten erachtet haben."
Anthropic-Mitbegründer Sam McCandlish erkannte auf X an: "Wir haben viel zensiert, und ich akzeptiere, dass dies es anderen erschwert, METRs Arbeit zu überprüfen." Er sagte, das Unternehmen habe festgestellt, dass es nicht richtig sei, genau mitzuteilen, was die Beschleunigung antreibt, da dies kommerziell sensibel sei und das Risiko berge, anderen eine Roadmap zu geben, um schneller zu werden. Anthropic plant, "in den kommenden Wochen" einen eigenen Bericht über die Geschwindigkeit des KI-Fortschritts sowie neue Schritte zu veröffentlichen, die es unternimmt, um die Sicherheit zu stärken.
Reaktion der Forscher
Die Erkenntnisse haben bei KI-Sicherheitsforschern Besorgnis ausgelöst. Daniel Kokotajlo, ein ehemaliger OpenAI-Forscher, der jetzt das AI Futures Project leitet, beschuldigte Anthropic, "rücksichtslos mit unserem Leben zu spielen". Marius Hobbhahn, CEO und Gründer von Apollo Research, sagte gegenüber The Verge, der Bericht deute auf ein Tempo der KI-ermöglichten Forschung und Entwicklung hin, das sogar schneller sei als in AI 2027 prognostiziert.
Brianna Rosen, Forschungsleiterin für Frontier-Sicherheit am Institute for AI Policy and Strategy, sagte gegenüber The Verge, es sei besorgniserregend, dass Unternehmen und nicht Regierungen effektiv das Sagen bei der Automatisierung der KI-Forschung hätten. Sie sagte: "Damit die demokratische Aufsicht funktionieren kann, müssen unabhängige Bewerter die Freiheit haben, zu erklären, warum sie zu ihren Schlussfolgerungen gekommen sind, Regierungen müssen die Beweise selbst bewerten, und die Öffentlichkeit muss diesem Prozess vertrauen."
Warum es wichtig ist
Der Bericht wirft Fragen darüber auf, wie schnell KI sich zu Systemen entwickeln könnte, die sich mit wenig oder keiner menschlichen Beteiligung selbst verbessern können. Er unterstreicht auch eine Spannung zwischen Anthropics öffentlichen Aufrufen zu verantwortungsvoller Entwicklung und seinem eigenen raschen Fortschritt, während sich das Unternehmen auf den Börsengang vorbereitet, während sein CEO, Dario Amodei, öffentlich Labore aufgefordert hat, die Bremse bei der KI-Entwicklung zu ziehen.
Quellen (auf Englisch)
- theverge.com: Why a new report on Anthropic automating AI development is alarming researchers | The Verge
- cedirates.com: Why a new report on Anthropic automating AI development is alarming researchers | CediRates
KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.
How do you feel about this story?
Comments 0
No comments yet. Start the discussion.