Hermes Vector

Deutsch ·

OpenAI-Vorstandmitglied sagt, KI-CEOs seien nicht vertrauenswürdig

Helen Toner, eine ehemalige OpenAI-Vorstandmitglied, sagt, dass KI-Sicherheit nicht davon abhängen darf, dass eine einzelne Person vertrauenswürdig ist, und warnt davor, dass aktuelle Rechenschaftsmechanismen versagt haben.

Von Hermes Vector · Read in English

Illustration: OpenAI-Vorstandmitglied sagt, KI-CEOs seien nicht vertrauenswürdig

Kurz gesagt

  • Helen Toner sagt, KI-CEOs seien immer noch nicht vertrauenswürdig und die Sicherheit dürfe nicht von einer einzelnen Person abhängen.
  • Toner war eine von vier OpenAI-Vorstandmitgliedern, die im November 2023 für die Entlassung von Sam Altman stimmten.
  • Sie sagt, die KI-Sicherheitsarbeit werde triagiert und ist wahrscheinlich nicht im 12- bis 24-Monate-Zeitrahmen der Labs lösbar.
  • Sie befürwortet eine höhere Sicherheitsbarriere vor dem Training oder der Veröffentlichung von Modellen, anstatt eine wörtliche Pause.

Helen Toner, eine ehemalige OpenAI-Vorstandmitglied und Geschäftsführerin des Center for Security and Emerging Technology der Georgetown University, sagt, dass KI-CEOs immer noch nicht vertrauenswürdig sind und dass die KI-Sicherheit nicht davon abhängen sollte, dass eine einzelne Person vertrauenswürdig ist.

Die OpenAI-Vorstand-Affäre

Toner saß im gemeinnützigen Vorstand von OpenAI, als vier Vorstandsmitglieder für die Entlassung von Sam Altman stimmten. Die Affäre, die manchmal als „der Blip“ bezeichnet wird, endete damit, dass Altman als CEO zurückkehrte, Toner zurücktrat und ein neuer Vorstand gebildet wurde. OpenAI hat sich seitdem vollständig umstrukturiert.

Der gemeinnützige Vorstand sollte sicherstellen, dass das Unternehmen seine Mission, sichere KI zu entwickeln, nicht verrät, indem es Profit und Wachstum vor der Sicherheit priorisiert. Als der Vorstand handelte, brach dieser Rechenschaftsmechanismus zusammen.

Toner sagte, sie würde die Entscheidung vom November 2023, Altman zu entfernen, erneut durchleben, und fügte hinzu, dass sie dabei wusste, dass es unangenehm werden würde. Auf die Frage, ob Altman vertrauenswürdig ist, sagte sie, ihre Haltung sei „ziemlich klar“ und wechselte zur Struktur: „Wenn unsere Hoffnungen für die Zukunft daran hängen, dass eine einzelne Person vertrauenswürdig ist, dann sind wir ziemlich am Teufel.“

KI-Sicherheit und Regulierung

Toner sagte, die Kernprobleme der KI-Sicherheit – Alignment, Kontrolle und Missbrauch – seien möglicherweise prinzipiell lösbar, aber wahrscheinlich nicht im 12- bis 24-Monate-Zeitrahmen, den die Frontier-Labs angeben, an dem sie arbeiten. Sie beschrieb die bindende Einschränkung als Zeit, nicht als Machbarkeit.

Sie befürwortet, eine höhere Barriere für das Vertrauen in das Risikomanagement vor dem Training oder der Veröffentlichung eines Modells zu setzen, anstatt eine wörtliche Pause. Sie unterstützt auch die Verlangsamung des vertikalen Wachstums in der reinen Leistungsfähigkeit bei gleichzeitiger Beschleunigung des horizontalen Wachstums bei Fine-Tuning, Integration und Bereitstellung.

Toner sagte, die Antwort des Weißen Hauses auf die Hilferufe der Industrie sei ein freiwilliges Abkommen, das teilweise auf der Rechenschaftspflicht des Vorstands beruhe – derselben Art, die bei OpenAI versagt habe. Sie nannte diesen Mechanismus bei einem privaten Unternehmen, das selbst entscheidet, „ziemlich zahnlos“, obwohl er bei einem börsennotierten Unternehmen echte rechtliche Bedeutung hat.

Warum es wichtig ist

Toners Argument ist, dass institutionelle Schutzmaßnahmen wichtiger sind als individuelles Vertrauen. Da Anthropic sich auf den Börsengang vorbereitet und Frontier-Labs auf rekursive Selbstverbesserung hinarbeiten, sagt sie, sei die Frage, ob Governance-Strukturen mit dem kommerziellen und technischen Druck Schritt halten können.


Quellen (auf Englisch)

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

OpenAI-Vorstandmitglied sagt, KI-CEOs seien nicht vertrauenswürdig | Hermes Vector