Ein Cyberangriff auf Fireworks AI hat einige Daten seiner Kunden offengelegt, hat das Unternehmen bestätigt. Fireworks AI, eine Plattform, die Entwickler nutzen, um auf offene KI-Modelle zuzugreifen und diese zu verwenden, sagte, ein Angreifer habe seinen Cloud-Anbieter kompromittiert, um Zugriff auf ein Fireworks-Entwicklungssystem zu erhalten, was den Zugriff auf einige Daten seiner Kunden ermöglichte.

Das Unternehmen sagte in seinem neuesten Sicherheitsbericht, dass die Cyberkriminellen die Abrechnungsinformationen und einige Datensätze der Fireworks-Kunden gestohlen haben. Fireworks wirbt mit zehntausenden Kunden weltweit, die seine Plattform nutzen, darunter die Legal-Tech-Firma Harvey und die KI-Firma Cursor.

Zumindest ein bestätigter betroffener Kunde ist der Online-Dokumenten-Editor und Notiznehmer Notion, der in einer Offenlegung sagte, dass der Vorfall etwa 1 % seiner eigenen Kunden betroffen hat.

Notion sagte, dass Fireworks das Unternehmen über einen Sicherheitsvorfall informiert und später bestätigt habe, dass Hacker einige Notion-Kundendaten gestohlen hätten. Am 3. November sagte Notion, es habe seine Systeme von Fireworks getrennt, die in seinen Systemen gespeicherten Daten gelöscht und alle Verbindungen zwischen den beiden unterbrochen.

Notion bestätigte diese Woche, dass die Hacker Chat-Transkripte seiner Notion AI-Kunden, die die Funktion „Insights“ genutzt haben, gestohlen haben. Das Unternehmen sagte, die Transkripte umfassten „jede Eingabe oder Ausgabe des Modells, die in den Chat geschrieben wurde“, fügte jedoch hinzu, dass ein Großteil der Daten nicht zuordenbar war und nicht bestimmt werden konnte, von welchem Kunden sie stammten.

Am Abend des 2. November informierte Fireworks Notion darüber, dass böswillige Akteure auf einen kleinen Datensatz zugegriffen hatten. Notion bestimmte zunächst, dass dieser synthetische Testdaten enthielt, also künstlich erstelltes Material, das für Tests verwendet wird, und keine tatsächlichen Kundeninformationen.

Am Morgen des 3. November trennte Notion seine Systeme von Fireworks, löschte alle Daten aus dem System des Anbieters und stoppte die Kommunikation zwischen den beiden Umgebungen. Notion unternahm diese Maßnahmen als Vorsichtsmaßnahme, bevor die Offenlegung von Kundendaten bestätigt wurde.

Am 6. November warnte Fireworks, dass Angreifer möglicherweise auch auf Kundeninformationen zugegriffen haben könnten. Notion eröffnete sofort eine weitere interne Untersuchung. Fireworks bestätigte den endgültigen betroffenen Datensatz am 8. November, und Notion kontaktierte die betroffenen Kunden am folgenden Tag.

Analysen zeigten, dass der Datensatz Notion AI-Chat-Transkripte enthielt, die für Insights verarbeitet wurden. Diese Funktion hilft Kunden zu verstehen, wie ihre Teams KI nutzen. Die Offenlegung unterscheidet sich von zuvor gemeldeten Datenschutzproblemen bei öffentlichen Notion-Seiten, die Editor-Informationen und nicht diese KI-Gespräche betrafen.

Für die meisten betroffenen Workspaces waren die Transkripte „nicht zuordenbar“. Ihnen fehlten Kennzeichnungen, die den Autor oder das ursprüngliche Workspace identifizieren. Sie schlossen auch Tool-Aufruf-Ergebnisse aus, was bedeutet, dass von Tools zurückgegebene Antworten nicht enthalten waren. Informationen, die innerhalb eines Gesprächs geschrieben wurden, konnten jedoch immer noch Benutzer, Unternehmen oder sensible Aktivitäten identifizieren. Notions Aussage sagt nicht aus, dass jeder betroffene Transkript nicht zuordenbar war.

Fireworks unterstützte zwei Notion-Funktionen: Klassifizierungsaufgaben, die Insights antreiben, und allgemeine Inferenzdienste, die Open-Weight-Modelle ausführen. Inferenz bedeutet, ein Modell auszuführen, um Antworten zu generieren. Notion schaltete Insights während seiner Untersuchung ab und stellte den Betrieb von Open-Weight-Modellen über Fireworks ein.

Betroffene Kunden können exponierte Informationen in ihrem Workspace gemäß den per E-Mail gesendeten Anweisungen sicher abrufen und überprüfen. Notion empfiehlt, diese Informationen als exponiert zu behandeln, einschließlich sensibler Inhalte, die direkt in Chats eingefügt wurden.

Kunden, die während des Vorfalls Zeitraums Passwörter, API-Schlüssel oder andere Anmeldeinformationen eingegeben haben, sollten diese ändern. Notion hat in seinem Bericht kein genaues Expositionsfenster, keine Transkriptanzahl oder keinen technischen Einstiegspunkt offengelegt.

Kunden, die keine Benachrichtigung erhalten haben, sind derzeit nicht als betroffen identifiziert und müssen jetzt keine Maßnahmen ergreifen.

Fireworks sagte, es glaube, dass die Hacker finanziell motiviert sind und ihre Ziele darauf gerichtet sind, Token aus dem kompromittierten Zugriff auf Large Language Models, oder LLMs, zu verkaufen. Diese Schemata basieren auf dem Verkauf an unbefugte Dritte, die KI-Modellnutzungen ohne Nutzung ihrer eigenen Ressourcen aufbrauchen können.

Dies ist der zweite Vorfall, der Fireworks in zwei Monaten betrifft, nach einem Sicherheitsvorfall im Oktober.

Der Vorfall bei Fireworks AI zeigt, wie sehr Tech-Unternehmen auf andere Tech-Anbieter für ihre eigenen Angebote angewiesen sind und wie Cyberangriffe dadurch auf andere Kunden übergreifen können.

Quellen (auf Englisch)

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.