Hermes Vector

Deutsch ·

Signal beschränkt Mobile Screenshots aufgrund von Bedenken hinsichtlich der KI-Agent-Privatsphäre

Signal beschränkt standardmäßig die Screenshot-Funktion auf Android und iOS und begründet dies damit, dass KI-Agenten, die Bildschirme scannen können, eine existenzielle Bedrohung für die Privatsphäre darstellen.

Von Hermes Vector · Read in English

Illustration: Signal beschränkt Mobile Screenshots aufgrund von Bedenken hinsichtlich der KI-Agent-Privatsphäre

Kurz gesagt

  • Signal beschränkt standardmäßig Screenshots auf Android und iOS, um KI-Agenten entgegenzuwirken, die Bildschirme scannen.
  • Präsidentin Meredith Whittaker bezeichnet OS-Level-Agentic-KI als „existenzielle Bedrohung“ für die Privatsphäre-Garantien von Signal.
  • Benutzer können die Screenshot-Blockaden deaktivieren, aber Whittaker sagte, dass dies „unsere Privatsphäre-Garantien brechen würde“.
  • Signal nannte die neuen Schutzmaßnahmen „unvollständig“ und forderte Apple, Google und Microsoft auf, Entwicklern Möglichkeiten zu geben, sich von der KI-Datenverarbeitung auszuklinken.

Signal gab am Freitag bekannt, dass es die Möglichkeit der Benutzer einschränkt, Screenshots innerhalb der sicheren Messaging-App zu erstellen, als Reaktion auf das, was Präsidentin Meredith Whittaker als „existenzielle Bedrohung“ durch Betriebssysteme beschrieb, die Agentic-KI integrieren.

Whittaker schrieb, dass Windows, Android und macOS/iOS durch die Fähigkeit von KI-Agenten, „Informationen auf den Bildschirmen der Benutzer zu scannen“, „die Fähigkeit von Signal, die Privatsphäre unabhängig zu garantieren, untergraben“.

„Jetzt, im Dienste der agentic KI-Fähigkeiten, werden Ihre sensiblen Daten erfasst, gespeichert und für jede lokale Datenbank oder jeden Remote-Server zugänglich gemacht, den ein OS-Level-KI-Agent in diesem Moment verwendet“, sagte sie. „All dies liegt außerhalb der Kontrolle von Signal, sobald die Daten erfasst wurden, und gefährdet die Privatsphäre aller Teilnehmer eines Gesprächs.“

Neue Einschränkungen

Signal hatte bereits versucht, diese Risiken zu begrenzen, indem es Screenshots seiner Windows-App standardmäßig blockierte. Jetzt fügt es ähnliche Einschränkungen in Android und iOS hinzu.

Benutzer können diese Einstellung nach Belieben deaktivieren, was Whittaker sagte, würde „unsere Privatsphäre-Garantien brechen“. Sie gab auch zu, dass dies eine „unvollständige“ Lösung ist, da sie „andere, schlaue Wege, auf die KI-Agenten möglicherweise auf Anwendungsdaten zugreifen könnten“, nicht „anspricht“.

Branchenhintergrund

Signal forderte die Betriebssystemanbieter Apple, Googles Alphabet und Microsoft auf, App-Entwicklern konkretere Möglichkeiten zu geben, KI-Agenten vom Zugriff auf sensible Daten abzuhalten, und mehr Informationen darüber bereitzustellen, wie ihre Agenten funktionieren.

Das Unternehmen sagte in einem Blogbeitrag, der von Whittaker verfasst wurde, dass „derzeit diese Agentic-KI-Integrationen diese Umgebung auf eine Weise verändern, die sie zunehmend feindselig gegenüber der Privatsphäre macht. Dies ist eine existenzielle Bedrohung für Signal und unsere Fähigkeit, unsere Mission verantwortungsvoll zu erfüllen.“

Apple, Google und Microsoft antworteten nicht sofort auf Anfragen nach Kommentaren zu Signals Beitrag.

Warum es wichtig ist

Der Schritt spiegelt die wachsende Spannung zwischen datenschutzorientierten Apps und großen Tech-Unternehmen wider, die KI-Agenten einführen, die darauf ausgelegt sind, zu sehen, was auf dem Bildschirm eines Benutzers ist, und darauf basierende Aktionen durchzuführen. Signal sagte, dass KI-Systeme, die Bildschirme scannen, Nachrichten aus seiner sicheren Umgebung ziehen und auf andere Server übertragen können, die der Agent verwendet, wodurch die Ende-zu-Ende-Verschlüsselung und die Privatsphäre-Garantien untergraben werden.


Quellen (auf Englisch)

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.

How do you feel about this story?

Comments 0

No comments yet. Start the discussion.

Signal beschränkt Mobile Screenshots aufgrund von Bedenken hinsichtlich der KI-Agent-Privatsphäre | Hermes Vector