Une cyberattaque chez Fireworks AI a exposé certaines données de ses clients, a confirmé la société. Fireworks AI, une plateforme que les développeurs utilisent pour accéder et utiliser des modèles d'IA open source, a déclaré qu'un attaquant avait compromis son fournisseur de cloud pour accéder à un système de développement Fireworks, ce qui a permis d'accéder à certaines données de ses clients.

La société a indiqué dans son dernier avis de sécurité que les cybercriminels ont volé les informations de facturation des clients de Fireworks et certains ensembles de données. Fireworks vante des dizaines de milliers de clients dans le monde utilisant sa plateforme, notamment la société de technologie juridique Harvey et la société d'IA Cursor.

Au moins un client concerné confirmé est Notion, éditeur de documents en ligne et outil de prise de notes, qui a déclaré dans un communiqué que la faille de sécurité a affecté environ 1 % de ses propres clients.

Notion a indiqué que Fireworks a alerté la société sur un incident de sécurité et a ensuite confirmé que les pirates avaient volé certaines données de clients Notion. Le 3 novembre, Notion a déclaré qu'il avait déconnecté ses systèmes de Fireworks, supprimé les données stockées dans ses systèmes et interrompu toute connectivité entre les deux.

Notion a confirmé cette semaine que les pirates avaient volé les transcriptions de chat de ses clients Notion AI qui utilisaient la fonctionnalité « Insights ». La société a indiqué que les transcriptions incluent « toute entrée ou sortie du modèle qui a été écrite dans le chat », mais a ajouté que la plupart des données étaient non attribuables et qu'il était impossible de déterminer de quel client elles provenaient.

Dans la soirée du 2 novembre, Fireworks a informé Notion que des acteurs malveillants avaient accédé à un petit ensemble de données. Notion a initialement déterminé qu'il s'agissait de données de test synthétiques, c'est-à-dire du matériel artificiellement créé pour les tests, plutôt que de véritables informations clients.

Dès le matin du 3 novembre, Notion a déconnecté ses systèmes de Fireworks, supprimé toutes les données du système du fournisseur et interrompu la communication entre les deux environnements. Notion a pris ces mesures par précaution avant de confirmer l'exposition des données clients.

Le 6 novembre, Fireworks a averti que les attaquants avaient également pu accéder aux informations clients. Notion a immédiatement ouvert une autre enquête interne. Fireworks a confirmé le dernier ensemble de données affecté le 8 novembre, et Notion a contacté les clients impactés le lendemain.

L'analyse a montré que l'ensemble de données contenait des transcriptions de chat Notion AI traitées pour Insights. Cette fonctionnalité aide les clients à comprendre comment leurs équipes utilisent l'IA. L'exposition diffère des problèmes de confidentialité des pages publiques Notion précédemment signalés, qui concernaient les informations de l'éditeur plutôt que ces conversations IA.

Pour la plupart des espaces de travail concernés, les transcriptions étaient « non attribuables ». Elles ne comportaient pas d'étiquettes identifiant l'auteur ou l'espace de travail d'origine. Elles excluaient également les résultats des appels d'outils, ce qui signifie que les réponses renvoyées par les outils n'étaient pas incluses. Cependant, les informations écrites dans une conversation pouvaient toujours identifier des utilisateurs, des entreprises ou des activités sensibles. La déclaration de Notion ne précise pas si chaque transcription concernée était non attribuée.

Fireworks prenait en charge deux fonctions Notion : les tâches de classification alimentant Insights et les services d'inférence générale exécutant des modèles à poids ouverts. L'inférence signifie exécuter un modèle pour générer des réponses. Notion a désactivé Insights pendant son enquête et a cessé de fournir des modèles à poids ouverts via Fireworks.

Les clients concernés peuvent récupérer et inspecter en toute sécurité les informations exposées dans leur espace de travail en suivant les instructions envoyées par e-mail. Notion recommande de traiter ces informations comme exposées, y compris le contenu sensible collé directement dans les chats.

Les clients qui ont saisi des mots de passe, des clés API ou d'autres identifiants pendant la période de l'incident doivent les renouveler. Notion n'a pas divulgué de fenêtre d'exposition précise, le nombre de transcriptions ou le point d'entrée technique dans son avis.

Les clients qui n'ont pas reçu de notification ne sont actuellement pas identifiés comme concernés et ne doivent prendre aucune action pour le moment.

Fireworks a déclaré qu'il pense que les pirates sont motivés financièrement et que leurs objectifs se concentrent sur la vente de jetons provenant de l'accès compromis aux grands modèles de langage, ou LLM. Ces schémas reposent sur la vente à des tiers non autorisés, qui peuvent consommer l'utilisation des modèles d'IA sans utiliser leurs propres ressources.

Il s'agit de la deuxième faille de sécurité affectant Fireworks en l'espace de deux mois, suite à un incident de sécurité en octobre.

La faille de sécurité chez Fireworks AI montre comment les entreprises technologiques dépendent d'autres fournisseurs technologiques pour leurs propres offres, et comment les cyberattaques peuvent, par conséquent, se répercuter sur d'autres clients.

Sources (en anglais)

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.