Helen Toner, ancienne membre du conseil d'administration d'OpenAI et directrice exécutive du Center for Security and Emerging Technology de l'Université Georgetown, déclare que les PDG de l'IA ne peuvent toujours pas être crus et que la sécurité de l'IA ne devrait pas dépendre de la confiance en une seule personne.
Français ·
Un membre du conseil d'administration d'OpenAI affirme que les PDG de l'IA ne peuvent pas être crus
Helen Toner, ancienne membre du conseil d'administration d'OpenAI, déclare que la sécurité de l'IA ne peut pas dépendre de la confiance en une seule personne et met en garde contre l'échec des mécanismes actuels de responsabilisation.
Par Hermes Vector · Read in English

En bref
- Helen Toner affirme que les PDG de l'IA ne peuvent toujours pas être crus et que la sécurité ne doit pas dépendre d'une seule personne.
- Toner était l'une des quatre membres du conseil d'administration d'OpenAI qui ont voté le renvoi de Sam Altman en novembre 2023.
- Elle déclare que les travaux sur la sécurité de l'IA sont triés et qu'ils ne sont probablement pas solvables dans le délai de 12 à 24 mois annoncé par les laboratoires.
- Elle préfère un seuil de sécurité plus élevé avant l'entraînement ou la publication d'un modèle plutôt qu'une pause littérale.
L'épisode du conseil d'administration d'OpenAI
Toner a siégé au conseil à but non lucratif d'OpenAI lorsque quatre membres du conseil ont voté le renvoi de Sam Altman. L'épisode, parfois appelé « le blip », s'est terminé par le retour d'Altman en tant que PDG, la démission de Toner et la mise en place d'un nouveau conseil d'administration. OpenAI s'est depuis entièrement restructuré.
Le conseil à but non lucratif avait pour mission de s'assurer que l'entreprise ne trahirait pas sa mission de construire une IA sûre en privilégiant le profit et la croissance au détriment de la sécurité. Lorsque le conseil a tenté d'agir, ce mécanisme de responsabilisation a échoué.
Toner a déclaré qu'elle revivrait la décision de novembre 2023 de destituer Altman, ajoutant qu'ils savaient que cela serait difficile. Interrogée sur la confiance qu'elle accorde à Altman, elle a déclaré que sa position est « assez claire » et a orienté la discussion vers la structure : « Si nos espoirs pour l'avenir reposent sur la confiance en un seul individu, alors nous sommes vraiment dans la merde. »
Sécurité de l'IA et réglementation
Toner a déclaré que les problèmes fondamentaux de sécurité de l'IA — alignement, contrôle et mauvaise utilisation — pourraient être résolus en principe, mais probablement pas dans le délai de 12 à 24 mois que les laboratoires de pointe affirment viser. Elle a décrit la contrainte principale comme étant le temps, et non la faisabilité.
Elle préfère établir un seuil plus élevé de confiance dans la gestion des risques avant l'entraînement ou la publication d'un modèle, plutôt qu'une pause littérale. Elle soutient également le ralentissement de la croissance verticale des capacités brutes tout en accélérant la croissance horizontale du réglage fin, de l'intégration et du déploiement.
Toner a déclaré que la réponse de la Maison Blanche aux appels à l'aide de l'industrie était un accord volontaire qui repose en partie sur la responsabilisation des conseils d'administration — le même type qui a échoué chez OpenAI. Elle a qualifié ce mécanisme de « plutôt inoffensif » dans une entreprise privée qui décide par elle-même, bien qu'il ait une réelle portée juridique dans une entreprise publique.
Pourquoi cela importe
L'argument de Toner est que les garde-fous institutionnels sont plus importants que la confiance individuelle. Avec Anthropic qui se prépare à entrer en bourse et les laboratoires de pointe qui construisent vers l'auto-amélioration récursive, elle affirme que la question est de savoir si les structures de gouvernance peuvent suivre le rythme de la pression commerciale et technique.
Sources (en anglais)
- theverge.com: The OpenAI board member who fired Sam Altman says we still can’t trust AI CEOs | The Verge
- finance.biggo.com: The OpenAI board member who fired Sam Altman says we still can't trust AI CEOs | Decoder|Decoder with Nilay Patel — BigGo Finance
- techtimes.vn: Former OpenAI board member warns AI CEOs remain untrustwor…
Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.
How do you feel about this story?
Comments 0
No comments yet. Start the discussion.