Jeannette Wing et Greg Morrisett co-dirigeront le nouveau centre de sécurité de l'IA de New York

Jeannette Wing, vice-présidente exécutive de la recherche à l'Université Columbia, a été nommée codirectrice intérimaire du New York Center for AI Responsibility and Research, une initiative à l'échelle de l'État visant à faire progresser la sécurité et la sûreté de l'intelligence artificielle. Elle dirigera le centre aux côtés de Greg Morrisett, doyen et vice-chancelier de Cornell Tech. Le gouverneur de New York, Kathy Hochul, a annoncé leurs nominations le 10 novembre.

Direction et structure du centre

Le centre est basé à l'Université Binghamton de l'État de New York. Il réunira plus de 80 chercheurs dans des collèges et institutions de recherche à travers l'État de New York. Les chercheurs travailleront depuis leurs institutions d'attache et utiliseront les ressources informatiques fournies par Empire AI, l'initiative de recherche publique-privée de l'État.

Mission et financement

Le centre évaluera indépendamment les systèmes d'IA avancés, développera de nouvelles approches pour tester leur sécurité et leur sûreté, et fera progresser la science nécessaire pour suivre le rythme des capacités d'IA en évolution rapide. Il évaluera la sécurité des systèmes d'IA actuels tout en développant les outils scientifiques, les mesures et les normes nécessaires pour évaluer des systèmes de plus en plus puissants à mesure que la technologie évolue.

Le centre a été annoncé au début de 2026 avec un don philanthropique de 30 millions de dollars d'un groupe de donateurs dirigé par Tom Secunda, ancien élève de Binghamton et co-fondateur de Bloomberg LP, associé à un investissement initial de 25 millions de dollars de SUNY et à des fonds de fonctionnement de l'État de New York. L'initiative sera soutenue par les ressources informatiques avancées d'Empire AI, l'initiative publique-privée de 500 millions de dollars de New York visant à faire progresser la recherche sur l'IA pour le bien public.

Déclarations

« À mesure que les systèmes d'IA deviennent plus autonomes, nous devons développer de meilleures approches scientifiques pour garantir qu'ils ne causent aucun dommage. Nous devons anticiper de nouveaux types de défaillances, de vulnérabilités et d'attaques, puis les prévenir, les détecter et nous en remettre », a déclaré Wing.

« Alors que le gouvernement fédéral tarde à agir, New York mène la voie en matière de sécurité de l'IA et rend les grandes entreprises technologiques responsables », a déclaré Hochul. « Les enjeux sont trop élevés pour se contenter de prendre les entreprises d'IA au mot. C'est pourquoi nous réunissons nos chercheurs de classe mondiale et la puissance de calcul d'Empire AI pour tester indépendamment les systèmes d'IA puissants, comprendre leurs risques et mettre ces connaissances au service de la protection des New-Yorkais. »

Pourquoi cela importe

Les conclusions du centre aideront à éclairer les politiques publiques et la supervision des développeurs d'IA de pointe, s'appuyant sur la RAISE Act récemment adoptée à New York, qui établit des exigences de sécurité, de transparence et de déclaration pour les grands développeurs d'IA. Conformément à la RAISE Act, les grands développeurs de systèmes d'IA avancés doivent s'enregistrer auprès de l'État et respecter les règles de sécurité et de déclaration. Un nouveau bureau d'État, connu sous le nom de DIGIT, supervisera les grands développeurs d'IA et aidera à faire respecter la loi.

Sources (en anglais)

• news.columbia.edu: Columbia’s Jeannette Wing to Co-Lead New York’s AI Safety Research Center | Columbia News
• news.cornell.edu: Greg Morrisett to co-lead new NYS AI safety research center | Cornell Chronicle
• whec.com: New York launches new research center to study AI science and safety
• wbng.com: New York launches AI safety research center at Binghamton University

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.