Jeannette Wing und Greg Morrisett leiten gemeinsam das New York AI Safety Center

Jeannette Wing, Executive Vice President for Research an der Columbia University, wurde zur interimistischen Co-Direktorin des New York Center for AI Responsibility and Research ernannt, einer landesweiten Initiative zur Förderung der Sicherheit und des Schutzes von künstlicher Intelligenz. Sie wird das Zentrum gemeinsam mit Greg Morrisett, Dekan und Vice Provost an Cornell Tech, leiten. New Yorks Gouverneurin Kathy Hochul kündigte ihre Ernennungen am 10. November an.

Führung und Struktur des Zentrums

Das Zentrum ist an der Binghamton University des State University of New York angesiedelt. Es wird mehr als 80 Forscher an Hochschulen und Forschungseinrichtungen im gesamten Bundesstaat New York zusammenbringen. Die Forscher werden an ihren Heimatinstitutionen arbeiten und die Rechenressourcen nutzen, die von Empire AI, der öffentlich-privaten Forschungsinitiative des Bundesstaates, bereitgestellt werden.

Mission und Finanzierung

Das Zentrum wird fortschrittliche KI-Systeme unabhängig bewerten, neue Ansätze zur Überprüfung ihrer Sicherheit und ihres Schutzes entwickeln und die Wissenschaft vorantreiben, die notwendig ist, um mit den sich schnell entwickelnden KI-Fähigkeiten Schritt zu halten. Es wird die Sicherheit heutiger KI-Systeme bewerten und gleichzeitig die wissenschaftlichen Werkzeuge, Messverfahren und Standards entwickeln, die erforderlich sind, um zunehmend leistungsfähigere Systeme zu bewerten, während sich die Technologie weiterentwickelt.

Das Zentrum wurde Anfang 2026 mit einer philanthropischen Spende in Höhe von 30 Millionen US-Dollar einer Gruppe von Spendern angekündigt, die vom Binghamton-Alumni und Mitbegründer von Bloomberg LP, Tom Secunda, angeführt wird, gepaart mit einer anfänglichen Investition der SUNY in Höhe von 25 Millionen US-Dollar und Betriebskapital aus dem Bundesstaat New York. Die Initiative wird durch die fortschrittlichen Rechenressourcen von Empire AI unterstützt, der 500 Millionen US-Dollar umfassenden öffentlich-privaten Initiative von New York zur Förderung der KI-Forschung zum Wohle der Allgemeinheit.

Statements

„Da KI-Systeme autonomer werden, müssen wir bessere wissenschaftliche Ansätze entwickeln, um sicherzustellen, dass sie keinen Schaden anrichten. Wir müssen völlig neue Arten von Ausfällen, Verwundbarkeiten und Angriffen antizipieren und diese dann verhindern, erkennen und davon erholen“, sagte Wing.

„Während die Bundesregierung untätig bleibt, führt New York den Weg bei der KI-Sicherheit und hält die großen Tech-Unternehmen zur Rechenschaft“, sagte Hochul. „Die Einsatzmöglichkeiten sind zu hoch, um den KI-Unternehmen einfach nur zu glauben. Deshalb bringen wir unsere weltweit führenden Forscher und die Rechenleistung von Empire AI zusammen, um leistungsfähige KI-Systeme unabhängig zu testen, ihre Risiken zu verstehen und dieses Wissen einzusetzen, um die Bewohner von New York zu schützen.“

Warum es wichtig ist

Die Ergebnisse des Zentrums werden dazu beitragen, die öffentliche Politik und die Aufsicht über Entwickler von Frontier-KI zu informieren, aufbauend auf dem kürzlich verabschiedeten RAISE Act in New York, der Sicherheits-, Transparenz- und Meldepflichten für große KI-Entwickler festlegt. Gemäß dem RAISE Act müssen große Entwickler fortschrittlicher KI-Systeme beim Staat registriert sein und Sicherheits- und Meldevorschriften einhalten. Ein neues staatliches Amt, bekannt als DIGIT, wird große KI-Entwickler überwachen und bei der Durchsetzung des Gesetzes helfen.

Quellen (auf Englisch)

• news.columbia.edu: Columbia’s Jeannette Wing to Co-Lead New York’s AI Safety Research Center | Columbia News
• news.cornell.edu: Greg Morrisett to co-lead new NYS AI safety research center | Cornell Chronicle
• whec.com: New York launches new research center to study AI science and safety
• wbng.com: New York launches AI safety research center at Binghamton University

KI-Übersetzung des englischen Originalartikels, automatisch geprüft, damit sie dasselbe aussagt wie das Original. Die Quellen wurden auf Englisch geprüft.