Jeannette Wing y Greg Morrisett liderarán conjuntamente el nuevo Centro de Seguridad de IA de Nueva York

Jeannette Wing, vicepresidenta ejecutiva de investigación de la Universidad de Columbia, ha sido nombrada codirectora interina del Centro de Nueva York para la Responsabilidad e Investigación de IA, un esfuerzo estatal para avanzar en la seguridad y protección de la inteligencia artificial. Liderará el centro junto con Greg Morrisett, decano y vicerrector de Cornell Tech. El gobernador de Nueva York, Kathy Hochul, anunció sus nombramientos el 10 de noviembre.

Liderazgo y estructura del centro

El centro está ubicado en la Universidad de Binghamton de la Universidad Estatal de Nueva York. Reunirá a más de 80 investigadores en colegios e instituciones de investigación en todo el estado de Nueva York. Los investigadores trabajarán desde sus instituciones de origen y utilizarán los recursos informáticos proporcionados por Empire AI, la iniciativa de investigación público-privada del estado.

Misión y financiación

El centro evaluará independientemente los sistemas avanzados de IA, desarrollará nuevos enfoques para probar su seguridad y protección, y avanzará en la ciencia necesaria para mantener el ritmo de las capacidades de IA en rápida evolución. Evaluará la seguridad de los sistemas de IA actuales mientras desarrolla las herramientas científicas, mediciones y estándares necesarios para evaluar sistemas cada vez más potentes a medida que la tecnología evoluciona.

El centro se anunció a principios de 2026 con una donación filantrópica de $30 millones de un grupo de donantes liderado por el exalumno de Binghamton y cofundador de Bloomberg LP, Tom Secunda, junto con una inversión inicial de $25 millones de SUNY y capital operativo del estado de Nueva York. La iniciativa contará con el apoyo de los recursos informáticos avanzados de Empire AI, la iniciativa público-privada de $500 millones de Nueva York para avanzar en la investigación de IA en beneficio del público.

Declaraciones

"A medida que los sistemas de IA se vuelven más autónomos, necesitamos desarrollar mejores enfoques científicos para garantizar que no causen daño. Necesitamos anticipar nuevos tipos de fallos, vulnerabilidades y ataques, y luego prevenirlos, detectarlos y recuperarnos de ellos", dijo Wing.

"Mientras el gobierno federal no actúa, Nueva York está liderando el camino en seguridad de IA y exigiendo cuentas a las grandes tecnológicas", dijo Hochul. "Las apuestas son demasiado altas para simplemente tomar la palabra de las empresas de IA. Por eso estamos reuniendo a nuestros investigadores de clase mundial y el poder informático de Empire AI para probar independientemente los sistemas de IA potentes, comprender sus riesgos y poner ese conocimiento a trabajar para proteger a los neoyorquinos."

Por qué importa

Los hallazgos del centro ayudarán a informar la política pública y la supervisión de los desarrolladores de IA de vanguardia, basándose en la recientemente promulgada Ley RAISE de Nueva York, que establece requisitos de seguridad, transparencia y presentación de informes para los grandes desarrolladores de IA. Según la Ley RAISE, los grandes desarrolladores de sistemas avanzados de IA deben registrarse en el estado y seguir las normas de seguridad y presentación de informes. Una nueva oficina estatal, conocida como DIGIT, supervisará a los grandes desarrolladores de IA y ayudará a hacer cumplir la ley.

Fuentes (en inglés)

• news.columbia.edu: Columbia’s Jeannette Wing to Co-Lead New York’s AI Safety Research Center | Columbia News
• news.cornell.edu: Greg Morrisett to co-lead new NYS AI safety research center | Cornell Chronicle
• whec.com: New York launches new research center to study AI science and safety
• wbng.com: New York launches AI safety research center at Binghamton University

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.