OpenAI se compromete con 2 millones de dólares para investigar la IA y la seguridad infantil

OpenAI se ha comprometido a aportar 2 millones de dólares para apoyar la investigación sobre la IA y la seguridad infantil, anunció la empresa el 12 de noviembre de 2026.

Compromiso y red de investigación

OpenAI firmó la Carta de Compromiso para una IA más segura para los niños a principios de esta semana en el Foro por la Paz de París. Como parte de ese esfuerzo global, la empresa se comprometió a aportar 2 millones de dólares para apoyar la red de investigación científica bajo la Coalición por los Derechos y la Protección de la Infancia en la Era de la IA.

La contribución apoya el trabajo de medición compartida, incluido el desarrollo de herramientas que los investigadores puedan utilizar para comprender y medir mejor los riesgos y oportunidades de la IA para los niños. OpenAI dice que el objetivo es ayudar a informar sobre productos más seguros y mejores políticas.

Principios de la carta e independencia de la investigación

La carta establece principios compartidos para una IA segura y adecuada para la edad, junto con un programa de investigación y salvaguardas para su independencia. Según OpenAI, los equipos de investigación mantienen el control sobre sus conclusiones, y los hallazgos se publicarán, incluidos los resultados negativos o inconclusos.

OpenAI dice que este trabajo ayudará a construir la evidencia necesaria para apoyar los beneficios de la IA para los jóvenes, al tiempo que se abordan los riesgos para su seguridad y desarrollo.

Contexto político

El anuncio se basa en el llamado de OpenAI a estándares globales sobre la seguridad de la IA para los jóvenes y una colaboración sostenida entre gobiernos, investigadores, sociedad civil e industria para traducir la evidencia compartida en salvaguardas prácticas. OpenAI dice que apoya una legislación integral sobre la seguridad de la IA para los jóvenes que establezca protecciones sólidas y exigibles, al tiempo que preserva el acceso a herramientas para el aprendizaje, la creatividad y las oportunidades.

OpenAI dice que dichos marcos deberían incluir salvaguardas adecuadas para la edad por defecto, herramientas para los padres, evaluaciones de riesgos y mitigación periódicas, y una rendición de cuentas significativa. La empresa dice que espera participar con los responsables políticos europeos a medida que se desarrolla la Ley de la UE para los Niños (EU Kids Act), y con socios de todo el mundo para avanzar hacia protecciones y oportunidades más sólidas para los jóvenes.

Fuentes (en inglés)

• openai.com: Supporting research on AI and children’s safety | OpenAI

Traducción con IA del artículo original en inglés, revisada automáticamente para que diga lo mismo que el original. Las fuentes fueron verificadas en inglés.