OpenAI s'engage à verser 2 millions de dollars pour la recherche sur l'IA et la sécurité des enfants

OpenAI s'est engagé à verser 2 millions de dollars pour soutenir la recherche sur l'IA et la sécurité des enfants, a annoncé l'entreprise le 12 novembre 2026.

Engagement et réseau de recherche

OpenAI a signé la Charte d'engagement pour une IA plus sûre pour les enfants plus tôt cette semaine lors du Forum pour la Paix de Paris. Dans le cadre de cet effort mondial, l'entreprise s'est engagée à verser 2 millions de dollars pour soutenir le réseau de recherche scientifique au sein de la Coalition for Children's Rights and Protection in the Age of AI.

Cette contribution soutient les travaux de mesure partagée, notamment le développement d'outils que les chercheurs peuvent utiliser pour mieux comprendre et mesurer les risques et les opportunités de l'IA pour les enfants. OpenAI indique que l'objectif est d'aider à éclairer la conception de produits plus sûrs et une meilleure politique.

Principes de la charte et indépendance de la recherche

La charte établit des principes partagés pour une IA sûre et adaptée à l'âge, ainsi qu'un programme de recherche et des garanties pour son indépendance. Selon OpenAI, les équipes de recherche conservent le contrôle de leurs conclusions, et les résultats seront publiés, y compris les résultats négatifs ou non concluants.

OpenAI indique que ce travail aidera à construire les preuves nécessaires pour soutenir les avantages de l'IA pour les jeunes tout en adressant les risques pour leur sécurité et leur développement.

Contexte politique

L'annonce s'inscrit dans l'appel d'OpenAI à des normes mondiales en matière de sécurité de l'IA pour les jeunes et à une collaboration soutenue entre les gouvernements, les chercheurs, la société civile et l'industrie pour traduire les preuves partagées en garanties pratiques. OpenAI indique qu'il soutient une législation complète sur la sécurité de l'IA pour les jeunes qui établit des protections solides et applicables tout en préservant l'accès aux outils d'apprentissage, de créativité et d'opportunité.

OpenAI indique que ces cadres devraient inclure des garanties adaptées à l'âge par défaut, des outils pour les parents, des évaluations des risques et des mesures d'atténuation régulières, ainsi qu'une responsabilisation significative. L'entreprise indique qu'elle se réjouit d'engager le dialogue avec les décideurs européens à mesure que l'EU Kids Act se développe, et avec des partenaires du monde entier pour faire progresser des protections et des opportunités plus solides pour les jeunes.

Sources (en anglais)

• openai.com: Supporting research on AI and children’s safety | OpenAI

Traduction réalisée par IA de l’article original en anglais, vérifiée automatiquement pour dire la même chose que l’original. Les sources ont été vérifiées en anglais.