OpenAI anunció que firmó la Charter of Engagement for Safer AI for Children en el Foro de Paz de París a principios de esta semana, junto con un compromiso de 2 millones de dólares para una red de investigación científica que opera bajo la Coalition for Children's Rights and Protection in the Age of AI.
Según la empresa, el compromiso amplía su anterior llamado a favor de estándares globales de seguridad de la IA para los jóvenes y de una cooperación sostenida entre gobiernos, investigadores, sociedad civil e industria para convertir la evidencia compartida en salvaguardas prácticas. La financiación se destina a un trabajo de medición compartido: desarrollar herramientas que los investigadores puedan usar para comprender y medir mejor los riesgos y las oportunidades que la IA presenta para los niños, con el objetivo de orientar productos más seguros y mejores políticas.
La carta establece principios comunes para una IA segura y apropiada para cada edad, junto con un programa de investigación y salvaguardas para su independencia. Los equipos de investigación participantes conservan el control sobre sus propias conclusiones, y los resultados se publicarán incluso cuando sean negativos o no concluyentes. OpenAI afirma que la iniciativa busca crear la base de evidencia necesaria para hacer realidad los beneficios de la IA para los jóvenes y, al mismo tiempo, abordar los riesgos para su seguridad y su desarrollo.
La empresa también presentó el compromiso como una extensión de su apoyo a una legislación integral de seguridad de la IA para jóvenes que combine protecciones sólidas y exigibles con el acceso continuo a herramientas para el aprendizaje, la creatividad y las oportunidades. En su opinión, esos marcos deberían incluir salvaguardas apropiadas para la edad de forma predeterminada, herramientas para los padres, evaluaciones y mitigaciones periódicas de riesgos y una rendición de cuentas significativa. OpenAI dijo que pretende colaborar con los responsables políticos europeos a medida que avanza la EU Kids Act, y con socios de todo el mundo para impulsar protecciones y oportunidades más sólidas para los jóvenes.