A OpenAI anunciou que assinou a Charter of Engagement for Safer AI for Children no Fórum da Paz de Paris no início desta semana, junto com um compromisso de US$ 2 milhões para uma rede de pesquisa científica que opera sob a Coalition for Children's Rights and Protection in the Age of AI.
Segundo a empresa, o compromisso amplia seu apelo anterior por padrões globais de segurança da IA para jovens e por uma colaboração sustentada entre governos, pesquisadores, sociedade civil e indústria para transformar evidências compartilhadas em salvaguardas práticas. O financiamento é destinado a um trabalho de medição compartilhado: desenvolver ferramentas que os pesquisadores possam usar para compreender e medir melhor os riscos e as oportunidades que a IA apresenta para as crianças, com o objetivo de orientar produtos mais seguros e políticas melhores.
A carta estabelece princípios comuns para uma IA segura e adequada a cada faixa etária, juntamente com um programa de pesquisa e salvaguardas para sua independência. As equipes de pesquisa participantes mantêm o controle sobre suas próprias conclusões, e os resultados serão publicados mesmo quando forem negativos ou inconclusivos. A OpenAI afirma que a iniciativa pretende construir a base de evidências necessária para concretizar os benefícios da IA para os jovens e, ao mesmo tempo, enfrentar os riscos à sua segurança e ao seu desenvolvimento.
A empresa também apresentou o compromisso como uma extensão de seu apoio a uma legislação abrangente de segurança da IA para jovens que una proteções fortes e exequíveis à preservação do acesso a ferramentas de aprendizado, criatividade e oportunidade. Na visão da empresa, esses marcos devem incluir salvaguardas adequadas à idade por padrão, ferramentas para os pais, avaliações e mitigações regulares de riscos e responsabilização significativa. A OpenAI disse que pretende dialogar com os formuladores de políticas europeus à medida que a EU Kids Act avança, e com parceiros ao redor do mundo para promover proteções e oportunidades mais fortes para os jovens.