O governo australiano, liderado pelo primeiro-ministro Anthony Albanese, anunciou uma lei que, pela primeira vez, tornaria obrigatórias regras de segurança para empresas de IA de fronteira que operam no país. As exigências visam os modelos mais avançados com os perfis de risco mais altos e fazem parte da agenda do governo "AI in Australia's Interests".
A fiscalização ficaria a cargo de um novo órgão de supervisão que atuaria em conjunto com o Instituto Australiano de Segurança de IA, com duras penalidades para violações. Pela proposta, as empresas que desenvolvem modelos de fronteira teriam que submetê-los a auditorias independentes, manter verificações de segurança contínuas, tornar públicas suas estruturas de segurança e comunicar incidentes de segurança ao governo imediatamente. Essa última exigência tem como objetivo, em parte, captar sinais de alerta precoces quando agentes de IA saem do controle.
Albanese, o vice-primeiro-ministro Richard Marles e os ministros Tony Burke e Tim Ayres apresentaram a medida como a criação de barreiras de segurança nacionais antes das negociações internacionais. Os objetivos declarados são proteger os cidadãos e os interesses nacionais, ao mesmo tempo em que se constrói a confiança e a estabilidade regulatória necessárias para atrair investimentos, permitindo que a IA beneficie a economia e a saúde. Mais detalhes serão divulgados após a conclusão das consultas.