El gobierno australiano, encabezado por el primer ministro Anthony Albanese, ha anunciado una ley que, por primera vez, impondría normas de seguridad obligatorias a las empresas de IA de frontera que operan en el país. Los requisitos se dirigen a los modelos más avanzados con los perfiles de riesgo más altos y forman parte de la agenda gubernamental "AI in Australia's Interests".
El cumplimiento estaría a cargo de un nuevo organismo de supervisión que trabajaría junto al Instituto Australiano de Seguridad de IA, con la posibilidad de imponer fuertes sanciones por infracciones. Según la propuesta, las empresas que desarrollan modelos de frontera tendrían que someterlos a auditorías independientes, mantener controles de seguridad continuos, hacer públicos sus marcos de seguridad e informar al gobierno de los incidentes de seguridad de inmediato. Esta última obligación busca en parte detectar señales de alerta temprana cuando los agentes de IA se salen de control.
Albanese, el viceprimer ministro Richard Marles y los ministros Tony Burke y Tim Ayres presentaron la medida como el establecimiento de barreras de seguridad nacionales antes de entrar en negociaciones internacionales. Los objetivos declarados son proteger a los ciudadanos y los intereses nacionales, al tiempo que se genera la confianza y la estabilidad regulatoria necesarias para atraer inversión, de modo que la IA beneficie a la economía y a la sanidad. Se esperan más detalles una vez que concluyan las consultas.