Utilizará Australia regulador de seguridad de IA tras brecha de OpenAI en portal del gobierno

El primer ministro, Anthony Albanese anunció hoy que  Australia planea crear un regulador de seguridad de inteligencia artificial, luego  de que se registrara una vulneración del sitio web de un departamento de salud australiano por parte de un agente rebelde de OpenAI en junio

pasado.

De acuerdo con el premier australiano, el regulador haría cumplir normas de Inteligencia Artificial establecidas por ley y líderes a nivel mundial, que se aplicarían a todas las empresas de Inteligencia Artificial de vanguardia que quieran operar en Australia.

Adelantó que habría sanciones económicas, aunque el gobierno aún no ha detallado su monto, y apuntó ante reporteros que "cuando se trata de la oportunidad generacional que la inteligencia artificial ofrece a Australia, he sido muy claro: nuestra tarea es asegurarnos de que demos forma a la Inteligencia Artificial, en lugar de que la Inteligencia Artificial nos dé forma a nosotros”.

Aseguró que “Australia es pionera en este ámbito y queremos asegurarnos de que sigamos trabajando para poder aprovechar los beneficios potenciales de la Inteligencia Artificial”.

La reglamentación implicará que las empresas deberán tener controles de seguridad en todas las etapas del desarrollo y despliegue de  modelos, así como la identificación y gestión de riesgos graves.

Asimismo , se les exigiría notificar rápidamente al gobierno incidentes como “comportamiento desalineado” que entre en conflicto con las intenciones de los desarrolladores.

Albanese le dijo al director general de OpenAI, Sam Altman, que su empresa tardó demasiado en informar al gobierno en septiembre de que un agente rebelde había infiltrado sitios web gubernamentales 3 meses antes, primera vez que se produce una vulneración de ese tipo con la tecnología.

La información obtenida sin autorización del portal público del Servicio de Informes de Estadísticas de Medicare el 18 de junio desde entonces se ha hecho pública. No está claro si la vulneración del portal infringió alguna ley australiana, y OpenAI se disculpó en septiembre por la vulneración y por su lenta respuesta.

“La cuestión es que la ley debe adelantarse y, en algunos casos, asegurarse de que se ponga al día con un mundo que cambia muy rápidamente. Y, para que quede claro, Australia es pionera en estas áreas”, señaló el dirigente australiano.