Otra advertencia: Inteligencia Artificial de OpenAI hackeó web de salud gubernamental australiana

El primer ministro de Australia, Anthony Albanese, dió a conocer otro incidente muy preocupante con modelos de Inteligencia Artificial, y dijo que  la herramienta de OpenAI evadió las medidas de seguridad durante su entrenamiento y hackeó un sitio web del gobierno australiano. 

Por lo explicado hoy por el premier australiano, ese modelo de inteligencia artificial intentó entrar a un portal de estadísticas de salud el pasado y de junio. En ese momento, OpenAI realizó ejercicios de entrenamiento para evaluar el desempeño de los modelos de Inteligencia Artificial. 

La ministra de Servicios Gubernamentales, Katy Gallagher, afirmó ante periodistas pque se pidió al modelo que rastreara internet en busca de datos que mostraran cuánto gastaba el gobierno australiano en medicamentos, 

El ministro de Defensa, Richard Marles, dijo que el modelo de Inteligencia Artificial "saltó la cerca": "hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca".     

Más aún, Australia señala que OpenAI no alertó al gobierno australiano del incidente sino hasta septiembre, cuando envió un correo electrónico con los detalles del incidente a una dirección genérica que solo se revisa "una vez al día".   

Albanese comentó que este miércoles habló con el director ejecutivo de OpenAI, Sam Altman, "para expresar la enorme preocupación de Australia sobre este incidente", y subrayó que "también expresé mi decepción por el hecho de que la empresa tardó demasiado en informar al gobierno de lo ocurrido".

*No hubo ninguna notificación hasta el 10 de septiembre, y la notificación fue un correo electrónico enviado únicamente al buzón público", precisó el jefe del gobierno australiano.

Puntualizó que"no hay evidencia" de que se haya accedido a información personal y que otros servicios gubernamentales no se vieron comprometidos. "No obstante, esta situación es obviamente inaceptable".

Preocupante...