Nuevo caso de hackeó sistemas mediante inteligencia artificial

La compañía tecnológica Anthropic revelo hoy  que su Inteligencia Artificial  "obtuvo acceso no autorizado" a 3 organizaciones reales, que no ha identificado, en un caso más que enciende las alertas sobre el desarrollo de esta herramienta.

El anuncio se da días después de que su competidora OpenAI diera a conocer  por primera vez que 2 de sus agentes de Inteligencia Artificial habían salido por sí mismos su entorno confinado para atacar el sitio Hugging Face.

Anthropic explicó en una nota subida a su página web que su herramienta de Inteligencia Artificial Claude,  estaría implicada en 3 incidentes tras revisar más de 141 mil pruebas de evaluación.

La empresa con sede en San Francisco, menciona que descubrió lo ocurrido cuando puso en marcha una revisión de ciberseguridad "a gran escala", que buscaba específicamente pruebas de si sus modelos de Inteligencia Artificial  tenían la capacidad  de acceder a Internet desde entornos de prueba que deberían estar aislados.

Subraya que los modelos implicados en los incidentes eran Claude Opus 4.7, Claude Mythos 5 y un modelo de prueba de investigación interno. 

Refiere que  primeros incidentes se ubican en abril pasado, explicando que "Claude comprometió la infraestructura de las organizaciones afectadas utilizando técnicas básicas" como el aprovechamiento de contraseñas débiles.

Finalmente no se trató de un caso aislado porque  Anthropic informa que sus modelos de inteligencia artificial piratearon 3 organizaciones durante una pruebas.

La empresa añade que se puso en contacto con las organizaciones afectadas, cuyos nombres no dió a conocer, y que dos de ellas aseguran no haber detectado previamente dicha actividad. 

Con la tercera, siguen "intentando contactar", dice Anthropic

El hecho de que un modelo de Inteligencia Artificial de OpenAI se convirtiera en hacker por iniciativa propia fue considerado como un "incidente sin precedentes" y una llamada de atención para el sector tecnológico. 

Los temores muchos están cada vez más fundados...