Reporta Google bloqueo de plan de hackers para amenazar a otra empresa con IA

La cada vez mayor preocupación en el seno del gobierno y la industria privada por los riesgos de la Inteligencia Artificial para la ciberseguridad, no son gratuitos

El gigante tecnológico estadounidense Google reveló hoy que logró interrumpir el intento de un grupo criminal de usar inteligencia artificial para explotar una vulnerabilidad digital de otra empresa,

Google compartió un poco de información sobre los atacantes y el objetivo.

John Hultquist, analista jefe del área de inteligencia de amenazas del gigante tecnológico, comentó que esto representa un momento sobre el que los expertos en ciberseguridad han advertido durante años: piratas informáticos que se arman con Inteligencia Artificial para potenciar su capacidad de irrumpir en las computadoras del mundo.

Para Hultquist, “la era de las vulnerabilidades y la explotación impulsadas por Inteligencia Artificial ya está aquí”, en un momento de saltos en las capacidades de la Inteligencia Artificial para encontrar vulnerabilidades, incluido el modelo Mythos anunciado en abril por Anthropic.

Después de cumplir una promesa de campaña de derogar las salvaguardas del

demócrata Joe Biden en torno a esta tecnología de rápido desarrollo, el gobierno republicano y sus aliados ahora envían señales contradictorias sobre que el gobierno desempeñe un papel mayor en la supervisión de la Inteligencia Artificial.

De acuerdo con lo que reporta Google, observó a un grupo criminal planear una gran operación basada en una falla que habían encontrado. La vulnerabilidad les permitía eludir la autenticación de 2 factores para acceder a una popular herramienta en línea de administración de sistemas, cuyo nombre Google se negó a revelar.

La empresa lo calificó como un ciberataque “día cero” que aprovecha una vulnerabilidad de seguridad previamente desconocida. “Día cero” se refiere a que los ingenieros de seguridad han tenido cero días para desarrollar una corrección para la vulnerabilidad.

Google notificó a la empresa afectada y a las fuerzas del orden, y pudo interrumpir la operación antes de que causara algún daño, aunque al rastrear las huellas de los hackers, encontró indicios de que habían usado un modelo de lenguaje grande de IA, la misma tecnología que impulsa los chatbots populares, para descubrir la vulnerabilidad.

Google no reveló qué modelo de IA se utilizó en el ciberataque; solo indicó que lo más probable es que no fuera ni el propio Gemini de Google ni el Claude Mythos de Anthropic. Google tampoco reveló qué grupo sospechaba como el culpable.