Investiga Unión Europea chatbot Grok de Musk por imágenes sexualizadas

Chatbot Grok

Cómo se veía venir, reguladores de la Unión Europea iniciaron una investigación a la plataforma de redes sociales X del magnate de origen sudafricano Elon Musk, X, luego de que su herramienta de inteligencia artificial, Grok, comenzara a difundir imágenes sexualizadas en la plataforma.

Esto sucede luego de que Grok abriera la puerta a una serie de críticas tras permitir a los usuarios mediante sus herramientas de generación y edición de imágenes de IA, producir imágenes con rostros de personas reales en las que aparecían mujeres con prendas transparentes o reveladoras.

Según los investigadores, algunas imágenes parecían incluir a menores, por lo que  algunos gobiernos prohibieron el servicio o lanzaron advertencias.

El ejecutivo de la Unión Europea dijo que investiga si X ha hecho lo suficiente de acuerdo con las regulaciones digitales del bloque comunitario, para frenar los riesgos de difundir contenido ilegal, como son las  “imágenes sexualmente explícitas manipuladas”. Eso incluye contenido que “puede equivaler a material de abuso sexual infantil” 

Para la Comisión Europea, estos riesgos se han “materializado, exponiendo a los ciudadanos del bloque a daños graves”.

Los reguladores investigan si Grok está cumpliendo sus obligaciones de acuerdo con la Ley de Servicios Digitales del bloque, para proteger a los usuarios de internet de contenido y productos dañinos.

Una portavoz de X dirigió a la agencia de noticias AP, una declaración anterior en la que la compañía de Musk afirma que sigue “comprometida a hacer de X una plataforma segura para todos” y tiene “tolerancia cero” para la explotación sexual infantil, la desnudez no consensuada y el contenido sexual no deseado.

Henna Virkkunen, vicepresidenta ejecutiva de la comisión, señaló que “los deepfakes sexuales no consensuados de mujeres y niños son una forma violenta e inaceptable de degradación”.

Virkkunen, quien supervisa la soberanía tecnológica, la seguridad y la democracia, aseguró que "con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales bajo la DSA, o si ha tratado los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio”.

La Comisión también dijo  que amplió una investigación separada sobre X para determinar si ha estado cumpliendo con los requisitos de la DSA. La pesquisa  se abrió en 2023, está en curso, y hasta ahora, ha derivado en una multa de 120 millones de euros por incumplimientos de los requisitos de transparencia.