Demanda ahora Países Bajos a Grok y X por generar material sexual con IA

La herramienta de inteligencia artificial Grok y la plataforma X, ambas propiedad del magnate de origen sudafricano Elon Musk, han sido demandadas por 2 organizaciones de Países Bajos, las cuales estiman que permiten la generación y difusión de material sexual ilegal, incluido contenido que podría constituir abuso sexual infantil. 

Se trata del centro especializado en abuso online Offlimits y el Fondo de Ayuda a las Víctimas, entidades que explicaron en un comunicado que, a través de funciones como "apps para desnudar", se pueden crear imágenes realistas mediante Inteligencia Artificial  en las que personas, incluidos menores, aparecen parcial o totalmente desnudas sin su consentimiento.

Según las ONGs, este tipo de contenido vulnera la legislación neerlandesa y europea, por lo que puede ser punible penalmente. 

La versión Grok 4.2, lanzada la semana pasada, permite a los usuarios crear con Inteligencia Artificial vídeos completos a partir de una sola fotografía. 

La querella exige que Grok y X eliminen las funcionalidades que permiten "desnudar" digitalmente a personas sin su autorización, así como aquellas que posibilitan la generación de material que pueda calificarse como abuso sexual infantil. 

Más aún, las organizaciones reclaman que, en caso de incumplimiento, se imponga una multa coercitiva de 100 mil euros por cada día que continúen activas estas funciones.

Offlimits advirtió de un aumento "explosivo" de la violencia sexual en internet impulsada por herramientas de Inteligencia Artificial.

Su director ejecutivo, Robbert Hoving, "las imágenes editadas o creadas con IA se utilizan para acosar, humillar o intimidar sexualmente a las víctimas en internet"”.

Según datos citados por las organizaciones, uno de cada dos jóvenes en Países Bajos ha sufrido alguna forma de intimidación o abuso sexual en internet, y entre decenas de miles podrían haber sido víctimas de imágenes de contenido sexual creadas mediante IA. 

La directora del Fondo, Ineke Sybesma, sostuvo que para las víctimas no existe diferencia entre una imagen real y una generada con IA, puesto que "la vergüenza es real, las consecuencias son reales, y esto no para por sí solo, porque internet no olvida".