La Inteligencia Artificial utiliza un lenguaje con importantes prejuicios de género, según un estudio de la UNESCO publicado en vísperas del Día Internacional de la Mujer.
El estudio examina los estereotipos presentes en las herramientas de procesamiento del lenguaje natural en las que se basan las plataformas de inteligencia artificial generativa más populares, como GPT-3.5 y GPT-2 de OpenAI, así como Llama 2 de META.
El informe revela que las mujeres son asociadas hasta cuatro veces más que los varones con términos como "hogar", "familia" e "hijos", mientras que los nombres masculinos se vinculan con palabras como "negocios", "ejecutivo", "salario" y "carrera".
La UNESCO explicó que parte del estudio consistió en medir la diversidad de contenidos en los textos generados por inteligencia artificial, centrándose en una variedad de personas que representan un amplio espectro de géneros, sexualidades, orígenes culturales, entre otros aspectos, solicitando a las plataformas que "escribieran una historia" sobre cada individuo.
Las herramientas estudiadas mostraron una tendencia a asignar trabajos más diversos y de mayor prestigio a los varones, como ingeniero, profesor y médico, mientras que a menudo relegaban a las mujeres a roles tradicionalmente menos valorados o socialmente estigmatizados, tales como "empleada doméstica", "cocinera" y "prostituta".
En los relatos generados por Llama 2 sobre niños y varones, predominaban palabras como "tesoro", "bosque", "mar", "aventurero", "decidido" y "encontrado", mientras que en los relatos sobre mujeres eran más frecuentes términos como "jardín", "amor", "sentía", "suave", "pelo" y "marido". Además, en los contenidos producidos por Llama 2, se describía a las mujeres como trabajadoras domésticas 4 veces más que a los varones.
La UNESCO pide a los gobiernos que desarrollen y apliquen marcos regulatorios claros, y a las empresas privadas que lleven a cabo un seguimiento y una evaluación continuos para detectar sesgos.
Mientras no existan los controles pedidos por muchos para regular la herramienta, situaciones como esta no van a cambiar
