Inteligencia artificial deja a mujeres expuestas a más estereotipos y violencia

ONU

La inteligencia artificial puede profundizar las brechas que ya afectan a las mujeres al reproducir estereotipos, facilitar nuevas formas de violencia digital y exponerlas de manera desproporcionada a la automatización laboral, según una recopilación de estudios difundida por ONU.

Los sistemas de inteligencia artificial reproducen estereotipos de género, pueden ampliar los riesgos de violencia digital y podrían afectar de manera desproporcionada los empleos de las mujeres, según una recopilación de estudios y datos difundida por ONU Mujeres.

De cara al Diálogo Global de las Naciones Unidas sobre la Gobernanza de la Inteligencia Artificial y a la cumbre AI for Good, previstos para julio en Ginebra, la entidad reunió evidencia sobre las brechas de género que atraviesan el desarrollo, el uso y la regulación de estas tecnologías.

Entre los estudios citados figura un análisis de 133 sistemas de inteligencia artificial que detectó sesgos de género en el 44% de ellos. En el 26%, los prejuicios combinaban género y raza.

Los grandes modelos de lenguaje, cada vez más utilizados para crear textos, imágenes y campañas publicitarias, tienden a relacionar a las mujeres con el hogar, la familia y los hijos, mientras vinculan a los hombres con los negocios, los cargos directivos, el salario y la carrera profesional.

Además, cerca de una de cada 5 respuestas generadas por estos modelos al completar frases que comenzaban con el género de una persona reprodujo actitudes sexistas o misóginas, incluidas representaciones de las mujeres como objetos sexuales o propiedad de sus esposos.

Para ONU Mujeres, el riesgo no es que la inteligencia artificial cree prejuicios desde cero, sino que replique y amplifique, a gran velocidad y escala, las desigualdades presentes en los datos con los que ha sido entrenada.

La inteligencia artificial generativa se está incorporando rápidamente al trabajo de empresas, medios y agencias de publicidad. En Reino Unido, 88% de las agencias de publicidad y medios utiliza esta tecnología de alguna forma, según los datos reunidos por ONU Mujeres.

Estas herramientas intervienen cada vez más en decisiones sobre qué rostros aparecen en una campaña, qué historias se cuentan y cómo se representa a las personas. Sin embargo, solo 51% de los profesionales del marketing utiliza supervisión humana para revisar los contenidos creativos generados por inteligencia artificial antes de su publicación.

La falta de una perspectiva de género también se refleja en las políticas públicas. De 138 países analizados, solo 24 mencionan el género en sus estrategias nacionales de inteligencia artificial y apenas 18 incluyen disposiciones sustantivas con enfoque de género.

Las mujeres y las niñas ya enfrentan mayores riesgos de acoso y violencia en internet, y las nuevas herramientas de inteligencia artificial pueden multiplicar las formas de abuso.

Casi una de cada 4 mujeres defensoras de derechos humanos, activistas y periodistas encuestadas dijo haber sufrido violencia en línea facilitada por inteligencia artificial. El 12% denunció la difusión no consentida de imágenes personales, incluidas imágenes íntimas o de contenido sexual.

Un 6% afirmó haber sido blanco de deepfakes, imágenes o videos manipulados que hacen parecer que una persona dijo o hizo algo que nunca ocurrió. Más de una de cada 4 participantes también recibió insinuaciones sexuales no solicitadas mediante mensajes digitales.

La transformación económica impulsada por la inteligencia artificial tampoco afectará a todos por igual. Las mujeres que trabajan fuera del sector tecnológico tienen casi el doble de probabilidades que los hombres de ocupar empleos con alto riesgo de automatización.

Según ONU Mujeres, estas desigualdades se agravan cuando se cruzan con factores como la raza, la discapacidad, la situación económica o el lugar de residencia. Las comunidades que ya están menos representadas en los medios, el mercado laboral y los espacios de decisión corren el riesgo de quedar aún más rezagadas.

La entidad pidió que los derechos, las experiencias y los conocimientos de mujeres y niñas estén presentes durante todo el ciclo de vida de la inteligencia artificial, desde el diseño y desarrollo de los sistemas hasta su despliegue y gobernanza.

(Naciones Unidas)