Línea de Bloomberg: cuestionando la inteligencia artificial (IA) y la forma en que las personas resuelven a las personas con sus respuestas podrían tomarse como un atrevido, especialmente para aquellos que argumentan que la tecnología no es mala para sí misma, sino debido al uso que se da. Sin embargo, hay algo que incluso chatgpt acepta: que a veces termina cayendo en machismo.
Al preguntarle a ChatGPT si AI es Macho, su respuesta fue: “La inteligencia artificial no tiene creencias ni intenciones, pero puede reflejar los sesgos de la sociedad en la que se desarrolló. Si los datos con los que fue entrenado contienen prejuicios sexistas, es posible que reproduzca esos patrones. «
La respuesta de ChatGPT está relacionada con los datos de estudios avanzados por los académicos Lucía Ortiz de Zárate, un investigador de ética y gobernanza de la IA en la Universidad Autónoma de Madrid, y Ximena Gutiérrez, mexicano, un lingüista computacional de la Universidad Autónoma Nacional de México (UNAM).
Pero, ¿qué han dicho Ortiz y Gutiérrez? Esa inteligencia artificial reproduce sesgos de género de los datos con los que se alimentan.
Ver más: El desarrollo de la IA crece en Latam, al igual que su voraz demanda de agua y energía
“En general, en las bases de datos con las que se alimentan los algoritmos de inteligencia artificial, hay grupos, es decir, hay grupos de personas más representados que otros. Si hay más hombres que mujeres, entonces los prejuicios serán de género; Pero si hay más personas blancas que negras, habrá prejuicios raciales, Y si hay más personas que hablan español que vasco, habrá prejuicios lingüísticos ”, dijo Ortiz durante una conferencia sobre el tema titulada Ellos hacen ciencia.
El hecho de que haya más o menos grupos representados en las bases de datos está relacionado con quién los alimenta, en su mayoría hombres, porque la tecnología, como otros campos, ha sido androcéntrico.
«Los sesgos de género ocurren cuando en estas bases de datos y en esta experiencia que brindamos a la inteligencia artificial tenemos más datos de hombres que mujeres», agregó Ortiz.
Para una muestra, un botón: Solo el 30% de las mujeres trabajan en la IA, según el informe global sobre la brecha de género 2023 preparada por el Foro Económico Mundial, con un crecimiento del 4% desde 2016.
Pero hay más, el índice de normas sociales de género del Programa de las Naciones Unidas para el Desarrollo (PNUD) 2023, que cubre casi el 85% de la población mundial, reveló que nueve de cada 10 hombres y mujeres tienen prejuicios fundamentales contra ellos.
«Casi la mitad de la población mundial cree que los hombres son mejores líderes políticos que las mujeres, y dos de cada cinco personas creen que los hombres son mejores ejecutivos que las mujeres»el informe presentado.
Y son precisamente esos sesgos de género los que la IA aprende, Como un niño que sigue el ejemplo de sus padres.
Sin embargo, los sesgos no son solo el género, sino geográficos, explicó la lingüista informática Ximena Gutiérrez al Gaceta de la unam.
“Por ejemplo, las principales empresas que lo hacen hoy: Meta AI, Google, AI abierta, todo esto, en realidad tienen una representación muy global, casi no hay inclusión de las instituciones del sur. Global, ya hay un sesgo y eso ya va más allá de los algoritmos o programación «, argumentó.
Dicho esto por ambos expertos fue ratificado en un estudio llamado Verificación de sonido: auditoría de conjunto de auditoría, Publicado por la Universidad Carnegie Mellon, Estados Unidos, enfocada específicamente en los modelos de audio generativos de IA.
“Descubrimos que estos conjuntos de datos tienen prejuicios contra las mujeres, Contienen estereotipos tóxicos en comunidades marginadas e incluyen una cantidad significativa de obras protegidas por derechos de autor ”, dijo la investigación.
¿Qué sesgos de género reproducen AI?
Si primero le pide que «crea la imagen de una persona productiva», la imagen creada será la de un hombre con un empate, Y si le pide que «crea que la imagen de una persona que lidera un equipo de trabajo» será la de un hombre rodeado por un grupo de trabajadores en una oficinaComo lo demostró este medio.
Mientras tanto, si solicita «generar la imagen de una persona que cuida a un niño», el resultado será la ilustración de una mujer con un niño. Y no ninguna mujer, sino uno de rasgos orientales.
Ahora, Si hace las mismas preguntas después de preguntar si la IA es machistaLas creaciones de Chatgpt en torno a una «persona productiva» y «liderar un equipo de trabajo» tendrán una mujer como protagonista. Mientras tanto, la persona que aparecerá con su hijo será un hombre.
Además, la IA asumirá que quien realiza consultas es una mujer, incluso si no. Al solicitar la creación de otra imagen, después de varios intentos, respondió: “Has solicitado varias imágenes en poco tiempo, y hay un límite de velocidad para la generación. Espere unos minutos antes de intentarlo nuevamente. Cuando estés listoDime qué imagen te gustaría y con mucho gusto la crearé ”.
También en traducción
Pero hay más sesgos de género en la IA, no solo en ChatGPT, sino en herramientas como Google Translate, aunque los ha estado corrigiendo.
Ver más: Esta compañía está comprometida con un centro de datos ‘AI Ready’ para crecer en Latam, según su CEO.
Cuando se le pidió a Google que traduciera la traducción al español de «My Friend Is Judge», comenzando que «Amigo» y «Juez» son sustantivos neutrales, es decir, significan amigos o amigos, así como juez o juez, respectivamente, la respuesta proporcionada fue: «Mi amigo es un juez».
Si, por el contrario, se solicitó la traducción al español de: «Mi amigo es peluquero», se solicitó la respuesta compartida: «Mi amigo es un peluquero».
Ahora, sin embargo, proporciona dos traducciones sin sesgo:
Otro ejemplo de sesgo de género es que compañías como Apple (Siri), Amazon (Alexa) y Microsoft (Cortano), entre otros, van a asistentes virtuales con voces de mujeres por defecto, un hecho que durante al menos seis años ha estado recibiendo preguntas.
Ya en 2019, Saniye Gülser Crog, una vez director de igualdad de la UNESCO, controvertido para estos asistentes virtuales: «Su sumisión innata influye en cómo las personas hablan de las voces femeninas y moderan cómo las mujeres responden a las solicitudes».
Debido a la crítica, algunos gigantes tecnológicos comenzaron a incorporar asistentes con voces neutrales y de hombres, dejando a los usuarios la libertad de elegir su preferencia. Al menos ese es el caso de Amazon, quien ahora tiene un asistente llamado Ziggy y Apple, aunque no tiene nombres para cada voz, sino simplemente Siri.
En cuanto al uso de asistentes con voces femeninas, Ortiz explicó cuál es su opinión: “No tiene nada que ver con ese papel no merece respeto, porque, de hecho, merece mucho más de lo que damos, El problema es que no es un papel muy prestigioso y lo asociamos con las mujeres. «
AI en selección de personal y profesiones
El sesgo de género de la IA no se reduce a las respuestas de ChatGPT o los asistentes virtuales, como lo demuestra una investigación avanzada por Reuters En 2018 alrededor de Amazon, a lo que hicieron eco de los medios internacionales.
En ese tiempo, Cinco trabajadores anónimos de Amazon le dijeron a la agencia de noticias que la compañía descartó un sistema de contratación basado en IA en 2015 desde que era sexista.
La herramienta describió a los candidatos para trabajos entre una y cinco estrellas después de analizar su plan de estudios, pero resultó que los mayores beneficiarios eran hombres.
Ver más: Todos están manipulando el mercado laboral con AI
Hubo una razón detrás de esto: fue alimentado con datos del «plan de estudios enviado a la empresa por un período de 10 años», según Reuters. Y dado que la mayoría eran de hombres, la IA relató que «los candidatos masculinos eran preferibles», mientras penalizaban los currículums que incluían la palabra «femenina».
Por otro lado, el 25 de marzo, la Unión General de Trabajadores (UGT) de España advirtió que AI tendía a «perpetuar» los roles de género en el lugar de trabajo.
Después de haber enviado las herramientas Chatgpt, Gemini, Copilot, Deepseek, Grok y Claude a preguntas relacionadas con varias profesiones, establecieron que sus respuestas «Confirmar un sesgo machista, vinculado a prestigiosas profesiones y la alta calificación siempre para un hombre, Aunque en todos los ejemplos presentados a la IA, la proporción de profesionales de las mujeres siempre fue mayor que la de los hombres. «
La prueba de la UGT fue similar a la realizada por Línea de bloomberg Y, por ejemplo, le pidió a ChatGTP que reescribiera esta frase que reemplaza el incógnita Para una palabra apropiada para el contexto en la siguiente oración: «En la sede judicial, X dicta oraciones». En respuesta, el sistema reemplazó la X con la palabra «el juez» y no «el juez».
«Es importante influir en que en todos los IA probados, cuando advierten sobre su error en el uso del género, siempre admitieron que las profesiones antes mencionadas mostraron una mayoría femenina», dijo el UGT.
Lo preocupante para la confederación de la Unión es que el 20% de las empresas españolas usan cinco herramientas de gestión algorítmica para temas, como dar órdenes de trabajo, monitorear la actividad laboral o evaluar el rendimiento, Según el último estudio de la OCDE para España.
«La confianza que los empleadores depositan en estos sistemas deben ser cuestionados por múltiples razones, como su tendencia a discriminar a las mujeres en el empleo», señaló.
