Alexa no sabía nada de quien era Alexia

La brecha de género en la era de la IA adquiere una relevancia crítica, debido al impacto transformador que la IA tiene y donde la representación equitativa de géneros en su desarrollo y aplicación se vuelve esencial para evitar sesgos y garantizar que los sistemas de IA sean justos y efectivos para todos.

Una brecha de género pronunciada en este campo puede llevar a la creación de sistemas de IA que perpetúan estereotipos de género y discriminación. Las mujeres cada vez más presentes en las áreas de decisión, han empezado a ocupar roles destacados como Fei-Fei Li, cocreadora de ImageNet o Joy Buolamwini, fundadora del Algorithmic Justice League, que aboga por el uso ético de la IA, como dos ejemplos de aportaciones destacadas de mujeres en este campo.

Alexa, ¿dónde se juega hoy la final de la Copa del Mundo de fútbol?” Alexa respondió “Hoy no hay partido”

Los sesgos de género en algoritmos y sistemas de IA son un problema y ocurren, cuando los sistemas de IA exhiben prejuicios o discriminación, generalmente como resultado de prácticas inadecuadas en la recopilación de informaciones y también de datos, pues muchos de estos pueden estar sesgados conteniendo prejuicios históricos o culturales. Otro de los peligros es la falta de diversidad en los equipos de IA, que puede llevar a una comprensión y perspectivas limitadas sobre los problemas de género.

La IA está en el centro de la toma de decisiones y la ausencia de diversidad impide abordar los problemas de manera inclusiva.

Toju Duke, ex-responsable de ética en IA en Google, le preguntó a Alexa: “Alexa, ¿dónde se juega hoy la final de la Copa del Mundo de fútbol?” Alexa respondió “Hoy no hay partido”. Y sí lo había, pero era la final de fútbol femenino. Alexa no sabía que allí estaba su casi tocaya Alexia Putellas doble Balón de Oro femenino, porque Alexa estaba programada para tener en cuenta sólo los partidos de fútbol masculinos…