Esto mismo sucedió con los primeros dummies, muñecos que representan el cuerpo humano y con los que se mide el impacto de un accidente. Datan de 1949, pero tendríamos que esperar hasta 1996 para tener el primero embarazado y en 2020 aún no había un modelo que representara el tamaño y la anatomía promedio del cuerpo femenino, lo que hace que las mujeres que usan cinturón de seguridad tengan un 73% más de probabilidades de sufrir una lesión grave en un choque frontal que un hombre, según un estudio de la Universidad de Virginia. Vemos, por tanto, que estos desequilibrios resultan caros socialmente, porque la trayectoria vital de las mujeres no se incorpora a las innovaciones.

EMOJIS CON ROSTRO MASCULINO

Otro ejemplo de “masculino estándar” es el de los emojis, esos simpáticos ideogramas que se han colado en nuestro día a día a través de los teléfonos móviles y las redes sociales. Cuando estos caracteres de origen japonés se incorporaron al estándar Unicode no se establecía género. El Unicode Consortium ponía un código alfanumérico a nivel mundial y cada plataforma tecnológica lo representaba como quería. ¿Y qué pasó? Que la mayoría lo hacía como un hombre. Por ejemplo, el Unicode Consortium definía que el código U+1F4BB correspondía a una persona trabajando con su portátil y tanto Android como iOS (por dar dos ejemplos), pintaban a un chico con su ordenador. Así que en 2016 introdujeron el género, indicando que el sujeto que estaba con su computadora se trataba de una mujer (código U+1F469+U+1F4BB) o un hombre (U+1F468+U+1F4BB).

SESGOS EN INTELIGENCIA ARTIFICIAL

Como vemos, estos sesgos de género se reproducen en el ámbito digital tal y como suceden en el analógico. De hecho, en la era de la inteligencia artificial, los algoritmos de aprendizaje automático no solo no evitan el error humano derivado de sus prejuicios, sino que pueden empeorar la discriminación y están reforzando muchos estereotipos. Técnicas como el machine learning procesan un gran volumen de información para detectar patrones, formulando reglas a partir de ellos. Si esas cantidades ingentes de datos están generadas por una sociedad con sesgos, la tecnología los fortalece aún más. Un ejemplo de esto lo podemos ver en Google Translate. Este sistema aprende de las traducciones que se hacen en su propia herramienta o procesando publicaciones digitales. Si hacemos traducciones del turco, un lenguaje donde no existe el género gramatical, podemos ver cómo se reproduce la desigualdad. En este idioma no hay “él” o “ella”, así que si traduces al inglés, es la tecnología la que debe decidir el género a asignar en base a lo aprendido previamente. Es por ello por lo que nos encontramos con joyas del tipo “ella es cocinera”, “él es ingeniero”, “ella es enfermera”, “él es doctor”, “ella es perezosa” o “él es trabajador”.

Algo similar pasaba con un algoritmo de modelo predictivo que no era capaz de identificar a hombres cocinando en fotografías. Al buscar la causa, se dieron cuenta de que en los principales bancos de imágenes de los que las máquinas aprenden, un 77% de las fotos en las que aparecen personas cocinando, están protagonizadas por mujeres. Así que la tecnología infirió que, si alguien aparecía sartén en mano, debía ser mujer.

Tenemos otro caso parecido que arranca en 2003, cuando se empezó a recoger a mano nombres de personas, lugares y organizaciones que aparecían en noticias online. La idea era construir una base de datos con la que algoritmos pudieran generar modelos. Con este material se creó el repositorio CoNLL-2003, puesto a disposición de la comunidad científica e investigadora y usado en innumerables aplicaciones (ha sido citado en más de 2.500 papers). El problema es que en 2020 se descubrió que hay cinco veces más nombres de hombres que de mujeres y aquellos sistemas entrenados durante 17 años con estos datos fallan más identificando nuevos nombres de mujeres. Si no puedes reconocer el nombre de las personas, las haces invisibles para todo tipo de sistemas automatizados.

LA INTERSECCIONALIDAD

Por si esto no fuera suficiente, al sumar a la componente de género otras claves, como puede ser la raza, la edad, la etnia, la clase, la discapacidad y hasta un largo etcétera, tenemos el cóctel perfecto de la interseccionalidad, poniendo de manifiesto cómo las diferentes categorías sociales generan opresiones/resistencias y privilegios muy dispares al entrecruzarse. La interseccionalidad, pues, nos permite apreciar elementos que a primera vista obviamos, y nos muestra que, si una persona se encuentra inmersa en un gran número de identidades oprimidas, estas acabarán provocando opresiones también múltiples. Podemos ver un ejemplo de ello con la API que tiene Google para combatir la “toxicidad” en internet, Google’s Sentiment Analyzer, usada por muchos chatbots y páginas web. Es una herramienta que, a un texto dado, devuelve una puntuación de “toxicidad” o dicho de otra manera, “algo con sentimiento negativo”, para que sea más sencillo para una plataforma descartar de manera automática los comentarios con una puntuación alta (por ejemplo, en un periódico digital). Pues estos eran los alarmantes resultados que lanzaba en 2017: si el comentario incluía la frase “soy un hombre”, el nivel de toxicidad era del 20%; si el comentario incluía “soy una mujer”, la cosa subía a 41%. Pero es que si encontraba el texto “soy una mujer negra”, el marcador se ponía ya en 85% y con “soy una mujer negra lesbiana”, la cosa se disparaba hasta el 87%. La razón es que la mayoría de los comentarios con insultos que se habían recogido a mano incluían el compendio de conceptos.

Vemos por tanto que nos enfrentamos a un reto social evidente: mirar la tecnología que está moldeando nuestra sociedad hoy en día desde la diversidad (género, edad, raza…) para no establecer un modelo único como el estándar en base al que se construya todo y en el que no se vea representado todo el mundo. El desafío es grande porque los datos nos indican que hay mucho por hacer en ámbitos como las ingenierías. Si nos fijamos en la evolución de alumnas matriculadas en informática en España de 1985 a 2019, observamos que en el primer año del que se tienen datos (curso 1985-86) se matriculó un 30,12% de mujeres. En el 2019-20 la cosa había caído hasta el 12,74%. Sheryl Sandberg, exdirectora operativa de Facebook, dijo en una ocasión que "cuando escribes una línea de código, puedes afectar a mucha gente". Es por eso que la mitad de la humanidad no se puede quedar fuera del diseño de la tecnología que modela nuestra sociedad actual y futura. Y esa sociedad no se puede mirar desde la perspectiva de un único estándar (el masculino).