Gauza bera gertatu zen sortu ziren lehen dummyekin, hau da, istripu baten inpaktua neurtzeko erabiltzen diren eta gizakien gorputza irudikatzen duten panpinekin. Nahiz eta lehen panpina 1949an sortu zen, 1996ra arte itxaron behar izan genuen haurdun zegoen lehen panpina ikusteko eta 2020. urtean oraindik ez genuen emakumearen gorputza (altura eta anatomiari dagokionean) irudikatzen zuen panpinarik. Horrek ondorio latzak ditu, izan ere, Virginiako Unibertsitatearen arabera, segurtasun uhala erabiltzen duten emakumeek gizonezkoek baino % 73ko aukera handiagoa dute aurrez aurreko talka baten ondorioz lesio larriak izateko. Ikusi dezakegu desoreka hau oso garesti ateratzen zaigula sozialki, izan ere, emakumeen bizi ibilbidea ez da kontuan hartzen berrikuntzan.

GIZONEZKO AURPEGIA DUTEN EMOJIAK

“Gizonezko estandarraren” beste adibide bat emojietan, hau da, sare sozial eta mugikorrei esker gure egunerokotasunean barneratu diren ideograma sinpatiko horietan, aurki dezakegu. Japoniatik datozen karaktere hauek Unicode estandarrean sartu zirenean, aurpegitxoek ez zeukaten generorik. Unicode Consortium organizazioak kode alfanumeriko bat jartzen zuen mundu mailan eta, horren ostean, plataforma teknologiko bakoitzak nahi bezala irudikatzen zituen. Zer izan zen gertatu zena? Gehienek gizonezkoen aurpegiekin irudikatzen zituztela. Adibidez, Unicode Consortiumen arabera, U+1F4BB kodeak pertsona bat ordenagailu eramangarriarekin irudikatzen zuen, eta, Apple edota Androidek (adibide batzuk emateagatik), gizonezko bat irudikatu zuten bere ordenagailua aurrean zuela. Horren ondorioz, 2016an generoa kontutan hartu zuten, eta ordenagailuaren aurrean zegoen hori emakumea (U+1F469 + U+1F4BB) edo gizonezkoa (U+1F468 + U+1F4BB) izango zen ezarri zuten.

ADIMEN ARTIFIZIALAREN JOERAK

Ikus dezakegunez, genero joera horiek eremu digitalean erreproduzitzen dira, analogikoan gertatzen den bezala. Egiatan, adimen artifizialaren aro honetan, ikaste automatikoko algoritmoek gizakien akatsak ez saihesteaz gain, diskriminazioa areagotu dezakete, estereotipoak sendotzen dituzten bitartean. Machine learning bezalako teknikek, adibidez, datu kopuru handia prozesatzen dute ondoren patroiak detektatu eta horietan oinarriturik arauak ezartzeko. Datu kopuru izugarri hori joera handiak dituen gizarte batean oinarriturik badago, teknologiak are gehiago nabarmentzen ditu joera horiek. Honen adibide dugu Google Translate. Sistema honek bere tresna propioan edota publikazio digitaletan egiten diren itzulpenetatik ikasten du. Turkiera (genero gramatikalik gabeko hizkuntza) itzuli nahiko bagenu, adibidez, berdintasun-ez hori nola ematen den ikusteko aukera izango genuke. Genero gramatikalik ez duen hizkuntza bat izatean, teknologia da ingelesera itzultzean generoa erabaki behar duena (aurretik ikasi duena kontutan izanda, noski). Horren ondorioz, “she’s a cook” (bera – emakumea – sukaldaria da), “he’s an engineer” (bera – gizonezkoa – ingeniaria da) “she’s a nurse” (bera – emakumea – erizaina da) “he’s a doctor” (bera – gizonezkoa – medikua da), “she’s lazy” (bera – emakumea – alferra da) edota “he’s hard working” (bera – gizonezkoa – langilea da) bezalako altxorrak aurki ditzakegu.

Antzeko zerbait gertatzen zen aurresateko ereduaren algoritmo batekin, hori ez baitzen gauza argazkietan gizonezkoak sukaldean egiten identifikatzeko. Horren jatorria bilatzerakoan, konturatu ziren makinek ikasten duten irudi bankuetan, janaria prestatzen agertzen ziren pertsonen % 77 emakumeak zirela. Teknologiak, orduan, ondorioztatu zuen eskuan zartagin bat duen orok emakumea izan behar duela.

2003an antzerako beste kasu bat gertatu zen. Online agertzen ziren berrietako pertsona izenak, lekuak eta organizazioak eskuz batzen hasi ziren datu base bat sortzeko helburuarekin, ondoren algoritmoek modeloak sortu ahal izateko. Material honekin CoNLL-2003 biltegia sortu zen, eta hau, komunitate zientifiko eta ikertzailearen eskuetan jarri zen, milaka gauzatarako erabiliz (2.500 paper baino gehiagotan aipatua izan da). Arazo bat dago, ordea: 2020an konturatu ziren biltegi honetan agertzen ziren gizonezkoen izenak, emakumezkoenak baino bost aldiz gehiago zirela. Sistema hau 17 urtetan horrela entrenatu izanaren ondorioz, arazo gehiago ditu sistemak emakumeen izenak identifikatzeko orduan. Pertsonen izenak identifikatzeko gauza ez bada, sistema automatizatu guztien aurrean ikusezin egiten ditu pertsona horiek.

INTERSEKZIONALITATEA

Guzti hau nahikoa izango ez balitz, generoaren osagarriari beste ezaugarri batzuk gehituko bagenizkioke, adibidez, jatorria, adina, etnia, klase soziala, edota desgaitasuna, intersekzionalitatearen koktel perfektua izango genuke, agerian jarriz gizarte kategoria desberdinek, elkar gurutzatzean zapalkuntza/erresistentzia eta pribilegio oso desberdinak sortzen dituztela. Intersekzionalitateak, begien bistan ez ditugun elementuak balioztatzen laguntzeaz gain, erakusten digu, pertsona bat zapalkuntza jasaten duen talde batean edo gehiagotan sarturik badago, honek ere zapalkuntzak eragingo dituela. Googleren “toxikotasunari” aurre egiteko APIa, Google’s Sentiment Analyzer, chatbots eta webgune askotan erabiltzen dena, honen adibide argia dugu. API honek, testu baten “toxikotasuna” edo hobeto esanda, “sentimendu negatiboa duen zerbait” detektatzen du eta puntuazio bat ematen dio. Modu honetan, plataformarentzat errazagoa da puntuazio altua duten komentarioak automatikoki baztertzea (egunkari digital batean, adibidez). 2017an, ordea, emaitza larri batzuk argia ikusi zuten: iruzkinak “gizon bat naiz” esaldia bazeraman, toxikotasun maila % 20koa zen; iruzkinak “emakume bat naiz” esaldia bazeraman, % 41era igotzen zuen. Baina, iruzkinak “emakume beltz bat naiz” esaten bazuen, markagailua % 85era heltzen zen, eta “emakume beltz lesbiana bat naiz” esaldiarekin, % 87ra arte heltzen zen. Zein izan zen horren arrazoia? Ordura arte jaso zituzten irain gehienek kontzeptu horiek jasotzen zituztela.

Guzti honekin ikusi dezakegu erronka sozial handiaren aurrean gaudela. Erronka hori, gure gizartea moldeatzen ari den teknologia dibertsitatetik (generoa, adina, arraza) begiratzea da, horrela, mundu guztia irudikatzen ez duen modelo bakar eta estandar bat izan ez dezagun. Desafioa handia da, izan ere, datuek diote oraindik gauza asko ditugula aldatzeko ingeniaritzan eta antzeko inguruneetan. 1985-2019 urteetan Espainian informatikan matrikulatutako emakumezko ikasleei begiratzen badiegu, ikusi dezakegu lehen urtean (1985-86 kurtsoan), emakumezkoak % 30,12a izan zirela. 2019-20 kurtsoan, ordea, zenbakia % 12,74raino jaitsi zen. Sheryl Sandberg, Facebookeko zuzendari operatibo ohiak, honako hau esan zuen bere garaian: “kode lerro bat idaztean, jende askorengan eragin dezakezu”. Horregatik diogu gizartearen erdia ezin daitekeela teknologiaren diseinutik kanpo geratu, honek gure gaur egungo eta etorkizuneko gizartea moldatzen baitu. Gizarte hau ezin daiteke soilik estandar bakar batetik (gizonezkoen estandarretik) begiratu.