Horrez gain, Itziar pertsona ezin hobea da machine learningaren inguruan, izan ditzakeen joera diskriminatzaileen inguruan eta gizartearentzat honek esan nahi duenaren inguruan solasean aritzeko. Izan ere, aurretik aipatu dugun guztia gutxi balitz, bere eboluzio zientifiko eta ibilbide profesionalean zehar, sektore ezberdinetako arazoak konpontzen saiatzeko adimen artifizialarekin erlazionatutako tresnak diseinatu ditu.

Lehenik eta behin, hitz egiguzu pixka bat zutaz. Nor da Itziar Landa?

Profil teknikoko pertsona bat naiz, hala ere, bilakaera handia izan dut eta orain kudeaketan lan egiten dut. Neure denbora eman dut bilakaera honetan, izan ere, lanaren alderdi teknikoan etxean bezala sentitzen nintzen.

Gure lanean, beti zientzia eta letren artean dauden oztopoak lausotzen saiatzen gara. Pertsonekin lan egitean edo ingurugiro teknikoago batean, zure ustez, ba al daukazu ikuspegi ireki eta holistikoago hori? Erabiltzen al duzu zure egunerokotasunean?

Bai, erabat. Nire ustez, machine learning egitera heltzen diren pertsona gehienak fisika- eta matematika-ikasketetatik datoz, informatika- edo ingeniaritza-ikasketetatik baino hein handiagoan, nahiz eta azken horiek jotzen diren arlo honetara iristeko bilakaera “naturaltzat”. Horrek lotura handia du abstrakzio matematikoaren mailarekin; dena dago lotuta.

Adibidez, filosofian eta arrazoiketan abstrakzio-maila handia izan behar duzu beste posizio edo ideia batzuk defendatzeko. Norbere burutik irten eta abstraitu, ulertu ahal izateko. Hori asko gertatzen da matematiketan; izan ere, matematikak deterministak direla esaten dutenean, hau da, 1+1 = 2 dela esaten dutenean, ez du zertan horrela izan.

Aljebran, fisikan edo are telekomunikazioetan, abstrakzio maila bat behar da. Memoria eta arrazonamendua ez dira nahikoa aurrerapenak egiteko.

Buruari bueltak emateko, oztopoak desagerrarazteko eta gauzei behar dena baino buelta bat gehiago emateko gaitasun hori zientzia eta letretako ikasketa askotan lortzen da, eta doktoretza batean, are gehiago. Azkenean, “behartu” nahi duzun gaia beste maila batera eramatea da kontua, gai horren inguruan dituzun ezagutza oztopoak bultzatzea. Eta horrek, erakargarria ere baden arren, arbuioa ere eragin dezake.

Zein da abstrakzio maila horretara heltzeko egin beharreko prozesua?

Elkarrizketaren puntu horretara heltzeko, burua prestatzen eta berotzen hasi behar zara. Esaten dute ikerketarako ingurunea oso bakartia dela, baina ez da hala; norbaitekin ideiak partekatzen dituzunean, magia gertatuko balitz bezala da. Nire ustez, ideiak sortzeko prozesuan eta arazoak konpontzeko orduan, ezinbestekoa da taldean edo modu horretan estimulatzen zaituen norbaitekin lan egitea.

Gure egunerokotasunean ikus dezakegu nola ahots bidezko laguntzaileek, chatbotek edo are aurpegia errekonozitzeko programek ere, joera diskriminatzaile intersekzionalak erreproduzitzen dituztela. Hau ulertu ahal izateko, azaldu diezagukezu nolakoa den algoritmoak diseinatzeko eta machine learningean datuak entrenatzeko prozesua?

Hori gertatzea ez litzaiguke arraroa egin beharko. Musikak, laguntzaileak eta adimen artifizial bidez sortzen diren epaileek, adibidez, joera diskriminatzaile horiek dituzte algoritmoak entrenamenduz eta programazioz osaturik daudelako.

Algoritmoari diskriminatzailea izatea leporatzen diogunean, kontuan izan behar dugu, diseinua eta nork diseinatzen duen jakitea garrantzitsua den arren, datuak direla funtzionamendu onaren atzean dauden elementuak, hein handi-handi batean. Datu hauek, noski, errealitatearen irudikapena dira. Algoritmo batek zuk irakasten diozuna ikasiko du, eta gure gizartea diskriminatzailea da; mundua matxista, homofoboa eta arrazista da; hori horrela da. Ondorioz, datuen set horiek joera diskriminatzaileak izango dituzte.

Jarri dezakezu egunerokotasunean erabiltzen dugun produkturen edo zerbitzuren baten adibidea?

Bai, kasu polemiko bat Apple Payren kreditu linea izan zen, non generoen arteko arrakala izugarria zegoen. Mundu guztiak algoritmoari bota zion arazoaren errua, eta hori aztertu daitekeen gai bat da. Bestetik, galdetu behar dugu: zer daturekin entrenatu zuten algoritmo hori? Adibidez, algoritmo sinple batek, “bai” eta “ez” aukeren artean sailkatzeko balio du. Algoritmoa milaka adibiderekin entrenatzen da, pertsona bakoitzaren datu pertsonal askorekin, eta datu horien artean dago ea kreditua eman zaien edo ez. Adibide horiekin guztiekin, algoritmoak ikasten du zer ezaugarri-konbinaziok eragiten duen baietza eta ezetza maximizatzea eta bereiztea. Teknikoki, zure helburua datuak bi kategoria horietan bereiztea da. Hori da programatzen dena, maximizatzeko parametro ezberdinak. Algoritmo on bat izango litzateke datu horiek ondo ezberdintzen dituena.

Entrenatzeko emandako datuetan, ordea, kreditua eman zaien pertsonen % 99 gizonezkoak izan badira, algoritmoak errealitate horretatik edango du. Orduan, kasu berri bat dagoenean, joera diskriminatzaile hori islatuko du.

Prozesu honetan, zer egin daiteke joera horiei aurre egiteko? Non esku har dezakegu?

Zer esango dizut ba nik, emakumea naizen aldetik… mundua aldatzea litzateke ezin hobea. Teknologiak objektiboa izan behar du eta, gaur egun, algoritmo hori objektiboa da. Gertatzen dena da, datu subjektiboekin lan egiten ari dela. Teknologiari errua botatzen ari gara, nahiz eta, egiatan, datuak diren gakoa (nahiz eta beste faktore batzuk ere sartu daitezkeen).

Datuak edo algoritmoak aldatzeaz gain, zenbait mekanismo ezar ditzakegu algoritmoak eta horien inpartzialtasuna gainbegiratzeko.

Hiru aukera horiek, teknikoki, teknologiaren adar batek aurrera egitea ekarriko lukete, hots, IAren esplikagarritasunak aurrera egitea. Ez dira kutxa beltzeko modeloak; sarri entzun ohi dugu ez dakigula zertan oinarritzen den Googleren algoritmoa erabakiak hartzerako orduan. Bada, bai, badakigu.

Esplikagarriak diren modeloak daude. Modelo horiek, erabakiei dagokienean, zuhaitz bat marrazten dute. Galderak egin eta erantzun ahala, zuhaitz horren adar batetik edo bestetik eramaten zaitu. “Pertsona honi kreditu bat eman diote, bai” esaten badiogu, adibidez, lehen adarretik jaitsiko zara. “Emakumea edo gizonezkoa da?”, “eman al zaio kreditua edo ez?”, adar ezberdinetatik joaten jarraitzen duzu. “Kontratu mugagabea du edo ez?”. Galdera eta datu guztien amaieran, esaten zaizu pertsona bati kreditu bat emateko kontutan hartuko diren ezaugarriak zein diren eta zer nolako probabilitatea hartu den kontuan azken erabakia hartzeko. Hori algoritmo esplikagarri baten adibide bat baino ez da.

Hitz egin dezagun joera diskriminatzaileak murrizteko perspektiba ezberdinetako begiradak kontutan hartzeaz. Nola jokatu dezakegu gai honetan?

Badaude horretarako aukera ematen duten zenbait arlo, adibidez, industrian akatsak klasifikatzea, dronen bidez idorteak detektatzea, eta abar. Kasu horietan, subjektibitate maila oso txikia da. Algoritmoak epaileak ordezkatzeko erabili nahi badituzu, ordea, ez dute behar bezala funtzionatuko.

Algoritmoaren helburua kontuan hartu beharreko faktorea da. Batzuen xedea erabaki bat hartzen laguntzea da; beste batzuk automatikoak dira. Erabakiei laguntzeko algoritmoak, adibidez, aurretik pasatako antzeko sententziak bizkorrago aurkitzeko edo legeak eskura izateko balio dezakete. Informazioa prozesatzen dute eta informazio horrek pertsonari erabakia hartzen laguntzen dio.

Bestalde, aurpegia errekonozitzeko programak edo trafikoa kudeatzen duten horiek… joera diskriminatzaileak izateko ia arriskurik gabe automatizatu daitezke. Autoaren koloreak eta antzeko faktoreek ez dute joerarik izaten; pertsonekin erlazionatzen diren ezaugarri horiek, ordea, bai.

Adimen artifiziala “kausa-akzioa” efektua ikasteko gai da, baina ekintza bat egitearen atzean dagoen logika hori, adibidez, epaiketa batean baloratzen ari diren zerbait, ez du sekula ulertuko. Ekintza eta emaitza baten aurrean, bi pertsonak gauza bera egin dezakete, baina intentzioa eta emozioak ez daude parametrizaturik. Horren ondorioz, algoritmoak ezingo du jakin akzioaren atzean egon den zergati hori, soilik efektua eta kausa; baina uste dut hau ez dela nahi duguna. Gauza asko gizakien eskuetan uzten jarraitu beharko dugu eta ondo dago hori horrela izatea.

Nola uste duzu izango dela etorkizuna teknologiaren arloan joera diskriminatzaileei dagokienean? Gauza izango al gara halakoak saihesteko? Ba al dago halakoak saihesteko benetako ahalegin eta interesik?

Zientzia asko oinarritzen ari da adimen artifizialaren esplikagarritasunean hori baita, egiazki, hobetu daitekeen alderdi bakarra; gainerakoa datuen tratamenduan datza.

Adimen artifizialaren etika lantzen duten batzordeak ere aurrerapenak izaten ari dira, nahiz eta enpresa pribatuen algoritmoak oraindik ezin diren ikuskatu. Hau aldatzeko lanean aritzeaz gain, enpresa pribatuek beraien algoritmoak Open Source gisa eskuragarri jartzea ere lortu nahi da, gardenak eta joera diskriminatzailerik gabeak direla ikusi ahal izateko.

Adibidez, osasun publikoari dagokionean, paziente bat zerrendetan lehen postuan jartzeko edo minbiziaren detekzio goiztiarra egiteko erabiltzen diren algoritmoak nahitaez ikuskatu behar dira. Enpresa guztiak Open Source ekimen honen parte izatea nahi dugu. Gizartea aurrerapenak egiten ari da algoritmoen filosofia gardentasuna izan dadin, gizartea kontzientzia hartzen ari da algoritmoak ikuskatu egin daitezkeela, baita nola ikuskatu daitezkeen ere.

Azkenik, gai honi buruz duzun ikuspuntuari eta zure iritzi pertsonalari buruz galdetu nahi dizugu. Gehitu nahi al duzu beste zerbait elkarrizketa honetan?

Pertsonalki, garrantzitsua iruditzen zait ohartaraztea zientzien arloan emakumeen kopurua jaitsi berri dela, eta hau, urte batzuk barru, enpresetan nabarituko dela. Nire ustez, esfortzu handia bideratu behar dugu hezkuntzaren joera diskriminatzaileetara.

Neskato batek 18 urte betetzen dituenean eta bere goi-mailako ikasketak aukeratu behar dituenean, aurreko urteetatik dakartzan joera gehiegi ditu buruan. Normala da buruan nahaste-borraste izugarria izatea edo zer ikasi nahi ez duzun jakitea, baina, nahi ez duzun (edo ausartzen ez zaren) horren atzean, gizartearen aurretiazko lana ikus daiteke. Joera horien ondorioz, emakume bat ez da zientzia, teknologia edo ingeniaritza batean sartuko guztiz ziur ez badago.

Emakumeek, askotan, uste dute ezin direla erdibidean geratu ingeniaritza bat ikasterako orduan, uste dutelako oso nota onak atera behar dituztela. Zure buruaz oso ziur, oso zoraturik edo laguntza handia izan behar dituzu atzean, 5eko batez besteko nota izanik, ingeniaritza bat ikastera sartzeko. Gizonak, ordea, 5 batekin saiatzen dira; emakumeak ez.

Zeure burua adimenduntzat ez baduzu, ez zara erronka izango den karrera batean sartuko, ez duzulako nahi zure burua “ikusgai jarri”. Gizonek, txikitatik, kemena daramate beraiekin (jaiotzen diren unetik hezkuntzak eta gizarteak bultzatuta) eta erronka horiekin arriskatzeko gai izan ohi dira. Teknologiaren arloko ikasketak egiten dituzten emakumeen eta gizonen batxilergoko noten batez bestekoari begiratuz gero, ikus dezakegu bien arteko desberdintasuna ikaragarria dela.

Emakumeontzat, gizarteari aurka egitea da –izan ere, nola sartuko zara, bada, telekomunikazio-ikasketak egitera, 9ko batez besteko nota izan gabe? Nor naiz ni?– Gizonak, ordea, buruz egiten dute salto erronka horretara. Gizarteak horiei ingeniariak izateko aukera eman die; guri, ordea, zuhurragoak izatea eskatzen zaigu. Ikasketetan ateratako noten eta arlo profesionalean duzun arrakastaren arteko harremanaren inguruan ere gogoeta egin beharko genuke.

Hori guztia hain barneratuta izatearen ondorioz, egia bihurtzen da. Horrela dela sentitzen dugu, behintzat. Noiz amaituko da hau, orduan? Hori sentitu baino lehenago; izan ere, bere buruaz oso seguru dagoen emakume batek ere joera diskriminatzaileak barneraturik ditu. Horregatik, esan bezala, joera hau errotik aldatu behar dugu eta hori lortzeko daukagun tresna esanguratsuena txikitatik jasotzen den hezkuntza da.