Algoritmoak bizi gaitu

"Algoritmo” hitzak zuen zentzu ia soilik teknikoa galdu du eta hitz polisemiko bilakatu da. Askorentzat, “algoritmoa”, generikoan, gaitz guztien sorburua da edo “algoritmoek” kontrolatzen gaituzte. Beste batzuentzat, bizitza errazten digu “algoritmoak”, eta gauzak errazago bilatu edo egiteko aukerak ematen dizkigu. Baina, zergatik hartu du hitz horrek hainbesteko garrantzia gure bizitzetan? Bada, algoritmoek gure bizitza markatzen dutelako.

Algoritmoak arau edo agindu segida bat besterik ez dira. Zehatz-mehatz, bata bestearen atzetik modu jakin batean exekutatuko diren aginduak dira. Konplexuagoak edo sinpleagoak izan daitezke, eta haien barrunbeak (kodea) ezagutzeko aukera izango dugu edo ez, baina behin aginduak exekutatuta, emaitza jakin bat ematen duen makina batek sortutako emaitzak dira. Algoritmoek, horrela azalduta, sinpleak dirudite, baina gure bizitzetan txertatuta, gure parte bihurtu dira: izan erosketak gomendatzeko, irakurri behar duguna aukeratzeko, eguraldia ezagutzeko edota hurrengo oporrak planifikatzeko. Algoritmoak leku guztietan daude.

“Algoritmo”, letra larriz hasita nahi bada, beste zerbait esateko erabiltzen hasi gara. Batzuetan “Algoritmoa” erabiltzen dugu izaera jainkotiar moduko zerbait adierazteko, izan onerako edo txarrerako: «Algoritmoak kontrolatzen gaitu» edo «Algoritmoak salbatuko gaitu». Proposamen zehatza da horrelako adierazpideak baztertzea. Algoritmoek ere jabeak dituzte, eta norbaitek diseinatu, programatu eta exekutatzen ditu; gizatalde batek, normalean. Beraz, albora dezagun izaera ahalguztidun hori.

HITZETIK HARAGO

Hitzetik harago, ezin uka algoritmoek presentzia handia duten gizarte honetan eragin zehatzak izaten ari direla. Gizakiak berarentzat erosoa dena onartzeko joera du, eta hor ere sartzen da zenbait erabaki delegatzeko gogoa edo beharra. Algoritmo batzuek horretan laguntzen digute, baina hori gure izaera indibidualean zein kolektiboan eragina izaten ari da. Gaiak ertz asko ditu, eta ikuspuntu negatiboak bakarrik aipatzea mugatzailea izan daitekeen arren, gaurkoan hor jarriko dugu arreta: nola eragiten digute algoritmoek? Beldurra sartzeko gogorik gabe, baina arazoez jabetzeko helburua dauka artikuluak.

Erantzuna gero eta argiagoa da: ez dira neutroak, ezta kaltegabeak ere. Sare sozialetako iragazkietatik hasi eta lan-aukeretako gomendioetara arte, algoritmoek erabakiak hartzen dituzte gure ordez -eta ez beti modu bidezkoan-. Are gehiago, algoritmoen inpaktua ez da bera guztiontzat: gazteek, emakumeek, arrazializatutako gorputzek eta langileek arrisku bereziak pairatzen dituzte. Artikulu honetan lau dimentsiotan aztertuko dugu algoritmoek gugan duten eragina.

GAZTERIA: IKUSGAITASUN TOXIKOA ETA ONGIZATEAREN MEHATXUA

TikTok, Instagram, YouTube eta antzeko plataformek edukiak nola iragazten dituzten ez da kasualitatea: algoritmoen lana da. Azken ikerketa baten arabera, TikTok-ek edukien ikusgaitasuna erregulatzen du, eta erabiltzaile bat eduki misoginoarekin elkarrekintzan hasten denean, horrelako mezuen presentzia lau aldiz handiagoa bihurtzen da oso denbora laburrean. Horrek gazteen iruditeria eta harreman-moduak eraldatzen ditu, eta, askotan, osasun mentalari kalte egiten dio.

Oraindik gurean hainbeste gertatzen ez bada ere, zenbait ikastetxetan erabilitako algoritmo prediktiboek -ikasleen arrakasta neurtzeko asmoz- huts egiten dute maiz. Huts horiek aurreiritziak erreproduzitzen dituzte, ikasle batzuen potentziala gutxietsiz eta estigmatizatuz, adibidez.

EMAKUMEAK ETA GORPUTZ ARRAZIALIZATUAK: DISKRIMINAZIO AUTOMATIZATUA

Algoritmo askok diskriminazio estrukturalak erreproduzitzen dituzte, nahiz eta aurpegi “teknologikoa” edo “neutrala” aurkeztu. Adibidez, aurpegia ezagutzeko sistema automatikoek akats-tasa handiagoa dute emakume beltzen kasuan, eta, alderantziz, gizon zuriekin ia akatsik ez dute egiten.

Osasungintzan, arazoak are larriagoak dira. Algoritmo kliniko batzuek arrazaren arabera “egokitzen” dituzte diagnostikoak, eta horrek tratamendu gutxiago edo kalitate apalagoko arreta ekar dezake. Halaber, emakumeek -eta bereziki emakume arrazializatuek- euren mina gutxietsita ikusten dute sistema horietan. Ez da errore tekniko hutsa: botere-harreman zaharren isla digitala da.

LANA ETA OSASUN MENTALA: NEKEA ETA AUTOMATISMOAREN ALIENAZIOA

Tresna hauek gero eta presenteagoak dira lan-munduan ere: lanbideak gomendatzen dituzte, produktibitatea neurtzen dute eta langileen portaera ebaluatzen dute. Frogatu da zenbait sistema gomendatzailek, adibidez, emakumeenganako diskriminazioa erreproduzitzen dutela beren gomendioetan; emakumeei aukera gutxiago eskaintzen dizkiete, aukera-berdintasuna urratuz.

Franco “Bifo” Berardi filosofo eta aktibista italiarrak azaldu bezala, algoritmoek ez dute soilik lanaren antolaketa aldatzen, gure barne bizitza ere baldintzatzen dute. “Arimaren alienazioa” aipatzen du, lan kognitiboa eta digitala erritmo eta zirkuitu algoritmoetan sartzen da, eta horrek antsietatea, estresa eta nekea eragiten ditu.

Zabalago, Berardik dio algoritmoek gidatutako ingurune digitalak mutazio kognitibo eta afektibo sakona eragin duela gizakiongan: arreta sakabanatu eta etena bihurtu da, hizkuntza sinplifikatu eta bortitzago bilakatu da, eta desirak automatizatuta datoz, aurreikusi daitezkeen bideetatik. Horrek guztiak subjektibotasuna eta komunitatea ahultzea dakar berarekin, esfera publikoaren desagerpenarekin eta ekintza kolektiboaren paralisi emozionalarekin batera. Gainkarga informatibo eta estimulu fragmentario hori irudimena, hausnarketa eta etorkizuna asmatzeko gaitasuna urratzen ari dela baieztatzeraino iritsi da Berardi.

OSASUN-SISTEMAK ETA ALGORITMO KLINIKOAK: ARRISKU ETIKOAK

Zenbait ospitale eta osasun-zentrok algoritmoak erabiltzen dituzte gaixoen arriskua neurtzeko, baliabideak hobeto banatzeko helburuz. Baina ikerketa batek erakutsi du sistema horietako batzuek baliabide gutxiago esleitzen dietela paziente beltzei adibidez, nahiz eta haien egoera klinikoa antzekoa izan zuriekin alderatuta.

Arazoa da algoritmoek iraganeko datuetan oinarritzen direla, eta datu horiek jada baztertzaileak badira, emaitzek ere bazterketak erreproduzituko dituztela. Osasungintzan, hori kalte larriak sortzen dituen arazo larria da.

ZER EGIN?

Ezinbestekoa da algoritmoak garatzerakoan ikuspegi etiko eta intersekzionala txertatzea. Ez da nahikoa datu batzuk kentzea edo “doikuntzak” egitea. Behar dira, algoritmoen diseinuan eta ebaluazioan, parte-hartze komunitarioa, gardentasuna eta kontuak emateko mekanismoak.

Berardiren hitzetan, «etorkizuna irudikatzeko gaitasuna berreskuratu» behar dugu, gure subjektibotasunaren kontrola algoritmoen esku ez uzteko, eta teknologia gizakiaren zerbitzura jartzeko ausardia politikoa garatu. Badira horretan lanean ari diren zenbait erakunde ere. Horien artean, interesgarri bat: adalovelaceinstitute.org