Autoría: Espai Societat Oberta + Canòdrom + Algorights
Justícia algorítmica, sistemes de decisions automatitzats, drets humans i desigualtats. Durant el seu pas per Barcelona a l’octubre, l’escriptora, politòloga i professora estatunidenca Virginia Eubanks va participar en diferents trobades en les quals va remarcar que no existeix la neutralitat algorítmica i va insistir que cal involucrar les persones afectades en les lluites contra les tecnologies discriminatòries.
Eubanks es va reunir amb activistes a l’Ateneu del Raval i també va oferir una xerrada oberta al públic al Canòdrom – Ateneu per la Innovació. Totes dues trobades van ser co-organitzades per l’Espai Societat Oberta juntament amb Algorights i el Canòdrom, i en elles Eubanks va compartir les seves recerques i conclusions sobre els sistemes automatitzats en matèria de drets socials.
Històries personals per apropar realitats mundials
Eubanks creu en les històries personals per a acostar la seva recerca a un públic heterogeni. De fet, el seu llibre ‘L’automatització de la desigualtat’ recopila diverses d’aquestes històries. En la conversa que va mantenir amb Jordi Vaquer (Open Society Foundations), Lina María González (Algorights) i Oyidiya Oji Palino (Catàrsia), Eubanks va anar desgranant algunes d’aquestes històries i va destacar què tenien aquestes en comú. A més, la intervenció de Virginia Eubanks al Canòdrom va deixar diversos titulars i aquí compartim quatre que ens semblen clau per a entendre la seva feina:
- La desigualtat és estructural, no una qüestió individual
- S’han d’investigar els sistemes automatitzats de l’administració
- Cal involucrar a la persones afectades en les lluites
- A vegades les solucions vénen de les persones i moviments socials
Un dels punts fonamentals de la recerca d’Eubanks i del seu discurs és la idea d’imparcialitat, dels biaixos. Sovint la tecnologia i els sistemes automatitzats són presentats com a neutrals, i els algorismes aprenen a prendre decisions esbiaixades que es converteixen en “permanents i legitimades”. Sobre això va voler preguntar-li Jordi Vaquer posant l’accent també en com la població exclosa en matèria d’habitatge o treball també ho està quan parlem d’accés a la tecnologia.
Violències i xarxa global
“Hi ha violències invisibles per part de les administracions i els seus sistemes tecnològics. Com podem demostrar que l’automatització amplifica el sofriment de les persones a les quals se suposa que volen ajudar?, va preguntar Oyidiya Oji Palino, membre del col·lectiu de asiáticodescendents Catàrsia. “Violència econòmica és violència”, recordava Eubanks. “Cal pensar que les persones en situació d’exclusió social tenen veu pròpia i coses a dir i aportar per a trobar solucions, més enllà d’un algorisme”, va afegir en resposta a Oji Palino.
Com a veu del col·lectiu Algorights, Lina María González va voler preguntar a Eubanks com imagina ella que es pot crear una xarxa global en la qual la societat civil tingui veu i es protegeixi dels biaixos i desigualtats provocades pels sistemes automatitzats que es van repetint en diferents països. A aquesta qüestió Eubanks va respondre que per sort s’està trobant cada vegada més converses al voltant de la injustícia algorítmica. Malgrat això, l’autora lamenta que troba a faltar dos aspectes en aquesta lluita: més presència de les veus de les persones afectades i més interès en converses globals per a posar en comú problemàtiques sobre tecnologia i justícia social al voltant del món.
Per a acabar, Eubanks va recordar que hem de vigilar amb el Maths Washing, ja que existeix una certa “tendència a no voler entendre de què van els sistemes automatitzats perquè ens han venut el conte que és impossible d’entendre i no ho és tant. Espero que la gent tingui interès a aprendre i defensar els seus drets”.
Trobada informal per posar en comú
En la reunió a porta tancada amb activistes, l’autora de ‘L’automatització de la desigualtat’ va compartir amb el grup quines havien estat les seves motivacions per a escriure el llibre. “Intento explicar els problemes de la tecnologia als quals ens enfrontem i els problemes als quals fan front les persones més afectades. També intento comprendre els sistemes i el seu comportament, explicar històries sobre el terreny i fer entendre a la gent que el futur no està tan lluny i que la tecnologia ja està afectant les nostres vides”, comptava Eubanks.
L’escriptora va lamentar també que la tecnologia rebi “massa atenció” i s’estigui deixant de banda els diferents contextos socials. A més, Eubanks va advertir al grup d’activistes amb les quals es va reunir que ha pogut observar patrons de comportament entre els EUA i Espanya. “Crec que esdeveniments com el d’avui són realment importants per a compartir el que succeeix i entendre altres casos. També perquè alguns sistemes que ja s’utilitzen en alguns països s’implementaran en d’altres tard o d’hora. Hem d’identificar el que passa a les nostres comunitats, aprendre com ens afecta i com combatre-ho”, va afegir.
Eubanks va emmarcar la visita i les seves xerrades en el context del nou projecte en el qual està treballant. Es tracta de recopilar noves històries relacionades amb les decisions automatitzades i els serveis socials. “M’interessa especialment tot el que tingui a veure amb l’ingrés mínim vital perquè als EUA pensen que això podria resoldre tots els problemes i aquí estic veient que podria no ser cert”, confessava. “Estic recopilant històries a 12 països i haig d’advertir que cap dels sistemes de presa de decisions és neutral”, va concloure Eubanks.