Za zajednice koje su povijesno bile izolirane i diskriminirane, obećanja o digitalnom nadzoru u ime sigurnosti mogu donijeti strah od još veće diskriminacije i nejednakog tretmana. U SAD-u policija koristi prepoznavanje lica za usporedbu fotografija osumnjičenih sa snimkama i slikama vozačkih dozvola; procjenjuje se da gotovo polovica odraslih Amerikanaca – više od 117 milijuna ljudi, od 2016. – ima fotografije unutar mreže za prepoznavanje lica koju koriste organi reda. Ovo sudjelovanje događa se bez pristanka, ili čak svijesti, a potkrijepljeno je nedostatkom zakonodavnog nadzora. Zabrinjavajuće je, međutim, da trenutna primjena ovih tehnologija uključuje značajnu rasnu pristranost, naročito protiv crnaca i crnkinja. Time se zapravo osnažuje sustav provođenja zakona s dugom poviješću rasističkog i anti-aktivističkog nadzora.
Sve veći broj istraživanja otkriva različite stope pogrešaka algoritama prepoznavanja među različitim demografskim skupinama, pri čemu se najniža točnost dosljedno nalazi kod žena, crnaca i mladih između 18 i 30 godina. U značajnom projektu ‘Gender Shades’ iz 2018. sva tri testirana algoritma imala su najgore rezultate kod žena tamnije puti, sa stopom pogrešaka do 34% većom nego kod muškaraca svjetlije kože. Nezavisna procjena Nacionalnog instituta za standarde i tehnologiju (NIST) potvrdila je ove studije, otkrivši da su tehnologije prepoznavanja lica u 189 algoritama najmanje točne za žene koje nisu bjelkinje.
Romi i nove metode digitalnih kontrola u Europi
Kada se maknemo iz SAD-a na europski teritorij, tehnologija prepoznavanja lica ima posebno mračnu povijest koja se tiče progona romskih zajednica. Ove je godine održan i iscrpan webinar na temu, pod nazivom Prepoznavanje lica, otpor i prava Roma i Sinta. Svrha je bila, uz aktivistkinje i istraživače za prava Roma i Sinta, koji su također i stručnjaci za digitalizaciju, istražiti sjecište prava Roma s porastom korištenja metoda prepoznavanja lica i drugih oblika digitalnih kontrola i nadzora diljem Europe.
Najčešće izgovorene riječi tijekom webinara bile su “promjena paradigme”. Istraživanje o tome kako ovakva tehnologija utječe na živote ljudi i koji su potencijalni problemi vezani posebno uz romske zajednice, predstavili su Benjamin Ignac (romski istraživač i aktivist iz Hrvatske, koji živi i radi u Berlinu) i Roxanna-Lorraine Witt (ranije radila za Vijeće njemačkih Sinta i Roma, osnivačica Save Space eV).
Od pravosudnog sustava do donošenja politika, educiranje o rizicima i diskriminaciji ugrađenoj u tehnologiju izuzetno je bitno, jer se u protivnom nastavlja i produbljuje trenutna sistemska pristranost.
Kako je istaknuo Ignac, digitalizacija može predstavljati dodatni izazov za Rome koji se već dugo suočavaju predrasudama i marginalizacijom. Ako nadilaženje tog jaza ne postane prioritet politike, Romi će još jednom i na još jedan način ostati po strani.
Romi i Sinti nisu samo društveno i ekonomski isključeni, već su i digitalno isključeni u Europi. Pandemija je to pogoršala. EU zanemaruje činjenicu da je većina Roma još uvijek slabo povezana s internetom, smanjen im je pristup digitalnim tehnologijama, razina digitalne pismenosti… Još uvijek me zbunjuje kako Romi koji su digitalno isključeni iz ovih novih tehnoloških prijetnji, kako ti ljudi nisu dio razgovora na europskoj razini, na nacionalnoj razini, na razini nevladinih organizacija. Nedostatak ulaganja u ovaj digitalni aspekt prava Roma i Sinta samo će nas i dalje držati pri dnu, rekao je Ignac.
Witt je istaknula da nedostatak razumijevanja digitalnih tehnologija i onoga što one mogu značiti za naša društva ne pogađa samo romske pojedince, već često i skupine koje ih politički predstavljaju, aktiviste, udruge, kao i političare. Kad govorimo o digitalnoj pismenosti, to nije u pitanju samo tzv. prosječna Romkinja, već i velike organizacije koje nas predstavljaju na međunarodnoj razini, političari na visokoj razini. Veliki je teret srama priznati da o tome nemate pojma, ali ne radi se samo o Romima, već i o drugim ljudima, o tome kako pristupiti najmanje privilegiranima u našim zajednicama, kazala je Witt.
Problematična povijest
Istraživači su ukazali na problematičnu povijest prikupljanja biometrijskih podataka, koja se dotiče diskriminacije, ali i masovnog ubijanja Roma i Romkinja. Kad razmišljamo o povijesti prikupljanja biometrijskih podataka, neizbježno je vratiti se na holokaust. Prvi eksperimenti na ljudima izvedeni su na Romima i Sintima u Auschwitzu. Kako su ti ljudi identificirani? Po licima, za koje su drugi (bijeli) ljudi procijenili da su Romi. Današnje uporabe biometrijskog nadzora mase – poput prepoznavanja lica u javnim prostorima – reproduciraju te iste pretpostavke i predrasude. Marginalizirane i manjinske skupine opetovano se koriste kao ‘poligon za testiranje’ novih tehnologija, rekao je Ignac.
Objasnio je kako su ove vrste lažnih pretpostavki o identitetu povezane sa širim pitanjima diskriminacije i progona.Mrzim što moram živjeti u svijetu u kojem osjećam da moram sakriti svoj romski identitet jer se upravo taj identitet može koristiti protiv mene. To što vlade koriste taj identitet ili podatke o Romima na taj način potpuno je neprihvatljivo. Trebali bismo biti ponosni na svoj identitet, ali imamo mnogo primjera da će se u pogrešnim rukama podaci o Romima koristiti protiv nas, istaknuo je.
To dovodi do savršene oluje rasističkog policijskog i rasističkog pravosudnog sustava – o razmjerima diskriminacije protiv Roma u europskim kaznenopravnim sustavima na Phralipenu smo već pisali. Pravo pitanje ostaje, kada govorimo o sigurnosti – o čijoj sigurnosti zapravo govorimo?
Razgovor o sigurnosti ostaje u okvirima u kojima se određenim životima pripisuje manja vrijednost, podrazumijeva se da određeni životi zaslužuju manje sigurnosti, pa su čak i konstruirani kao prijetnja sigurnosti drugih ljudi. Sve, od tehnologije prepoznavanja lica do algoritama pretraživanja kodirano je kako bi se romski identitet povezao s kriminalom, što pokazuje da širenje tehnologija biometrijskog nadzora mase nema na umu sigurnost Roma i Romkinja. Ove se prakse temelje na premisama programera sustava i njihovoj definiciji sigurnosti. Zbog toga je perspektiva svih nas toliko važna, inače će se sve uvijek temeljiti na sigurnosti bijelaca. Moramo početi otkrivati i demontirati ideologije koje leže u osnovi tehnologije. Cijeli sustav napravljen je za bijelce i sigurnost bijelaca. Moramo promijeniti paradigmu o tome tko je zločinac, a tko nije, poručila je Witt.
Važno je primijetiti i kako se biometrijski masovni nadzor usredotočuje većinski na identificiranje i progon za tzv. sitni kriminal (kazne za parkiranje, bacanje otpada, lutanje, manje krađe), naspram ozbiljnih zločina, koje često rade upravo “obični” bijeli građani (financijski zločini, korupcijske prevare, ratovanje).
Odgovornost je na privilegiranima
Ovakve nam rasprave omogućuju da razmislimo o dubokim strukturnim pitanjima: kako izgleda nepristrani, odnosno pravedni svijet? Je li moguć? Koje metode, kakav put vodi do takvoga svijeta? Konkretno u ovom slučaju – čija je odgovornost uključiti romske zajednice?
Zaključak webinara bio je da je to odgovornost onih koji su dovoljno privilegirani. Dakle, tehnološki stručnjaci, tehnološke tvrtke, možda sa strane privatnih tvrtki, možda sa strane kreatora politike, trebaju osnažiti romske zajednice da imaju riječ u ovome, i svemu što znači: odreći se resursa – ili dijeliti resurse – dijelite privilegije, dijelite izvore digitalne pismenosti, podržavajte te zajednice i zakonodavce u njihovoj digitalnoj emancipaciji i uklanjajte sveprisutni sram, jedna je od zaključnih poruka istraživača.
Ignac je ovu situaciju usporedio s klimatskom krizom, za koju ljudi znaju već dugi niz godina, ali su tek nedavno počeli nešto raditi po tom pitanju. Sada je vrijeme da zaštitimo naše zajednice, izgradimo pravosudni sustav, doprinesemo zakonodavstvu. Svi moramo imati glas u kojem smjeru želimo da tehnologija ide: neka taj smjer bude čovjek s temeljnim pravima kao kamen temeljac, poručio je.
Objavu ovog teksta podržala je Agencija za elektroničke medije
