Tehnologija prepoznavanja lica ima dugu istoriju u kojoj se prepliću nadzor i kontrola zasnovani na identifikaciji fizičkih karakteristika.
Policija Šri Lanke je, 2019. godine, optužila Amerikanku Amaru Majed za terorizam. Robert Vilijams je uhapšen ispred svoje kuće u Detroitu i zadržan je u zatvoru 18 sati zbog navodne krađe satova 2020. godine. Randal Rid je, 2022. godine, proveo šest dana u zatvoru zbog navodnog korišćenja ukradene kreditne kartice u državi u kojoj nikada nije bio.
U sva tri slučaja vlasti su imale pogrešne osobe. U sva tri slučaja, tehnologija prepoznavanja lica im je rekla da su izabrali prave osobe. Službenici za sprovođenje zakona u mnogim američkim državama nisu u obavezi da otkriju da li su koristili tehnologiju prepoznavanja lica da bi identifikovali osumnjičene.
Tehnologija prepoznavanja lica je najnovija i najmodernija verzija biometrijskog nadzora koja koristi jedinstvene fizičke karakteristike za identifikaciju pojedinaca. Jedna je od mnogih tehnologija, od otiska prsta preko fotografije za pasoš do skeniranja šarenice, koje su napravljene da bi se nadgledali ljudi i da bi se utvrdilo ko ima pravo da se slobodno kreće unutar i preko državnih granica.
Istraživanje o tehnologiji prepoznavanja lica ne bi trebalo da se ograniči samo na istoriju računarstva, već bi trebalo da se osvrne i na istoriju medicine, rasnih razlika, psihologije i neuroloških nauka, kao i na humanističke nauke i politiku.
Ako tehnologiju prepoznavanja lica posmatrano kao deo duge istorije praćenja ljudi, onda njeno narušavanje privatnosti i ograničavanje slobodnog kretanja obavlja upravo ono što je biometrijski nadzor uvek trebalo da uradi.
Sistem funkcioniše tako što konvertuje snimljena lica – bilo statična sa fotografija ili pokretna sa video zapisa – u niz jedinstvenih tačaka podataka, koje zatim upoređuje sa tačkama podataka izvučenim sa slika lica koja su već u sistemu. Kako tehnologija prepoznavanja lica postaje tačnija i brža, njena efikasnost kao sredstva nadzora postaje sve izraženija.
Tačnost se poboljšava, ali pristrasnosti i dalje postoje
Nadzor se zasniva na zamisli da se mora vršiti nadzor nad ljudima, a njihovo kretanje ograničiti i kontrolisati u kompromisu između privatnosti i bezbednosti. Pretpostavka da manje privatnosti vodi ka većoj bezbednosti je neodvojiva pretpostavka u celom procesu.
To možda važi za neke ljude, ali ne i za one koji su neprestano, ali bez dobrog razloga, na meti tehnologije prepoznavanja lica. Nadzor je oduvek bio napravljen tako da identifikuje ljude koje oni na vlasti žele da pobliže prate.
Na globalnom nivou, u Indiji postoje kamere koje kontrolišu one koji pripadaju nižim kastama, u Kini se vrši nadzor ujgurske manjine, a u nekim školama u Sjedinjenim Državama, kamere se koriste za nadzor pohađanja nastave, i to često onih u koje idu učenici iz porodica sa niskim prihodima i sa većinskim crnim stanovništvom. Neki ljudi se prate pažljivije i temeljnije nego neki drugi.
Pored toga, slučajevi koje smo na početku spomenuli nisu tek povremene i slučajne greške. Od 2019. godine, tehnologija prepoznavanja lica je sto puta više pogrešila pri identifikaciji crnaca i Azijata nego pri identifikaciji ljudi bele rase. Samo da se podsetimo da je Amazonov alat za prepoznavanje (Rekognition tool), 2018. godine, našao pogrešno poklapanje kod 28 članova američkog Kongresa sa fotografijama iz policijskih dosijea.
Kad je baza podataka sa kojom su upoređene snimljene slike imala samo ograničen broj, uglavnom belih lica, prema kojima se vršilo upoređivanje, tehnologija prepoznavanja lica je ponudila podudaranja zasnovana na najbližem dostupnom poravnanju, što je dovelo do obrasca izuzetno rasističkih i lažnih pozitivnih rezultata.
Kako se baza podataka proširivala novim slikama i kako je softver napredovao i postajao savremeniji, broj lažnih pozitivnih rezultata – netačnih podudaranja između određenih pojedinaca i slika traženih ljudi u dosijeu – dramatično je opao. Poboljšanja u broju i rasporedu piksela i mapiranju statičnih slika u pokretne, zajedno sa povećanim označavanjem ljudi na fotografijama na društvenim mrežama i sve prefinjenijim alatima za prikupljanje slika, kao oni koje je razvila kompanija Clearview AI, pomogli su da se smanji broj grešaka.
Predrasude, međutim, ostaju duboko usađene u sisteme i njihovu svrhu, eksplicitno ili implicitno ciljajući na već ciljane zajednice. Tehnologija nije neutralna, kao ni nadzor za koji se koristi.
Najnovija tehnika u dugoj istoriji
Softver za prepoznavanje lica je samo najnovija manifestacija globalnih sistema praćenja i kategorisanja. Preteče su ukorenjene u sada napuštenom verovanju da telesne karakteristike nude jedinstveni indeks karaktera i identiteta. Ova pseudonauka je formalizovana krajem 18. veka pod rubrikom drevne prakse fizionomije.
Rane sistemske primene uključivale su antropometriju (merenje tela), uzimanje otisaka prstiju i skeniranje šarenice ili mrežnjače. Sve su ponudile jedinstvene identifikatore. Ništa od toga ne bi moglo da se uradi bez učešća – voljnog ili nekog drugačijeg – osobe koja se prati.
Identifikacija prema obliku tela usvojena je u 19. veku za potrebe u krivičnom pravosuđu, krivičnom gonjenju i vođenju evidencije kako bi se omogućila vladina kontrola nad stanovništvom. Veoma blizak odnos između prepoznavanja lica i granične patrole je podstaknut uvođenjem fotografija u pasoše u nekim zemljama, uključujući Veliku Britaniju i Sjedinjene Države 1914. godine, praksa koja je postala široko rasprostranjena do 1920. godine.
Tehnologija prepoznavanja lica pružila je mogućnost da se prikriveno i naizgled neprimetno pređe na nadzor ljudi biometrijskim postupcima. Mnoga rana istraživanja softvera za prepoznavanje lica finansirala je CIA da bi se nadzirali granični prelazi.
Agencija je pokušala da razvije standardizovani okvir za segmentaciju lica: mapiranje udaljenosti između crta lica osobe, uključujući oči, nos, usta i liniju kose. Unos tih podataka u računare omogućava korisniku da pretraži uskladištene fotografije za podudaranje. Ta rana skeniranja i mapiranja su bila ograničena, a pokušaji da se uporede lica i fotografije nisu bili uspešni.
Nedavno, privatne kompanije su prihvatile mnogobrojne tehnike prikupljanja podataka, uključujući prepoznavanje lica, kao deo duge prakse korišćenja ličnih podataka za ostvarivanje profita.
Tehnologija prepoznavanja lica ne koristi se samo da biste lakše otključali telefon ili da biste se brže ukrcali u avion, već se koristi i na kioscima promotivnih prodavnica i, u suštini, funkcioniše na bilo kojoj fotografiji koju je snimio i podelio bilo ko, sa bilo kim, bilo gde širom sveta. Te fotografije se čuvaju u bazi podataka i tako omogućavaju stvaranje sveobuhvatnijih sistema nadzora i praćenja.
Iako takav napredak sprečava da se ponove slučajevi tri nesrećne osobe s početka naše priče, a da ne spominjemo 28 članova Kongresa, tehnologija prepoznavanja lica je narušila privatnost svakog od nas. Zajedno sa državnim i privatnim sistemima koji je stvaraju, pokreću, upotrebljavaju i od toga ostvaruju korist, tehnologija prepoznavanja lica nas posmatra i posebnu pažnju obraća na one koje društvo i njegove strukturalne pristrasnosti smatraju najvećom opasnošću.