U predlogu zakona o korišćenju tehnologije prepoznavanja lica koji podržava kompanija „Majkrosoft“, tri reči stoje između građana i njihovih građanskih prava. U Vašingtonu, prvoj američkoj državi koja je usvojila zakon kojim se reguliše korišćenje tehnologije prepoznavanja lica, sasvim je zakonito da vladine agencije koriste tu tehnologiju kako bi građanima uskratile pristup osnovnim pravima i uslugama, ali pod jednim uslovom. Sistemi zasnovani na veštačkoj inteligenciji moraju biti podvrgnuti „smislenom ljudskom pregledu“. Prema zakonskim odredbama, sve dok obučeno ljudsko biće ima moć́ da poništava odluke mašina, vlade mogu da koriste sisteme za prepoznavanje lica kako bi ljudima uskratile pristup kreditima, stanovanju, osiguranju, obrazovanju, zapošljavanju, zdravstvenoj zaštiti, hrani, vodi ili nekim drugim građanskim pravima. Zakon ne reguliše da li privatne kompanije mogu da koriste tehnologiju i, ako mogu, kako treba da je koriste. Autor zakona koji je usvojen u državi Vašington zaposlen je u kompaniji „Majkrosoft“, a usvajanju je prethodio proces neverovatno snažnog lobiranja koji je vodio softverski gigant sa sedištem u Sijetlu. Usledila su prepisivanja istog zakona samo zbog one tri reči koje smo naveli. Naime, pošto je zakon usvojen u državi Vašington u januaru 2020. godine, zakonodavci u Kaliforniji, Merilendu, Ajdahu i Južnoj Dakoti predložili su slične zakone. Svi oni sadrže gotovo identične rečenice o dodatnom pregledu koji će obavljati ljudi, opet pod pritiskom „Majkrosoftovog“ lobiranja.
Pošto savezne regulative o korišćenju tehnologije za prepoznavanje lica nema, državne i lokalne vlade počele su da popunjavaju tu prazninu svojim zakonima. Tehnološke kompanije, na čelu sa „Majkrosoftom“, poslale su lobiste u glavne gradove širom zemlje da podrže prilično popustljive propise o korišćenju tehnologije za prepoznavanje lica, umesto da ohrabre zabrane koje bi umanjile razvoj i prodaju tehnologije. „Činjenica da mnogi od ovih predloga zakona liče jedni na druge i poklapaju se sa onim što zahtevaju tehnološke kompanije samo je dokaz da je njihov uticaj prisutan“, rekao je Džejmson Spivak, saradnik u Centru za privatnost i tehnologiju Univerziteta Džordžtaun. „S obzirom na to da su preduhitrili sve razgovore o zabrani, moratorijumu ili strožim propisima, kompanije su uspele su da usmere razmišljanja nadležnih kako njima odgovara.“
Zaštitnici građanskih sloboda zabrinuti su da će popustljiviji propisi, koji omogućavaju kompanijama da bez bilo kakvih izmena održe svoje sisteme za prepoznavanje lica netaknutima, ostaviti građane prilično nezaštićene. Kada je vašingtonski zakon usvojen u martu, lokalna podružnica Američke unije za građanske slobode (ACLU ) obrušila se na klauzulu o „smislenom ljudskom pregledu“, za koju kaže da nije dovoljna zaštita od zloupotrebe tehnologije za prepoznavanje lica.
„Ljudi rutinski podležu pristrasnosti automatizacije, prepuštajući se odlukama koje donose računarski sistemi, umesto da koriste sopstvene procene“, tvrdi Dženifer Li, predstavnica Unije u Vašingtonu. „„Smisleni ljudski pregled“ je izuzetno manjkav koncept i ne bi trebalo da se koristi kao opravdanje za upotrebu tehnologije za nadzor i prepoznavanje lica da bi se donele suštinske odluke.“ Stručnjaci koji proučavaju etiku veštačke inteligencije godinama upozoravaju na neophodno postojanje nadzora ljudi nad sistemima veštačke inteligencije. Ipak, Marija De-Arteaga, docent na Univerzitetu u Ostinu, koja proučava ulogu koju ljudi igraju u sistemima donošenja odluka koji se zasnivaju na veštačkoj inteligenciji, kaže da samo prisustvo neke osobe nije konačno rešenje.
„Razmišljanje o ljudskom nadzoru je veoma važno, ali samo po sebi vam ne pruža nikakve garancije“, rekla je. Činioci kao što je vreme koje ljudi imaju za pregled rada algoritma i vrsta obuke koju dobijaju igraju veliku ulogu u tome koliko su dobri u pronalaženju grešaka mašina, objasnila je ona. Vašingtonski zakon – i slični predlozi zakona u Kaliforniji, Merilendu, Ajdahu i Južnoj Dakoti – sadrže identičan, neprecizan jezik koji se može tumačiti na više načina. U predlozima zakona se jednostavno kaže da revizori moraju da „imaju ovlašćenje da menjaju odluku koja se pregleda“ i da se periodično obučavaju kako funkcionišu sistemi za prepoznavanje lica i kako da tumače odluke.
„Zakoni, u stvari, ne menjaju način korišćenja sistema za prepoznavanje lica, posebno kada je jezik nejasan, kao što je to slučaj i u ovom zakonu“, rekao je Spivak. Dodao je da bi propisi bili korisniji ako bi precizirali da ljudi koji vrše reviziju poštuju, na primer, skup smernica zasnovanih na standardima Naučne radne grupe za identifikaciju lica za upoređivanje slika i obuku. Ipak, De-Arteaga kaže da zahtevi koje treba da ispune revizori su nepotpuni i neodgovarajući na mnogo osnovnijem nivou. „Angažovanje ljudi se ne odnosi na činjenicu da su slike lica neopravdana osnova za donošenje odluka u velikom broju slučajeva“, rekla je ona.
ACLU tvrdi da je glavni problem predloga zakona koji podržava kompanija „Majkrosoft“ taj što, u zamenu za popustljiva ograničenja, pravno uređuje upotrebu sistema za prepoznavanje lica za donošenje kritičnih odluka o životu ljudi: „Alternativni propisi koje podržavaju velike tehnološke kompanije, a koje ne podržavaju zakonom pogođene zajednice ne pružaju adekvatnu zaštitu – u stvari, prete da će ozakoniti infrastrukturno širenje moćne tehnologije za nadzor i prepoznavanje lica.“