Vlada koristi sistem za prepoznavanje lica kompanije „Amazon“

Kompanija se sastala sa zvaničnicima Agencije za imigraciju i carinu da bi vladi ustupila svoj sistem za prepoznavanje lica koji bi se koristio pri identifikovanju imigranata. Sastanak i dogovor su ponovo doveli tehnološkog giganta u centar rasprave na temu saradnje privrede i vlade.
Sastanak koji je održan u junu u Silicijumskoj dolini otkriven je u porukama elektronske pošte na zahtev grupe koja se bavi uvidima u rad vlade, a prema Zakonu o slobodi informisanja i dostupnosti informacija. Poruke pokazuju da su zvaničnici Agencije i rukovodioci iz Amazonovih veb servisa razgovarali o upotrebi kompanijine platforme „Rekognition“ u istragama službe za državnu bezbednost.Zvaničnik iz veb servisa kompanije „Amazon“ čije ime je precrtano, rekao je da su se razgovori vodili u vezi sa prediktivnom analizom koja bi omogućila Agenciji identifikaciju lica izdaleka, što je zvaničnicima iz Agencije bilo važno posebno u oblasti južne granice.

Kompanija je prethodno ponudila tehnologiju policijskim snagama kao sredstvo za pronalaženje i identifikaciju kriminalaca, a sistem su preuzele snage bezbednosti u državama Oregon i Florida. Branioci građanskih prava i privatnosti izrazili su zabrinutost zbog širenja upotrebe nedovoljno proverene tehnologije, što bi moglo imati jezive posledice, od javnih protesta do ohrabrivanja vlade i policije da ulože napor u sprovođenje masovnog nadzora.

Junski sastanak je izazvao novi nemir među zaposlenima u kompaniji koji traže da „Amazon“ odustane od poslova koji su povezani sa vladinim nadzorom nad građanima. Stotine zaposlenih u kompaniji anonimno su Bezosu poslali pisma, otprilike nedelju dana posle sastanka, i izjavljivali da odbijaju da naprave platformu koja će biti od koristi Agenciji i da odbijaju da doprinesu stvaranju alatki koje će narušavati osnovna ljudska prava
Sastanak će, takođe, dodatno pojačati sukob između korporativnih rukovodilaca koji jure za unosnim ugovorima sa vladom i običnih radnika koji su izrazili svoje neslaganje kad je Agencija na granici sa Meksikom nasilno odvajala decu od roditelja useljenika.

Kompanija „Majkrosoft“ je doživela nešto slično kad je htela da svoj projekat „Mejven“ podeli sa Ministarstvom odbrane. Inače, prema projektu, veštačka inteligencija bi prepoznavala objekte na zemlji na video snimcima koje je napravila bespilotna letelica. Kompanija „Amazon“ je sklopila najviše ugovora sa državom i zbog toga se veruje da će potpisati i sledeći vredan deset milijardi dolara, a koji se odnosi na računarstvo u oblaku. Kompanija obavlja i usluge računarstva u oblaku za poslove najpoverljivijih obaveštajnih misija za Centralnu obaveštajnu agenciju. Mnogi smatraju da je partnerski odnos između agencije i kompanije „najprisnije partnerstvo koje je ikad viđeno“. S druge strane, Bezos istovremeno donira novac da bi se školovali neki imigranti, dok istovremeno javno podržava doprinose tehnološke industrije naporima koje ulaže državna bezbednost i druge vladine agencije.

I dok tvrdi da će se cela zemlja naći u velikoj nevolji ako tehnološki giganti okrenu leđa državnoj bezbednosti, na pitanje o doseljenicima kaže da su mu dragi i da bi ih sve primio u Ameriku da on odlučuje o tome, ali da tako veliku zemlju treba braniti i brinuti o njenoj bezbednosti. Agencija za imigraciju i carinu smatra da su softver za prepoznavanje lica i veštačka inteligencija moćna sredstva za obuzdavanje ilegalnog doseljavanja. Agencija je takođe tražila sistem koji bi automatski mogao da pretraži naloge inostranih posetilaca na društvenim mrežama i proceni da li bi mogli da počne neko kriminalno delo ili teroristički napad. Kad je kompanija „Amazon“ predstavila svoj „Rekognition“ sistem 2016. godine kao način da se analiziraju slike i detektuju lica u velikom broju, odlučila se za malo mekši pristup koji se odnosio na njegovu sposobnost da utvrdi kojoj rasi pripada pas na slici.
Dok je tehnologija postajala sve važnija u oblasti krivičnog prava i istraga, sve se ozbiljnije suočavala sa protestima grupa koje se bore za zaštitu ljudskih prava jer bi mogla da se koristi za nadzor koji bi mogao da ugrozi privatnost ljudi i njihova građanska prava. Uz to, tehnologija se pokazala manje uspešnom kad se identifikacija obavljala među ljudima druge boje kože, što je dovelo do dodatne zabrinutosti.

Sistem „Rekognition“ je na primer, pogrešno povezao lica 28 članova Kongresa sa licima ljudi koji su uhapšeni zbog krivičnih dela kad je sistem testiralo Udruženje za američke građanske slobode u Severnoj Kaliforniji. Kompanija je tada rekla da je metodologija testa bila pogrešna. Neki od zaposlenih u tehnološkoj industriji traže širu regulaciju sistema za prepoznavanje lica, a vrlo mali broj država ga koristi na ispravan način. Čuju se predlozi da se formira dvopartijska komisija koja bi utvrdila standarde koji bi mogli da spreče privatne kompanije i javnu upravu da zloupotrebe sistem.

Poznato nam je da su se i ranije moćna sredstva nadzora u rukama države, naročito kad se upotreba nije pravno regulisala, koristila da bi se napadali ljudi koji ništa loše nisu uradili, napisao je jedan radnika kompanije „Amazon“ koji je ostao anoniman. On smatra da se velike tehnološke kompanije moraju odlučiti šta će uraditi – ili će prodati nadzorne sisteme policiji ili će se protiv toga pobuniti. Ne mogu raditi i jedno i drugo.

5079-vlada-koristi-sistem-za-prepoznavanje-lica-kompanije-amazon