Što se tiče Kine, njena vlada prati i nadgleda građane svakodnevno, ali oni su sa tim upoznati. Građane u Sjedinjenim Državama nadgledaju privatne kompanije, ali tajno i prikriveno. Kina je 2014. godine, objavila da će uspostaviti sistem koji će vršiti procenu građana na osnovu njihove pouzdanosti, ponašanja u javnosti i na društvenim mrežama, na osnovu mudrih kupovnih navika, učestalosti igranja digitalnih igrica, interakcije sa organima za sprovođenje zakona i vladinih predstavnika, zatim, da li čiste za svojim ljubimcem i na osnovu mnogih drugih aspekata ponašanja. Mnogi stručnjaci i visokoobrazovani ljudi smatrali su da je to ekstreman korak koji je preduzela jedna totalitarna država da bi svojih 1,3 milijarde stanovnika držala u pokornosti i poslušnosti.
Kina to ne radi da bi od svojih ljudi napravila bolje građane, već ih kažnjava ili nagrađuje u zavisnosti od toga koliki su „rezultat društvenog kredita“ ostvarili. Oni koji se nalaze na samom vrhu obezbedili su sebi bržu obradu ličnih dokumenata, lakši pristup robama i stambenim jedinicama i mnogobrojne druge povlastice. Onima koji su postigli lošije rezultate smanjen je ili potpuno ukinut pristup mnogim vrstama roba, mnogim javnim i privatnim uslugama, ali uskraćene su im i mogućnosti za putovanje. Peking neprestano izlaže porugama one koji nisu uspeli da ostvare određene rezultate. Postoji aplikacija za mobilne telefone koja grafički prikazuje sve ljude u okolini koji su društveno „manjkavi“ kao i zbog čega su nepouzdani. Kao što je časopis Njuzvik objavio 2018. godine, najveći greh je kad se kritikuje vlada. U tom izveštaju detaljno je opisano kako je ćerki jednog novinara, pošto je istraživao korumpiranost državnih zvaničnika, bio uskraćen pristup dobrim školama, pored svih ostalih kazni. Sve nas to neodoljivo podseća na Orvelovu 1984.
Kao što mnogi mediji ističu, Sjedinjene Države imaju potpuno isti sistem nadzora, međutim, u slučaju Amerike, građane nadgledaju i prate privatne kompanije, a ne vlada. Te firme koriste algoritme koje pokreće veštačka inteligencija da bi usisali zapanjujuću količinu informacija koje se automatski prikupljaju pomoću aplikacija na mobilnim telefonima, bez obzira na to da li su povezani na internet ili nisu. Ti podaci se koriste da bi se napravila sveobuhvatna procena Amerikanaca, ali, pri tom, uopšte se ne zna šta se sve uzima u obzir za procenu. Recimo, poslodavci kupuju gomile informacija od kompanija HireVue ili Cornerstone da bi procenili vrednosti kandidata, delimično na osnovu onoga što algoritam zaključi preko skeniranja lica ili uzoraka govora.
Vašington post je prošle godine naveo da je metod procene zasnovan na veštačkoj inteligenciji, koji je razvila kompanija HireVue, toliko uzeo maha u nekim privrednim oblastima, uključujući zdravstvo i finansije, da univerziteti pažljivo obučavaju studente kako treba da izgledaju i kako da se izražavaju da bi doskočili algoritmu. Danas se sistem koristi u više od sto kompanija, uključujući Hilton i Unilever, a postoje podaci da je više od milion ljudi koji traže posao analiziran pomoću tog istog sistema.
Štaviše, postoji još jedan izveštaj u kome se navodi da velike firme za izdavanje stanova koriste isti sistem da bi odabrale kome će iznajmiti stanove, ali sada se ne ispituje samo finansijsko stanje potencijalnih kandidata, već i njihova pouzdanost. Takvim kontroverznim postupcima trebalo bi da se bave određene institucije, a ne samo pojedinačni novinari koji pišu o savremenim tehnologijama, prvenstveno zbog toga što su takva rangiranja, u stvari, potpuno ista kao i zakoni Džima Kroua, jer „Rezultati nadzora omogućavaju kompanijama da prikriju dobro nam poznatu diskriminaciju aurom tehnološke nepogrešivosti i čuda.“
Korišćenje finansijskog položaja za procenu karaktera ljudi ili za njihovu mogućnost zapošljavanja vrlo je problematično s obzirom na to da su zajednice koje se sastoje od pripadnika crne rase ili ljudi poreklom iz južne Amerike uvek siromašnije. Iako ne postoje detaljna objašnjenja o tome kako algoritmi procenjuju pojedince na osnovu crta lica ili načina izražavanja – među mnogobrojnim drugim kriterijumima – sasvim je sigurno da se koriste isti stereotipi koje već vekovima stvaraju prepreke za napredovanje istih tih zajednica. U neverici posmatramo kako upotreba tih alata za procenu pojedinaca raste jer se njihova suština kosi za najjačim kulturnim trendovima u protekloj deceniji. Recimo, pokret Životi crnaca su važni bori se protiv rasne nejednakosti, dok se neki drugi bore protiv ogromnih razlika u raspodeli prihoda u celom svetu.
Možda bi, ipak, ti pokreti trebalo da se fokusiraju i na privatni sektor, ali i na vladu. Sama pojava da kompanije podstiču korišćenje algoritama koji nas na brzinu procenjuju – a te procene imaju potencijalno snažan uticaj na naš život – neodoljivo podsećaju na korporativnu verziju policijske tehnologije u filmu Suvišni izveštaj. Možda će takve okolnosti naterati zajednicu svih onih koji se bore za očuvanje privatnosti na mreži da osnuju sopstveni pokret. S druge strane, možda će oni koji uopšte nisu zabrinuti za aplikacije koje nas prate da bi otkrile koje proizvode želimo da kupimo, promeniti mišljenje kad shvate da naš domaći procenjivački Skynet koristi neprestani nadzor koji nad nama sprovode tehnološke kompanije, a koji smo prihvatili ili na koji smo pristali, kao oružje protiv mnogih od nas.
Mislim da, ipak, neću moći raširenih ruku da dočekam naše nove veštački inteligentne gospodare.