Digitalna distopija или kako algoritmi kažnjavaju siromašne

Širom sveta, od gradića u Ilinoisu do Rohdejla u Engleskoj, od Perta u Australiji do Dumke u severnoj Indiji, dešavaju se revolucionarne promene u vladinom odnosu prema siromašnim građanima. Možda niste primetili promene, niti ste čuli za njih, jer ih planiraju inženjeri i programeri iza zatvorenih vrata, na bezbednim vladinim lokacijama daleko od pogleda javnosti. Samo matematičari i računarski stručnjaci mogu u potpunosti da shvate korenite promene koje se odvijaju, a koje pokreće veštačka inteligencije, prediktivni algoritmi, modelovanje rizika i biometrija. Ipak, ako pripadate milionima ljudi u ugroženim grupacijama stanovništva, koji se nalaze na kraju lanca preoblikovanja državne pomoći, znajte da su promene stvarne, a posledice mogu biti ozbiljne, čak fatalne. Stručnjaci su proveli poslednja tri meseca istražujući kako se milijarde ulivaju u inovacije veštačke inteligencije koje nametljivo menjaju odnose siromašnijih građana sa državom. Zajedno su u Americi, Britaniji, Indiji i Australiji istražili do čega je dovelo stvaranje države koja se digitalizovala pružanje socijalne pomoći.

Otkrili su kako su se finansijska pomoć nezaposlenima, dečiji dodatak, obezbeđivanje stambenog prostora i sledovanje hrane se potpuno u umrsile na mreži. Vlade razvijenih zemalja i zemalja u razvoju troše ogromne količine novca na automatizovanje siromaštva i, u tom procesu, potrebe najugroženijih članova populacije pretvaraju u brojeve, a donošenje odluka prebacuju sa ljudi na hladne i mrtve mašine. Na taj način smo dobili sliku koja liči na Dikensovu distopiju 21. vek, na digitalne udžerice. Kad slušamo šta vlade govore, čujemo obećanja kako će nove tehnologije transformisati siromaštvo plemenitim i blagonaklonim poduhvatima. Ubrzaće plaćanje socijalne pomoći, povećati efikasnost i transparentnost, smanjiti troškove, uštedeti novac poreskih obveznika, ukloniti ljudske nesavršenosti i predrasude i obezbediti da ograničena sredstva stignu do onih kojima je najpotrebnija. Sva ta obećanja su uglavnom prazna.

U ovo vreme kad štednja dominira političkom scenom, milionima se smanjuje socijalna pomoć или se potpuno ukida zbog računarskih programa koji funkcionišu tako da ih skoro niko ne može kontrolisati, a još manje razumeti. Greške su postale endemične, a njihovim žrtvama je uskraćena bila kakva mogućnost da se njihov slučaj ponovo razmotri. Ove nedelje automatizacija siromaštva biće razmatrana na svetskom nivou. Filip Alston, predstavnik u Ujedinjenim nacijama koji se bavi pitanjima ekstremnog siromaštva, podneće izveštaj Generalnoj skupštini te organizacije u Njujorku koji bi trebalo da predstavlja uzbunu za očuvanje ljudskih prava pred naletom digitalizacije socijalne zaštite.

Alstonova analiza se delimično zasniva na zvaničnim studijama Ujedinjenih nacija o siromaštvu u Velikoj Britaniji i Sjedinjenim Državama, a delom i na izveštajima koje su podnele vlade, organizacije za zaštitu ljudskih prava i stručnjaka iz više od 34 države. Njegov izveštaj će verovatno uspeti da pruži definitivnu sliku stanja sadašnjeg sveta, kao i smera u kome se kreće. Baviće se maltretiranjem, napadima i kažnjavanjem onih koji žive u digitalnim udžericama koje se sve brže šire. U Ilinoisu su stručnjaci otkrili da su državna i savezna vlada ujedinile snage da bi od primalaca socijalne pomoći tražile da vrate preplaćene iznose koje su primili, u nekim slučajevima i pre trideset godina. Sistem „zombi duga“ koji je svoje oružje dobio u tehnologiji, izaziva strah i zabrinutost kod najugroženijih članova društva.

Ili kako bi jedan od primalaca socijalne pomoći rekao: „Dugujemo ono što smo pojeli.“ U Velikoj Britaniji su istraživali vladino obezbeđeno postrojenje izvan Njukasla gde se troše milioni na razvoj nove generacije robota koji bi umesto ljudi rešavali socijalne probleme. Privatne kompanije, uključujući i jednu iz Njujorka na čijem čelu se nalazi prvi robot milijarder, ubrzavaju proces proizvodnje koji je doveo do pojave novog žargona: „virtuelna radna snaga“, „prošireno donošenje odluka“ i „robotizovan proces automatizacije“.

Vlada juri napred u svojoj digitalnoj misiji uprkos bolu koji je nanela milionima Britanaca sa niskim prihodima u svom planu „podrazumevane digitalizacije“. Primaoci socijalne pomoći govore o gladi, prljavštini, strahu i panici koje podnose. U Australiji, gde su mnogi reporteri pisali o takozvanom „robotizovanom dugu“, odnosno planu koji je bio neopravdano optužen da pokušava da izvuče stare dugovanja preko pogrešnih algoritama, otkriveno je da je vlada otvorila novi digitalizovani front, odnosno koristi automatizaciju da bi zaustavila milione isplata socijalne pomoći. Potražioci su se našli u čudu kad im je novac bio uskraćen. Bez obaveštenja.

Najpotresnija priča dolazi iz Dumke u Indiji. Tu smo se upoznali sa užasnim posledicama koje su pretrpele porodice zbog Aadhaara, odnosno jedinstvenog dvanaestocifrenog broja koje je vlada Indije izdala svim svojim građanima u najvećem biometrijskom eksperimentu na svetu. Motka Manđi je platio najveću cenu kad, zbog računarske greške, njegov otisak prsta, koji je ključ za ulaz u Aadhaar, nije prepoznat. Nije dobijao redovna sledovanja hrane, nije imao šta da jede i uskoro je prilično smršao. Srušio se ispred svoje kolibe 22. maja i umro. Njegova porodica je sigurna da je umro od gladi. Sva ta istraživanja sproveli su istraživači engleskog časopisa Gardijan i utvrdili da su svojstva tih novih sistema, u razvijenim i nerazvijenim zemljama, na istoku i zapadu, vrlo slična. Najuočljivija zajednička karakteristika je ta da se sve odvija svetlosnom brzinom, da visoka tehnologija osvaja ustanove za pružanje socijalne pomoći, agencije za rad i penziono osiguranje, za pomoć invalidima, zdravstvenu zaštitu i uvek bez imalo javne rasprave или prihvatanja odgovornosti.

U toj korenitoj izmeni, ljudski element socijalne države se izgubio. Umesto da razgovarate sa socijalnim radnikom koji bi procenio vaše potrebe, jednostavno vas usmeravaju na internet gde vam prediktivna analiza dodeliti budući faktor rizika, a algoritam odlučuje o vašoj sudbini.  U novom svetu, nejednakost i diskriminacija su zauzele busiju. Šta se dešava ako ste jedan od pet miliona odraslih Britanaca koji nemaju svakodnevni pristup internetu или ste računarski nepismeni или tek polupismeni? Šta ako se algoritam učvršćuje u postojećoj iskrivljenoj slici o rasnoj i klasnoj pripadnosti, praveći još veći jaz između crnaca i belaca, bogatih i siromašnih, fakultetski obrazovanih i fizičkih radnika?

Svetom se šiti i jeziva atmosfera Kafkinih romana. Kao što je Manđi tragično otkrio, greške se dešavaju. Mašine se kvare. Ako nema nikog u blizini ko u vama vidi ljudsko biće nego tek dvanaestocifreni broj koji treba obraditi, posledice mogu biti fatalne. Računar kaže: „Nema isplate“. Šta vam je činiti?

5532-digitalna-distopija-ili-kako-algoritmi-kaznjavaju-siromasne