Poslovni model koji menja način na koji razmišljamo, delujemo i živimo vodi nas ka distopiji. Kada ljudi shvate da tehnologija preuzima društvo, mnogi pomisle na film Terminator i robote kojima meci ne mogu ništa, или na Velikog brata iz romana (filma) 1984. Džordža Orvela, koji predstavlja simbol spoljnog i svemoćnog ugnjetavanja. Ipak, sasvim je očigledno da distopijska tehnologija ne mora mnogo da se trudi da bi nas potčinila. Umesto toga, sasvim nesvesno i nehotice podleći ćemo dogovoru sa đavolom, odnosno, mimovi će izražavati naše podsvesne želje, sjedinjavanje i povezanost sa društvom zamenićemo trenutnom vezom, a istina će biti samo ono što želimo da čujemo. U stvari, kao što bivši insajderi u kompanijama „Gulg“, „Tviter“, „Fejsbuk“, „Instagram“ i „Jutjub“ potvrđuju u novom dokumentarcu Društvena dilema (engl. The Social Dilemma ), sve to se već događa. Već živimo u verziji Vrlog novog sveta Oldosa Hakslija, или kako je to Nil Postman napisao 1985. godine u svojoj knjizi Zabavljajući se do smrti: javni diskurs u doba šou-biznisa (engl. Amusing Ourselves to Death: Public Discourse in the Age of Show Business): „U Hakslijevoj viziji, nikakav Veliki brat ne mora da lišava ljude njihove autonomije, zrelosti i istorije. Haksli smatra da će ljudi zavoleti to što su ugnjetavani i obožavaće tehnologije koje im poništavaju sposobnost da razmišljaju.“
Tehnologija koja ugrožava naše društvo, demokratiju i mentalno zdravlje vreba u našim spavaćim sobama, ponekad leži zajedno s nama na jastuku sve dok ne zaspimo. Budni smo na njen poziv, nosimo njena zvonka obaveštenja za trpezarijski sto i slepo joj verujemo dok nas vodi tamo gde treba da stignemo. Nestrpljivo se krećemo, ne sluteći da tehnologija koja nas povezuje, posebno sada u svetu koji održava socijalnu distancu, takođe nas i kontroliše. Platforme društvenih mreža pokreće poslovni model zasnovan na nadzoru, a napravljen tako da rudari, manipuliše i izvlači naša ljudska iskustva po svaku cenu i uzrokuje slom našeg informacionog ekosistema i zajednički osećaj istine širom sveta. Takav poslovni model nije napravljen za nas, već je izgrađen da bi nas iskorišćavao.
Trećina odraslih Amerikanaca i skoro polovina onih od 18 do 29 godina, kaže da su na mreži „gotovo stalno“, ali, za razliku od građana Vrlog novog sveta, mi smo jadni. Kako je vreme koje provodimo na mreži sve duže, tako raste i anksioznost, depresija i stopa samoubistava, posebno među mladima. Društvene mreže, takođe, izbacuju iz svakodnevnog života produktivnu javnu raspravu. Interni dopis, koji je prošao potpuno neprimećen, upućen 2018. godine starijim rukovodiocima u kompaniji „Fejsbuk“ objašnjava: „Naši algoritmi iskorišćavaju to što ljudski mozak privlači podvojenost“. Ako se algoritmi uskoro ne provere i izmene, korisnicima će davati „sve više i više sadržaja u kome su ističe podvojenost i sukobljavanje u nastojanju da privuku pažnju korisnika i produže vreme provedeno na platformi“.
Istraživački centar „Pju“ je 2014. godine otkrio da su partijske netrpeljivosti i podele u Americi „dublje i obimnije nego u poslednje dve decenije“. Tokom proteklih šest godina, društveni mediji su samo pogoršali takvo stanje. U 2019. godini, 77 procenata republikanaca i 72 procenta demokrata reklo je da glasači u obema strankama „ne samo da se ne slažu oko planova i politike, već da ne mogu da se slože oko nekih osnovnih postavki.“ U dokumentarnom filmu Društvena dilema, Tristan Haris, nekada zadužen za etiku dizajna u kompaniji „Gugl“ i suosnivač Centra za humanu tehnologiju, ističe da će tehnologija mnogo pre savladati ljudske slabosti nego što će nadvladati ljudske moći. Napredni i osetljivi algoritmi uče naše emocionalne ranjivosti i iskorišćavaju ih da bi došli do zarade na sve moguće podmukle načine. Platforme društvenih mreža, preko nadzora skoro svih naših aktivnosti na mreži, sada mogu da predvide naša osećanja i ponašanje. Koristeći sva ta saznanja, stavljaju nas na licitaciju i prodaju oglašivačima koji daju najvišu ponudu. Zbog toga se nalaze i među najbogatijim kompanijama u istoriji sveta.
Naravno, nije u pitanju samo ko će prvi prodati korisnicima par cipela. Te platforme poseduju takvu sposobnost ciljanog nadzora koja daje svima, koji su zainteresovani, moć i preciznost da na nas utiču tako da ne treba da ulože ni mnogo novca, a ni mnogo truda. Kampanje za širenje dezinformacija pojavile su se u više od 70 zemalja, a udvostručene su od 2017. do 2019. godine. Uzbunjivačica Sofi Džang otkrila je koliko je taj problem raširen na Fejsbukovoj platformi i kako kompanija ne preduzima skoro ništa da bi ga rešila. Društvena mreža je nedavno objavila seriju ispravki za ublažavanje političkih dezinformacija na predstojećim američkim predsedničkim izborima, uključujući zabranu objavljivanja političkih oglasa nedelju dana pre izbora, ali te mere su suviše blage, suviše se zakasnilo sa njihovim uvođenjem i ne bave se osnovnim problemom poslovnog modela koji izvlači i iskorišćava podatke korisnika.
Posle skoro tri godine rada na filmu Društvena dilema, sada vidim da je ta dilema temeljni problem našeg vremena i da leži u osnovi mnogih drugih društvenih sukoba koji zahtevaju kompromis i zajedničko razumevanje da bi se rešili. Ako se dve strane neprestano hrane odrazima svojih pređašnjih ideologija i navodnim ekstremnim stavovima one druge strane, nikada nećemo moći da izgradimo mostove poverenja i savladamo izazove koji muče čovečanstvo. Ipak, ima nade. U nastavku filma Terminator, Arnold Švarceneger se vraća kao pozitivan lik. „Ko te je poslao?, pita Džon Konor. Terminator odgovara, „Ti si me poslao. Za trideset pet godina reprogramirao si me da budem tvoj zaštitnik.“ Pošto ne možemo da putujemo kroz vreme, rešenje treba da uključi rad i glas posvećenih aktivista, organizacija, naučnika i onih koji su iskusili štetu eksploatacione tehnologije, koja pojačava sistemsko ugnjetavanje i nejednakost. Ne možemo da se oslonimo na to da će problem rešiti ljudi koji su ga stvorili. Neću da verujem kompanijama društvenih mreža sve dok ne promene svoj poslovni model da bi služio nama, odnosno, javnosti. Ljudi su stvorili ovu tehnologiju, a mi možemo – a i naša je odgovornost – da je promenimo.
Autor teksta je Džef Orlovski, režiser dokumentarnog filma Društvena dilema.