Ko ima moć da reguliše ekstremistički sadržaj na internetu?

Početkom meseca, Odsek za digitalne medije, kulturu, medije i sport britanskog parlamenta objavio je novi zvanični stav o „štetnim postupcima na internetu“ da bi regulisao društvene mreže, pretraživanje, servise za razmenu poruka i platforme za deljenje datoteka. Među svim pomenutim stavkama, u stavu se traži i stvaranje nezavisnog regulatora koji bi nadzirao štetne sadržaje na mreži, određivao kazne i utvrđivao odgovornost pojedinih direktora u slučaju da se problematični sadržaj ne ukloni sa interneta u određenom vremenskom roku. Nejasne međunarodne definicije terorizma i ekstremizma delimično su otežale borbu tehnoloških kompanija koje su se suočile sa teškoćama u procesu uklanjanja ekstremističkog sadržaja. Zbog toga su mnogi vlasnici kompanija morali da usklade proces nadzora i uklanjanja sadržaja da bi zaštitili građane, a istovremeno održali nivo tolerancije koja je neodvojivi deo liberalnog društva koje dozvoljava građanima da ostvare svoje pravo na slobodu govora i izražavanja. Konačno, odluke o ograničavanju ekstremističkog sadržaja na internetu imaju značajan uticaj na privatnost građana, slobodu govora i na proces saradnje između vlada i tehnoloških kompanija da bi se utvrdila jasna definicija „ekstremizma“ i utvrdile granice moći u njihovom odlučivanju.

U Velikoj Britaniji je izvršena revizija Protokola o preventivnim postupcima u kome se radikalizacija definiše kao proces u kome pojedinac podržava terorističke i ekstremističke ideologije koje su povezane sa terorističkim grupama. Međutim, termini „ekstremizam“ i „terorizam“ se vrlo često koriste kao pojmovi istog značenja čak i u vladinim izveštajima, dok nedostaju zvanično dostupni dokumenti koji bi naznačili razliku između tih termina kao i njihovu međusobnu povezanost. Pomenuti Protokol, recimo, definiše ekstremizam kao „izraženo или aktivno suprotstavljanje osnovnim britanskim vrednostima, uključujući i demokratiju, vladavinu zakona, slobodu pojedinca i međusobno uvažavanje i toleranciju između različitih vera i uverenja. U definiciju uključujemo i ekstremistički poziv na ubijanje pripadnika naše vojske, kako u zemlji tako i u inostranstvu“. Međutim, definicija je do sada doživela brojne kritike jer je nejasna i neprimenjiva, što je dovelo do stvaranja Kontra-ekstremističke komisije početkom 2018. godine, da bi se ponudila nova definicija ekstremizma u Velikoj Britaniji.

U debati o definisanju i uklanjanju ekstremističkog sadržaja, internet nam pruža dobar primer na kome bi se mogla proceniti podela moći između vlada i tehnoloških kompanija. Neki stručnjaci navode da su Sjedinjene Države efikasno prebacile deo odgovornosti i obaveza čuvara reda na privatne agencije, posebno u kontekstu kontra-terorističkih akcija. Društvene mreže se sve više ističu kao čuvari javnog govora. Dok se ekstremistički sadržaj može svrstati u kategoriju govora mržnje, on obično zahteva jedinstveni pristup jer takav sadržaj dehumanizuje one grupe koje se nazivaju „oni drugi“, u njemu se ističe inferiornost „onih drugih“, или se traži da se takve grupe isključe или izoluju što je uglavnom povezano sa nasiljem. Pošto postoji opasnost po bezbednost zbog aktivnosti ekstremističkih grupa, trebalo bi reagovati mnogo brže nego u slučaju govora mržnje.

U tom slučaju, tehnološke kompanije su iskoristile i proširile svoju moć na nove načine. Prvo, prešle su granice onog što zakonski zahtevaju državne vlade i same odredile svoje polje odgovornosti. Ovde bi trebalo spomenuti „Fejsbuk“, koja je stvorila sopstvenu definiciju terorizma, i kompaniju „Gugl“ koja ima svoje shvatanje ekstremizma, što bi se moglo protumačiti kao reakcija na nedostatak jasnih državnih definicija tog pojma. Uz to treba naglasiti da pošto te kompanije rade na globalnom nivou, nacionalni zakoni o ekstremizmu i terorizmu čine problem još spornijim jer se definicije razlikuju od jedne države do druge.

Drugo, tehnološke kompanije su svoju moć iskoristile i preko upotrebe algoritama veštačke inteligencije. Naime, algoritmi mašinskog učenja uklonili su 98% video sadržaja sa servisa Jutjub jer su ga označili kao ekstremistički pre nego što su korisnici mogli da ih vide. Masovna uklanjanja sadržaja koje obavlja veštačka inteligencija imaju nekoliko etičkih problema, uključujući i uklanjanje sadržaja koji prikazuje narušavanje ljudskih prava (jer automatizovani programi mogu da označe mučenje kao nasilni sadržaj). Ipak, tehnološke kompanije do sada nisu ni pokušale da objasne kako one razumeju takve obrasce ponašanja или kako odlučuju o tome koji sadržaj treba da ostane, a koji treba ukloniti. Dakle, postoji nedostatak odgovornosti onih koji koriste moć nad građanima kontrolišući njihovo pravo na slobodu izražavanja i dostupnosti informacija.

Treći i najvažniji proces u kome tehnološke kompanije koriste svoju moć da bi kontrolisale sadržaj na internetu je podela te moći sa građanima. Kroz međusobnu saradnju te dve strane, građanima je omogućeno da igraju ulogu partnera, a ne tek klijenta u prepoznavanju i uklanjanju problematičnog sadržaja. Uključivanje građana u proces uklanjanja sadržaja omogućava tehnološkim kompanijama da podele odgovornost, ali i da uključe građane u definisanju ekstremizma. Kroford i Gilespi (2014) su, na primer, iskoristili studiju slučaja o označavanju uvredljivog sadržaja da bi na taj način uključili korisnike i platforme u debatu o spornim pitanjima. Taj argument se zasniva na pretpostavci da se moć deli između tehnoloških kompanija i građana, a transparentnost procesa odlučivanja je sama po sebi način kontrolisanja korisnika platformi.

Međutim, neko bi mogao da tvrdi da saradnja sa građanima može da omogući tehnološkim kompanijama da ojačaju svoju moć nad građanima. Na primer, Mišel Fuko često raspravlja o nevidljivosti moći, o udaljavanju od potrebe da objekti nad kojima se sprovode disciplinski postupci budu vidljivi – da li kao u slučaju staklenih vrata i prozora u školama или prestupnika koji se kažnjavaju na gradskim trgovima – do ideje o bio-moći, povećanju društvene kontrole preko samodiscipline. Kad govorimo o internet prostoru i ekstremizmu, neko se može zapitati da li je nadzorna moć nešto što institucije kao što su tehnološke kompanije, vlade i pojedinci poseduju i koriste da bi ugnjetavali pojedince или je Fukoova koncepcija bio-moći dovela pojedince do toga da regulišu sebe kroz postupke samodiscipline kojima se pokoravaju. U tom slučaju, pojedinci mogu „dobrovoljno da kontrolišu sebe tako što će sami sebi nametati prilagodljivost kulturološkim normama pomoću samonadzora i samodiscipline“.

Na taj način, stalna samokontrola izražavanja na internetu zbog nejasnog određenja ekstremizma ima uticaj na slobodu izražavanja i privatnost. Isto tako, ističe u prvi plan pitanja o tome ko u rukama ima nadzornu moć, da li vlade, tehnološke kompanije или sami pojedinci.

5330-ko-ima-moc-da-regulise-ekstremisticki-sadrzaj-na-internetu