Inicijativa koju su pokrenuli Francuska i Novi Zeland da bi se izborili sa ekstremnim sadržajem uliva nadu da će doći do promene na bolje, međutim, političari prvenstveno moraju da se upoznaju sa najvažnijim algoritmima. Društvene mreže kao što su Jutjub i Fejsbuk imaju moć da kreiraju viralni sadržaj i prošire ga internetom neverovatnom i nezaustavljivom brzinom. Možda vam se čini da je takva sposobnost sasvim bezopasna ako pomislite na video snimak koji prikazuje simpatično mače, ali ako se njegov sadržaj odnosi, na primer, na ubistvo, nemoć i nedostatak procedura koje bi zaustavile širenje takvog „virusa“ su zastrašujući. Pošto je martovski masakr u džamiji na Novom Zelandu bio prikazivan uživo na društvenim mrežama, ispostavilo se da su svi pokušaji da se video sadržaj ukloni sa internet platformi bili neuspešni. Iako je kompanija „Fejsbuk“ uklonila sadržaj 1,5 miliona puta, on se stalno ponovo pojavljivao. Prema navodima premijerke Novog Zelanda Džasinde Arden, sadržaj je postavljan na Jutjub svakog sekunda tokom 24 sata. Inače, premijerka je udružila snage sa francuskim predsednikom Emanuelom Makronom u borbi protiv pošasti širenja opasnog sadržaja na internetu.
Dva državnika su pokrenula inicijativu poznatu poda nazivom „ Christchurch Call“ ( prim. prev. Poziv Crkve Hrista) koja predstavlja početak dugotrajnog procesa koji bi trebalo da uspostavi ravnotežu između različitih vrsta spornih pitanja – od slobode govora do zaštite privatnosti. Međutim, da bi njihov plan imao bilo kakav uticaj, zvaničnici bi trebalo da se upoznaju sa tehnikama i načinom funkcionisanja softvera kompanija u čijem vlasništvu se nalaze društvene mreže i prvenstveno shvate kako se sadržaj doprema do korisnika. Makron je već napravio prvi ohrabrujući korak i poslao vladine zvaničnike u kancelarije kompanije „Fejsbuk“ da bi pratili kako se kontroliše sadržaj, ali treba tek da vidimo da li će uspeti i u kojoj meri da shvate tehnologiju ili koliko će im biti dozvoljen pristup kompanijinom „tajnom receptu“, odnosno, algoritmima.
U svakom slučaju, moramo priznati da je to zanimljiv obrt. Do sada se najviše razgovaralo o tome kako naterati tehnološke gigante da sami sebe bolje kontrolišu. U tom smislu, zaposlili su više moderatora koji treba da nadgledaju sadržaj koji se objavljuje, angažovali alatke veštačke inteligencije koja treba da spreči širenje opasnog sadržaja i „skinuli“ sa platforme najgore zločince na mreži. I pored svega toga, izgleda kao da se pištoljem na vodu bore protiv šumskog požara. Srž problema je u algoritmima koji se hrane dopaminom.
Pošto se poslovni modeli kompanija „Gugl“ i „Fejsbuk“ zasnivaju na procesu oglašavanja, njihova sposobnost da privuku pažnju svojih korisnika čini ih izuzetno moćnim i neodoljivim. I pored svih nepovoljnih natpisa u novinama o upadima u podatke korisnika i otrovnom sadržaju tokom protekle godine, Fejsbuk i Jutjub i dalje imaju oko dve milijarde korisnika mesečno. Sve se to događa jer vrlo vešto obavljaju tri postupka: znaju šta korisnici žele, to im automatski pružaju i, konačno, podstiču ih da daju povratne komentare. To je posledica stalnog finog i preciznog podešavanja i ažuriranja algoritama koji upravljaju filtriranjem sadržaja, oglašavanjem i preporučivanjem. Cilj je da se ljudi zadrže na internet stranici što je duže moguće uz minimalni napor. U tome i uspevaju jer ljudski um definitivno nije dorastao super računaru.
Sve postaje komplikovano kad se pojavi potencijalni poslovni konflikt između stalnog povećanja angažovanja korisnika, što oglašivači i, naravno, akcionari, žele, i stalnog smanjivanja ekstremnog sadržaja, što političari zahtevaju. Na primer, ako je društvena mreža postavila kao cilj povećanje vremena koje korisnici provedu u gledanju video sadržaja, da li problem nastaje kad algoritmi uvek promovišu sadržaj koji će najverovatnije izazvati emocionalne reakcije. Ako je tako, onda je to vrlo privlačno za oglašivače, ali i za one koji treba da pročiste neodgovarajući sadržaj. Koliko te kompanije mogu da kontrolišu šta njihovi filteri skriveni u mračnim kutijama izbacuju, pita se Ardenova. Video sadržaj koji je objavio ubica iz grada Crkva Hrista je kreiran da se brzo proširi po internetu uz snažan emocionalni naboj koji je bio vrlo efektivan uz pomoć algoritama dok su društvene mreže pokazale da nisu sposobne da to širenje zaustave.
Osnivač kompanije „Fejsbuk“ Mark Zakerberg stalno ističe svoju želju da njegova društvena mreža bude regulisana zakonom da bi mogao da pokuša da reši problem ekstremnog sadržaja i lažnih vesti, međutim suviše je rano da sa sigurnošću kažemo da li će inicijativa biti uspešna. U svakom slučaju, trebalo bi razvijati bolji uvid u funkcionisanje algoritama, snažniji etički uvid u njihovo kreiranje i uspostavljanje mnogo jasnije granice između reklama i sadržaja. Ako primenimo sve to, novi mediji će mnogo više ličiti na one stare – uz određeno smanjenje zarade – ali čini se da bi vredelo platiti takvu cenu.