Napredak veštačke inteligencije koji je stvorio Aleksu, podučava botove zadužene za propagandu kako treba da se izražavaju. Borba protiv robota koji šire propagandu je trka u naoružanju za očuvanje naše demokratije koju bismo mogli da izgubimo. Botovi – или jednostavni računarski zapisi – isprva su napravljeni da bi automatizovali zadatke koji se ponavljaju, kao što je organizovanje sadržaja или upravljanje održavanjem mreže i tako oslobodili ljude obavljanja višečasovnih jednoličnih procedura. Kompanije i medijske kuće, takođe, koriste botove da bi rukovali nalozima na društvenim i medijskim mrežama, odmah obavestili korisnike o najnovijim vestima или promovisali novi objavljeni materijal. Mogu se koristiti i za upravljanje mnogobrojnim lažnim nalozima, zbog čega su savršeni za manipulisanje ljudima. Naše istraživanje na „Projektu računarske propagande“ proučava kako se upotrebljavaju politički botovi koji koriste velike podatke i automatizaciju da bi širili lažne informacije i izvrtali govore na mreži.
Pokazali su da nabolje objavljuju ekstremističke stavove na društvenim mrežama, ali i da ih izuzetno dobro ističu i pojačavaju koristeći druge, prave naloge preko kojih šalju vezu do takvih stavova, dele ih, ponovo tvituju, označavaju da ih vole или da im se sviđaju. Tako uspevaju da izmanipulišu algoritam i nagrade objave sa kojima su bili u interakciji tako što im omogućavaju veću vidljivost. Cela priča nam izgleda prilično naivno kad je uporedimo s onim što nam se sprema.
Snaga je u brojkama
Posle uplitanja Rusije u američke izbore 2016. godine, počele su brojne rasprave o tome kako zaštiti politiku od propagande. Društvena mreža „Tviter“ je eliminisala desetine miliona sumnjivih naloga, uključujući i botove, dok su zakonodavci predložili zabranu njihovog korišćenja i insistirali na korišćenju mera transparentnosti i na boljoj saradnji sa internet platformama.
Izgleda da smo počeli da pobeđujemo u prethodno spomenutoj trci u naoružanju, što je delimično tačno jer je taktika botova počela da zastareva, a nikada nije bila suptilna. Njihova snaga je nekad bila u brojkama. Propagandisti bi okupili armije botova koje bi preplavile internet objavama i odgovorima u pokušaju da nadvladaju pravi demokratski razgovor. Pošto smo uspeli da stvorimo tehničke protivmere koje mnogo bolje otkrivaju njihove postupke, lakše ih eliminišemo. I ljudi su postali obazriviji i mnogo bolje uočavaju njihovo ponašanje. Prosečni bot ne preduzima ništa da sakrije svoja robotička svojstva i, ako malo pažljivije pogledate uzorak tvitova или profilnu sliku, otkrićete ga.
Međutim, sledeća generacija botova razvija se neverovatnom brzinom, što je delimično posledica napretka na polju obrade prirodnih jezika, dakle, korišćenjem iste tehnologije koja je dovela do nastanka interfejsa koji se pokreće glasom, kao što su Aleksa kompanije „Amazon, Asistent kompanije „Gugl или „Majkrosoftova“ Kortana. I ponašanje novih botova biće sličnije ljudskom.
Moramo priznati da je svaki pomenuti interfejs koji reaguje na glas još prilično nespretan, ali isto tako postaje sve bolji. Već sama činjenica da mogu dešifrovati ljudski jezik je fantastična. Osim digitalnih asistenata moramo spomenuti i velike kompanije koje koriste botove koji vode razgovore u korisničkom servisu, kao i medijske kuće, Si-En-En, na primer, gde botovi distribuiraju personalizovane medijske sadržaje. Takvi botovi tvrde da su automatizovani, ali propagandni to sigurno neće uraditi. Predstaviće se kao ljudi i učestvovaće u razgovorima na mreži u odeljku komentara, grupnih razgovora i poruka.
Iako se u javnosti tvrdi da takvi botovi postoje, to nije tačno. Većina ih reaguje na ključne reči koje pokreću standardne odgovore koji retko kad odgovaraju kontekstu или sintaksi određenog razgovora. Takvi odgovori se lako uočavaju.
Međutim, postaje teže. Neki jednostavni unapred programirani zapisi u botovima uspešno su prevarili korisnike. Oni uče kako da razumeju kontekst i nameru i postaju veštiji u razgovoru tako da ih je teže prepoznati.
Za nekoliko godina, botovi koji mogu da govore, mogli bi da traže prijemčljivije korisnike i da im priđu preko privatnih kanala za ćaskanje. Rečito će usmeravati razgovor i analizirati podatke korisnika da bi im isporučili odgovarajući propagandni materijal. Botovi će usmeravati ljude prema ekstremističkim stavovima i kontra-argumentima kroz razgovor.
Umesto da prenose propagandu svima, svoju aktivnost će usmeriti na uticajne ljude i političke disidente. Napadaće pojedince govorom mržnje, zatrpaće ih neželjenim porukama или će zatvoriti njihove naloge prijavljujući uvredljivi sadržaj.
Odlično za „Gugl“, odlično za botove
Vredelo bi pogledati kako napreduju tehnike veštačke inteligencije koje pokreću botove jer su metodi koje koriste tehnološke kompanije odlični za usavršavanje sposobnosti političkih botova.
Da bi se obavljala obrada prirodnih jezika potrebna je ogromna količina podataka. Tehnološke kompanije, kao što su „Gugl“ i „Amazon“, dobijaju takve podatke jer javnosti otvaraju pristup algoritmima za obradu jezika preko aplikacionih programskih interfejsa. Treće strane, na primer, banke, koje žele da automatizuju razgovore sa svojim klijentima mogu da pošalju sirove podatke, kao što su audio или tekstualni zapisi или telefonski razgovori aplikacionim programskim interfejsima. Algoritmi obrađuju jezik i šalju podatke koje mašina može da pročita i koji mogu da pokrenu naredbe. S druge strane, tehnološke kompanije koje obezbeđuju interfejse dobijaju pristup ogromnom broju uzoraka razgovora, koje mogu da iskoriste za unapređenje mašinskog učenja i algoritama.
Štaviše, skoro sve velike tehnološke kompanije omogućavaju otvoreni pristup svojim algoritmima za obradu prirodnih jezika. Programeri mogu da ih koriste da bi stvorili svoje nove aplikacije, na primer softver za robota koji će reagovati na glasovne naredbe. Programeri unose poboljšanja u prvobitni algoritam i unapređuju ga, od čega opet najveću korist imaju tehnološke kompanije jer dobijaju povratne informacije od programera.
Najveći problem je u tome što su takvi servisi dostupni skoro svima – uključujući one koji stvaraju političke botove. Tehnološke kompanije, obezbeđujući alat za automatizovanje razgovora, nenamerno podučavaju propagatore da govore.
Najgore tek dolazi
Botovi koji su vešti govornici ljudskog jezika za sada su prava retkost. Potrebna je suštinska sposobnost, računarska snaga i podaci za obuku da bismo mogli da opremimo botove savremenim algoritmima za obradu jezika. Ipak, to nije nedostižno. Od 2010. godine, političke partije i vlade potrošile su više od pola milijarde dolara na manipulisanje društvenim mrežama i medijima i od toga stvorile visoko profesionalni i izuzetno dobro finansirani sektor.
Ipak, proći će još mnogo vremena pre nego što botovi budu sposobni da prevare čoveka u razgovoru jedan-na-jedan, ali pošto se algoritmi usavršavaju, takve sposobnosti će se svakako pojaviti. Kao što je slučaj i sa svim ostalim inovacijama, i veštačka inteligencija će, kad se izvuče iz zatvorenih okvira, probiti ograničeni skup aplikacija koje su isprva obavljale.