Jedna studija je otkrila da svakodnevne interakcije ljudi sa onlajn algoritmima utiču na to kako uče od drugih. Naravno, posledice su negativne i obuhvataju pogrešne društvene percepcije, sukobe i širenje dezinformacija.
Ljudi sve više komuniciraju sa drugima u okruženjima društvenih mreža gde algoritmi kontrolišu tok društvenih informacija koje ti ljudi mogu da vide. Algoritmi delimično određuju koje poruke, koje ljude i koje ideje korisnici društvenih mreža mogu da vide.
Na platformama društvenih mreža algoritmi su uglavnom napravljeni tako da pojačaju informacije koje podstiču i održavaju angažovanje, što znači da jednostavno primoravaju ljude da kliknu na sadržaj i da se vraćaju na mrežu. Grupa stručnjaka na polju socijalne psihologije izradila je spomenutu studiju i naveli su da su pronašli dokaze koji sugerišu da je nuspojava takve prirode algoritma ta što oni pojačavaju one informacije iz kojih ljudi skloniji da nešto nauče. Te informacije su nazvali primarnim i u njih spadaju one prestižne, unutar grupe, moralne i emocionalne informacije.
U našoj razvojnoj prošlosti, predrasude da se uči iz primarnih informacija bile su veoma korisne: Učenje od prestižnih pojedinaca je efikasno, jer su ti ljudi uspešni i njihovo ponašanje se može kopirati. Obraćanje pažnje na ljude koji krše moralne norme je važno, jer njihovo sankcionisanje pomaže zajednici da održi saradnju.
Međutim, šta se dešava kada algoritmi pojačavaju primarne informacije, a neki ljudi iskoriste algoritamsko pojačavanje da bi se promovisali? Prestiž postaje pogrešan signal uspeha, jer ljudi mogu da lažiraju prestiž na društvenim mrežama. Newsfeedovi postaju prezasićeni negativnim i moralnim informacijama, tako da se rađa sukob, a ne saradnja.
Interakcija ljudske psihologije i algoritamskog pojačavanja dovodi do disfunkcije, jer društveno učenje podržava saradnju i rešavanje problema. S druge strane, algoritmi društvenih mreža su napravljeni tako da povećaju angažovanje. Tu neusklađenost nazivamo funkcionalnom neusklađenošću.
Zašto je važno
Jedan od ključnih ishoda funkcionalne neusklađenosti u društvenom učenju posredovanom algoritmom je da ljudi počinju da formiraju pogrešne percepcije svog društvenog sveta. Na primer, nedavna istraživanja sugerišu da kada algoritmi selektivno pojačavaju ekstremnije političke stavove, ljudi počinju da misle da su političke ideje unutar njihove grupe i van nje oštrije podeljene nego što zaista jesu. Takva „lažna polarizacija“ može biti važan izvor većeg političkog sukoba.
Funkcionalna neusklađenost takođe može da dovede do obimnijeg širenja dezinformacija. Nedavna studija sugeriše da ljudi koji šire političke dezinformacije koriste moralne i emocionalne informacije – na primer, postove koji izazivaju moralni gnev – kako bi naveli ljude da ih više dele. Kada algoritmi pojačavaju moralne i emocionalne informacije, dezinformacije se uključuju u pojačavanje.
Koja se još istraživanja sprovode
Uopšteno govoreći, istraživanja na ovu temu su u povojima, ali pojavljuju se nove studije koje ispituju ključne komponente društvenog učenja posredovanog algoritmom. Neke studije su pokazale da algoritmi društvenih mreža jasno pojačavaju primarne informacije.
Trenutno se žestoko osporava da li to pojačavanje dovodi do oflajn polarizacije. Nedavni eksperiment je otkrio dokaze da Meta u newsfeedovima povećava polarizaciju, ali drugi eksperiment koji je uključivao saradnju sa Metom nije pronašao dokaze o povećanju polarizacije zbog izloženosti njenom algoritamskom Facebook newsfeedu.
Potrebno je više istraživanja da bi se u potpunosti razumeli rezultati koji se pojavljuju kada ljudi i algoritmi komuniciraju u povratnim petljama društvenog učenja. Kompanije društvenih mreža imaju većinu potrebnih podataka i veruje se da bi akademskim istraživačima trebalo omogućiti pristup tim podacima, istovremeno vodeći računa o nekim etičkim pitanjima, kao što je privatnost.
Šta je sledeće
Ključno pitanje je šta se može učiniti da algoritmi neguju tradicionalno ljudsko društveno učenje, a ne da iskoriste njegove pristrasnosti. Jedan istraživački tim radi na novim dizajnima algoritama koji povećavaju angažovanje, a istovremeno kažnjavaju primarne informacije. Tvrde da bi to moglo da održi aktivnost korisnika koju platforme društvenih mreža traže, ali i da učini društvene percepcije ljudi preciznijim.