Како нас друштвене мреже гурају у Орвелову 1984.

Платформе друштвених мрежа манипулишу својим корисницима и искривљују наше схватање стварности, баш као што је Џорџ Орвел предвидео. Џорџ Орвел је у свом дистопијском роману 1984. створио Великог Брата, односно савршену метафору за данашње велике технолошке компаније. Орвелови телекрани, који не могу да се угасе, који снимају сваки разговор и надгледају сваки покрет човека, неодољиво подсећају на наше паметне телефоне. Баш као што телекрани аутоматски намећу програме својим гледаоцима, данашњи алгоритми друштвених медија одлучују шта ћемо видети и обликују наше виђење света. Орвелови ликови, под надзором Партије, покушавају да из свог ума избаце неке идеје, баш као што ми почињемо да надгледамо своје мисли и поступке који су под утицајем интернета.

Иако је та метафора корисна (посебно ако имамо на уму да Кина врло предано ради на претварању фикције у стварност), док сам поново овог лета читао роман, изненадио сам се како је Орвел успео да предвиди све наше односе са друштвеним мрежама. Орвел је својим концептом Два минута мржње, дневним ритуалом беса који је организовала Партија и Новоговором, намерно двосмисленим језиком који је створен да би ограничио способност људи да префињено комуницирају, открио како се људским мислима и осећањима и, коначно, поступцима може манипулисати. Динамика коју описује необично одражава начин на који друштвене мреже сада утичу на животе милијарди људи широм света.

Два минута мржње

У Орвелловом роману људи свакодневно прекидају своје активности и стоје испред својих телекрана да би изазивали непријатеље и славили Великог Брата. Непријатељи се редовно мењају, али ритуал, назван Два минута мржње, остаје исти: У року од тридесет секунди више се није било потребно претварати. Одвратна екстаза страха и осветољубља, жеља за убијањем, за мучењем, за разбијањем туђих лица маљевима, почела би да струји кроз целу групу као електрицитет, претварајући човека и против његове воље у лудака који се кези и вришти. Па ипак је тај бес био апстрактан, неусмерена емоција која се могла скренути с једног предмета на други као пламен ацетиленске лампе.

Овај опис звучи фантастично док не узмете у обзир шта се догађа на нашим друштвеним мрежама. Током скандала Гамергате 2014. године, жена и њена породица постали су мета масовне кампање узнемиравања која је укључивала објављивање њених личних фотографија и претње силовањем и смрћу. Околности су од тада једноставно постале још горе. Данас, лажни налози редовно промовишу бесне хештегове и подвале док не постану званични трендови и док их људи не прихвате, а у неким случајевима све док их не прихвате чак и главни медији. Повећава се број утицајних представника деснице и оних који шире теорије завере који пропагирају расистичке и сексистичке мимове својим следбеницима. И све то не само да је могуће, већ добија огромну подршку и платформи друштвених медија.

Поред тих пажљиво организованих кампања ширења мржње, свакодневно се повећава број случајева узнемиравања и малтретирања. Према извештају истраживачког центра Пеw, 59 процената америчких тинејџера доживело је малтретирање или узнемиравање на мрежи. Пред парламентарне изборе Британији у децембру 2019. године, истрага ББЦ-ја открила је на Твитеру пораст броја случајева узнемиравања и претњи смрћу упућених парламентарним кандидатима. Око 7 процената објава на тој друштвеној мрежи (односно, 334.000) које су кандидати примили категоризоване су као насилне.

Пре него што помислите да то никад не бисте урадили, размислите да ли сте икада учествовали у бесу на друштвеним мрежама да бисте се сутрадан пробудили и помислили „Како сам то могао да урадим?“ Да ли сте икада схватили да сте били приморани да реагујете иако вам нису биле познате све чињенице? Да ли сте икада објавили, лајковали или ретвитовали чланак са посебно експлозивним насловом, а да га заправо нисте прочитали? Ако јесте, учествовали сте у верзији Орвелових два минута мржње на друштвеној мрежи. Иако бих волео да можемо мало више да контролишемо своје нагоне на мрежи, Орвелов дистопијски роман подсетио ме је да је стварни проблем у томе што је негодовање које се шири као пошаст на друштвеним мрежама више од њихове случајне одлике. То је, у ствари, њихова суштина, то је оно што желе да произведу. Оне су као мегафон који пред вас непрекидно ставља садржај који је толико моћан, емотиван и екстреман да му је, како каже Орвел, „немогуће одолети“. И док се стално крећете по страницама, лако проналазите теме које код вас изазивају бес јер су се алгоритми друштвених мрежа Јутјуб, Твитер и Фејсбук за то побринули.
Партији у Орвеловом роману потпуно је небитно на шта су људи бесни, као што је то небитно и друштвеним мрежама данас. Важно је да су људи који су бесни дубоко уроњени у тај бес и да је њима је лакше манипулисати.

Новоговор

Исто толико застрашујуће је како у 1984., Партија користи Новоговор како би из језика избацила значење, и тако онемогућила људима да имају одређене мисли. Смањивање броја речи доступних људима спречава их да имају одговарајућа осећања и идеје и због тога теже обрађују и разумеју свет. Када језик изгуби своје значење („рат је мир, слобода је ропство, незнање је снага“), Партија контролише оно што се сматра стварношћу. Чињенице и независне мисли, заправо, више не постоје: До 2050. године – а вероватно и раније – Староговор ће се потпуно изгубити. Цела књижевност прошлости биће уништена. Чосер, Шекспир, Милтон, Бајрон – сви ће они постојати само у новоговорској верзији; не само измењени, него окренути у своју супротност. Чак ће се и књижевност Партије изменити. Чак и пароле. Како да се одржи парола као што је ’слобода је ропство’ кад неће постојати чак ни појам слободе? Цела клима мишљења ће бити другачија. Мишљења, у данашњем смислу те речи, у ствари неће ни бити. Бити идеолошки исправан значи не мислити – немати потребе да се мисли. Бити идеолошки исправан значи бити несвестан.

Наш језик постаје све скученији и једноставнији, а све због ограничења броја знакова у порукама на друштвеним медијима и употребе хештегова за истицање и промоцију допадљивих и лако разумљивих идеја, догађаја и трендова. На тим платформама нијансирано изражавање не представља предност. Друштвене мреже нам отежавају разумевање наше стварности чим дозволе било ком мишљењу да (без обзира на то колико је маргинално) добије карактер чињенице.

Једноставна решења

Орвелова књига се завршава тако што главни јунак Винстон, потпуно прихвата власт Партије, у потпуности учествује у ритуалних Два минута мржње и верује да је два плус два једнако пет. Не морамо да будемо Винстон, али, што је још важније, велике технолошке компаније не морају да се понашају као Партија. Оно што ме обесхрабрује је то што постоји неколико једноставних поступака који се већ дуго заговарају, а који би, ако не у потпуности решили проблем, бар би значајно помогли у томе.

Рецимо: Додати поруку упозорења. Друштвене мреже покушале су да елиминишу сваки случај код кога би могло да дође до трвења између корисника како би прошириле обим комуникације и ангажовања на својим платформама. Али шта би се десило кад би применили другачији приступ? Шта би се догодило ако би корисника који је хтео да објави нешто непримерено прекинула порука која би га, рецимо, питала: „Јесте ли сигурни?“ Инстаграм је 2019. применила нешто слично да би ограничила грубе реакције у комуникацији. Иако такав приступ неће спречити сваког да објави непримерени садржај, натераће многе од нас да застанемо и размислимо пре него што то учинимо.

Престати са приказивањем предложених објава или видео-записа само да би се корисници задржали на платформи прегледајући садржај чак и кад су видели све што су објавили људи које прате. Платформа Јутјуб је покренула својство АутоПлаy 2015. године, сервирајући својим гледаоцима низ непрекидних репродукција предложених видео-снимака. Та карактеристика се у великој мери сматра главним покретачем ширења екстремног садржаја. Друштвена мрежа Инстаграм, која је до сада одолевала, променила је своју политику у августу и почела да укључује предложене објаве у новости корисника.

Агресивно се борити за чињенице. Када неко напише да је „два плус два једнако пет“, потрудите се бар да престанете да ширите лаж, без обзира на то колико је то узбудљиво за ваше кориснике. Ово ће бити невероватно тешка и вероватно бескрајна битка. Грешака ће бити, али из њих се учи. Досадашњи напори били су сувише слабашни; улагања у огромне тимове и процесе провере чињеница морају драстично да се повећају. Стручњаци се и даље не слажу око тога да ли је постављање порука упозорења уз лажне информације ефикасно у ограничавању њиховог дељења. Неки су закључили да би то могло да одврати кориснике од дељења, док други нису видели да то има неке резултате. Ипак, вреди покушати. Неуморна идентификација и искључивање налога, страница и форума који промовишу мржњу. Студија о резултатима забране коју је 2015. године поставила платформа Реддит двема заједницама које су промовисале мржњу показала је да је „гашењем ових одјека мржње, Реддит натерала људе који су тим заједницама припадали да напусте локацију или драматично промене свој начин изражавања“. Другим речима, ниво мржње се значајно смањио, чак и када су исти корисници наставили да користе Реддит и придружили се другим форумима.

Сва та решења своде се на једноставну идеју: Пословање, истински окренуто човеку – оно коме је циљ да побољша човечанство – требало би да подржава добре стране својих корисника, уместо да користи њихове слабости. Иако наш данашњи свет можда личи на онај из Орвелове 1984., још увек имамо времена да напишемо другачији крај.