„Mozila“ je upravo pokrenula novu internet stranicu na kojoj se nalazi 28 priča strave i užasa koje su korisnici servisa Jutjub doživeli kad im je algoritam za preporuke prikazao bizarne i užasne video-sadržaje koji ih uopšte nisu interesovali. U tim preporukama se nalaze i video-sadržaji koji prikazuju rasizam, zavere i nasilje. Algoritam za preporuke servisa Jutjub ove godine je već doživeo mnogobrojne kritike zbog radikalnih sadržaja, pedofilije i zbog toga što je u suštini bio vrlo, kao je navedeno, „toksičan“, što predstavlja ozbiljan problem s obzirom na to da korisnici 70 procenata vremena provedu gledajući video sadržaje koje im je algoritam preporučio. Zbog toga je „Mozila“ pokrenula projekat #YouTubeRegrets da bi istakla problem i, naravno, podstakla Jutjub da ga reši i promeni način funkcionisanja svog servisa. Nešto mračnije priče o preporukama servisa Jutjub izazivaju neprijatnost i u centar pažnje dovode pitanje o opravdanosti postojanja preporuka. Priče koje su korisnici podelili pokazuju da je algoritmu najvažnije da korisnika što više angažuje i da nudi one sadržaje koji ljude drže prikovane za monitor računara, bez obzira na to da li je sadržaj štetan ili nije.
Krvoproliće, nasilje i mržnja
Mnoge priče opisuju uticaj koji su preporuke imale na najosetljivije grupe među kojima su i deca: „Kad je moj sin bio u predškolskom uzrastu, voleo je da gleda animiranu seriju Tomas i drugari na Jutjubu. Kad sam jednom ušla u njegovu sobu da proverim šta radi, videla sam da gleda kompilaciju video-sadržaja koji su vrlo verno prikazivali slučajeve pravih sudara vozova.“
Nažalost, korisnici ne mogu da isključe preporuke. Dakle, deca su potpuno nemoćna kad im algoritam preporuči neodgovarajuće sadržaje. Ipak, ni odrasli nisu pošteđeni.
„Počeo sam da gledam boks meč, zatim ulične boks mečeve, zatim sam video sadržaje koji prikazuju ulične tuče, zatim nesreće i gradsko nasilje… Konačno, dobio sam užasnu sliku sveta i bilo mi je jako loše. Nijedan od tih sadržaja, zapravo, nisam želeo da vidim.“ Ponekad preporuke mogu da budu u suprotnosti sa korisnikovim interesovanjima i tad su uglavnom vrlo opasne i uznemirujuće.
„Imao sam običaj da povremeno pogledam video sadržaje u kojima je jedan transvestit govorio o pozitivnim afirmacijama i jačanju samopouzdanja. Osim toga, uglavnom sam gledao popularne muzičke video spotove. Međutim, okvir za preporuke i bočna traka bili su ispunjeni sadržajima punim mržnje protiv LGBT populacije. Iako više nisam gledao zapise o pozitivnim afirmacijama i jačanju samopouzdanja, preporuke me još dugo nisu napustile.“ Spomenuti su i video zapisi o teorijama zavere jer se često preporučuju, što dovodi do toga da mlađe generaciju budu pogrešno obaveštene, starije zavedene, a kod ljudi sa mentalnim problemima izazivaju paranoju.
Iako, kako „Mozila“ tvrdi, priče liče na anegdote i ne predstavljaju tek puke podatke, svakako naglašavaju da postoji mnogo ozbiljniji problem. Verujemo da priče sasvim precizno pokazuju da postoji mnogo ozbiljniji problem sa algoritmom Jutjuba, koji može vrlo agresivno da nameće bizaran i opasan sadržaj. Pošto niko ne može detaljnije da prouči te priče, jer ne postoji pristup pravim podacima, još više se učvršćuje uverenje da je algoritam vrlo nejasan i da se ne može ispitati. Tu se nalazi srž problema. Jutjub se nepovoljno izrazio o svim metodologijama koje su koristili kritičari algoritma za predlaganje, ali nije rekao gde su pogrešili. „Mozila“ ističe da Jutjub nije čak dostavio podatke stručnjacima koji bi potvrdili tvrdnju servisa da je smanjio preporuke graničnog sadržaja i opasnih dezinformacija za 50 procenata. Ipak, ne postoji nijedan postupak kojim bi se to moglo proveriti.
Rešenje?
Sudeći prema pričama pojedinaca i izveštajima novinara, izgleda da nešto mora da se promeni i to što pre. Jedan od stručnjaka predlaže da je najbolje kratkoročno rešenje da se svojstvo preporuka jednostavno ukine. Iako takvo rešenje verovatno nije moguće, „Mozila“ je predložila Jutjubu tri konkretna koraka koje bi servis mogao da preduzme da bi poboljšao svoje usluge: Obezbediti nezavisne stručnjake koji bi dobili pristup značajnim podacima, uključujući i statističke podatke (koliko puta je neki video-sadržaj preporučen, koliko je bilo pregleda na osnovu preporuke, zatim, koliko puta je sadržaj podeljen, ime autora sadržaja, opis sadržaja, transkripcija i drugi tekstualni oblici koji su izvučeni iz video sadržaja).
Stvaranje alatki za simulaciju za stručnjake, koje bi im omogućile da podražavaju korisnikov prolazak kroz algoritam za preporuku. Osposobljavanje, a ne sprečavanje nezavisnih stručnjaka da promene postojeću brzinu saobraćaja programskog interfejsa za aplikacije i da im se omogući pristup istorijskoj arhiv video-sadržaja. Predstavnici servisa priznaju da imaju problema sa algoritmom za preporuke i kažu da ulažu napore da problem reše. Stručnjaci, međutim, misle da problem nije samo u samom servisu, već da je mnogo ozbiljniji i kompleksniji i da se moraju angažovati nezavisni stručnjaci koji bu pomogli u rešavanju problema.
Sve priče možete pročitati na „Mozilinom“ veb-sajtu. Ako pokušavate da se oslobodite algoritama u životu pokušajte da instalirate dodatni program Nudge koji uklanja svojstva na mreži koja vas primoravaju da stalno pregledate objave na Fejsbuku ili preporuke na Jutjubu. Mi ćemo vam navesti dve priče.
Smrtonosni pad
Počeo sam da pretražujem video-sadržaje koji prikazuju ljude koji padaju i pri tom se neznatno povrede. Tad mi je Jutjub ponudio kanal koji prikazuje snimke kamera u automobilima. U početku sam gledao manje saobraćajne nezgode, ali kasnije, snimci su prikazivali automobile koji eksplodiraju ili padaju sa mostova, nesreće koje su se fatalno završile po ljude koji su bili u tim automobilima. Malo mi se smučilo, jer zaista nisam tražio takvu vrstu sadržaja,
Mali korak za zavere
Ja sam učiteljica i često sam gledala vrlo ozbiljne dokumentarne filmove o Apolu 11. Međutim, sad se preporuke Jutjuba povezane sa teorijama zavere u vezi sa 11. septembrom, Hitlerovim bekstvom, potragama za vanzemaljcima i antiameričkom propagandom.