Možda bi italijanska moda mogla da nam pomogne.
Riđi muškarac na sebi ima nešto što liči na uobičajeni tradicionalni božićni džemper i prilazi kameri. Oko njega se pojavljuje žuti pravougaonik. Softver za prepoznavanje lica odmah identifikuje čoveka kao žirafu!
Navedeni slučaj pogrešnog identiteta nije slučajan, već je potpuno namerno izazvan. Naime, džemper je deo kolekcije Manifesto koju je kreirala italijanska starup kompanija Cap_able. U kolekciji se osim džempera nalaze i dukserice sa kapuljačom, pantalone, majice i haljine. Svaki komad garderobe ima određen uzorak koji se naziva „neprijateljska šara“, koja je inače delo algoritama veštačke inteligencije i zadatak joj je da zbuni softver za prepoznavanje lica. U tom slučaju, kamera ne uspeva da prepozna onog ko nosi šaru ili ga identifikuje kao žirafu, zebru, psa ili neku drugu životinju koja je deo te šare.
„Kada se nađem ispred kamere, ne mogu da biram da li ću joj dati podatke ili neću“, objašnjava Rakel Diedro suosnivačica i izvršna direktorka kompanije. „Zbog toga smo odlučili da napravimo odeću koja će vam omogućiti izbor u tom slučaju. Nikako ne želimo da budemo buntovnici.“
Gospođica Diedro, koja je trenutno na doktorskim studijama u oblasti tekstila i mašinskog učenja koji omogućavaju privatnost, na Politehničkom fakultetu u Milanu, kaže da se ideja pojavila kada je bila na Tehnološko-modnom institutu u Njujorku na razmeni studenata. Dok je tamo boravila, pročitala je članak o tome kako se stanari u Bruklinu žale jer njihov stanodavac planira da uvede sistem za prepoznavanje lica na ulazu u zgradu.
Kaže da je tada prvi put čula za prepoznavanje lica. Zajedno sa svojim prijateljem koji je inženjer računarstva došla je na ideju da objedini modne uzorke sa računarskom naukom kako bi stvorila nešto što možete da nosite svaki dan da biste zaštitili svoje podatke.
Bilo je lako da se dođe do zamisli. Da bi je sproveli u delo, trebalo je prvo da pronađu, a kasnije i naprave pravi „neprijateljski algoritam“ koji bi im pomogao da stvore slike koje bi mogle da prevare softver za prepoznavanje lica. Mogli bi da naprave sliku, recimo, one spomenute žirafe i da koriste algoritam da bi je doterao. Ili bi mogli da postave odgovarajuće boje, veličinu i oblik šara koje žele i da prepuste algoritmu da obavi ključni zadatak. U tom procesu, trebalo je da krenu putem koji se nalazi negde između računarstva i mode.
Kojim god putem da su krenuli, trebalo je da testiraju slike koje su izabrali na dobro poznatom sistemu za detekciju koji se naziva YOLO, koji je jedan od najuobičajenijih algoritama koji se koristi u softverima za prepoznavanje lica.
Postupak dalje obuhvata stvaranje fizičke verzije šare u čemu im pomaže kompjuterizovana mašina za pletenje, koja izgleda kao kombinacija razboja i ogromnog roštilja. Posle nekoliko sitnih popravki da bi se dobio željeni izgled, podesila veličina i položaj slika na odevnom predmetu, spremni su da predstave najnoviju kolekciju izrađenu u Italiji od egipatskog pamuka.
Direktorka kaže da trenutni odevni predmeti imaju uspešnost između 60 i 90 procenata kada se „prikažu“ YOLO algoritmu. Neprijateljski algoritam kompanije Cap_able će napredovati, ali isto tako i algoritam kojeg pokušavaju da prevare. Možda će čak njegov napredak biti brži.
To je neprestana borba, smatraju stručnjaci, i neodoljivo podseća na trku između softvera koji pravi lažne video-zapise i softvera koji ih detektuje. Razlika je u tome što garderoba ne može da preuzme ažuriranja.
Recimo, kupili ste komad garderobe koji može da funkcioniše samo godinu dana, možda dve ili pet ili bar onoliko koliko je potrebno sistemu da napreduje da prepozna prevaru. Pošto je najniža cena komada oko 300 dolara, sva je prilika da će ta modna kolekcija biti omiljena samo malom broju ljudi.
Ipak, uticaj takvog pristupa bi mogao da se proširi van granica onih koji kupuju i nose tu garderobu.
Jedan od najvažnijih ciljeva kojeg treba da dostignu ti komadi odeće je stigmatizovanje nadzora, što je veoma važno da bi se ohrabrili zakonodavci da stvore smislena pravila da bi javnost mogla intuitivnije da se odupre štetnim i opasnim vrstama nadzora.
Kompanija Cap_able nije prva koja je pokušala da kombinuje zaštitu privatnosti i uzorke u boji. Na nedavno održanom Svetskom prvenstvu u fudbalu u Kataru, kreativna agencija Virtue Worldwide napravila je boju za lice na temu državnih zastava za navijače koji su želeli da prevare celu vojsku kamera za prepoznavanje lica u Emiratima.
Umetnik Adam Harvi koji živi u Berlinu i koji se posvetio podacima, privatnosti, nadzoru i računarskoj viziji, napravio je šminku, odeću i aplikacije koje treba da povećaju zaštitu privatnosti. Napravio je, 2016. godine, Hyperface, odnosno tekstilni uzorak koji je obuhvatio kamuflažne šare za zbunjivanje programa za prepoznavanje lica. Moglo bi se reći da je prethodnik italijanske kompanije.
Borba je počela i što je još važnije nema joj kraja. Dakle, kada budemo protestvovali na ulicama, sve to će nam uliti dodatnu sigurnost i, iako nas možda neće u potpunosti zaštititi, bar ćemo pomisliti da se nismo sasvim prepustili na milost i nemilost kamerama. Recimo, ljudi koji su izašli na proteste u Hong Kongu koristili su kišobrane, maske i lasere, dakle, nešto analognija sredstva da bi se suprotstavili mašinama. Međutim, nadležni su uočili „oružje“ i oduzeli ga.
Srećom, na pomolu su prikriveniji postupci, u kojima će se koristiti šare koje su manje vidljive ljudskom oku, ali koje i dalje mogu da zbune kamere. Najnovija italijanska modna linija mogla bi da pomogne ljudima u Kini, gde je prepoznavanje lica ključni deo napora da se identifikuju Ujguri u severozapadnom regionu Sinđijanga ili u Iranu koji navodno planira da koristi softver za prepoznavanje lica da bi se identifikovale žene bez hidžaba u metrou.
Veliki brat ima sve veći broj očiju, ali možda će u budućnosti moći da vidi samo žirafe i zebre umesto da vidi nas.