Takvi sistemi nas dovode do pojave diskriminacije jer se tehnologija koja se koristi zasniva na zastareloj nauci i zbog toga je nepouzdana, tvrde stručnjaci. Sistemi veštačke inteligencije za koje kompanije tvrde da mogu da „čitaju“ izraze lica zasnivaju se na zastareloj nauci i tako dolaze u opasnost da budu nepouzdane i diskriminatorske, upozorio je jedan od vodećih svetskih stručnjaka za oblast psihologije koja se bavi emocijama. Liza Feldman Baret, profesorka psihologije na Univerzitetu Nortistern, rekla je da izgleda da takve tehnologije zanemaruju sve veći broj dokaza koji potkopavaju ideju da su osnovni izrazi lica univerzalni za sve kulture. Kao rezultat, takve tehnologije – od kojih su neke već primenjene u stvarnim okruženjima – dolaze u opasnost da budu nepouzdane или diskriminatorske, rekla je.
„Ne znam kako kompanije mogu da nastave da opravdavaju ono što rade kad je sasvim jasno kakvim dokazima se raspolaže“, rekla je. „Neke kompanije, ne obazirući se na realne okolnosti, jednostavno nastavljaju da iznose tvrdnje koje ne mogu biti tačne.“ Njeno upozorenje je vrlo značajno jer se takvi sistemi uvode u sve veći broj aplikacija. U oktobru, kompanija „Unilever“ je tvrdila da je uštedela 100.000 sati pri zapošljavanju novih radnika jer je koristila takav softver za analizu video-snimaka razgovora sa kandidatima za posao.
Sistem veštačke inteligencije, koji je razvila kompanija „HireVue“ skenira izraze lica kandidata, govor tela i izbor reči i upoređuje ih sa osobinama za koje se smatra da su u korelaciji sa uspehom na poslu. Kompanija „Amazon“ tvrdi da njen sistem prepoznavanja lica, Rekognition, može da otkrije sedam osnovnih emocija – radost, tugu, bes, iznenađenje, gađenje, smirenost i zbunjenost. Pojavilo se nekoliko izveštaja u kojima stoji da Evropska unija pokreće softver koji, navodno, može da otkrije prevaru analizom mikroizražavanja, da bi pomoću njega ojačala bezbednost na granicama.
„Na osnovu objavljenih naučnih dokaza, naš je stav da takve tehnologije ne bi trebalo da se primenjuju i koriste za donošenje presudnih odluka o životu ljudi“, rekla je Baretova. Odgovarajući na pitanja novinara uoči svog govora na godišnjem sastanku Američkog udruženja za unapređenje nauke u Sijetlu, Baretova je rekla da je ideja o univerzalnim izrazima lica za radost, tugu, strah, bes, iznenađenje, gađenje bila prihvaćena šezdesetih godina prošlog veka pošto je američki psiholog Pol Ekman, sproveo istraživanje u Papui Novoj Gvineji, pokazujući da su pripadnici izolovanog plemena davali slične odgovore Amerikancima kada su tražili da usklade fotografije ljudi koji pokazuju izraze lica sa različitim scenarijima, kao što je „Bobijev pas je uginuo“.
Međutim, sve veći broj dokaza pokazao je da izvan ovih osnovnih stereotipa postoji ogroman raspon u načinu na koji ljudi izražavaju emocije, kako u različitim kulturama, tako i unutar jedne. Na primer, u zapadnim kulturama, otkriveno je da se ljudi mršte samo u oko 30 procenata slučajeva kada su ljuti, što znači da u preostalih 70 procenata, svoju ljutnu pokazuju drugačijim izrazima lica.
„Pouzdanost je vrlo slaba“, rekla je Baretova. „Ljudi se često mršte kad nisu ljuti. To je ono što bismo nazvali niskim stepenom određenosti. Ljudi se mršte kad pokušavaju da se usredsrede, kada neko ispriča lošu šalu, kad se neko grohotom smeje.“ Izraz koji bi trebalo da bude univerzalan za strah je pretpostavljeni stereotip za preteće или besno lice u Maleziji, rekla je. Takođe postoje široke varijacije unutar kultura u smislu načina na koji ljudi izražavaju emocije, dok je kontekst, kao što je govor tela i s kim osoba govori, od presudnog značaja.
„Veštačka inteligencija se uveliko obučava pod pretpostavkom da svi ljudi izražavaju emociju na isti način“, rekla je Baretova. „Nažalost, veoma moćna tehnologija koristi se za dobijanje odgovora na vrlo pojednostavljena pitanja.“