Iako je prvi algoritam napisala žena u 19. veku, danas možemo reći da veštačka inteligencija diskriminiše žene. Posle dva veka od prvog napisanog algoritma, oni sada „imaju sposobnost da nas vrate nekoliko desetina godina unazad kad je u pitanju ravnopravnost polova“, objašnjava Suzan Levi, istraživač sa Univerziteta u Dablinu koja je jedan od učesnika projekta koji se bavi sprečavanjem algoritama veštačke inteligencije da uče o rodnoj pristrasnosti. „Oni mogu da pogoršaju one loše, tipično muške stavove protiv kojih se decenijama borimo u društvu“, dodaje ona.
Teret istorije
Veštačka inteligencija uči iz podataka koji su dostupni, a većina njih je pristrasna, kaže Levi. Problem je u tome što mašine uče na osnovu podataka iz poslednjih deset do dvadeset godina koji mogu nesvesno reprodukovati predrasude iz prošlosti. Štaviše, bez uključivanja novijih društvenih dostignuća u pogledu polova i stavova, jezik i frazeologija koji se koriste u podacima mogu da osnaže zastarele stereotipe. Na primer, većina tehnologija veštačkih inteligencija nije čula za globalni feministički pokret #MeToo niti za himnu pokreta žena u Čileu „Silovatelj na tvom putu“. „Nastavljamo da ponavljamo greške iz prošlosti“, kaže Suzan Levi.
Ta pristrasnost u programiranju utiče na svakodnevni život svih žena: od traženja posla do kontrolnih punktova na aerodromima.
Pioniri u svetu programiranja
Ada Lavlejs (1815-1852.) postala je prvi programer u istoriji, vek pre nego što su se pojavili računari. Sredinom devetnaestog veka, britanska matematičarka napisala je ono što se smatra prvim algoritmom za računarsku mašinu koju je osmislio njen suprug, naučnik Čarls Bebidž. U stvari, mnogi od pionira u svetu programiranja bile su žene. Smatrali su se boljim u malim zadacima – kao što je ENIAC programiranje (skraćenica za Electronic Numeric Integrator and Computer).
Kao deo tajnog projekta vojske Sjedinjenih Država u Drugom svetskom ratu, šest žena programiralo je prvi elektronski računar. Međutim, njihova imena su izostavljena kada je računar predstavljen javnosti 1946. godine.
Prekomerna zastupljenost muškaraca u nauci i tehnologiji
Programski sektor postao je dominantnije muški u osamdesetim godinama prošlog veka. Čak i danas, muškarci čine 59 procenata evropskih naučnika i inženjera, kako pokazuju najnoviji podaci Eurostata. Ta nejednakost nehotice je i nesvesno bila integrisana u pisanje algoritama. „Postoji veliki problem nejednakosti polova, posebno u procesu mašinskog učenja“, naglašava Levijeva. „To znači da nedostaje kritička perspektiva.“ „Mislim da većina inženjera ne želi da razvije algoritme koji vrše diskriminaciju na osnovu pola или rase“, kaže Levijeva.
Ipak, to nije samo pitanje namere. Prema rečima Suzane Levi, najbolje je imati raznovrsne programske timove da bi se mašine sprečile da prihvataju takve predrasude. „Znamo da timovi koji nisu raznoliki ne daju dobre rezultate.“ Levijeva, takođe, preporučuje da tehnološke kompanije omoguće ženskim članovima svojih timova da testiraju proizvode.
Kako algoritmi izležu žene diskriminaciji?
Veštačka inteligencija i ostale tehnologije koje koriste algoritme danas značajno oblikuju naš život i to svakodnevno“, objašnjava Džoj Lisi Rankin, vodeći istraživač pojmova roda, rase i moći u veštačkoj inteligenciji na institutu u Njujorku. „To retko razumemo zato što nam je tehnologija nevidljiva, a način na koji ona deluje nije nimalo transparentan“, nastavlja ona. Ti algoritamski sistemi određuju, na primer, „ko ima pristup važnim resursima i prednostima“, dodaje ona.
Jedan od najpoznatijih slučajeva diskriminacije na osnovu upotrebe veštačke inteligencije bio je pokušaj kompanije „Amazon“ da automatizuje svoj sistem zapošljavanja novih radnika. U 2018. godini otkriveno je da je američka multinacionalna kompanija odbacila alat veštačke inteligencije pomoću koga je četiri godine birala kandidate koji su se prijavljivali za posao, jer je pokazivao sklonost ka rodnoj pristrasnosti.
Amazonovi kompjuterski modeli bili su obučavani tako da odbijaju kandidate za posao na osnovu obrazaca u biografijama kandidata koji su ih dostavili tokom deset prethodnih godina. Međutim, smatrajući da je to industrija kojom dominiraju muškarci, većinu tih biografija dostavili su muškarci, stvarajući predrasudu u mašinskom učenju, tako da je veštačka inteligencija bila naklonjenija muškim kandidatima.
„Izbor biografija je veoma problematična oblast“, primećuje Levijeva. „Čak i ako kažete algoritmima veštačke inteligencije da se ne obaziru na pol, oni će pronaći druge načine da to saznaju.“ Amazonov algoritam odbacivao je biografije koje su obuhvatale reči povezane sa ženskim rodom, čak i u hobijima kandidata, kao što je „kapiten ženskog ragbi tima“.
Nije stvar samo u polu, već ta vrsta algoritma kažnjava i svaku različitost, tako što se priklanja nizu obrazaca koji na kraju favorizuju najpovoljniji i najzastupljeniji deo društva: muškarce bele rase. Sistemi za prepoznavanje lica su još jedan problematični algoritam, objašnjava Levijeva. „Ako ste žena i tamnoputi ste, onda ste u još većem problemu.“
Posledice mogu biti neznatne. Na primer, vaš telefon košta nešto više jer poseduje mogućnost da ga otključate tehnologijom za prepoznavanje lica, ali može biti i mnogo ozbiljnije kad naiđete na problem pri prolasku pored bezbednosnih kamera na aerodromu. „Ako ste belac, nećete dugo čekati na aerodromskoj proveri, ali ako ste tamnoputa žena, imaćete mnogo veće šanse da se dugo zadržite na aerodromu.“
Druga oblast u kojoj rodno pristrasni algoritmi imaju presudan uticaj na život žena jesu pretraživači i društvene mreže. „Oni različito kategorizuju i tretiraju korisnike uzimajući u obzir niz stereotipa“, kaže Levijeva. Najopasnije je kada se te procene koriste za slanje personalizovanih oglasa, posebno mladima koji lakše podležu raznim uticajima.
Na primer, društvena mreža Fejsbuk je belcima objavljivala oglase za bolje plaćene poslove, dok su ženama i ljudima druge boje kože prikazivani oglasi za lošije plaćene poslove. Kad u pretraživač Gugl unesete „black girls“ или „Latinas“, dobijete seksističke или pornografske rezultate. Možda bi algoritmi mogli da nam pomognu u borbi protiv seksizma umesto da ga podstiču? Novi propisi Evropske unije za razvoj veštačke inteligencije govore o razvijanju svesti, navodi Levijeva. Za takav proces biće potrebno možda celih deset godina.
Da bi se to desilo, moraju biti uključeni multidisciplinarni timovi, u kojima bi se razmatrala razmišljanja muškaraca i žena koji su zastupljeni u timovima. Algoritmi bi nam, takođe, mogli pomoći u borbi protiv diskriminacije, uključujući rodnu pristrasnost u procesu zapošljavanja. Mašina bi mogla biti nepristrasnija od čoveka pri izboru kandidata – ako je naučila da bude inkluzivna.
Prema rečima Suzan Levi sve bi to bilo moguće izvesti jer zaista veruje da algoritmi imaju potencijal da budu potpuno nepristrasni.