Od rasističkih reklama do skandala sa kompanijom Cambridge Analytica, svesni smo da je potrebno preduzeti određene mere da bi se rešilo pomanjkanje morala u oblasti savremenih tehnologija. Zadatak je svih nas da nastalu situaciju rešimo jer imamo moć da to uradimo. Prethodne dve godine bile su težak period za oblast savremenih tehnologija. Izbori za američkog predsednika 2016. godinu bili su prekretnica za ono što je bilo oličenje naprednog kapitalizma koji donosi boljitak za sve. Danas prevladava mišljenje da mali broj pojedinaca ostvaruje ogromnu zaradu na račun većine. Tehnološke kompanije su potpuno van kontrole jer su zakonodavci nemarni, nezainteresovani ili, još gore, zbunjeni planom o uspostavljanju zakona u tim kompanijama. Međutim, posle skandala sa prikupljanjem podataka u kompanijama Cambridge Analytica i Facebook, pojavilo se novo zanimanje za moralne norme u poslovanju tehnoloških kompanija, kao i u radu programera koji stvaraju njihovu mašineriju.
Uobičajeno je da se IT inženjeri u svom radu ne osvrću na uticaj koji bi njihovi proizvodi mogli da imaju na širi društveni kontekst. Programiranje predstavlja pisanje najelegantnijeg programa koji će omogućiti računaru da izvrši zadatak, od ispravljanja grešaka u kodu или stvaranja pomoćnog programa do menjanja slika političara slikama mačaka. Smatra se da razmatranje moralnih pitanja nije u domenu programera. Njima se bavi neko drugi, a zadatak inženjera je da stvara.
Takvo shvatanje je pogrešno jer se digitalne tehnologije koriste svakodnevno. Zbog toga programeri treba da predvide potrebe ljudi za koje pišu programe, njihove slabosti i okolnosti, što je značajan i izuzetno kompleksan zadatak. Videli smo potpuno neočekivane i ozbiljne posledice stanja koje smo upravo naveli, kada je program napravio užasne greške. Navešćemo samo neke. Google- ova aplikacija za fotografije davala je Afro-Amerikancima na fotografijama oznaku „gorila“. Donedavno, društvena mreža „ Facebook“ imala je algoritam koji je generisao kategorije koje su se koristile u ciljanom oglašavanju, a obuhvatale su ljude koji su izrazili zanimanje za teme kao što je „mrzimo Jevreje“. Kompanija Google je imala sličan problem sa ciljnim rasističkim kategorijama.
Naravno, ljudi koji pišu takve programe nisu rasisti, niti pojedinačne radnike možemo kriviti za neželjene posledice. Naprotiv, uzroci problema su mnogobrojni i različiti i obuhvataju težnju za zaradom, brzopleto urađene programe i nedostatak različitosti među zaposlenima u tehnološkim kompanijama, što umanjuje verovatnoću da će se stvoriti razumni programi pri čemu će se voditi računa o problemima različitosti i diskriminacije. Ako direktori kompanije zahtevaju da radnici rade brzo i probijaju se ka inovacijama, pretpostavlja se da će neko drugi morati da „počisti“ za njima.
Britanski stručnjak za savetovanje potrošača i uštedu novca Martin Luis tužio je kompaniju „ Facebook“ jer je koristila njegovo ime i lik u lažnim oglasima da bi uvukla ljude u skupe mahinacije. Kompanijini algoritmi su dozvolili da određeni ljudi budu mete tih ciljanih lažnih oglasa, umesto da su stvorili sisteme koji bi vršili kontrolu i rešavali takve probleme.
Budućnost savremenih tehnologija je neizvesna. Da bi se rešili problemi sa kojima smo suočeni potrebno je uložiti mnogo truda i napora. U svakom slučaju, razmatranja moralnih normi moraju se staviti u prvi plan. Advokati imaju odgovornost prema sudu, doktori imaju odgovornost prema svojim pacijentima, a stručnjaci za savremene tehnologije bi trebalo da slede ovaj kodeks da bi svoj posao obavljali kako valja. Postavlja se još jedno pitanje. Prema kome softverski inženjeri treba da imaju odgovornost: prema svojim nadređenima, sebi samima или prema javnosti?
Već vidimo kako moralna načela mogu da posluže kao centralna tačka za industrijsko i političko organizovanje unutar tehnoloških kompanija. Hiljade zaposlenih u Google- u potpisali su pismo u kome protestvuju protiv saradnje kompanije sa Pentagonom u projektu korišćenja veštačke inteligencije za uređivanje snimaka koje su sakupile bespilotne letelice. Desetine naučnika iz mnogobrojnih zemalja pozvali su na bojkot univerziteta iz Južne Koreje koji namerava da napravi autonomne robote u odbrambene svrhe. Hiljade inženjera iz Sjedinjenih Država potpisali su dokument u kome odbijaju da stvore bazu podataka doseljenika. Koalicija zaposlenih u kompanijama savremenih tehnologija pomogla je u organizovanju protesta ispred američke kompanije „Palantir“, koja stvara ogroman tehnološki špijunski mozak koji bi koristila policija i druge državne službe.
Takvi postupci pojedinaca i grupa zahtevaju hrabrost i zaslužuju društvenu podršku. Podsećaju nas na to šta je moguće uraditi i pružaju nam priliku da razgovaramo o putevima i ciljevima navedenih aktivnosti. Etička razmatranja mogu poslužiti kao bedem protiv neumitne jurnjave za zaradom i moći. Graditeljima digitalnih tehnologija potreban je prostor i podrška da bi razgovarali o izvorima koji su im potrebni ako u svom poslovanju nameravaju da se usredsrede na svoje korisnike i poštuju njihove potrebe. Države su zakasnile sa donošenjem zakona koji bi regulisali ovu granu privrede, ali države nisu jedine odgovorne. Zaposlenima je potrebna moć da se odupru poslovnim poduhvatima koji stvaraju probleme koje smo naveli, a veoma često zaposleni imaju prava rešenja.
Kako bi mogli da se reše takvi problemi? Trebalo bi uvesti etiku kao deo obrazovanja svakog IT inženjera, koje bi se nastavilo i na radnom mestu. Takvo obrazovanje moglo bi da obuhvati i omogućavanje korisnicima da saznaju koji se njihovi lični podaci prikupljaju kao i kako i šta žele da podele. Pri tom, trebalo bi stalno imati u vidu različite nivoe iskustva ogromnog broja korisnika i uključivati ih u razvoj i beta-testiranje novih programa i alatki.
Ljudski nadzor i kontrola sigurno bi mogli biti skuplji od automatizovanog, ali neophodni su i neizbežni ako želimo da unapredimo naše digitalno okruženje. Vremenom, takvi postupci bi mogli da se prošire na pitanje o političkoj moći. Možemo li da ojačamo kulturu koja će veličati tehnologiju koja se koristi u mirnodopske svrhe i počnemo da kritikujemo tehnologiju u službi zatvora i ratovanja? Ukratko, treba da stvorimo kulturu koja je sasvim suprotna od one „treba brzo napredovati i rušiti staro“, odnosno onu koja polako stvara, poštuje ljude i daje im moć