Nedavno sam pisao o kompaniji „Majkrosoft“ koja je preuzela ulogu savesti tehnološke industrije. Pored svega ostalog, kompanija je savetovala saveznu vladu da uspostavi regulative u domenu tehnologije prepoznavanja lica i upozorila na potencijalne opasnosti tehnologije koju pokreće veštačka inteligencija, od ozbiljnog ugrožavanja privatnosti do suzbijanja slobode govora. Kompanija je podstakla stvaranje međunarodnog pakta koji bi ograničio upotrebu sajber oružja u Sjedinjenim Državama i drugim zemljama. Međutim, „Majkrosoft“ trenutno pokušava da potpiše ugovor vredan 10 milijardi dolara sa Ministarstvom odbrane. Ugovor obuhvata poslove na razvoju veštačke inteligencije i tehnologije računarstva u oblaku, ali toliko je kontroverzan da je kompanija „Gugl“ odustala da učestvuje u nadmetanju pošto su njeni zaposleni izrazili zabrinutost i protivljenje. I zaposleni u „Majkrosoftu“ su postupili na isti način, ali kompanija se oglušila o njihove proteste.
Da li kompanija stavlja moralne vrednosti na stranu da bi potpisala vrlo unosan ugovor? Ili možda nastoji da pomogne u ojačavanju i obezbeđivanju nacionalne armije? Ako bismo se malo pažljivije pozabavili pitanjima, došili bismo do pravog odgovora. Hajde prvo da razmotrimo sam ugovor. Odnosi se na program koji se zove JEDI (Joint Enterprise Defense Infrastructure) koji će razviti infrastrukturu zasnovanu na oblaku za korišćenje podataka u ratnom periodu. Program će obuhvatiti i korišćenje veštačke inteligencije i mašinskog učenja u ratu. Dok se s jedne strane čuje da tehnologije u oblaku treba da omoguće borcima u ratu da budu uspešniji u borbama koje se zasnivaju na prikupljanju informacija, drugi su mnogo otvoreniji kad kažu da program treba da poveća ubojitost Ministarstva odbrane.
Osima „Majkrosofta“, u trku za potpisivanje ugovora ušle su „Amazon“ i „IBM“. Uočljivo je odsustvo kompanije „Gugl“ koja je odustala zbog protesta svojih radnika kao i u slučaju prethodnog ugovora u vezi sa projektom „Maven“ u okviru koga je veštačka inteligencija trebalo da tumači podatke sa video zapisa prema kojima bi trebalo usmeravati napade bespilotnih letelica. Posle peticije koju je potpisalo četiri hiljade radnika kompanije u kojoj su zahtevali da se izglasa jasna politika prema kojoj „Gugl“ nikada neće stvarati tehnologiju u službi rata. Pošto je odustala od tog ugovora, kad se pojavio program JEDI, kompanija nije ni krenula u nadmetanje izjavljujući da ne može biti sigurna da će program biti u skladu sa njenim principima za korišćenje veštačke inteligencije.
Zaposleni u „Majkrosoftu“ su pokušali da na sličan način utiču na kompaniju da se ne uključi u nadmetanje za program JEDI. U otvorenom pismu tvrde da je ugovor obavijen velom tajne i da im nije poznato šta bi trebalo da naprave. Zaposlili su se u kompaniji nadajući se da će na taj način da omoguće svakom čoveku na planeti da postigne više, a ne sa namerom da nekome oduzmu život ili pojačavaju ubojitost. U pismu navode i reči Smita i Šuma koji kažu da razvoj veštačke inteligencije treba da bude vođen jakim moralnim principima da bi se ona odgovorno stvarala i koristila. Ti etički principi su pravednost, pouzdanost, bezbednost, privatnost i sigurnost, sveobuhvatnost, transparentnost i odgovornost. Pismo se završava molbom da kompanija odustane od trke za potpisivanje ugovora.
Kompanija se oglušila o molbe radnika i nastavila da se bori za potpisivanje ugovora. Izjavila je da su još letos odlučili da se bore za ugovor zbog dugogodišnje saradnje sa Ministarstvom odbrane. S druge strane, sudbina svih koji žive u Sjedinjenim Državama zavisi od jake odbrane. Kompanija želi da svi Amerikanci, a naročito oni koji služe svojoj zemlji znaju da im „Majkrosoft“ čuva leđa i da će imati pristup najboljoj tehnologiji koju kompanija stvara.
Veštačka inteligencija, proširena stvarnost i ostale tehnologije pokreću nova i ozbiljna pitanja, uključujući i mogućnost oružja da deluje samostalno. Onog trenutka kad kompanija obezbedi tehnologiju vojsci, više neće imati uticaja na to kako će se ta tehnologija koristiti. Ipak, vojska je pod kontrolom građana, a kompanija se nada da će, ako je prisutna na tom tržištu, moći da se uključi u javnu debatu o tome kako bi se nove tehnologije mogle odgovorno koristiti.
I tako, što se kompanije tiče, slučaj je zaključen. Ne odustaje se od ugovora. Da li bi možda trebalo poslušati zaposlene koji traže odustajanje od trke. Šta je moralno uraditi?
Bilo bi dobro da se u kompaniji o tome razgovara, da se iznesu problemi, da komitet za ispitivanje etičkih vrednosti pregleda ugovor i pomogne u donošenju konačne odluke. Svaka drugačija procedura teško bi nas naterala da verujemo kompaniji na reč kad kaže da postupa prema etičkim normama i da pokušava da potpiše ugovor da bi pomogla zemlji. Pre bismo poverovali da se bori da doda još nekoliko milijardi u svoju kasu.