Pentagon planira da potroši 2 milijarde dolara na proširenje obima korišćenja veštačke inteligencije u naoružanju. Zvaničnici od računara traže da vojnim zapovednicima objasne donete odluke. Odsek Ministarstva odbrane za napredna istraživanja Sjedinjenih Država odlučio je da uloži do sada najveću količinu novca u razvijanje sistema veštačke inteligencije u naoružanju. Naime, u sledećih pet godina, investiraće dve milijarde dolara u, kako je rečeno, nove napore da se takvi sistemi učine pouzdanijim i prihvatljivijim za vojne zapovednike. Poslednjeg dana konferencije u Vašingtonu koja je održana povodom šezdesetogodišnjice postojanja Projektne agencije za napredna odbrambena istraživanja (DARPA) i uloge koju je imala u pokretanju interneta, njen direktor je upoznao javnost sa novim ulaganjem agencije.
Agencija smatra da treba da se posveti pronalaženju novih tehnoloških rešenja za vojne probleme. Pri tom, stručnjaci za tehnološki razvoj u Trampovoj administraciji snažno podržavaju još veće korišćenje veštačke inteligencije u američkom naoružanju da bi država mogla da održi korak sa ruskim i kineskim vojnim snagama. Prema standardima Pentagona, ulaganje Agencije je neznatno jer se očekuje da će, recimo, troškovi nabavke i održavanja borbenih aviona ef-35 biti veći od jednog biliona (1012) dolara. Ipak, to je najveće ulaganje u veštačku inteligenciju do sada i suma otprilike odgovara onoj koju su Sjedinjene Države uložile u projekat „Menhetn“ četrdesetih godina prošlog veka kad se stvaralo nuklearno naoružanje. Međutim, ako bismo u proračun uključili i inflaciju, mogli bismo da kažemo da bi danas ta suma iznosila oko 28 milijardi dolara.
U julu je Buz Alen Hamilton potpisao ugovor vredan 885 miliona dolara prema kome bi sledećih pet godina trebalo da se posveti razvijanju neklasifikovanih programa veštačke inteligencije sa odbrambenim ciljevima. Spomenimo i projekat „Maven“, jedan od najvećih vojnih projekata, koji treba da unapredi sposobnost računara u izdvajanju objekata sa fotografija za vojnu upotrebu. I u njega treba uložiti 93 miliona dolara u 2019. godini.
Prebacivanje većeg broja vojnih analitičkih procedura i potencijalno ključnih odluka na računare i algoritme ugrađene u naoružanje koje može nasilno da deluje na ljude izazvalo je oprečna mišljenja. Kompanija „Gugl“ je predvodila projekat „Maven“ sve dok njeni radnici nisu organizovali protest jer nisu želeli da rade na softveru koji može da pomogne u određivanju ciljeva za oružano delovanje. „Gugl“ će obustaviti rad čim istekne potpisani ugovor.
Dok su „Maven“ i ostali projekti veštačke inteligencije poboljšali Pentagonov sistem naoružanja u oblasti prepoznavanja ciljeva i unapredili letove bespilotnih letelica, borbeni sistemi koje pokreću računari i koji mogu sprovesti procedure uništavanja po sopstvenom nahođenju još nisu odobreni. U strateškom dokumentu koji je Pentagon objavio u avgustu navodi se da će napredak u tehnologiji uskoro omogućiti postojanje takvog naoružanja. „Ministarstvo odbrane još nema autonomni sistem naoružanja koji može da traži, prepozna, prati, odabere i nacilja mete nezavisno od podataka koje obezbeđuje čovek“, navodi se u dokumentu koji su potpisali najviši zvaničnici u Pentagonu.
Ipak, „tehnologije koje podržavaju sisteme koje ne kontrolišu ljudi omogućiće razvoj i upotrebu autonomnih sistema koji će nezavisno odabirati i napadati mete smrtonosnom silom“ predviđa izveštaj. Dokument ističe da iako su sistemi veštačke inteligencije sasvim sposobni da odaberu metu i deluju na nju vatrenim oružjem, zapovednici i dalje nevoljno prepuštaju kontrolu platformama naoružanja delimično i zbog nedostatka poverenja u mašinsko rezonovanje, posebno na bojnom polju gde se mogu pojaviti promenljivi uslovi koje mašina i njeni stvaraoci nikad ranije nisu susreli.
„Trenutno, na primer, ako bi vojnik zatražio od nekog sistema veštačke inteligencije, recimo platforme za odabir meta, da objasni svoj izbor, mogla bi da pruži preciznu procenu samo za tu odluku, rekao je direktor Agencije Stiven Voker novinarima nakon objave novog ulaganja. Odgovor mašine je izražen u procentima, odnosno brojčano izraženoj verovatnoći da je meta koju je mašina izdvojila ono što je rukovalac tražio.
„Pokušavamo, međutim, da stvorimo veštačku inteligenciju koja je sposobna da kaže čoveku „ovo je moj odgovor, i sad ću ti objasniti zbog čega mislim da je to prava odluka“ da bi potom objasnila čoveku zbog čega je donela takvu odluku“, rekao je Voker.
Zvaničnici Agencije nisu sasvim precizno objasnili kako će projekat u koji nameravaju da ulože novac dovesti do toga da računari dobiju sposobnost da objašnjavaju ključne odluke ljudima na bojnom polju usred buke i gungule sukoba, ali zvaničnici su rekli da to i jeste najvažnije za budućnost veštačke inteligencije u vojnoj oblasti.
Glavni izazov je prevazilaženje te prepreke koja će biti savladana kad veštačka inteligencija bude mogla da objasni svoje odluke rukovaocima u realnom vremenu. Ljudsko odlučivanje i razmišljanje zavisi od mnogobrojnih činilaca, a ne samo od poštovanja pravila, u čemu su mašine savršene. Ljudima su potrebne godine da izgrade etičke stavove i unaprede zdravorazumsko razmišljanje, što inženjeri i dalje pokušavaju da ugrade u digitalne mašine.
“Verovatno nam je potreban ogroman projekat „Menhetn“ da bismo stvorili sistem veštačke inteligencije koji bi bio sposoban kao trogodišnje dete“, rekao je Roj Brahman koji je predvodio program razvoja veštačke inteligencije u Agenciji koji je trajao do 2005. godine. „Imali smo ekspertske sisteme u prošlosti i veoma robusne robotičke sisteme i znamo kako da prepoznamo slike u ogromnoj bazi podataka fotografija, ali još nismo uspeli da stvorimo celinu uključujući i ono što ljudi s vremena na vreme nazivaju zdravim razumom.“
Majkl Horovic koji je radio na pitanjima veštačke inteligencije kao saradnik u kabinetu ministra za odbranu 2013. godine, a sad je profesor na univerzitetu u Pensilvaniji, objasnio je u razgovoru da postoji velika zabrinutost zbog bezbednosti veštačke inteligencije i algoritama koji ne mogu da se prilagode kompleksnoj realnosti zbog čega mogu pogrešno da funkcionišu i nepredvidivo se ponašaju. Konačno, ne možemo porediti Gugl pretragu i sistem naoružanja.
„Ako bi sistemi veštačke inteligencije dokazali da su sposobni da koriste zdravi razum“, dodao je Horovic, „onda bi ih verovatno pokušali da ih iskoriste i svi drugi kojima su potrebni.“. Naučni odbor za odbranu je 2016. godine odobrio nagli razvoj veštačke inteligencije u vojne svrhe i istakao da mašine reaguju brže od ljudi u vojnim sukobima. Međutim, takvo brzo odlučivanje izazivalo je sumnju kod onih koji treba da se oslone na te iste mašine na bojnom polju.
Zapovednici shvataju da mogu imati koristi od boljih, uređenijih, svežijih i preciznijih podataka koje su dobili zahvaljujući primeni autonomije na ratovanje, ali izražavaju i izvesnu zabrinutost, navodi se u izveštaju. Agencija nije jedini odsek Pentagona koji finansira istraživanje veštačke inteligencije. Trampova administracija se trenutno bavi stvaranjem novog Udruženog centra za veštačku inteligenciju u Pentagonu koji bi omogućio koordinaciju svih programa na tom polju u Ministarstvu odbrane.
Ipak, finansijski plan Agencije izlazi iz okvira Centra. Štaviše, Agencija trenutno nadzire 25 programa koji su usredsređeni na istraživanje veštačke inteligencije, ali planira da ubaci još novca preko svog novoosnovanog Programa za istraživanje veštačke inteligencije koji je objavljen u julu i koji će dati po milion dolara svakom istraživačkom poduhvatu koji bi se bavio procedurama podučavanja sistema veštačke inteligencije koje bi joj omogućile da razume kontekst, što bi dovelo do mnogo delotvornijeg funkcionisanja u kompleksnom okruženju. Voker je rekao da je izuzetno važno osposobiti sisteme veštačke inteligencije da odlučuju čak i kad su okruženi haosom i da posle toga objasne svoje odluke svojim rukovaocima… u ratnom okruženju.“