Ilon Mask, osnivači kompanije „Dipmajnd“ i mnogi drugi potpisali su obećanje da neće razvijati sisteme naoružanja zasnovane na veštačkoj inteligenciji!
Lideri u oblasti savremenih tehnologija, uključujući Ilona Maska i tri osnivača ogranka „Dipmajnd“ kompanije „Gugl, potpisali su garanciju da nikada neće razvijati „smrtonosno autonomno oružje“. To je najnoviji korak koji je napravilo nezvanično i globalno udruženje naučnika i direktora da bi izrazili svoje protivljenje razvoju takve tehnologije. Obećanje upozorava da sistemi naoružanja koji koriste veštačku inteligenciju da bi „odabrali i napali mete bez ljudskog mešanja“ predstavljaju moralnu i praktičnu pretnju. Prema rečima potpisnika, nemoralno je „prepustiti mašini donošenje odluke o oduzimanju ljudskog života“. Što se tiče praktične pretnje, kažu da bi širenje takvog naoružanja „opasno destabilizovalo svaku državu i pojedinca“.
Obećanje je objavljeno danas na Međunarodnoj udruženoj konferenciji o veštačkoj inteligenciji koja se održava u Stokholmu u organizaciji Instituta „Budućnost života“, istraživačke institucije koja se bori za ublažavanje egzistencijalnih opasnosti po ljudsku vrstu. Institut je prethodno objavio pisma pojedinih potpisnika i obraćao se organizaciji Ujedinjenih nacija da bi razmotrila donošenje novih zakona u vezi sa „smrtonosnim autonomnim oružjem“ (engl. LAWS). Ovo je prvi put da autori pisama pojedinačno obećavaju da neće razvijati takvu tehnologiju.
Među potpisnicima se nalaze: Ilon Mask, direktor kompanija „Spejseks“ i „Tesla“; Šejn Leg, Mustafa Sulejman i Demis Hasabis, tri suosnivača „Guglove kompanije „Dipmajnd“; Jan Talin, osnivač „Skajpa“ i mnogi svetski priznati i čuveni naučnici koji se bave veštačkom inteligencijom uključujući i Stjuarta Rasela, Jošua Bengia i Jirgena Šmidhubera.
Maks Tegmark, potpisnik obećanja i profesor fizike na Masačusetskom tehnološkom institutu, izjavio je da obećanje pokazuje da su vodeći stručnjaci za veštačku inteligenciju „prešli sa reči na dela“. Rekao je da je obećanje uradilo ono što političari nisu, a to je da su postavljene stroge granice razvoju veštačke inteligencije u vojne svrhe. „Oružje koje može samo da odluči da li će ubijati ljude odvratno je i opasno koliko i biološko i trebalo bi se prema njemu ponašati na isti način“, rekao je Tegmark.
Do sada su svi pokušaji da se organizuje podrška globalnom regulisanju autonomnog oružja ostali bez rezultata. Pobornici su predložili da na smrtonosno autonomno oružje treba postaviti zabranu kao što je to urađeno sa hemijskim naoružanjem i nagaznim minama. Međutim, ne treba zaboraviti da je izuzetno teško odrediti šta sačinjava autonomni sistem. Na primer, minobacač može da nacilja pojedinca, ali ne može sam da puca dok čovek to ne odluči.
Istakli su da bi donošenje odgovarajućeg zakona predstavljalo veliki izazov pošto se tehnologija za razvoj autonomnog oružja izuzetno proširila. Štaviše, države koje su najdalje stigle u njenom razvoju (kao Kina i Amerika) nemaju baš nikakav motiv da podrže takav zakon. Čula su se i stručna mišljenja da potpisano obećanje neće imati značajnijeg uticaja na međunarodnu politiku jer joj nedostaje održivo angažovanje stručnjaka za veštačku inteligenciju u objašnjavanju razloga za njihovu zabrinutost zbog širenja autonomnog naoružanja. Uz to, većina vlada se slaže sa glavnim postulatima obećanja – da pojedinci ne smeju da razvijaju sisteme veštačke inteligencije koji će napadati pojedince – i da je tehnologija već u širokoj upotrebi u vojne odbrambene svrhe. Bar trideset država poseduje autonomno naoružanje koje bi se koristilo u slučaju odbrane od raketa i projektila.
Iako smo svesni da se međunarodni zakoni neće uskoro pojaviti, nedavni događaji su nam pokazali da organizovani i ujedinjeni protesti mogu doneti rezultate (zaposleni u „Guglu“ protiv saradnje sa „Pentagonom“ или pretnja bojkotom Univerziteta „KAIST“ u Južnoj Koreji zbog razvijanja veštačke inteligencije u vojne svrhe).
Treba napomenuti da u oba slučaja, organizacije nisu prestale sa razvijanjem vojnog naoružanja zasnovanog na veštačkoj inteligenciji, ali onog koje nije smrtonosno. Ipak, obećanje da mašina neće sama birati koga će da ubije bolje je od nikakvog obećanja.
Ceo tekst obećanja glasi:
Veštačka inteligencija igra sve važniju ulogu u vojnim sistemima. Svi građani, političari i vođe bi trebalo da se upoznaju sa razlikama između prihvatljive i neprihvatljive upotrebe veštačke inteligencije.
U tom smislu, mi, dole potpisani, slažemo se da odluka o oduzimanju ljudskog života nikada ne bi trebalo da bude prepuštena mašini. Moralna komponenta takvog stava odnosi se na to da ne bi trebalo da prepustimo mašinama da donose odluke o životu i smrti za koje drugi – или niko – ne bi bio odgovoran.
Praktični argument koji podržava takav stav je da bi smrtonosno autonomno oružje koje bi odabiralo i ciljalo mete bez ljudskog mešanja destabilizovalo svaku državu i pojedinca. Hiljade stručnjaka za veštačku inteligenciju slaže se da bi smrtonosno autonomno oružje postalo snažno sredstvo nasilja i ugnjetavanja, posebno ako bi bilo povezano sa nadzorom i sistemima podataka, kad bi bilo oslobođeno opasnosti, odgovornosti i poteškoća zbog oduzimanja ljudskog života.
Štaviše, smrtonosno autonomno oružje ima potpuno drugačije osobine od nuklearnog, hemijskog i biološkog naoružanja, a jednostrane akcije pojedinačnih grupa mogle bi lako da podstaknu trku u naoružanju koju međunarodna zajednica ne bi mogla da kontroliše jer ne poseduje tehnička sredstva i sisteme globalnog upravljanja. Osuđivanje i sprečavanje takve trke u naoružanju trebalo bi da bude na vrhu prioriteta za očuvanje nacionalne i globalne bezbednosti.
Mi, dole potpisani, pozivamo vlade i njihove predsednike da stvore budućnost kojom će vladati stroge međunarodne norme, pravila i zakoni protiv smrtonosnog autonomnog oružja. Pošto toga trenutno nema, odlučili smo da sami postavimo visoke standarde: obećavamo da nikad nećemo učestvovati niti podržavati razvoj, proizvodnju, trgovinu i upotrebu smrtonosnog autonomnog oružja. Molimo sve tehnološke kompanije i organizacije kao i državne vođe, zakonodavce i sve pojedince da nam se pridruže u ovom obećanju.
Dvadeset i šest zemalja u organizaciji Ujedinjenih nacija je nezavisno od tog obećanja odlučilo da podrži zabranu upotrebe smrtonosnog autonomnog oružja, a to su: Alžir, Argentina, Austrija, Bolivija, Brazil, Čile, Kina, Kolumbija, Kostarika, Kuba, Džibuti, Ekvador, Egipat, Gana, Gvatemala, Vatikan, Irak, Meksiko, Nikaragva, Pakistan, Panama, Peru, Palestina, Uganda, Venecuela i Zimbabve.