Stručnjaci upozoravaju da bi trebalo preduzeti određene mere kako bi se uspostavila kontrola veštačke inteligencije. Neobuzdano širenje tehnologija veštačke inteligencije moglo bi da dovede do stvaranja novih oblika sajber-kriminala, političkih nemira, pa čak i do fizičkih napada, upozorenje je grupe koju sačinjava 26 naučnika iz celog sveta. U najnovijem izveštaju, naučnici, stručnjaci i predstavnici dobrotvornih organizacija opisuju veštačku inteligenciju kao „tehnologiju sa dve oštrice“, koja ima potencijalnu upotrebnu vrednost u vojne i civilne svrhe, kao što su nuklearna energija, eksplozivi i alatke za hakovanje. U izveštaju se navodi da su mogućnosti veštačke inteligencije ojačale i proširile se zbog čega se može očekivati da njeni sistemi dovedu do povećanja postojećih pretnji po bezbednost, kao i do pojave novih pretnji i promene njihovog karaktera. Ističe se da je trebalo razmotriti potencijalnu zloupotrebu veštačke inteligencije mnogo ranije, a ne tek sada. Naučnici su morali da stvore određeni regulatorni okvir kako bi sprečili njeno korišćenje u zlonamerne svrhe.
Izveštaj upozorava da bi oglušavanje o savete dovelo do toga da „loši momci“ preuzmu vlast u svoje ruke i ugroze svakodnevni život. U digitalnoj oblasti, veštačka inteligencija bi mogla da se koristi za spuštanje zaštitnih zidova, što bi olakšalo pristup pogubnim hakerskim napadima. Tehnologija bi mogla da automatizuje otkrivanje kritičnih grešaka u programu ili da brzo pronađe žrtve koje su najpodložnije finansijskom napadu. Mogla bi i da zloupotrebi algoritamsko profilisanje u stilu društvene mreže „ Facebook“ i poveća verovatnoću da će korisnik kliknuti na zlonamernu vezu ili preuzeti zaraženi dodatak programu.
Sve veći uticaj veštačke inteligencije na fizički svet takođe predstavlja sve veću otvorenost za njenu zloupotrebu. Tema o kojoj se najviše govori odnosi se na naoružavanje „jata dronova“ koji bi, snabdeveni eksplozivom i tehnologijom autonomnog upravljanja, mogli da budu otposlati da obave tajna smaknuća.
Politički nemiri su takođe sasvim mogući. Državne vlade bi mogle da odluče da iskoriste automatizovane platforme za nadzor da bi ugušile pobune – što je slučaj u Kini, posebno među Ujgurima na severozapadu. Drugi bi mogli da šire automatizovane super-personalizovane lažne informacije i tako utiču na svakog pojedinačnog glasača različitim lažima koje bi uticale na ponašanje. Veštačka inteligencija bi mogla da proizvede mnoštvo ubedljivih lažnih vesti koje bi toliko zatrpale prave informacije da korisnici do njih ne bi mogli da dođu. Živimo u svetu koji bi mogao da bude opterećen svakodnevnim opasnostima koje nam dolaze od veštačke inteligencije i trebalo bi što pre rešiti probleme jer je rizik stvaran.
Decenijama, oduševljenje veštačkom inteligencijom i mašinskih učenjem odvuklo nas je od stvarnosti i činjenica. Izveštaj predlaže širi pristup ovim tehnologijama. Na primer, kako napraviti softver i hardver koji su manje podložni napadu hakera, kao i koje bi zakone i međunarodna pravila trebalo uvesti zajedno sa tim.
Međutim, postoje stručnjaci koji ne smatraju da veštačka inteligencija predstavlja ozbiljan rizik. Tvrde da će napredovati i dobra i loša strana i da će borba oko prevlasti biti pravi rat. Tehnologija će doprineti, i već doprinosi, poboljšanju sajber-bezbednosti, ali biće od koristi i kriminalcima. Ostaje nam da vidimo ko će od veštačke inteligencije izvući veću korist.
Drugi su sigurni da će tehnologija biti korisnija odbrambenoj nego napadačkoj strani jer je okrenuta prikupljanju ogromne količine podataka, što više priliči odbrani nego napadu.
Izveštaj priznaje da je veštačka inteligencija najbolja odbrana protiv veštačke inteligencije, ali sumnja da bi takva odbrana mogla da bude univerzalni lek, posebno ako izađemo iz digitalnog sveta.
Treba uložiti još mnogo truda i rada da bi se uspostavila prava ravnoteža u otvorenosti veštačke inteligencije, da bi se razvile napredne tehničke mere za formalnu verifikaciju jačine sistema i da bi se omogućilo prilagođavanje zakonskih okvira, stvorenih u svetu u kome veštačka inteligencija nije toliko dominantna, novom svetu koji stvaramo.