Krajem 2023. godine, američki predsednik Džo Bajden potpisao je izvršnu naredbu kojom su postavljeni novi standardi za uspostavljanje bezbednosti veštačke inteligencije i za postavljanje zaštitnog zida oko njenog razvoja. Pošto je prošlo 150 dana tokom kojih su mogle da se preduzimaju različite aktivnosti, kako je i navedeno u naredbi, Kancelarija za upravljanje i budžet Bele kuće (White House Office of Management and Budget – OMB) je 28. marta, objavila postavke vladine politike za eliminisanje rizika od korišćenja veštačke inteligencije, uspostavljanje transparentnosti, poboljšanje nadzora, a objavila je i precizna uputstva o tome kako federalne agencije mogu da koriste veštačku inteligenciju. Ipak, izgleda da su pravila u nekim delovima savezne uprave prilično stroga, naročito u Kongresu.
Prema internom obaveštenju kojeg je dobio časopis Axios, zaposlenima u Kongresu je zabranjeno da koriste Microsoft Copilota, odnosno paket alata veštačke inteligencije koji su dostupni u ekosistemu proizvoda kompanije i na vebu. Ketrin Špindor, glavna administrativna službenica Predstavničkog doma Sjedinjenih Država od 2020. godine, navodno je saopštila da je korišćenje Copilota „zabranjeno u Predstavničkom domu“. Ograničenja se odnose na komercijalnu verziju Copilota, koja je dostupna i kao besplatna alatka i kao verzija koja se plaća.
Kompanija navodno razvija verziju Copilota kao deo Azure oblaka i paketa Microsoft 365 kako bi ispunila napredne zahteve vladinih agencija koji se odnose na usklađivanje sa bezbednosnim standardima. Međutim, kancelarija na čijem čelu se nalazi Špindorova potvrdila je da će ti veštački inteligentni alati koje obezbeđuje Microsoft, a koji su namenjeni za korišćenje u vladinim agencijama i kancelarijama, morati da prođu strogu proveru pre nego što zaposlenima bude odobreno da ih koriste.
Neprijatna iskustva
„Kancelarija za sajber bezbednost smatra da je aplikacija Microsoft Copilot rizična za korisnike zbog toga što postoji opasnost da se podaci iz Predstavničkog doma neovlašćeno nađu na uslugama u oblaku koje nije odobrio Predstavnički dom“, saopštila je kancelarija za koju je zadužena Špindorova. Curenje podataka predstavljalo je problem za alate generativne veštačke inteligencije otkako se pojavio ChatGPT kompanije OpenAI. U maju prošle godine, jedna novinska kuća je objavila članak u kojem se navodi da je kompanija Apple upozorila zaposlene da ne koriste alate, kao što su Copilot asistent servisa GitHub za kodiranje i ChatGPT. Kad je kompanija Samsung otkrila da su neki podaci procureli, zabranila je zaposlenima da koriste aplikaciju ChatGPT.
Nekoliko meseci kasnije, u junu, stručnjaci kompanije Robust Intelligence sa sedištem u San Francisku pokazali su kako možete prevarom da naterate softver NeMo Framework AI kompanije Nvidia da otkrije privatne informacije i zanemari svoje bezbednosne mere. Federalna trgovinska komisija Sjedinjenih Država je istražila aplikaciju ChatGPT zbog ugrožavanja bezbednosti podataka. U novembru prošle godine, stručnjaci sa Univerziteta Northwestern otkrili su metode kojima mogu da prevare prilagođene aplikacije GPT i nateraju ih da otkriju poverljive informacije.
Mesec dana kasnije, jedna novinska agencija je došla do poverljivih dokumenata u kojima se navode problemi koji su nastali kada je chatbot Q kompanije Amazon počeo da halucinira. Tada je otkrio izuzetno poverljive podatke, kao što su lokacije centara podataka, neobjavljene funkcije, kao i programe koji se odnose na popuste. Spomenućemo još jedan nemili događaj, kada je ChatGPT otkrio lične podatke, kao što su bankarski podaci korisnika, zbog čega je kompanija bila primorana da ga nakratko skloni sa mreže. S obzirom na sve te incidente, nije neobično da je vlada Sjedinjenih Država zabranila upotrebu Copilota kompanije Microsoft na zvaničnim uređajima, mada ne može da zabrani zaposlenima u Kongresu da koriste spomenute alate privatnim uređajima.