Evropa predlaže ograničenja veštačke inteligencije, a posledice bi mogle biti globalne

Evropska unija je objavila nacrte zakona koji bi regulisali tehnologiju prepoznavanja lica i upotrebu algoritama. Usvajanje takvih zakona moglo bi da utiče na kompanije u Sjedinjenim Državama i Kini. Evropska unija je predložila uvođenje pravila kojima bi se ograničile или zabranile neke upotrebe veštačke inteligencije unutar svojih granica, što bi obuhvatilo i tehnološke divove sa sedištem u Sjedinjenim Državama i Kini. Predložena pravila predstavljaju do danas najznačajniji međunarodni pokušaj da se reguliše veštačka inteligencija, pri čemu su tu uključeni tehnologija za prepoznavanje lica, autonomna vozila i algoritmi koji kontrolišu oglašavanje na mreži, zapošljavanje na osnovu odluka algoritama i davanje kredita pomoću istog tog sistema. Predložena pravila mogu da pomognu u oblikovanju globalnih normi i propisa u vezi sa tehnologijom koja mnogo obećava, ali ima i određene nedostatke.

Na globalnom nivou postoji vrlo važna poruka da određene primene veštačke inteligencije nisu dozvoljene u društvu zasnovanom na demokratiji, vladavini zakona i poštovanju osnovnih ljudskih prava. Predložena pravila su pomalo nejasna, ali predstavljaju značajan korak ka kontroli potencijalno štetne upotrebe tehnologije. Verovatno će se debata pažljivo pratiti u inostranstvu, jer bi se zakoni odnosili na sve kompanije koje prodaju proizvode или usluge u Evropskoj uniji. Postoje i mišljenja da ima previše rupa u predlozima Evropske unije zbog čega građani ne bi bili u potpunosti zaštićeni od mnogih zloupotreba veštačke inteligencije. Postoje neke vrste zabrana, ali određene odredbe bi omogućile kompanijama i državnim institucijama da nastave da koriste veštačku inteligenciju na sumnjive načine.

Predloženi propisi nagoveštavaju, na primer, zabranu primene veštačke inteligencije „visokog rizika“, uključujući upotrebu tehnologije za prepoznavanje lica pri sprovođenju zakona, ali samo kada se tehnologija koristi za otkrivanje ljudi u realnom vremenu na javnim mestima. Ta odredba, takođe, obuhvata potencijalne izuzetke kada policija istražuje krivično delo za koje bi mogla biti izrečena kazna od najmanje tri godine zatvora.
Dakle, možemo da primetimo da bi tehnologija i dalje mogla da se koristi u školama, preduzećima или tržnim centrima, kao i u nizu policijskih istraga, što znači da se pravila nisu ozbiljno dotakla osnovnih digitalnih prava.

Tehnologija prepoznavanja lica, koja je postala mnogo efikasnija zahvaljujući nedavnom napretku veštačke inteligencije, prilično je sporna. Njena upotreba u Kini je prilično rasprostranjena, ali treba spomenuti i Sjedinjene Države gde je koriste institucije za sprovođenje zakona, pri čemu im pomoć pružaju komercijalni alati, kao što je Clearview AI. Neki američki gradovi zabranili su policiji upotrebu te tehnologije kao odgovor na negodovanje javnosti. Predložena pravila Evropske unije takođe bi zabranila „društveno bodovanje koje obavljaju državni organi u opšte svrhe zasnovano na veštačkoj inteligenciji“, kao i sisteme veštačke inteligencije koji ciljaju „određene osetljive grupe“ na načine koji bi „značajno izmenili njihovo ponašanje“ i tako prouzrokovali „psihički или fizički bol“. To bi potencijalno moglo da ograniči upotrebu veštačke inteligencije za odobravanje kredita, zapošljavanje или neke oblike ciljanog oglašavanja, na primer ako algoritam postavlja oglase za mesta za klađenje pred ljude koji su zavisni od kockanja.

Propisi Evropske unije zahtevali bi od kompanija koje koriste veštačku inteligenciju za visoko rizične aplikacije da regulatorima pruže procene rizika kojima bi dokazali da su aplikacije bezbedne. Oni koji se ne budu pridržavali pravila mogli bi biti kažnjeni sa do 6 procenata globalnog prihoda. Predložena pravila zahtevala bi od kompanija da obaveštavaju korisnike kada pokušaju da koriste veštačku inteligenciju za otkrivanje emocija ljudi или da klasifikuju ljude prema biometrijskim karakteristikama kao što su pol, starost, rasa или seksualna orijentacija или politička orijentacija – aplikacije koje su, takođe, tehnički sumnjive. Stručnjaci za digitalna prava kažu da bi pravila mogla da obeshrabre ulaganja u određene oblasti razvoja veštačke inteligencije i tako promene put kojim ona napreduje. Smatraju i da je trka u razvoju veštačke inteligencije potpuna besmislica, jer niko ne bi trebalo da se takmiči sa Kinom u razvoju oblika veštačke inteligencije koji omogućavaju masovni nadzor.

Nacrt propisa, koji je napravljen u januaru, objavljen je prošle nedelje. Konačna verzija sadrži značajne promene, na primer uklanjanje odeljka koji bi zabranio visoko rizične sisteme veštačke inteligencije zbog kojih bi ljudi mogli da se „ponašaju, formiraju mišljenje или donesu odluku na svoju štetu koju inače ne bi doneli“. Predlog mora da prođe kroz Parlament EU i Savet EU i verovatno će pretrpeti značajne promene pre nego što postane zakon. Pravila treba uskladiti sa ostalim propisima EU, uključujući Povelju o osnovnim pravima EU i predloženi Zakon o digitalnom upravljanju EU. Države članice će primeniti konačna pravila donošenjem sopstvenih zakona. U dokumentu se predlaže stvaranje Odbora EU za veštačku inteligenciju i nacionalnih nadzornih organa koji će nadgledati sprovođenje zakona, ali ne nudi detalje o tome kako bi oni funkcionisali.
Poslednjih godina, veštačka inteligencija se brzo razvijala, često suviše brzo. Ključna otkrića o funkcionisanju algoritama koji uče iz velike količine podataka omogućili su mašinama da nauče kako, između ostalog, da prepoznaju lica, voze automobile i prikazuju ciljane oglase. Ipak, veoma često ne razumemo kao funkcionišu algoritmi veštačke inteligencije, a, pored toga, ne možemo ni da predvidimo kako će funkcionisati. Podaci koji se dostavljaju u sisteme veštačke inteligencije mogu da održavaju pristrasnost i diskriminaciju.

Velike tehnološke kompanije, uključujući „Gugl“, „Amazon“ i „Fejsbuk“ u Americi, i „Alibabu“, „Tencent“ i „Bitedance“ u Kini, obogatile su se koristeći veštačku inteligenciju, ali tu tehnologiju su ponekad primenile na sumnjive načine, kao što je nuđenje sistema za prepoznavanje lica policiji или korišćenje pristrasnih algoritama pri zapošljavanju. Advokatske firme koje zastupaju američke tehnološke kompanije, kažu da će ta pravila verovatno imati ogroman uticaj na američka preduzeća jer su prethodni propisi Evropske unije, kao što je Opšta uredba o zaštiti podataka o ličnosti ( GDPR ), uticali na propise van njenih granica. Zakonodavci se nerado bave veštačkom inteligencijom jer je suviše tehnički složena i jer bi se strogim zakonima mogle ugušiti inovacije. Ipak, predlog Evropske unije bi olakšao drugim zakonodavcima da se ipak pozabave tom oblašću i da tako obuzdaju određeno ponašanje tehnoloških giganata.

Stručnjaci kažu da su potrebne godine da bi nacrti postali zakoni, ali, konačno, mogli bi da utiču na sve vrste američkog poslovanja. Reklame se prave da bi manipulisale ponašanjem ljudi. Zbog toga će biti najvažnije, ali i najteže utvrditi šta je u tom smislu prihvatljivo, a šta nije.

6335-evropa-predlaze-ogranicenja-vestacke-inteligencije-a-posledice-bi-mogle-biti-globalne