Isak Asimov i tri zakona robotike (nedostaje četvrti)

Roboti moraju da se predstave.

Priče Isaka Asimova istražuju kakav bi bio svet u kome bi roboti posedovali iste ili razvijenije ljudske sposobnosti.

Ako se ljudi određuju prema onome u čemu su najbolji, kao što je inteligencija i kreativnosti, da li će roboti postati ljudskiji od ljudi?

Asimov je osmislio tri zakona robotike, ali promakao mu je četvrti i najvažniji.

Onima koji celog života poseduju moć, biće im mrska sama pomisao da bi mogli da je izgube. Ako ste rođeni pod srećnom zvezdom, u bogatstvu i izobilju, suprotstavićete se samoj ideji da bi vam sve što posedujete moglo biti oduzeto. Ako vam stalno govore da ste najpametniji, najjači i najbolji, neće vam biti prijatno kada saznate da ste definitivno ispod proseka. Niko od nas ne voli da bude ponižen. Nijedan čovek ne želi da se oseća inferiorno.

Svi smo, kolektivno, odrasli sa saznanjem da smo na vrhu lanca ishrane. Svi instinktivno veruju da je Homo sapiens, sa našom ogromnom inteligencijom i izuzetnim talentom za inovacije, s pravom i pravedno došao da dominira svetom. Mi smo kraljevi i gospodari, nešto najbolje što je evolucija ikada stvorila. Poklonite se našim Mocartima i Ajnštajnima!

Zbog toga mnogi ljudi strahuju od tehnologije i veštačke inteligencije. Odjednom smo uvideli da možda više nismo najbolji i najpametniji. Za kratko vreme u 21. veku, prešli smo put od tvoraca svekolike mudrosti i kreativnosti do nespretnih majmuna koji nešto petljaju sa zastarelim alatima. Upravo ta ideja čini osnovu jedne od najboljih priča Isaka Asimova Te ga se opominješ.

Te ga se opominješ

Jedna dobro poznata izreka (koja se pripisuje Gandiju) kaže: „Prvo te ignorišu, onda ti se smeju, onda te biju i onda ti pobeđuješ.” To je redosled dobro poznat svim revolucionarnim pokretima koji su se borili za svoje ideje, ali može se sasvim lepo primeniti i na naše posmatranje veštačke inteligencije.

Već prilično dugo živimo zajedno sa računarima. Većina ljudi koji ovo čitaju odrasli su sa njima. Računari su već pola veka sveprisutna pozadinska muzika u našem svakodnevnom životu. Radimo na laptopovima i nosimo pametne telefone; koristimo kalkulatore, tabele i internet bankarstvo; razgovaramo sa glasovnim asistentima i koristimo aplikaciju da bi nam pokazala najbrži put do kuće. Sve to je prihvatljivo. Računari su korisni i efikasni, ali pritom su potpuno bezopasni.

Naravno, ne mogu tako brzo da sabiram kao moj kalkulator, ali moj kalkulator ne može da vodi razgovor. Ne znam kakav je saobraćaj na autoputu, ali moj GPS ne može da napravi umetničko delo. Tehnološki izumi su u redu sve dok ne predstavljaju nikakvu egzistencijalnu pretnju našem životu. Odlični su za šale i zabave i sasvim prihvatljivi ako pokazuju izolovanu, usku inteligenciju. I tako život ide dalje, uglavnom, normalno. Možemo da ne obraćamo pažnju na njih ili da ismevamo Siri kad ne razume nečiji naglasak.

Međutim, nalazimo se na pragu velikih promena. Skoro preko noći, veštačka inteligencija je iznenada dostigla zadivljujući stepen razvoja. Ona stvara umetnička dela i knjige, muziku i filmove. Razgovara i prepoznaje. Ukratko, veštačka inteligencije radi sve ono u čemu smo, prema našem mišljenju, mi najbolji. U nekim slučajevima, čak je i bolja od nas. U roku od nekoliko meseci, ljudi su izašli iz centra univerzuma u prešli u nešto što mnogo liči na beta test.

Tu ideju Asimov istražuje u svojoj kratkoj priči Te ga se opominješ. Opisuje svet u kome se ljudi užasavaju robota i veštačke inteligencije i vrlo su sumnjičavi prema njima. Njihov strah je toliko veliki da pokušavaju da utiču na vlade i korporacije i nagovore ih da nikada ne proizvedu bilo šta što je toliko moćno da bi moglo da im promeni život. Jedna od tih korporacija ima odličnu zamisao. Naime, dve njihove najrazvijenije veštačke inteligencije dobijaju zadatak da naprave genijalan plan kako bi privolele ljude da im veruju. Prvo, treba napraviti robote koji uopšte ne predstavljaju pretnju, ali su korisni. Zatim, treba uvesti veštačku inteligenciju u ljudski svet tako da bude neophodna, ali naizgled bezopasna. Treba ljude povezati sa mašinama. Vremenom bi mogli da se uvedu savršeniji roboti i generalizovanije inteligencije – sve pod uslovom da su pod potpunom ljudskom kontrolom. Ne brinu ljudi zbog toga što bi neko mogao da bude pametniji od njih, već zbog toga što nemaju kontrolu. Dakle, nije bitna inferiornost, već nemoć.

Asimovljeva tri zakona robotike

Sve Asimovljeve knjige imaju tendenciju da se vrte oko Tri zakona robotike. Zakoni su, u suštini, mehanizmi koji omogućavaju ljudima da imaju kontrolu. Kažu da roboti moraju uvek da slušaju i nikada ne smeju da naude ljudskom biću. Zakoni glase ovako:

1. Robot ne sme da povredi ljudsko biće niti, svojom neaktivnošću, dozvoli da ljudsko biće bude povređeno.

2. Robot mora da poštuje naređenja ljudskih bića, osim ako se ta naređenja ne kose sa Prvim zakonom.

3. Robot mora da štiti sopstvenu egzistenciju, osim ako se to ne kosi sa Prvim i Drugim zakonom.

Asimovljeve priče funkcionišu sjajno kao naučna fantastika, ali i da nam pokažu koliko je teško – čak nemoguće – da se stvore savršeni zakoni koji bi kontrolisali bilo koju inteligenciju. I ovde će se uvek pojaviti „rupa“ u zakonu ili izuzetak. Svim zakonima je potrebna sloboda i fleksibilnost, inače će biti prekršeni (ili će skršiti one koje pokušavaju da zaštite). U radu koji je nedavno objavljen u časopisu Science Robotics, ističe se da Asimovljeve priče „upozoravaju da je nemoguće osmisliti mali skup jednostavnih pravila za adekvatan izgled ili rad složenih mašina, ljudi i njihovih interakcija“. Možda o ovome treba da razmisle svi oni smatraju da bi trebalo usporiti sa razvojem veštačke inteligencije.

U priči Te ga se opominješ sam kraj je posebno pronicljiv. Roboti smatraju da je „čovek“ onaj koji poseduje „vrhunsku inteligenciju“. Ljudi su sebe definisali kao posebnu vrstu koja se od drugih razlikuje po tome što poseduje kreativnost i visoku inteligenciju. Ako su kod veštačke inteligencije te karakteristike bolje razvijene nego kod ljudi, da li i ona ima pravo da sebe svrsta među „ljude“? U tom svetu, svetu u kome su ljudi potisnuti u inferiornost, da li „ljudski“ jednostavno znači imati genom Homo sapiensa? Ako ili kada stigne opšta veštačka inteligencija, ona neće biti pretnja samo našem načinu života. Biće pretnja i našem shvatanju ljudskog.

Četvrti zakon koji nedostaje

Dok ulazimo u svet veštačke inteligencije koja radi ljudske stvari bolje od ljudi, većina nas će i dalje želeti da zna šta je napravio čovek, a šta mašina. Važno mi je da je roman koji čitam napisao čovek. Pretpostavljam da vam je važno da znate da li je pesmu ili umetničko delo napravio robot. Možda je Asimov propustio suštinski četvrti zakon: robot mora da se predstavi. Imamo pravo da znamo da li smo u interakciji sa čovekom ili veštačkom inteligencijom.