Priču mi je ispričao Majk Selers, koji je nekad radio na razvoju društvene veštačke inteligencije za agenciju DARPA početkom ovog veka. Tad su stvarali agente koji su učili kako da razvijaju društvene odnose. „U jednoj simulaciji imali smo dva agenta koje smo, sasvim prirodno, nazvali Adam i Eva. U početku su znali kako treba da obave određene postupke, ali ništa više od toga. Na primer, znali su kako da jedu, ali ne i šta je jestivo, odnosno, šta mogu da jedu. Dali smo im drvo jabuke (simbolizam nam u početku zaista nije pa na pamet) i ubrzo su shvatili da su vrlo srećni kad pojedu jabuku sa stabla. Pokušali su da jedu i drvo, kuću i još ponešto, ali ništa od toga im nije prijalo. Postojao je još jedan agent koga smo nazvali Sten. Hteo je da se druži, ali pošto nije bio u tome najuspešniji, uvek se držao po strani i bio je veoma usamljen.
Naravno, bilo je i nekoliko grešaka u sistemu.
I tako su Adam i Eva jeli jabuke… Tad se pojavila prva greška. Nisu mogli da se najedu i budu siti dovoljno brzo. Kad su pojeli sve jabuke počeli su da uče preko asocijacija, dakle, ako su osetili bol negde u vreme kad su ugledali psa, naučili su da povezuju psa sa bolom. Pošto je Sten uvek bio u blizini dok su jeli, počeli su njega da povezuju sa hranom (Greška broj 2 – pretpostavljam da shvatate kuda sve to vodi).
U početnim fazama simulacije, dok smo posmatrali kako se ceo proces odvija, Adam i Eva su pojeli sve jabuke sa stabla, ali i dalje su bili gladni. Osvrtali su se da bi pronašli još neke potencijalne mete. I gle, u njihovom mozgu, Sten je izgledao kao hrana.
I tako je svako do njih gricnuo Stena.
Greška broj 3: Masa ljudskog tela nije bila ispravno inicijalizovana. Svaki objekat podrazumevano ima masu koja iznosi 1.0, kolika je bila masa Stenovog tela. Svaki zalogaj hrane je imao 0.5 jedinica mase, bez obzira na to šta se u tom trenutku smatralo hranom. Dakle, kad su Adam i Eva pojeli po zalogaj Stena, njegova masa je iznosila 0.0, odnosno, Stena više nije bilo. Koliko je meni poznato, to je bio prvi slučaj virtuelnog kanibalizma.
Morali smo da rekonstruišemo neke elemente simulacije na osnovu činjenica koje smo dobili iz interne telemetrije agenata. Kad smo otkrili šta se dogodilo, bili smo prilično uznemireni. U toj arhitekturi veštačke inteligencije, pokušali smo da postavimo što manje ograničenja u ponašanju, ali posle nemilog događaja, utvrdili smo strogo pravilo da nema kanibalizma, što znači, bez obzira na to koliko su gladni, nikada više nisu smeli da jedu jedni druge.
Morali smo da unesemo ispravke telesne mase, zatim utvrdimo kada su siti i eliminišemo asocijaciju čovek-hrana-pojedi. Ako sa nekim često ručate, može vam se desiti da osetite glad kad ga ponovo vidite, ali to ne znači da će vam ta osoba biti glavno jelo na meniju!“