Trebalo bi da mašine budu oruđe namenjeno da služi ljudima, ali, izgleda, da se karakteristika veze između mašina i čoveka polako menja i to ne u našu korist. Pre neki dan je trebalo da se prijavim na servis koji nikad ranije nisam koristio. Pošto sam bio novi korisnik, veb stranica je odlučila da mora utvrditi da li sam čovek ili robot pomoću poznatog javnog Tjuringovog testa, poznatijeg kao Captcha. Kao što vam je dobro poznato, test se sastoji od izazova i odgovora da bi se utvrdilo da li je korisnik ljudsko biće ili mašina. Na ekranu se prikazala slika ulice preko koje je bila postavljena mreža. Moj „izazov“ se sastojao u tome da kliknem na svaku ćeliju mreže u kojoj se nalazio saobraćajni znak ili jedan njegov deo. Uradio sam kako mi je rečeno, mada sam bio pomalo besan. Odmah zatim, prikazana mi je još jedna slika i još jedna mreža – i ponovo je trebalo da odaberem ćelije koje su sadržale znakove. Kao poslušno jagnje, ponovo sam odgovorio na zahtev posle čega se sajt udostojio da mi odobri pristup.
Odjednom mi je sinulo! Doduše, moram priznati, sa malim zakašnjenjem. Shvatio sam šta, u stvari, radim; dopunjavao sam bazu podataka koja je služila za podučavanje programa mašinskog učenja koji treba da navodi autonomna vozila – verovatno ona koja se proizvode i funkcionišu u kompaniji „Waymo“, inače u vlasništvu „Alfabeta“ (kompanije koja je slučajno i vlasnik „Gugla“). I tako, da bih dobio pristup automatizovanom servisu koji će imati finansijsku korist od mog unosa, prvo sam morao da obavim nekoliko neplaćenih poslova da bih poboljšao funkcionisanje vozila kompanije (koja će, opet slučajno, moći da se koriste u Feniksu i Arizoni do kraja godine.)
Opako, a? Obratite pažnju na finu ironiju u značenju skraćenice Captcha. Tre slova se odnose na „automatizovani Tjuringov test“. Napravljen je da bi, sigurno se sećate, omogućio ljudima da utvrde da li mašina može da reaguje tako da ne možemo sa sigurnošću da utvrdimo da li nam odgovore daje robot ili čovek. Izgleda međutim, da smo upali u neki naopaki svet u kome nas mašine teraju da preskačemo preko obruča kao u cirkusu da bismo dokazali da smo ljudi!
Ipak, najčudnije je to što se o toj epohalnoj promeni uloga skoro uopšte ne razgovara. Odmah sam se setio popularne priče o skuvanoj žabi. Naime, prema priči, ako nesrećno stvorenje ubacite u ključalu vodu, odmah će iskočiti iz nje. S druge strane, ako žabu stavite u mlaku vodu koju polako zagrevate, neće biti svesna da se nalazi u smrtnoj opasnosti i skuvaće se. Biolozi smatraju da su žabe generalno mnogo pametnije. U vezi sa tim postavljam još jedno pitanje: da li su i ljudi isto tako pametni, odnosno, da li nas je digitalna tehnologija suptilno naučila kroz proces uslovljavanja (kao Pavlovljevog psa) da ne vidimo šta nam se dešava? Da li smo kroz proces uslovljavanjem naučili da prihvatimo svet kojim rukovodi pametna tehnologija, udobnost trgovanja i jeftina sreća do tog nivoa da polako i sami postajemo pomalo mašine?
Stručnjaci na to pitanje odgovaraju potvrdno. Naime, svakodnevni postupci, recimo prihvatanje zakonskih pravila pri instalaciji neke aplikacije – toliko su pojednostavljeni da smo jednostavno naučeni da ih ne čitamo. Ako se nešto ne promeni, dominacija digitalne tehnologije će tokom vremena oduzeti ljudima sposobnost rasuđivanja, razlikovanja i samodovoljnosti.
Pažljivo i namerno nejasno sročeni licencni ugovori s krajnjim korisnikom ( EULA) omogućavaju nam proučavanje prosvetljujuće studije slučaja. Ugovori su napravljeni tako da umanje troškove transakcije, do maksimuma povećaju efikasnost, umanje odlučivanje i stvore prijatnost i podstaknu ljude da kliknu na dugme i ponašaju se kao mašine koje reaguju na jednostavan podsticaj. Efikasnost do koje se dolazi na taj način nije svojstvena ljudima već mašinama.
Konačno, mašine su oruđa koja služe ljudskim ciljevima. One ne postavljaju ciljeve, ali ljudi to čine, ili se bar nadamo. Da bismo bili tvorci sopstvenog života i da se ne bismo ponašali prema zapisima drugih, treba da očuvamo svoju slobodu i oslobodimo se moćnih tehnološko-društvenih, s namerom stvorenih zapisa.
U tom stavu nema ni traga nerazumnom strahu od tehnologije. Ako se osvrnemo na poznatu izjavu da prvo mi oblikujemo oruđe da bi kasnije ono oblikovalo nas, ipak, moramo da kažemo da tehnologija treba da nam obezbedi oruđa koja će služiti ljudskim ciljevima. Međutim, kako nam test koji unapređuje mašinsko učenje pokazuje, ogroman deo digitalne tehnologije posmatra i koristi ljude kao sredstvo za postizanje cilja koji nije naš. U tom procesu, tehnologija nas svodi na nivo veselih laboratorijskih miševa koji ceo dan okreću točak koji su smislili ljudi koji sa nama ne dele zajednički interes.
I da se vratimo našoj žabi. Da li smo dovoljno pametni da iskočimo pre nego što bude suviše kasno? Ne morate da tražite odgovor od Gugla. Trebalo bi sami da ga znate.