Ibrahimu Diali je navodno mašina dala otkaz. Nedavni novinski izveštaji navode kako se jadni čovek osećao kad je njegova propusnica odbijena, kasnije kad nije uspeo da se prijavi na svoj nalog i konačno kad ga je obezbeđenje kompanije ispratilo do izlaza iz zgrade. Njegovi nadređeni nisu mogli da mu objasne šta se dešava i bili su potpuno bespomoćni da promene odluku koju je doneo sistem. Neki bi mogli da pomisle da će takvi događaji postajati uobičajeniji ako se veštačkoj inteligenciji daje sve više kontrole nad našim životom. Međutim, ima i onih koji misle drugačije. Dialo je dobio otkaz jer mu prethodni rukovodilac nije obnovio ugovor na novom računarskom sistemu tako da su ostali automatizovani sistemi krenuli u proceduru. Problemi nisu nastali zbog veštačke inteligencije već zbog toga što nije primenjena. Sistemi nisu ispoljili inteligenciju zasnovanu na saznanju, što znači da nisu imali model koji bi predstavljao sažeto znanje (kao što je ekspertiza kadrovske službe) u obliku pravila, tekstualnog zapisa i logičnih veza. Sistemi nisu pokazali ni računarsku inteligenciju – sposobnost da uče iz skupova podataka – kao što je prepoznavanje faktora koji su mogli da dovedu do otkaza. U stvari, izgleda da je Dialo otpušten zbog zastarelog i loše napravljenog sistema koga je pokrenula ljudska greška. Ne možemo kriviti veštačku inteligenciju, ali taj slučaj nas može dovesti do rešenja.
Prvi zaključak do koga dolazim je da bi neke funkcije kadrovske službe odmah trebalo automatizovati, odnosno, prepustiti veštačkoj inteligenciji posebno u ovom slučaju gde je ograničena automatizacija očigledno kruta i nedelotvorna. Kadrovske službe u mnogim velikim organizacijama imaju priručnik koji se može kodirati kao automatizovani i iskusni sistem sa jasnim pravilima i modelima. Mnoge kompanije su stvorile takve sisteme u nizu oblasti koje uključuju stručno znanje, a ne samo u oblasti kadrovske službe.
Međutim, mnogo praktičniji sistem veštačke inteligencije bi mogao da koristi kombinaciju tehnika da bi samog sebe unapredio. Metodi primene pravila na različite nijanse realnih situacija mogli bi se naučiti iz kompanijinih dosijea u kadrovskoj službi, kao što pravni sistem u Engleskoj koristi presedane koji su uspostavljeni u prethodnim slučajevima. Sistem bi mogao da ažurira proces zaključivanja dobijanjem dodatnih informacija u svakom pojedinačnom slučaju. Koncept veštačke inteligencije koji se naziva „neodređena logika“ može tumačiti situacije koje nisu samo crne или samo bele, koristeći dokaze i zaključke u različitim stepenima da bi se izbegle krute odluke koje su dovele do otpuštanja nesrećnog čoveka.
U postojećem talasu oduševljenja veštačkom inteligencijom ponekad se previdi potreba za primenom različitih pristupa algoritmima dubokog učenja, odnosno, kompleksnih veštačkih neuronskih mreža koje su nastale po ugledu na ljudski mozak i mogu prepoznati obrasce u velikom skupu podataka. Pošto se tu završava njihova sposobnost, mnogi stručnjaci razmišljaju o mnogo uravnoteženijem pristupu. Algoritmi dubokog učenja su odlični u prepoznavanju obrazaca, ali, svakako, ne pokazuju duboko razumevanje.
Ako bi se veštačka inteligencija koristila na taj način, smanjile bi se greške, a kad bi se pojavile, sistem bi mogao da razvije i podeli saznanja sa sličnim veštačkim inteligencijama u drugim kompanijama da bi se izbegle slične greške u budućnosti. To ne važi za rešenja koja donose ljudi. Dobar rukovodilac uči iz sopstvenih grešaka, ali sledeći koji dođe, verovatno će napraviti istu grešku.
Dakle, koje su mane? Jedna od najgorih strana Dialovog otkaza je nedostatak ljudskog uticaja. Odluka je doneta, iako pogrešna, ali nije mu protumačena или objašnjena. Veštačka inteligencija će možda manje grešiti, ali da li će biti bolja u komunikaciji? Mislim da je odgovor negativan. Otkaz i uskraćivanje sredstava za život su teški trenuci za svakog zaposlenog. U takvim neprilikama zahteva se razumevanje i saosećanje. Zbog toga smatram da je tada prisustvo ljudskog službenika kadrovskog odseka od izuzetne važnosti bez obzira na to koliko je veštačka inteligencija uverljiva.
Radnik koji je otpušten može smatrati da mu je učinjena nepravda i verovatno želi da se na tu odluku žali. U takvoj situaciji se postavlja pitanje ko je odgovoran za prvobitnu odluku i ko će je braniti na raspravi. Pravi je trenutak da se, dok je veštačka inteligencija još u povoju, pozabavimo pravnim i moralnim problemima koji se pojavljuju u njenoj sve raširenijoj upotrebi.