Student Filip Krstić je u četvrtak, 4. decembra 2025. godine odbranio svoj master rad na temu Objašnjavajuća veštačka inteligencija u domenu informacionih sistema – metodološki pristupi, regulatorni izazovi i etičke implikacije u eri velikih jezičkih modela pred mentorom dr Dušanom Vujoševićem i članovima komisije dr Milankom Gardašević Filipović i dr Jelenom Vasiljević.
U apstraktu svog rada Filip je istakao:
U eri sve intenzivnije primene velikih jezičkih modela (LLM) u informacionim sistemima, pitanje objašnjivosti veštačke inteligencije (XAI) postaje ključno za očuvanje poverenja, transparentnosti i etičke odgovornosti. Ovaj rad istražuje metodološke pristupe XAI u kontekstu LLM modela, sa fokusom na njihovu primenljivost, ograničenja i ulogu u ispunjavanju regulatornih i etičkih zahteva. Kroz teorijsku analizu, uporednu evaluaciju post-hok i intrinzičnih metoda, kao i praktične eksperimente sa modelima poput DistilBERT i GPT- 2, rad prikazuje kako različite XAI tehnike mogu doprineti razumevanju ponašanja kompleksnih AI sistema. Poseban akcenat stavljen je na kriterijume verodostojnosti, stabilnosti i korisnosti objašnjenja, kao i na izazove njihove integracije u poslovne informacione sisteme.
Rad takođe razmatra relevantne regulatorne okvire (AI Act, GDPR) i etičke implikacije, ukazujući na potrebu za holističkim pristupom koji objedinjuje tehničku preciznost, korisničku interpretabilnost i normativnu usklađenost. Zaključno, rad nudi smernice za budući razvoj XAI metoda i njihovu operativnu primenu u informacionim sistemima sa LLM komponentama.
…
Regulatorni izazovi su značajni. Evropski zakon o veštačkoj inteligenciji (AI Act) prepoznaje objašnjivost kao jedan od ključnih zahteva za visoko-rizične AI sisteme, u koje spadaju i mnoge primene LLM modela u informacionim sistemima (npr. u zdravstvu, zapošljavanju, pravosuđu).
Paralelno, GDPR i pravo na objašnjenje dodatno akcentuju potrebu za transparentnim i razumljivim sistemima donošenja odluka. Međutim, tehnološki kapaciteti za zadovoljenje ovih normativnih standarda i dalje zaostaju za zakonodavnim ambicijama, što ukazuje na jaz između
prakse i regulative.
Etika je sastavni i neraskidivi deo teme. U radu je pokazano da poverenje korisnika zavisi ne samo od formalne tačnosti AI sistema, već i od njihove sposobnosti da korisniku pruže uverljivo, razumljivo i funkcionalno objašnjenje. Takođe je ustanovljeno da XAI tehnike, ako se zloupotrebe ili pogrešno interpretiraju, mogu poslužiti kao „fig leaf“ – iluzija transparentnosti koja prikriva stvarnu netransparentnost modela. S obzirom na sve izraženiji uticaj AI sistema na društvo, objašnjivost se ne sme tretirati kao tehnički dodatak, već kao osnovna etička i pravna obaveza. -zaključio je Filip.
