Студент Филип Крстић је у четвртак, 4. децембра 2025. године одбранио свој мастер рад на тему Објашњавајућа вештачка интелигенција у домену информационих система – методолошки приступи, регулаторни изазови и етичке импликације у ери великих језичких модела пред ментором др Душаном Вујошевићем и члановима комисије др Миланком Гардашевић Филиповић и др Јеленом Васиљевић.
У апстракту свог рада Филип је истакао:
У ери све интензивније примене великих језичких модела (LLM) у информационим системима, питање објашњивости вештачке интелигенције (XAI) постаје кључно за очување поверења, транспарентности и етичке одговорности. Овај рад истражује методолошке приступе XAI у контексту LLM модела, са фокусом на њихову применљивост, ограничења и улогу у испуњавању регулаторних и етичких захтева. Кроз теоријску анализу, упоредну евалуацију пост-hok и интринзичних метода, као и практичне експерименте са моделима попут DistilBERT и GPT- 2, рад приказује како различите XAI технике могу допринети разумевању понашања комплексних AI система. Посебан акценат стављен је на критеријуме веродостојности, стабилности и корисности објашњења, као и на изазове њихове интеграције у пословне информационе системе.
Рад такође разматра релевантне регулаторне оквире (AI Act, GDPR) и етичке импликације, указујући на потребу за холистичким приступом који обједињује техничку прецизност, корисничку интерпретабилност и нормативну усклађеност. Закључно, рад нуди смернице за будући развој XAI метода и њихову оперативну примену у информационим системима са LLM компонентама.
…
Регулаторни изазови су значајни. Европски закон о вештачкој интелигенцији (AI Act) препознаје објашњивост као један од кључних захтева за високо-ризичне AI системе, у које спадају и многе примене LLM модела у информационим системима (нпр. у здравству, запошљавању, правосуђу).
Паралелно, GDPR и право на објашњење додатно акцентују потребу за транспарентним и разумљивим системима доношења одлука. Међутим, технолошки капацитети за задовољење ових нормативних стандарда и даље заостају за законодавним амбицијама, што указује на јаз између
праксе и регулативе.
Етика је саставни и нераскидиви део теме. У раду је показано да поверење корисника зависи не само од формалне тачности AI система, већ и од њихове способности да кориснику пруже уверљиво, разумљиво и функционално објашњење. Такође је установљено да XAI технике, ако се злоупотребе или погрешно интерпретирају, могу послужити као „fig leaf“ – илузија транспарентности која прикрива стварну нетранспарентност модела. С обзиром на све израженији утицај AI система на друштво, објашњивост се не сме третирати као технички додатак, већ као основна етичка и правна обавеза. -закључио је Филип.
