Studentkinja Računarskog fakulteta Dejana Mandić je 6. septembra 2021. godine odbranila diplomski rad na temu Uslovni neuralni procesipred komisijom koju su činili mentor, dr Nemanja Ilić i član, dr Jelena Vasiljević.
Podaci su danas lako dostupni i svakodnevno dobijamo ogromne količine novih informacija i podataka. Međutim, nisu svi ti podaci upotrebljivi. Konstantnim i ubrzanim razvojem mašinskog učenja dolazi do sve veće upotrebljivosti određenih podataka ali i sve većeg broja problema na koje pokušavamo primeniti novonastale algoritme i metode mašinskog učenja. Porastom problema koje pokušavamo da rešimo, dolazimo do uspešnih ali isto tako i neuspešnih rešenja, koja je potrebno poboljšati ili smisliti nova. To dalje dovodi do potrebe za novim metodama koje će nadmašiti postojeće u svakodnevnim problemima, za koje još nismo našli rešenje koje smatramo dovoljno efikasnim.
Duboko učenje je dovelo do ogromnog napretka u svetu predikcija vođenih podacima, ali postoji veliki broj problema gde ovaj pristup nije lako primenljiv. Duboke neuralne mreže zahtevaju veliku količinu podataka kako bi bile obučene za rešavanje nekog problema i pritom, svaki put moraju biti obučene od početka ukoliko želimo da ih primenimo na neki novi problem.
Sa druge strane, Gausovski procesi statistički modeluju problem i veoma efikasno koriste prethodna znanja u kontekstu novog problema. Njihov problem jeste što su računski neefiksani i veoma brzo im raste trajanje izvršavanja sa porastom količine podataka. Potrebno je nekako prevazići probleme ova dva pristupa i to dovodi do novog pristupa
(hibridnog) tj. Neuralnih procesa. – navedeno je u uvodu.
U zaključku svog rada, Dejana je istakla sledeće:
U ovom radu, predstavljeni su uslovni neuralni procesi, modeli koji pokušavaju da meta-nauče strukturu i raspodelu podataka i prilagode se režimu rešavanja više zadataka u nekoj oblasti. Ovi modeli su se pokazali izuzetno fleksibilnim za vreme testiranja i uspevaju da ugrade prethodna znanja u svaki novi zadatak koji dobijaju. Prikazano je kako neuralni procesi mogu biti primenjeni na klasične probleme mašinskog učenja kao što su regresija i klasifikacija, ali i nestandardni problem, kao što je rekonstrukcija slika. Videli smo da je uspešnost neuralnih procesa na ovim zadacima od velikog značaja iz razloga što ne rešavaju isti skup problema kao duboke neuralne mreže. Uslovni neuralni procesi su posebno pogodni za režim rada sa malo poznatih podataka u vreme testiranja, gde je potrebna dobra ocena nesigurnosti modela. Dati su neki od primera upotrebe, koji se mogu smatrati osnovnim. Pored tih osnovnih primera, postoje daleko napredniji i komplikovaniji primeri upotrebe uslovnih neuralnih procesa, koji se i dalje istražuju.