Cilj i ishod predmeta
Upoznavanje sa principima oblasti i algoritmima dubokog učenja i osposobljavanje za rešavanje konkretnih problema korišćenjem tehnika dubokog učenja. Poznavanje važnijih tehnika dubokog učenja. Razumevanje modularnog pristupa u obučavanju dubokih arhitektura. Poznavanje praktičnih aspekata regularizacije, normalizacije i podešavanja hiperparametara. Razumevanje osnovnih i naprednih optimizacionih procedura. Poznavanje dubokih konvolucionih, rekurentnih i generativnih suparničkih mreža. Razumevanje osnovnih principa dubokog reinforcement učenja.
Teorijska nastava
Uvod, modularni pristup u obučavanju dubokih arhitektura. Praktični aspekti Dubokog učenja – inicijalizacija, regularizacija, normalizacija i podešavanje hiperparametara. Algoritmi optimizacije. Duboke konvolucione neuralne mreže – različite arhitekture, praktični aspekti, primena u detekciji objekata, prepoznavanju lica i transferu stilova. Duboke rekurentne neuralne mreže – LSTM (Long short- term memory) mreže, primene u obradi prirodnog jezika i prepoznavanju govora, sekvenca-sekvenca modeli. Generativne suparničke mreže. Osnovni principi dubokog reinforcement učenja.
Praktična nastava
Projektovanje i primena algoritama koji su razmatrani na časovima predavanja i njihova evaluacija na odgovarajućim skupovima podataka za testiranje i poređenje metoda dubokog učenja. Uvod. Rekapitulacija neuralnih mreža. Evaluacija i selekcija modela. Praktični aspekti Dubokog učenja. Optimizacioni algoritmi. Duboke konvolucione i rekurentne neuralne mreže. Duboki generativni modeli – generativne suparničke mreže, autoenkoderi. (Duboko) reinforcement učenje. Primene u računarskom vidu, obradi prirodnog jezika i prepoznavanju govora, sistemima za preporuku i bioinformatici.