Дубоко учење

Циљ и исход предмета

Упознавање са принципима области и алгоритмима дубоког учења и оспособљавање за решавање конкретних проблема коришћењем техника дубоког учења. Познавање важнијих техника дубоког учења. Разумевање модуларног приступа у обучавању дубоких архитектура. Познавање практичних аспеката регуларизације, нормализације и подешавања хиперпараметара. Разумевање основних и напредних оптимизационих процедура. Познавање дубоких конволуционих, рекурентних и генеративних супарничких мрежа. Разумевање основних принципа дубоког реинфорцемент учења.

Теоријска настава

Увод, модуларни приступ у обучавању дубоких архитектура. Практични аспекти Дубоког учења – иницијализација, регуларизација, нормализација и подешавање хиперпараметара. Алгоритми оптимизације. Дубоке конволуционе неуралне мреже – различите архитектуре, практични аспекти, примена у детекцији објеката, препознавању лица и трансферу стилова. Дубоке рекурентне неуралне мреже – LSTM (Long short- term memory) мреже, примене у обради природног језика и препознавању говора, секвенца-секвенца модели. Генеративне супарничке мреже. Основни принципи дубоког реинфорцемент учења.

Практична настава

Пројектовање и примена алгоритама који су разматрани на часовима предавања и њихова евалуација на одговарајућим скуповима података за тестирање и поређење метода дубоког учења. Увод. Рекапитулација неуралних мрежа. Евалуација и селекција модела. Практични аспекти Дубоког учења. Оптимизациони алгоритми. Дубоке конволуционе и рекурентне неуралне мреже. Дубоки генеративни модели – генеративне супарничке мреже, аутоенкодери. (Дубоко) реинфорцемент учење. Примене у рачунарском виду, обради природног језика и препознавању говора, системима за препоруку и биоинформатици.