Неуронске мреже

По завршетку курса, студент је овладао основама неуронских мрежа. Способан је да идентификује проблеме који се могу решити овим приступом, и може генерисати решење. Упознат је са постојећим применама неуронских мрежа. Студент разликује разне врсте неуронских мрежа, зна њихове предности и недостатке и поседује основна знања о применама неуронских мрежа у инелигентним системима.

Теоријска настава

Модел неурона и мрежне архитектуре. Неурон са једним улазом. Преносна функција. Неурон са више улаза. Слој неурона. Вишеслојна мрежа неурона. Перцептрон. Хамминг-ова мрежа. Феедфорwард слој. Рекурентни слој. Hopfield-ова мрежа. Правило обучавања перцептрона. Сигнални и тежински векторски простори. Линеарни векторки простори. Линеарна независност. Димензија простора и унутрашњи производ. Норма и ортогонализација. Gram-Šmit ортогонализација. Експанзије вектора. Реципрочни базни вектори. Линеарне трансформације за неуронске мреже. Надгледано Hebbian обучавање. Линеарни асоцијатор. Hebb-ово правило. Оптимизација перформанси. Најдубљи спуст. Стабилна брзина обучавања. Конјуговани градијент. Wидроw-Хофф обучавање. Алгоритам минималне средње квадратне грешке. Анализа конвергенције. Адаптивно филтрирање. Адаптивно поништавање шума. Пропгација уназад. Вишеслојни перцептрон. Класификација шаблона. Апроксимација фунције. Алгоритам пропагације уназад. Ланчано правило. Динамичке мреже. Динамичка пропагација уназад. Рекурентно обучавање у реалном времену. Пропагација уназад кроз време. Асоцијативно обучавање, Ненадгледано Hebb-ово правило. Једноставне мреже за препознавање. Компетитивне мреже. Хамминг-ова мрежа. Компетитивно обучавање. Компетитивни слојеви у биологији. Самоорганизујуће мапе својстава. Мреже са радијалном базом. Апроксимације функција. Класификација шаблона. Кластеровање. Нелинеарна оптимизација. Grossberg-ова мрежа. Биолошка инспирација: вид.. Илузија. Нормализација вида. Основни нелинеарни модел. Двослојна компетитивна мрежа. Избор преносне функције. Закон обучавања и Kohonen-ов закон. Hopfield-ова мрежа. Функција Љапунова и ефекат појачања.


Практична настава

Коришћење готових библиотека и софтверских решења за обучавање неуронских мреже. Илустрација различитих врста обучавања неуронских мрежа које су обрађене у оквиру теоретске наставе. Тестирање неуронске мреже. Примене у апрокасимацији функција, оцени вероватноће, препознавању облика и шаблона, кластеровању, предикцији.