Неуронске мреже

По завршетку курса, студент је овладао основама неуронских мрежа. Способан је да идентификује проблеме који се могу решити овим приступом, и може генерисати решење. Упознат је са постојећим применама неуронских мрежа. Студент разликује разне врсте неуронских мрежа, зна њихове предности и недостатке и поседује основна знања о применама неуронских мрежа у инелигентним системима.

Теоријска настава

Модел неурона и мрежне архитектуре. Неурон са једним улазом. Преносна функција. Неурон са више улаза. Слој неурона. Вишеслојна мрежа неурона. Перцептрон. Хамингова мрежа. Фидфорвард слој. Рекурентни слој. Хопфилдова-ова мрежа. Правило обучавања перцептрона. Сигнални и тежински векторски простори. Линеарни векторски простори. Линеарна независност. Димензија простора и унутрашњи производ. Норма и ортогонализација. Грам-Шмит ортогонализација. Експанзије вектора. Реципрочни базни вектори. Линеарне трансформације за неуронске мреже. Надгледано Хебиан обучавање. Линеарни асоцијатор. Хебово правило. Оптимизација перформанси. Најдубљи спуст. Стабилна брзина обучавања. Конјуговани градијент. Видров-Хоф обучавање. Алгоритам минималне средње квадратне грешке. Анализа конвергенције. Адаптивно филтрирање. Адаптивно поништавање шума. Пропагација уназад. Вишеслојни перцептрон. Класификација шаблона. Апроксимација фунције. Алгоритам пропагације уназад. Ланчано правило. Динамичке мреже. Динамичка пропагација уназад. Рекурентно обучавање у реалном времену. Пропагација уназад кроз време. Асоцијативно обучавање, Ненадгледано Хебово правило. Једноставне мреже за препознавање. Компетитивне мреже. Хамингова мрежа. Компетитивно обучавање. Компетитивни слојеви у биологији. Самоорганизујуће мапе својстава. Мреже са радијалном базом. Апроксимације функција. Класификација шаблона. Кластеровање. Нелинеарна оптимизација. Гросбергова мрежа. Биолошка инспирација: вид. Илузија. Нормализација вида. Основни нелинеарни модел. Двослојна компетитивна мрежа. Избор преносне функције. Закон обучавања и Koхоненов закон. Хопфилдова мрежа. Функција Љапунова и ефекат појачања.

Практична настава

Коришћење готових библиотека и софтверских решења за обучавање неуронских мреже. Илустрација различитих врста обучавања неуронских мрежа које су обрађене у оквиру теоретске наставе. Тестирање неуронске мреже. Примене у апроксимацији функција, оцени вероватноће, препознавању облика и шаблона, кластеровању, предикцији.