Neuronske mreže

Po završetku kursa, student je ovladao osnovama neuronskih mreža. Sposoban je da identifikuje probleme koji se mogu rešiti ovim pristupom, i može generisati rešenje. Upoznat je sa postojećim primenama neuronskih mreža. Student razlikuje razne vrste neuronskih mreža, zna njihove prednosti i nedostatke i poseduje osnovna znanja o primenama neuronskih mreža u ineligentnim sistemima.

Teorijska nastava

Model neurona i mrežne arhitekture. Neuron sa jednim ulazom. Prenosna funkcija. Neuron sa više ulaza. Sloj neurona. Višeslojna mreža neurona. Perceptron. Hamingova mreža. Fidforvard sloj. Rekurentni sloj. Hopfildova-ova mreža. Pravilo obučavanja perceptrona. Signalni i težinski vektorski prostori. Linearni vektorski prostori. Linearna nezavisnost. Dimenzija prostora i unutrašnji proizvod. Norma i ortogonalizacija. Gram-Šmit ortogonalizacija. Ekspanzije vektora. Recipročni bazni vektori. Linearne transformacije za neuronske mreže. Nadgledano Hebian obučavanje. Linearni asocijator. Hebovo pravilo. Optimizacija performansi. Najdublji spust. Stabilna brzina obučavanja. Konjugovani gradijent. Vidrov-Hof obučavanje. Algoritam minimalne srednje kvadratne greške. Analiza konvergencije. Adaptivno filtriranje. Adaptivno poništavanje šuma. Propagacija unazad. Višeslojni perceptron. Klasifikacija šablona. Aproksimacija funcije. Algoritam propagacije unazad. Lančano pravilo. Dinamičke mreže. Dinamička propagacija unazad. Rekurentno obučavanje u realnom vremenu. Propagacija unazad kroz vreme. Asocijativno obučavanje, Nenadgledano Hebovo pravilo. Jednostavne mreže za prepoznavanje. Kompetitivne mreže. Hamingova mreža. Kompetitivno obučavanje. Kompetitivni slojevi u biologiji. Samoorganizujuće mape svojstava. Mreže sa radijalnom bazom. Aproksimacije funkcija. Klasifikacija šablona. Klasterovanje. Nelinearna optimizacija. Grosbergova mreža. Biološka inspiracija: vid. Iluzija. Normalizacija vida. Osnovni nelinearni model. Dvoslojna kompetitivna mreža. Izbor prenosne funkcije. Zakon obučavanja i Kohonenov zakon. Hopfildova mreža. Funkcija Ljapunova i efekat pojačanja.

Praktična nastava

Korišćenje gotovih biblioteka i softverskih rešenja za obučavanje neuronskih mreže. Ilustracija različitih vrsta obučavanja neuronskih mreža koje su obrađene u okviru teoretske nastave. Testiranje neuronske mreže. Primene u aproksimaciji funkcija, oceni verovatnoće, prepoznavanju oblika i šablona, klasterovanju, predikciji.