Tato práce nejprve uvádí do problematiky popisem funkce a struktury umělých neuronových sítí. Dále je v hlavní části shrnutí metod optimalizace topologie a optimalizace učení především vícevrstvých umělých neuronových sítí perceptronovského typu s dopředným šířením. Jsou to metody jak heuristické a gradientní odvozené z klasických optimalizačních metod, tak evoluční odvozené z darwinovské teorie přirozeného vývoje. Součástí teoretické části je i rešerše klíčových použitých informačních zdrojů.
V praktické části práce jsou konkrétní ukázky vybraných metod optimalizace na standardních tréninkových a testovacích datech benchmarku Proben1.
V závěru je zhodnocení získaných teoretických poznatků a praktických výsledků.
Annotation in English
This thesis first describes the function and structure of neural network. Then it discusses topology optimization methods and learning optimization methods with artificial multilayer feed-forward neural networks.
Among the discussed methods, the thesis deals with heuristic and gradient methods derived from the standard optimization methods, as well as with evolutionary methods based on Darwin’s theory of natural selection.
The theoretical part also contains an overview of used information sources.
The practical part contains samples of optimization methods on standard training and testing benchmark Proben1 data.
Furthermore, in the conclusion, theoretical findings and practical results are evaluated.
Keywords
umělá neuronová síť, síť s dopředným šířením, vícevrstvá neuronová síť, topologie neuronové sítě, učení neuronové sítě, optimalizace neuronové sítě, Proben1
Tato práce nejprve uvádí do problematiky popisem funkce a struktury umělých neuronových sítí. Dále je v hlavní části shrnutí metod optimalizace topologie a optimalizace učení především vícevrstvých umělých neuronových sítí perceptronovského typu s dopředným šířením. Jsou to metody jak heuristické a gradientní odvozené z klasických optimalizačních metod, tak evoluční odvozené z darwinovské teorie přirozeného vývoje. Součástí teoretické části je i rešerše klíčových použitých informačních zdrojů.
V praktické části práce jsou konkrétní ukázky vybraných metod optimalizace na standardních tréninkových a testovacích datech benchmarku Proben1.
V závěru je zhodnocení získaných teoretických poznatků a praktických výsledků.
Annotation in English
This thesis first describes the function and structure of neural network. Then it discusses topology optimization methods and learning optimization methods with artificial multilayer feed-forward neural networks.
Among the discussed methods, the thesis deals with heuristic and gradient methods derived from the standard optimization methods, as well as with evolutionary methods based on Darwin’s theory of natural selection.
The theoretical part also contains an overview of used information sources.
The practical part contains samples of optimization methods on standard training and testing benchmark Proben1 data.
Furthermore, in the conclusion, theoretical findings and practical results are evaluated.
Keywords
umělá neuronová síť, síť s dopředným šířením, vícevrstvá neuronová síť, topologie neuronové sítě, učení neuronové sítě, optimalizace neuronové sítě, Proben1
Popsat funkci, strukturu a metody učení neuronových sítí.
Vypracovat přehled metod pro optimalizaci struktury neuronových sítí.
Vypracovat přehled metod pro optimalizaci učení neuronových sítí.
Zpracovat rešerši použitých zdrojů.
Vybrané metody demonstrovat na příkladech.
Provést závěrečné zhodnocení získaných informací.
Research Plan
Popsat funkci, strukturu a metody učení neuronových sítí.
Vypracovat přehled metod pro optimalizaci struktury neuronových sítí.
Vypracovat přehled metod pro optimalizaci učení neuronových sítí.
Zpracovat rešerši použitých zdrojů.
Vybrané metody demonstrovat na příkladech.
Provést závěrečné zhodnocení získaných informací.
Recommended resources
ŠÍMA, J.; NERUDA, R. Teoretické otázky neuronových sítí. 1st ed. 1996. ISBN 80-85863-18-9.
BOSE, N.K.; LIANG, P. Neural network fundamentals with graphs, algorithms, and applications. 1.st ed. 1996. ISBN 0-07-006618-3.
MAŘÍK, V.; ŠTĚPÁNKOVÁ, O.; LAŽANSKÝ, J. Umělá inteligence (4). 1.st ed. 2003. ISBN 80-200-1044-0.
HYNEK, J. Genetické algoritmy a genetické programování. 1.st ed. 2008. ISBN 978-80-247-2695-3.
Recommended resources
ŠÍMA, J.; NERUDA, R. Teoretické otázky neuronových sítí. 1st ed. 1996. ISBN 80-85863-18-9.
BOSE, N.K.; LIANG, P. Neural network fundamentals with graphs, algorithms, and applications. 1.st ed. 1996. ISBN 0-07-006618-3.
MAŘÍK, V.; ŠTĚPÁNKOVÁ, O.; LAŽANSKÝ, J. Umělá inteligence (4). 1.st ed. 2003. ISBN 80-200-1044-0.
HYNEK, J. Genetické algoritmy a genetické programování. 1.st ed. 2008. ISBN 978-80-247-2695-3.
