Přednáška je zaměřena na hlubší pochopení vlastností a funkcí vybraných modelů neuronových sítí - robustnost, generalizační schopnosti ap. Detailněji jsou vysvětleny některé principy použití umělých neuronových sítí při řešení praktických úloh - zpracování mluvené řeči, obrazové informace, robotika atd.

The course is focused on deeper understanding of the properties and the function of selected models of neural networks - robustness, generalization abilities, etc. Several principles important for the application of neural networks for solving practical tasks will be explained in detail. The discussed application areas include natural speech processing, image processing, robotics, etc.

Rozebrat a naučit aplikace neuronových sítí

V doprovodném Moodle-kurzu bude zveřejněn (jeden) projektový úkol, jeho harmonogram i hodnocení. Každá z fází řešení úkolu bude mít stanovené datum odevzdání. Pozdní odevzdání každého z dílčích řešení bude penalizováno snížením celkového hodnocení o 1% za každý započatý týden zpoždění. Vyřešený úkol přispěje k výslednému hodnocení 55%. Samotná zkouška na konci semestru se započítává 45% do výsledného hodnocení. Posluchač získá známku na základě celkového hodnocení podle následující tabulky

známka 1	známka 2	známka 3	nevyhověl
100%–86%	85%–71%	70%–56%	méně než 56%

In an accompanying Moodle course, there will be published (one) project-oriented assignment along with its working schedule and grading scheme. Each phase of the assignment solution will have a deadline till which it should be submitted for grading. Late submissions will be penalized by a 1% deduction from the overall grading score for each started week of the delay. The completed assignment will count up to 55% of the final score for the exam. The exam at the end of the term will add up to the remaining 45% of the final score. The following table gives the final grade according to the achieved score:

Abu-Mostafa Y. S., Magdon-Ismail M., Lin H.-T.: Learning From Data: A Short Course, AMLbook.com, 2012

Goldberg D.E.: Genetic Algorithms in Search, Optimization, and Machine Learning. Addison Wesley, 1990

Haykin S.: Neural Networks and Learning Machines, 3rd Edition, Pearson, 2009

Kotek Z. a kol.: Adaptivní a učící se systémy. SNTL 1980

Kosko B.: Neural Networks for Signal Processing. Prentice Hall, 1992

Abu-Mostafa Y. S., Magdon-Ismail M., Lin H.-T.: Learning From Data: A Short Course, AMLbook.com, 2012

Goldberg D.E.: Genetic Algorithms in Search, Optimization, and Machine Learning. Addison Wesley, 1990

Haykin S.: Neural Networks and Learning Machines, 3rd Edition, Pearson, 2009

Kosko B.: Neural Networks for Signal Processing. Prentice Hall, 1992

1. Úvod do problematiky adaptivních a učících se systémů

• Adaptace a učení, formální popis předmětů, výběr a uspořádání příznaků, výběr a uspořádání učebních vzorů.
• Metody minimalizace kritéria ztrát (Bayesovo rozhodovací pravidlo, rozhodovací pravidlo podle nejbližšího souseda, shluková analýza).
• Použití klasických učících se klasifikátorů (rozpoznávání obrazu, řeči, použití učících se klasifikátorů v řízení).

2. Umělé neuronové sítě a jejich použití

• Rekapitulace vybraných paradigmat NS (vrstevnaté neuronové sítě typu zpětného šíření, Hopfieldovy sítě, Kohonenovy mapy, hluboké neuronové sítě).
• Aplikace umělých neuronových sítí - mj. při rozpoznávání mluvené řeči, modelování finančních systémů, zpracování multimediálních dat, v robotice a při predikci časových řad.

3. Použití genetických algoritmů v oblasti neuronových sítí

• Aplikace neuronových sítí typu zpětného šíření při formulaci a vyhodnocování cílové funkce genetických algoritmů.
• Optimalizace architektury neuronových sítí pomocí genetických algoritmů.

1. Introduction to the area of adaptive and learning systems

• Adaptation and learning, formal description of patterns, selection and ordering of training patterns.
• Methods minimizing the loss criterion (Bayesian decision rule, k-nearest neighbor rule, cluster analysis).
• Applications of classical learning classifiers (in image recognition, speech processing, control).

2. Artificial neural networks and their application

• A brief recapitulation of selected neural network paradigms (feed-forward neural networks of the back-propagation type, Hopfield networks, Kohonen self-organizing maps, deep neural networks).
• Applications of neural networks - among others in natural language processing, modeling of financial systems, multimedia data processing, robotics and time series prediction.

3. Application of genetic algorithms in the area of neural networks

• Application of multi-layered neural networks of the back-propagation type in the evaluation of the fitness functions for genetic algorithms.
• Optimization of the architecture of neural networks by means of genetic algorithms.