[[http://www.fel.cvut.cz/cz/education/rozvrhy-ng.B191/public/html/predmety/46/83/p4683806.html|Rozvrh na FEL]] [[https://cw.felk.cvut.cz/forum/forum-1592.html|Diskusní fórum]] ====== Cíl předmětu ====== Předmět 33RPZ má studentovi poskytnout souhrnnou představu o rozpoznávání, jeho metodách, nástrojích a aplikacích. S velmi podobnými metodami se někdy setkáte pod názvy teorie rozhodování, analýza dat, dolování z dat, teorie učení či statistické učení. ====== Základní informace ====== ** Zimní semestr 2019/2020 ** ** Kdy a kde:** KN:E-301 ([[ http://cyber.felk.cvut.cz/contact/#maps | Karlovo náměstí, budova E]]), pátek 11:00-12:30 ** Přednášející: ** [[http://cmp.felk.cvut.cz/~matas | Jiří Matas]] (JM) , [[http://cmp.felk.cvut.cz/~drbohlav| Ondřej Drbohlav]] (OD) [[http://cmp.felk.cvut.cz/~sochmj1| Jan Šochman]] (JŠ) ====== Nutné prerekvizity ====== ====== Plán přednášek 2019/2020 ====== ^Č. ^ Datum ^ Př. ^ Zdroj ^ Téma ^ Wiki ^ Additional material ^ | 1 | 27.9. |JM| {{.pr_01_intro_and_bayes_2019_09_27.pdf|pdf}} | Úvod. Formulace úloh řešených v rozpoznávání. Bayesovské rozhodování |[[https://en.wikipedia.org/wiki/Machine_learning|Machine_learning]] [[https://en.wikipedia.org/wiki/Naive_Bayes_classifier|Naive_Bayes_classifier]] | {{.pr_01_extra.pdf|some simple problems}} | | 2 | 4.10. |JM| {{:courses:be5b33rpz:lectures:pr_02_non_bayes_2016_10_10.pdf|pdf}}| Nebayesovské úlohy (Neyman-Pearson, Minimax, Wald). |[[https://en.wikipedia.org/wiki/Minimax|Minimax]] | | | 3 | 11.10. |JM| {{ :courses:b4b33rpz:pr_03_parameter_estimation_2019_10_11.pdf |pdf}} | Odhady parametrů pravděpodobnostních modelů. Metoda maximální věrohodnosti. |[[http://en.wikipedia.org/wiki/Maximum_likelihood|Maximum_likelihood]] | | | 4 | 18.10. |JM| {{:courses:be5b33rpz:lectures:pr_04_nonparametric_methods_knn_2016_11_03.pdf|pdf}} | Metoda nejbližších sousedů. Neparametrické odhady hustoty | [[http://en.wikipedia.org/wiki/K-nearest_neighbor_algorithm|K-nearest_neighbor_algorithm]] | | | 5 | 25.10. |JM| {{ :courses:b4b33rpz:pr_05_logistic_regression_2019.pdf |pdf}} | Logistická regrese |[[https://en.wikipedia.org/wiki/Logistic_regression|Logistic_regression]] | | 6 | 1.11. |JŠ| {{:courses:be5b33rpz:lectures:pr_06_perceptron_2017.pdf|pdf}} | Učení klasifikátoru. Lineární klasifikátor. Perceptron |[[https://en.wikipedia.org/wiki/Linear_classifier|Linear_classifier]] [[https://en.wikipedia.org/wiki/Perceptron|Perceptron]] | | | 7 | 8.11. |JM| {{ :courses:b4b33rpz:pr_07_svm_2018.pdf |pdf}} | Učení jako kvadratický optimalizační problém. Klasifikátor typu SVM. |[[https://en.wikipedia.org/wiki/Support_vector_machine|Support_vector_machine]] | | | 8 | 15.11. |JM| {{:courses:be5b33rpz:lectures:pr_08_adaboost_2017.pdf|pdf}} | Učení metodou Adaboost |[[https://en.wikipedia.org/wiki/AdaBoost|Adaboost]] | | | 9 | 22.11. |OD| {{pr_09_nn_2015_11_27.pdf|pdf}}, {{ :courses:b4b33rpz:nn_2018.pdf |pdf}}, {{ :courses:be5b33rpz:lectures:cnn-2016-mishkin-deep-learning.pdf |CNN Mishkin}} | Učení metodou backpropagation. Neuronové sítě.|[[https://en.wikipedia.org/wiki/Artificial_neural_network|Artificial_neural_network]] | {{:courses:be5b33rpz:lectures:flach-2013-neural_nets.pdf|Flach}}, {{.2010.11.19-neural_nets.pdf|ver1}} | | 10 | 29.11. |JM| {{.pr_10_k_means_2015_12_04.pdf|pdf}}| Shlukování metodou k-means |[[https://en.wikipedia.org/wiki/K-means_clustering|K-means_clustering]] [[https://en.wikipedia.org/wiki/K-means%2B%2B|K-means++]] | | | 11 | 6.12. |JM| {{.pr_12_pca_2017.pdf|pdf}} | Principal component analysis. Fisherův linearní discriminant. |[[https://en.wikipedia.org/wiki/Principal_component_analysis|Principal_component_analysis]] [[https://en.wikipedia.org/wiki/Linear_discriminant_analysis|Linear_discriminant_analysis]]| [[http://www.csd.uwo.ca/~olga/Courses/CS434a_541a/Lecture8.pdf|Veksler]], {{:courses:be5b33rpz:lectures:pca-2016.01.15-franc.pdf|Franc}}, {{:courses:be5b33rpz:lectures:lda_2014_06_08.pdf |ver1}} | | 12 | 13.12. |JM| {{:courses:be5b33rpz:lectures:pr_13_dec_trees_2017_01_09.pdf|pdf}} | Rozhodovací stromy. |[[https://en.wikipedia.org/wiki/Decision_tree|Decision_tree]] [[https://en.wikipedia.org/wiki/Decision_tree_learning|Decision_tree_learning]] |[[http://ocw.mit.edu/courses/sloan-school-of-management/15-097-prediction-machine-learning-and-statistics-spring-2012/lecture-notes/MIT15_097S12_lec08.pdf|Rudin@MIT]] | | 13 | 20.12. |JM| {{.pr_11_em_2018.pdf|pdf}} |EM algoritmus |[[https://en.wikipedia.org/wiki/Expectation%E2%80%93maximization_algorithm|Expectation_maximization_algorithm]] |{{2010.12.10-em-hoffmann.pdf|Hoffmann}},{{2010.12.10-em-bishop.pdf|Bishop}},{{:courses:be5b33rpz:lectures:flach-2013.12.02-em_algorithm.pdf|Flach}}| | 14 | 10.1. |OD| | Druhý průchod látkou, připrava na zkoušky. Konzultace / Basic notions recapitulation, links between methods, answers to exam questions (joint for English and Czech courses. In English if needed) | ====== Doporučená literatura ====== * Duda R. O., Hart, P. E.,Stork, D. G.: Pattern Classification, John Willey and Sons, 2nd edition, New York, 2001 * Schlesinger M. I., Hlaváč V.: Deset přednášek ze statistického a strukturního rozpoznávání Ten Lectures on Statistical and Structural Pattern Recognition, ČVUT, 1999 * Bishop, C.: Pattern Recognition and Machine Learning, Springer, 2011 * Goodfellow, I., Bengio, Y. and Courville, A.: Deep Learning, MIT Press, 2016. [[http://www.deeplearningbook.org/|www]] /* ** Další zdroje ** * [[http://cmp.felk.cvut.cz/%7Ehlavac/Public/TeachingLectures/PravdepStatistikaOpakov.ppt|Probability and statistics overview]] * [[http://cmp.felk.cvut.cz/%7Ehlavac/Public/TeachingLectures/ReceiverOperCharact.pdf|ROC curve]] /* * [[http://cmp.felk.cvut.cz/%7Ehlavac/Public/TeachingLectures/P33ROD-2StatModels.pdf|Two statistical models]] * [[http://cmp.felk.cvut.cz/%7Ehlavac/Public/TeachingLectures/UceniBezUcitele.pdf|Unsupervised learning]] * [[http://cmp.felk.cvut.cz/%7Ehlavac/Public/TeachingLectures/MarkovianPR.pdf|Markov sequences]] * [[http://cmp.felk.cvut.cz/%7Ehlavac/Public/TeachingLectures/HMMalaRabiner.pdf|Markov sequences]] (tutorial od Rabinera) */ ====== Hodnocení ====== Práce v semestru 50%, písemná část zkoušky 40%, ústní 10%. Pro známku "A" je podmínkou získat z písemné části zkoušky získat alespoň "B". ====== Zkouška ====== Ukázkové příklady pro písemnou část (písemky z předchozích let) naleznete na adrese [[http://cmp.felk.cvut.cz/cmp/courses/recognition/Exam-questions/]] v souborech test_* Otázky pro ústní i písemnou část jsou voleny z tohoto [[http://cmp.felk.cvut.cz/cmp/courses/recognition/Exam-questions/exam-questions.pdf|seznamu otázek]] či jeho [[http://cmp.felk.cvut.cz/cmp/courses/recognition/Exam-questions/exam-questions-eng.pdf|anglické verze]]. ====== Termín 2020 ====== * písemná část zkoušky: 22.1.2020, posluchárna K1, 12:00 * ústní část: 23.1.