[[https://intranet.fel.cvut.cz/cz/education/rozvrhy-ng.B231/public/html/predmety/46/83/p4683806.html|Rozvrh na FEL]] [[https://cw.felk.cvut.cz/forum/forum-1849.html|Diskusní fórum]] [[.labs|→Cvičení]] ====== Rozpoznávání a strojové učení ====== ====== Cíl předmětu ====== Předmět 33RPZ má studentovi poskytnout souhrnnou představu o rozpoznávání, jeho metodách, nástrojích a aplikacích. S velmi podobnými metodami se někdy setkáte pod názvy teorie rozhodování, analýza dat, dolování z dat, teorie učení či statistické učení. ====== Základní informace ====== ** Zimní semestr 2023/2024 ** ** Kdy a kde:** KN:E-301 ([[ http://cyber.felk.cvut.cz/contact/#maps | Karlovo náměstí, budova E]]), pátek 11:00-12:30 ** Přednášející: ** [[http://cmp.felk.cvut.cz/~matas | Jiří Matas]] (JM) , [[http://cmp.felk.cvut.cz/~drbohlav| Ondřej Drbohlav]] (OD) ====== Plán přednášek 2023/2024 ====== ^Č. ^ Datum ^ Př. ^ Zdroj ^ Téma ^ Wiki ^ Additional material ^ | 1 | 29.9. |JM| {{:courses:be5b33rpz:lectures:pr_01_intro_and_bayes_2021.pdf|pdf}} | Úvod. Formulace úloh řešených v rozpoznávání. Bayesovské rozhodování |[[https://en.wikipedia.org/wiki/Machine_learning|Machine_learning]] [[https://en.wikipedia.org/wiki/Naive_Bayes_classifier|Naive_Bayes_classifier]] | {{.pr_01_extra.pdf|some simple problems}} | | 2 | 6.10. |JM| {{:courses:be5b33rpz:lectures:pr_02_non_bayes_2023.pdf|pdf}}| Nebayesovské úlohy (Neyman-Pearson, Minimax, Wald). |[[https://en.wikipedia.org/wiki/Minimax|Minimax]] | | | 3 | 13.10. |JM| {{ :courses:be5b33rpz:lectures:pr_03_parameter_estimation_2022.pdf |pdf}} | Odhady parametrů pravděpodobnostních modelů. Metoda maximální věrohodnosti. |[[http://en.wikipedia.org/wiki/Maximum_likelihood|Maximum_likelihood]] | | | 4 | 20.10. |JM| {{:courses:be5b33rpz:lectures:pr_04_non_parametric_knn_2022.pdf|pdf}} | Metoda nejbližších sousedů. Neparametrické odhady hustoty | [[http://en.wikipedia.org/wiki/K-nearest_neighbor_algorithm|K-nearest_neighbor_algorithm]] | | | 5 | 27.10. |JM| {{ :courses:be5b33rpz:lectures:pr_05_logistic_regression_2022.pdf |pdf}} | Logistická regrese |[[https://en.wikipedia.org/wiki/Logistic_regression|Logistic_regression]] | | 6 | 3.11. |JM| {{:courses:be5b33rpz:lectures:pr_06_perceptron_2020.pdf|pdf}} | Učení klasifikátoru. Lineární klasifikátor. Perceptron |[[https://en.wikipedia.org/wiki/Linear_classifier|Linear_classifier]] [[https://en.wikipedia.org/wiki/Perceptron|Perceptron]] | | | 7 | 10.11. |JM| {{ :courses:b4b33rpz:pr_07_svm_2018.pdf |pdf}} | Učení jako kvadratický optimalizační problém. Klasifikátor typu SVM. |[[https://en.wikipedia.org/wiki/Support_vector_machine|Support_vector_machine]] | | | 8 | 17.11. | | holiday | | | 9 | 24.11. |JM| {{:courses:be5b33rpz:lectures:pr_08_adaboost_2017.pdf|pdf}} | Učení metodou Adaboost |[[https://en.wikipedia.org/wiki/AdaBoost|Adaboost]] | | | 10 | 1.12. |OD| {{ :courses:b4b33rpz:neural_networks_2020.pdf |pdf}} | Učení metodou backpropagation. Neuronové sítě.|[[https://en.wikipedia.org/wiki/Artificial_neural_network|Artificial_neural_network]] | | | 11 | 8.12. |JM| {{.pr_10_k_means_2015_12_04.pdf|pdf}}| Shlukování metodou k-means |[[https://en.wikipedia.org/wiki/K-means_clustering|K-means_clustering]] [[https://en.wikipedia.org/wiki/K-means%2B%2B|K-means++]] | | | 12 | 15.12. |JM| {{ :courses:be5b33rpz:lectures:em_2020.pdf |pdf}} |EM algoritmus |[[https://en.wikipedia.org/wiki/Expectation%E2%80%93maximization_algorithm|Expectation_maximization_algorithm]] |{{2010.12.10-em-hoffmann.pdf|Hoffmann}},{{2010.12.10-em-bishop.pdf|Bishop}},{{:courses:be5b33rpz:lectures:flach-2013.12.02-em_algorithm.pdf|Flach}}| | 13 | 22.12. |JM| {{.pr_12_pca_2017.pdf|pdf}} | Principal component analysis. Fisherův linearní discriminant. |[[https://en.wikipedia.org/wiki/Principal_component_analysis|Principal_component_analysis]] [[https://en.wikipedia.org/wiki/Linear_discriminant_analysis|Linear_discriminant_analysis]]| [[http://www.csd.uwo.ca/~olga/Courses/CS434a_541a/Lecture8.pdf|Veksler]], {{:courses:be5b33rpz:lectures:pca-2016.01.15-franc.pdf|Franc}}, {{:courses:be5b33rpz:lectures:lda_2014_06_08.pdf |ver1}} | | 14 | 12.1. |JM| {{:courses:be5b33rpz:lectures:pr_13_dec_trees_2017_01_09.pdf|pdf}} | Rozhodovací stromy. |[[https://en.wikipedia.org/wiki/Decision_tree|Decision_tree]] [[https://en.wikipedia.org/wiki/Decision_tree_learning|Decision_tree_learning]] |[[http://ocw.mit.edu/courses/sloan-school-of-management/15-097-prediction-machine-learning-and-statistics-spring-2012/lecture-notes/MIT15_097S12_lec08.pdf|Rudin@MIT]] | ===== Doporučená literatura ===== * Duda R.O., Hart, P.E.,Stork, D.G.: Pattern Classification, John Willey and Sons, 2nd edition, New York, 2001 * Schlesinger M.I., Hlaváč V.: Ten Lectures on Statistical and Structural Pattern Recognition, Springer, 2002 * Bishop, C.: Pattern Recognition and Machine Learning, Springer, 2011 * Goodfellow, I., Bengio, Y. and Courville, A.: Deep Learning, MIT Press, 2016. [[http://www.deeplearningbook.org/|www]] ====== Zápočet ====== Podmínky získání zápočtu viz [[./labs|]]. ====== Zkouška ====== * Podmínkou přihlášení se ke zkoušce je získání zápočtu. * Hodnocení: Práce v semestru 50%, písemná část zkoušky 40%, ústní 10%. * Podmínkou složení zkoušky je získání minimálního počtu bodů v písemné části zkoušky (typicky 5-10 bodů ze 40, v závislosti na obtížnosti testu.) * Šance na finální známku po písemném testu a před ústní zkouškou jsou znázorněné na obrázku níže. Upozornění: schéma je jen **přibližné**, ale vystihuje, jak ústní zkoušení ovlivňuje výslednou známku. * Ústní zkouška je povinná! * Ukázkové příklady pro písemnou část (písemky z předchozích let) naleznete na adrese [[http://cmp.felk.cvut.cz/cmp/courses/recognition/Exam-questions/]] v souborech test_* * Otázky pro ústní i písemnou část jsou voleny z tohoto [[http://cmp.felk.cvut.cz/cmp/courses/recognition/Exam-questions/exam-questions.pdf|seznamu otázek]] či jeho [[http://cmp.felk.cvut.cz/cmp/courses/recognition/Exam-questions/exam-questions-eng.pdf|anglické verze]]. {{ :courses:b4b33rpz:rpz_oral_chances.png?nolink&400 |}} /* ====== Termín 2022 ====== * písemná část zkoušky: ..2022, posluchárna K1, 12:00 * ústní část: ..1. */