Uvažujme problém klasifikace do dvou tříd a dvoudimenzionální prostor příznaků ${\bf x} = [x_1, x_2]^T$. Pro jednotlivé třídy máme následující data:
$+$: $\{[-1, 3]^T,[2, 2]^T,[4, 5]^T\}$
$\circ$: $\{[2, -1]^T,[4, 2]^T,[5, 2]^T\}$
Zkuste odpovědět na následující otázky:
Jsou data lineárně separovatelná?
Kolik existuje lineárních rozhodovacích hranic s nulovou chybou?
Zkuste vymyslet diskriminační funkci, která bude klasifikovat data bezchybně podle znaménka výsledku. Diskriminační funkci uvažujte lineární (afinní) ve tvaru: $f({\bf x}) = {\bf w}^T {\bf x} + w_0$ a rozhodujete se pro třídu podle $s = \rm{sign}(f({\bf x}))$.
Nyní zkuste vymyslet pro každou třídu vlastní diskriminační funkci tak, aby se rozhodovalo podle $s^∗ = \arg \max_{s\in S} f_s({\bf x})$. Diskriminační funkce uvažujte i nadále lineární ve tvaru $f({\bf x}) = {\bf w}^T {\bf x} + w_0$.
Co kdybychom mezi trénovací příklady třídy $\circ$ přidali bod $[-3,0]^T$. Lze nyní (nějak) data bezchybně klasifikovat? Jak?