% Author:  Jan Zabojnik
% E-mail:  jan.zabojnik@fel.cvut.cz
% Date:    03.02.2014 14:57
%
\documentclass[twoside]{article}
\usepackage[a4paper]{geometry}
\geometry{verbose,tmargin=2.5cm,bmargin=2cm,lmargin=2cm,rmargin=2cm}
\usepackage{fancyhdr}
\pagestyle{fancy}

\usepackage{amsmath}
\usepackage{enumerate}
\usepackage{bbm}
\usepackage{siunitx}
\usepackage{mathtools}
\usepackage{listings}


% nastavení pisma a češtiny
\usepackage{lmodern}
\usepackage[T1]{fontenc}
\usepackage[utf8]{inputenc}
\usepackage[czech]{babel}

% odkazy
\usepackage{url}

% v�cesloupcov� tabulky
\usepackage{multirow}

% vno�en� popisky obr�zk�
\usepackage{subcaption}

% automatick� konverze EPS 
\usepackage{graphicx} 
\usepackage{epstopdf}

% odkazy a z�lo�ky
\usepackage[unicode=true, bookmarks=true,bookmarksnumbered=true,
bookmarksopen=false, breaklinks=false,pdfborder={0 0 0},
pdfpagemode=UseNone,backref=false,colorlinks=true] {hyperref}

% Pozn�mky p�i p�ekladu
\usepackage{xkeyval}	% Inline todonotes
\usepackage[textsize = footnotesize]{todonotes}
\presetkeys{todonotes}{inline}{}

% Zacni sekci slovem ukol
\renewcommand{\thesection}{úkol \arabic{section}}
% enumerate zacina s pismenem
\renewcommand{\theenumi}{\alph{enumi}}

% smaz aktualni page layout
\fancyhf{}
% zahlavi
\usepackage{titling}
\fancyhf[HC]{\thetitle}
\fancyhf[HLE,HRO]{\theauthor}
\fancyhf[HRE,HLO]{\today}
 %zapati
\fancyhf[FLE,FRO]{\thepage}

% �daje o autorovi
\title{HW 5} 
\author{Libor Dubský}
\date{\today}

\begin{document}
\maketitle



\section*{Příklad}
Najděte optimální learning rate $\alpha$ pro kritérium:
\begin{align*}
f(w) = 3w_1 ^2 + 5w_2 ^2
\end{align*}
\subsection*{Řešení}
spočteme gradient:
\begin{align*}
\frac{\partial f(w)}{\partial w} = \begin{bmatrix}
3w_1 & 5w_2
\end{bmatrix}
\end{align*}
Sestavíme vzorec pro update hodnot:
\begin{align*}
\begin{bmatrix}
w_1 ^{(k)}\\
w_2 ^{(k)}
\end{bmatrix} = \left( 1 - \alpha \begin{bmatrix}
3\\
5
\end{bmatrix} \right)^k *\begin{bmatrix}
w_1 ^{(0)}\\
w_2 ^{(0)}
\end{bmatrix} 
\end{align*}
určíme rate($\alpha$) = max\{|1-3$\alpha$|, |1-5$\alpha$|\}

\begin{figure}[htb]
	\centering
\begin{subfigure}[b]{0.65\textwidth}
		\includegraphics[width=\textwidth]{C:/Users/abice/Desktop/5.semester/vir/otazka/obr/graf.jpg}
		%\caption{Volný pád parašutisty}
\end{subfigure}
	\caption{Graf průniku funkcí}
\end{figure}
Z grafu vidíme že ideální řešení najdeme jako:
\begin{align*}
&-(1-5\alpha) = 1-3\alpha\\
&\alpha = \frac{2}{8}
\end{align*}
Optimální learning rate je $\alpha = \frac{2}{8}$
\clearpage
\section*{Teoretická otázka}
Jaký experiment učinil velký průlom ve studii neuronových sítí (nápověda: Jeho autoři za to dostali Nobelovu cenu)
\subsection*{Odpověď}
Dali kočce hlavu do svěráku, napíchli jí neuron v mozku, který pomáhal se zpracováním obrazu a promítali kočce šikmé čáry a sledovali reakce neuronu
\end{document}