Machine Learning

Stanford Univ, Coursera

Non-linear classification example

AND

$ x_1, x_2 \in \{ 0,1 \} \\ y = x_1 ~ \mbox{AND} ~ x_2 $

$x_1$ と $x_2$ がともに $1$ であるときのみ、次のhypothesis 関数の出力は正となる。

$ {\Theta}^{(1)} = \begin{pmatrix} -30 & 20 & 20 \end{pmatrix} \\ h_{\Theta}(x) = g(-30 + 20 x_1 + 20 x_2) $

$ x_1, x_2 \in \{ 0,1 \} \\ y = x_1 ~ \mbox{OR} ~ x_2 \\ \\ h_{\Theta}(x) = g(-10 + 20 x_1 + 20 x_2) $

NOT

$ x_1 \in \{ 0,1 \} \\ y = \mbox{NOT} ~~ x_1\\ \\ h_{\Theta}(x) = g(10 - 20 x_1) $

NAND

$ x_1, x_2 \in \{ 0,1 \} \\ y = x_1 ~ \mbox{NOR} ~ x_2 \\ \\ h_{\Theta}(x) = g(30 - 20 x_1 - 20 x_2) $

NOR

$ x_1, x_2 \in \{ 0,1 \} \\ y = x_1 ~ \mbox{NOR} ~ x_2 \\ \\ h_{\Theta}(x) = g(10 - 20 x_1 - 20 x_2) $

Non-linear classification example 2

${\Theta}^{(1)}$

$\displaystyle \mbox{AND:} \\ ~~~~ {\Theta}^{(1)} = \begin{pmatrix} -30 & 20 & 20 \end{pmatrix} \\ \mbox{NOR:} \\ ~~~~ {\Theta}^{(1)} = \begin{pmatrix} 10 & -20 & -20 \end{pmatrix} \\ \mbox{OR:} \\ ~~~~ {\Theta}^{(1)} = \begin{pmatrix} -10 & 20 & 20 \end{pmatrix} \\ $

これらの道具を使って XNOR オペレータを作成する。

$x_1$	$x_2$	XOR	XNOR
0	0	0	1
0	1	1	0
1	0	1	0
1	1	0	1

$\displaystyle \begin{pmatrix} x_0 \\ x_1 \\ x_2 \end{pmatrix} \longrightarrow \begin{pmatrix} a^{(2)}_0 \\ a^{(2)}_1 \\ \end{pmatrix} \longrightarrow \begin{pmatrix} a^{(3)} \\ \end{pmatrix} \longrightarrow h_{\Theta}(x) \\ \\ {\Theta}^{(1)} = \begin{pmatrix} -30 & 20 & 20 \\ 10 & -20 & -20 \\ \end{pmatrix} \\ \\ {\Theta}^{(2)} = \begin{pmatrix} -10 & 20 & 20 \\ \end{pmatrix} \\ \\ a^{(2)} = g( {\Theta}^{(1)} \cdot \boldsymbol{x} ) \\ a^{(3)} = g( {\Theta}^{(2)} \cdot \boldsymbol{a}^{(2)} ) \\ \boldsymbol{h}_{\Theta} (x) = \boldsymbol{a}^{(3)} $

Yoshihisa Nitta

http://nw.tsuda.ac.jp/