線形回帰とロジスティック回帰

線形回帰 : F(x,p) = F(x,<a,b>) = a x + b [線形関数] の形
重回帰: 入力変数が増える (x1,x2,..,xk) 場合もある
x=<x1,x2,..xk>, p=<a1,a2,..,ak,b>
F(x,p) = F(<x1,x2,..xk>, <a1,a2,..,ak,b>) = a1 x1 + a2 x2 + .. + ak xk + b
非線形回帰 : F(x,p) = log_p(x) 等、線形関数以外の関数を利用
ロジスティック回帰
二値分類を行う場合に用いる
z = f(x) = F(x,p)
y = P(z) = 1/(1+e^{-z}) [ P(z) はシグモイド曲線 ]
線形回帰とロジスティック回帰
最終的に、p を求める点は同じ
F(x,p) 自身が y に近いのか P(F(x,p)) が y に近いのかの違い
シグモイド曲線を利用する理由
答えを得るのに都合が良い(微分可能)性質を持つから