多層パーセプトロン

多層パーセプトロン
多層(3 層以上) からなる
ネットワーク接続は隣接する層の要素同士で、全結合
情報(信号)の伝達は浅い方(入力)から、深い方(出力)へ一方向
活性化関数(入力の総和から出力を決める 1 変数関数)が非線形
注:活性化関数が線形の場合は、多層にしても意味がない (二層で同じ能力を持つ物が作れる)
ReLU(ランプ関数)は、非線形 (で、x=0 を除き、微分可能) である
非線形分離を実現
学習(重み付け)が難しい