詳解ディープラーニング

ニューラルネットワーク

線形結合して閾値超えるかどうかでゼロイチの出力が変わるアレ（活性化関数がステップ関数の場合）
誤差を少なくするようにパラメータをちょっとずつ変えることで所望の関数が得られるかもしれない。

単純パーセプトロン

入力をn個に拡張したニューロン。
活性化関数*1
は入力ベクトルx、重みベクトルw、閾値bとして
y = f(w^t*x - b)
とかける。

誤り訂正学習

現在のパーセプトロンの入力xに対して期待する出力tが得られなかったとき、
Δw = (t-y)
Δb = -(t-y)

として重みと閾値のバラメータを更新する。
感覚的には、

• 重み：出力が期待より小さければ大きくする、期待より大きければ小さくする
• バイアス：出力が期待より小さければ小さくする（閾値を下げる）、大きければ大きくする（閾値を上げる）

*1 入力) x (ウェイト) - (閾値