統計的機械学習について

統計的機械学習？
人工知能、学習、最適化

因数分解の例
→「個々の問題を知らなくても公式を知れば解ける」≒般化
機械学習→般化能力の高い処理を行う
過去と未来の“ゆるい”関係を前提に確率・統計を用いてアプローチする

機械学習：モデリング・アルゴリズムに大別。
⇒教師データから期待値を算出して近似値を求める。
⇔最適化とは異なる。般化が目的。
アーリーストーキング：最適化を途中でやめるもの。

データからモデル空間に学習アルゴリズムによって射影するイメージ。
機械学習：モデル・アルゴリズムによる般化を求める
統計：推定量の算出を求める

・深層学習だけではない。
・知能≠般化
・最適化≠般化

教師あり・なし・強化学習に加えて半教師、弱教師、などの領域もある。
またアンサンブル学習、マルチタスク学習、転移学習なども。

アルゴリズムについて
明示的フィードバック：例えばVASのようなもの
暗黙的フィードバック：例えば行動で間接的に見るもの
ランキング学習：
順序学習：順序が与えられた時の学習

データの表現を学習
深層学習：データの表現を多層に分解して学習。与える変数aも学習させる
距離学習：マハラノビス距離において変数a,bの距離関数を学習させるもの。
ハッシュ関数学習：ハッシュ関数そのものの学習。データの類似度を基に行うんだとか。

希少なデータからの学習
不均衡学習、異常検知、外れ値検知、変化点検知

新しいパラダイム
秘匿情報学習(x,x*,y)：訓練時には得られるがテスト時には得られないx*を用いた学習
※単純な例としては時系列の予測。

敵対的生成学習：

敵対的生成学習

×般化　○汎化か

※どこかで機械学習は高度なもので自分には関係ないと思っていないか。知れ。