分散分析と F 検定の関係が分からなくなることが多いのでメモ 一元配置分散分析 分散分析は、3 つ以上の群の平均値に差があるかどうかを評価する統計手法で、異なる条件や処理が平均値に与える影響を評価できる。な お、一元配置分散分析は、要因数が 1 種類…

LASSOをまとめていると、LARS（最小角回帰法：Least Angle Regression）が出てきたので、これを機会に手順をちゃんと理解しようと思う。 行列と角度、高校や大学で習ったものの、いざ実データで、となるとどうしてもピンと来ない。実装してようやく理解でき…

LASSO回帰を実装する Rのmtcarsを使った実装例を作った。 回帰係数（w）と正則化パラメータ（$\lambda$）の初期値は適当に決めている。 回帰係数の初期値 ゼロベクトルや小さなランダムノイズを含んだベクトルなどがある。 ゼロベクトル: 回帰係数をすべてゼ…

Lasso回帰の最適化アルゴリズム 最適化アルゴリズムは座標降下法が有名ですが、調べてみると他にもいくつかありました。 分かる範囲でリストアップしてみた。 それぞれの理解をまとめておく。 名称 特徴 メリット デメリット 座標降下法 1変数ずつ重みの更新…

LASSOをまとめていると、LARS（最小角回帰法：Least Angle Regression）が出てきたので、これを機会に手順をちゃんと理解しようと思う。 行列と角度、高校や大学で習ったものの、いざ実データで、となるとどうしてもピンと来ない。実装してようやく理解でき…

LASSOをまとめていると、LARS（最小角回帰法：Least Angle Regression）が出てきたので、これを機会に手順をちゃんと理解しようと思う。 行列と角度、高校や大学で習ったものの、いざ実データで、となるとどうしてもピンと来ない。実装してようやく理解でき…