はじめに

MochiMochiというSCW、AROW、Adagrad_RDA、ADAMといったオンライン線形分類器を実装し、ライブラリとして使えるようにしたので公開します。
使い方はexampleを参考にしてください。

実装したアルゴリズム

それぞれのアルゴリズムの解説は検索すれば詳しい記事が出てくると思うので、ここではしません。

ADAM: A METHOD FOR STOCHASTIC OPTIMIZATION

Adaptive Subgradient Methods for Online Learning and Stochastic Optimization

Adagarad = Adaptive Gradiant
RDA = Regularized Dual Averaging

Adaptive Regularization of Weight Vectors

Exact Soft Confidence-Weighted Learning

マルチクラス分類と回帰ができるようにします。

Pull Requestお待ちしております！