分散低減手法

SAG (Stochastic Average Gradient)

各データポイントの過去の勾配をメモリに保持し、それらを増分的に更新する最適化アルゴリズム。SAGは、過去の勾配の平均を参照推定値として使用することで分散を低減します。

← 戻る