深層学習の最適化

Lookaheadオプティマイザ

内部オプティマイザによって生成された「高速」な重みの平均に向かって、「低速」な重みを定期的に更新する最適化メカニズム。汎化性能と収束の安定性を向上させる。

← 戻る