Agendamento da Taxa de Aprendizagem

SGDR

Descida de Gradiente Estocástica com Reinícios, uma variante do SGD que integra reinícios periódicos da taxa de aprendizado de acordo com uma política de annealing de cosseno. Esta técnica permite escapar de pontos de sela e melhorar a generalização.

← Voltar