モデルの蒸留
蒸留温度
ソフトマックス関数で適用されるハイパーサーミックパラメータで、教師モデルの確率のソフト化を制御し、生徒モデルが最も確率の高い予測を超えてクラス間の関係を学習できるようにする
← 戻るソフトマックス関数で適用されるハイパーサーミックパラメータで、教師モデルの確率のソフト化を制御し、生徒モデルが最も確率の高い予測を超えてクラス間の関係を学習できるようにする
← 戻る