量子化と最適化

8ビット浮動小数点表現 (FP8)

浮動小数点数を表現するために8ビットを使用する非常に低精度の数値データ形式。大規模モデルの訓練における安定性を維持しながら、最新のGPUでの大幅な高速化を可能にする。

← 戻る