MLインフラストラクチャの管理

推論の最適化

量子化、プルーニング、蒸留などの技術のセット。本番環境での推論フェーズ中にモデルのレイテンシとメモリ消費を削減することを目的とします。

← 戻る