前言 訓練模型時候，總是期待如何讓訓練時間縮短，尤其是在做研究時候，往往會需要快速得到結果。後來發現 AUTOMATIC MIXED PRECISION (AMP) 套件能輕鬆提升訓練速度，在實際使用上準確度沒有明顯差別，但在訓練時間上節省滿多，因此在這邊紀錄。 淺談 AMP 原理 而在大部分深度學習套件預設都使用 32 位浮點 ( FP32 ) 進行訓練。後續 NV...