pytorch中torch.backends.cudnn設置的作用

cuDNN使用非確定性算法,并且可以使用torch.backends.cudnn.enabled = False來進行禁用
如果設置為torch.backends.cudnn.enabled =True,說明設置為使用使用非確定性算法

然后再設置:

torch.backends.cudnn.benchmark = true

那么cuDNN使用的非確定性算法就會自動尋找最適合當前配置的高效算法,來達到優(yōu)化運行效率的問題

一般來講,應該遵循以下準則:

  1. 如果網絡的輸入數(shù)據維度或類型上變化不大,設置 torch.backends.cudnn.benchmark = true 可以增加運行效率;
  2. 如果網絡的輸入數(shù)據在每次 iteration 都變化的話,會導致 cnDNN 每次都會去尋找一遍最優(yōu)配置,這樣反而會降低運行效率。
    所以我們經常看見在代碼開始出兩者同時設置:
torch.backends.cudnn.enabled = True
torch.backends.cudnn.benchmark = True
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成,瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

友情鏈接更多精彩內容