1.如果我們用nn.MSELoss()替換nn.MSELoss(reduction='sum'),為了使代碼的行為相同,需要怎么更改學(xué)習(xí)率?為什么?
? ? reduction默認(rèn)為mean均值,修改為sum之后,loss變大了,所以要減小lr。
2.查看PyTorch文檔,了解提供了哪些損失函數(shù)和初始化方法。用Huber損失來代替。
3. 你如何訪問net[0].weight的梯度?
? ? net[0].weight.grad
1.如果我們用nn.MSELoss()替換nn.MSELoss(reduction='sum'),為了使代碼的行為相同,需要怎么更改學(xué)習(xí)率?為什么?
? ? reduction默認(rèn)為mean均值,修改為sum之后,loss變大了,所以要減小lr。
2.查看PyTorch文檔,了解提供了哪些損失函數(shù)和初始化方法。用Huber損失來代替。
3. 你如何訪問net[0].weight的梯度?
? ? net[0].weight.grad