目前網(wǎng)絡(luò)上有非常完備的訓(xùn)練框架，如抱臉蟲(chóng)的transformers、達(dá)摩的modelscope,swift框架，使得模型的調(diào)用和訓(xùn)練過(guò)程都非常的直觀。上述的框架都沒(méi)有離開(kāi)主流的tensorflow, pytorch框架，是在這些框架上的進(jìn)一步封裝，且上述框架更像是模型SDK偏向于應(yīng)用；學(xué)習(xí)一下pytorch更能理解AI的原理，這也是大佬的推薦，此篇記錄pytorch常用代碼，給小白同志們一個(gè)參考。
0、疑問(wèn)
- 為什么需要torch.nn， torch.optim..模塊，有什么好處？
1、pytorch常用模塊
torch.nn： pytorch構(gòu)建模型的其中一塊代碼，使得構(gòu)建模型、訓(xùn)練模型的過(guò)程更加簡(jiǎn)潔，僅需少量代碼即完成構(gòu)建過(guò)程，里面還封裝了各種損失函數(shù)如cross entropy等等。
且看代碼??：
import torch.nn.functional as F
#構(gòu)建損失函數(shù)
loss_func = F.cross_entropy
torch.optim：`包裝了各種常用損失函數(shù)，無(wú)需重復(fù)定義基礎(chǔ)函數(shù)，實(shí)現(xiàn)開(kāi)箱即用，自動(dòng)計(jì)算梯度，還能夠自動(dòng)清空上一次迭代的梯度。
TensorDataset和DataLoder：優(yōu)化數(shù)據(jù)讀取到tensor和分批處理數(shù)據(jù)的代碼，僅一行代碼即完成了分批讀取數(shù)據(jù)集的操作。
使用torch包之后代碼行數(shù)前后對(duì)比（圖）
2、總結(jié)
- 使用
torch.nn
- 未完待續(xù)
參考
官方教程
