torch中LSTM層的理解與記錄

import torch
import torch.nn as nn

lstm = nn.LSTM(
    input_size=10,
    hidden_size=20,
    num_layers=1,
    batch_first=True
)

input = torch.randn(3, 5, 10)   # batch_size=3, seq_len=5, num_features=10
h0 = torch.randn(1, 3, 20)
c0 = torch.randn(1, 3, 20)

output, (h, c) = lstm(input, (h0, c0))

"""
h和c都是三維張量，其中第一維度表示該LSTM層的層數(shù)num_layers，默認(rèn)為1
output是三維張量
output[:, -1, :] 與 h[-1, :, :]是一樣的

當(dāng)多個(gè)LSTM層疊加時(shí)，它們之間的數(shù)據(jù)傳遞用每一層的output
最后一個(gè)LSTM層與全連接層相連時(shí)，采用最后一層的h[-1, :, :]作為全連接層的輸入
"""
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成，瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點(diǎn)，簡(jiǎn)書系信息發(fā)布平臺(tái)，僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容