[圖片上傳失敗...(image-6f792c-1593862843865)]
論文標題:GAPNet: Graph Attention based Point Neural
Network for Exploiting Local Feature of Point Cloud(用于點云局部特征提取的圖注意力神經(jīng)網(wǎng)絡)
論文來源:arxiv2019
論文鏈接:https://arxiv.org/abs/1905.08705
1、背景
由于點云在非歐幾里得空間中具有不規(guī)則和稀疏的結構,利用點云的細粒度語義特征仍然具有挑戰(zhàn)性。在已有的研究中,PointNet提供了一種在無序三維點云上直接學習形狀特征的有效方法,取得了較好的效果。然而,有助于更好的上下文學習的本地特性沒有被考慮。同時,注意機制通過對鄰近節(jié)點的關注,可以有效地捕獲基于圖的數(shù)據(jù)上的節(jié)點表示。本文提出了一種新的點云神經(jīng)網(wǎng)絡GAPNet,通過在多層感知器(MLP)層中嵌入圖注意機制來學習局部幾何表示。首先,我們引入了一個GAPLayer,通過在鄰域上突出不同的注意權重來學習每個點的注意特征。其次,為了挖掘足夠的特征,采用了多頭機制,允許GAPLayer聚合來自獨立頭的不同特征。第三,我們提出了在相鄰網(wǎng)絡上使用注意力池層來捕獲本地簽名,以增強網(wǎng)絡的魯棒性。最后,GAPNet應用多層MLP層來關注特征和局部特征,充分提取局部幾何結構。
2、方法
為了更好地地底完成形狀分類和部分分割任務,學習非結構化點云的表示,提出了一種GAPNet模型,主要由三個模塊組成,為GAPLayer (multi-head graph attention based point network layer)、attention pooling layer和整體網(wǎng)絡框架
2.1、GAPLayer
2.1.1、局部特征學習
考慮到樣本數(shù)量的點云可以非常大的在真實的應用程序(如自主車輛),允許每一個點上所有其他點會導致高計算成本和梯度消失問題由于非常小的權重分配上其他點每點。對中心點利用K-NN查找中心點的k近鄰點,中心點與鄰近點作為圖的頂點,中心點與鄰近點的連線作為圖中的邊。以此完成點云構圖,如下所示:[圖片上傳失敗...(image-45be07-1593862843865)]
2.1.2、GAPLayer 結構
[圖片上傳失敗...(image-fa8354-1593862843865)]
2.1.3****、單頭****GAPLayer
為了對不同的鄰域給予不同的注意,我們提出了自注意機制和鄰域注意機制來獲取每個點對其鄰域的注意系數(shù),如圖1所示。自注意機制通過考慮每個點的自幾何信息來學習自系數(shù),而鄰域注意機制通過考慮鄰域來關注局部系數(shù)。
注意力的計算與普通的注意力并無差距,具體計算方式不再介紹。多頭的GAPLayer等于是單頭注意力的重復,沒有特別的差異。
2.2、注意力池化層
為了提高網(wǎng)絡的魯棒性和性能,我們在多圖特征的相鄰通道上定義了一個注意力池層。我們使用最大合用作為我們的注意力合用操作,它識別頭部之間最重要的特征,以捕獲局部簽名表示Yi定義為7。局部簽名連接到中間層以獲取全局特征。
[圖片上傳失敗...(image-800bc7-1593862843865)]
3、GAPNet 網(wǎng)絡結構
架構類似于PointNet,架構之間有三個主要的區(qū)別。首先,我們使用一個注意感知的空間變換網(wǎng)絡使點云對特定的變換不變性。其次,我們不是只處理單個點,而是在多層MLP層之前利用一個GAPLayer的局部特征。第三,利用注意力池層獲取連接到中間層的局部簽名。
[圖片上傳失敗...(image-dc61c6-1593862843865)]
4、實驗與分析
Modelnet40數(shù)據(jù)集上的分類任務和shapnet數(shù)據(jù)集上的部分分割任務
[圖片上傳失敗...(image-3ef2d7-1593862843865)]
[圖片上傳失敗...(image-d2532f-1593862843865)]
4、小結
在本文中,提出了一種基于圖注意的點神經(jīng)網(wǎng)絡——GAPNet,用于學習點云的形狀表示。實驗表明,在形狀分類和語義部分分割任務的最新性能。該模型的成功也驗證了圖注意網(wǎng)絡在圖節(jié)點相似性計算和幾何關系理解方面的有效性。