名稱 | Actional-Structural Graph Convolutional Networks forSkeleton-based Action Recognition | Convolutional Neural Networks on Graphswith Fast Localized Spectral Filtering | Deep representation learning for human motion prediction and classification |
---|---|---|---|
目的 | 主要任務:動作識別 次要任務:未來的姿態預測 |
將CNN推廣到圖 利用GSP工具將CNN推廣到圖的數學和計算基礎 |
開發和研究骨骼人體運動數據的學習表示,作爲生成模型和特徵提取器 |
特點 | 1、捕捉關節內在依賴關係 2、預測未來幀 |
1、避免了使用顯式傅里葉基,計算效率更高 2、多層擴散和節點局部操作 3、能夠通過圖卷積層提取局部特徵和平穩特徵 |
1、人體運動數據的特徵提取 2、骨骼動作預測 3、卷積濾波器需要覆蓋所有關節的範圍以捕捉肢體相關性,使卷積發生在時間方向上 4、對整個動作序列進行分類 |
技術 | 1、提出A-link推理模塊,用於推斷捕獲特定於動作的潛在依賴關係的動作鏈接,將動作連桿組合成廣義骨架圖 2、多圖動作卷積網絡(AS-GCN)提取時空信息 3、引入額外的未來姿態預測頭 4、每個ST-GCN塊包含一個空間圖卷積和一個時間卷積,可以同時提取空間和時間特徵,最後一個ST-GCN塊連接到一個完全連接的分類器,生成最終預測。 關鍵部分:每個關節相鄰特徵的加權平均 5、自我監督 6、門控遞歸單元(GRU)傳播信息 7、LSTM學習時間特徵 |
1、光譜規劃 2、嚴格局部過濾器 3、高效池 4、TensorFlow 5、在圖上設計局部卷積濾波器 6、將相似的頂點組合在一起的圖粗化過程 |
1、開發了無監督學習方案,用於長期預測日常人體運動,而不侷限於一小組動作 2、筆者團隊學習的低維表示可以用於動作分類 3、基於滑動窗口的長期預測 4、主要使用識別作爲驗證工具 5、GPFA(高斯過程因子分析),揭示事件數據的非線性相關性 |
精確度 | 1、優於目前最先進的方法 2、訓練集:37920 測試集:18960 |
1、在動作預測方面的表現優於更復雜的深度學習模型、優於目前最先進的方法,並且能夠預測更大範圍的運動 2、數據庫包含144名不同受試者的2235段錄音,錄音採樣率60hz |
|
數據集 | NTU-RGB+D/dynamics兩個骨架數據集 | MNIST 20NEWS |
CMU mo-cap |
鏈接 | https://github.com/limaosen0/AS-GCN | https://github.com/mdeff/cnn_graph | 無 |
缺點 | 腿腳次要信息誤差大 | 長期預測的預測誤差增加 | |
優點 | 未來關節位置的低誤差,特別是具有特徵的動作身體部位 | 1、低計算複雜度,計算效率高 2、打破了CNN模型不能對內核的局部支持提供精確的控制的限制 |
1、能夠推斷出未來的框架 2、對特定動作的微調降低了預期誤差,在長期預測和原始訓練數據中不包含的動作尤其有效 3、能夠填充缺失的信息 4、直接將最近的歷史傳遞給模型,從而避免了遞歸網絡訓練的困難和週期性運動的趨勢 5、低計算複雜度,適用於在線任務 |
相關圖 |