圖表示學習一直是機器學習中一個重要的問題。除卻耳熟能詳者有DeepWalk類者，GNNs類者，生成類如GraphGAN者等等，還有哪些模型是值得去探索的呢？下面的兩篇文章分別在節點層面和圖層面研究了相關的問題。
圖表示學習一直是機器學習中一個重要的問題。除卻耳熟能詳者有DeepWalk類者、GNNs類者、生成類如GraphGAN者等等，還有哪些模型是值得去探索的呢？下面的兩篇文章分別在節點層面和圖層面研究了相關的問題。
Inductive and Unsupervised Representation Learning on Graph Structured Objects
這篇文章中，作者提出了一種新的通用的思路，即SEED（Sampling，Encoding，and Embedding Distribution），在理論上分析了其和圖同構的關係，實現了其中一個可能的版本，並從實驗上證明了其之有效性。
這種模型架構基於兩個同構的圖之間的子圖的分佈也應該彼此較爲相近的假設出發，使用兩個圖之間子圖分佈之間的距離來度量兩個圖之間的距離。具體地，這類模型可以概括爲如下三個步驟：
（1）採樣，從輸入的圖中採樣得到很多個子圖，並希望可以採集到的那些容易被編碼和解碼的子圖；
（2）編碼，作者嘗試定義一個子圖的好的表示應該是可以從這樣的表示中很好地重構出原來子圖的結構；
（3）獲取子圖表示分佈，子圖的表示向量被聚合到一個向量中作爲整個圖的表示向量，對於兩個圖而言，他們之間的距離可以被子圖表示分佈之間的距離度量。這樣設計的目標是，希望可以尋找到一種聚合函數可以保持預先定義好的分佈之間的距離。
文中對於以上三個步驟均有自己的一種實現，以採樣的方式爲例，作者提出一種WEAVE的方法，這種方法以隨機遊走的方式訪問節點，但與普通的隨機遊走不同的時，這種方法保留一個節點最早訪問的時間，這樣可以獲得採取普通的隨機遊走所難以捕捉到的結構信息，如下圖中，WEAVE可以很好地捕捉到圖中存在的環路。
同時作者也在理論上建立了WEAVES和圖同構的關係。當然這個模型效果也很好。
StructPool: Structured Graph Pooling via Conditional Random Fields
這篇文章的任務是圖層面的表徵學習。作者從graph pooling的角度出發，指出現有的很多方法並沒有顯示的考慮圖結構的信息，並將graph pooling的過程轉化爲節點分類，從而其目標變爲學習一個cluster assignment matrix。對於一個節點的分類不僅與這個節點的特徵有關，還與其他節點的分類有關，於是文章採用條件隨機場的方法來建模這種關係，並結合圖結構信息設計吉布斯能量方程。
而結果也證明了這種方法的有效性。
更多ICLR論文話題，可通過微信“Moonnn01”加入ICLR 2020 交流羣討論。
