圖神經網絡表達能力不足時,我們能做什麼?

在本文中,作者認爲圖同構設置對於分析圖神經網絡的表達能力來說太過有限,並建議基於度量嵌入進行更廣泛的設置。

前文回顧

《圖深度學習:成果、挑戰與未來》
《圖神經網絡的表達能力與 Weisfeiler-Lehman 測試》
《如何設計局部的、計算效率高的、可證明的圖神經網絡?》

本文最初發表在 TowardsDataScience 博客,經原作者 Michael Bronstein 授權,InfoQ 中文站翻譯並分享。

image

Weisfeiler-Lehman(WL)測試【1】是圖論多項式時間迭代算法層次結構的總稱,爲圖同構提供了必要但不充分的條件。在圖深度學習的背景下,消息傳遞神經網絡被證明與 1-WL 測試一樣強大【2】。進行更高階、更強大的 k-WL 測試會導致圖神經網絡複雜度和非局部運算【3】,這在實際應用中是不切實際的。

我們在最近的一篇論文【4】中介紹了一種不同的方法,即打破 Weisfeiler-Lehman 層次結構,並採用一種能夠感知局部圖結構(如環、團和道路)的消息傳遞機制。這使得圖神經網絡具有標準消息傳遞架構的誘人的局部性和低複雜度,同時被證明比 2-WL 更強大,至少不低於 3-WL。這樣的觀點爲圖論中的開放性問題打開了深層次的聯繫,而這些問題是以前在圖神經網絡表達力方面從未探索過的。

原文鏈接:【https://www.infoq.cn/article/wK546MGjKQxYcxto3uWy】。未經作者許可,禁止轉載。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章