原创 Transformers與圖神經網絡的關係,我們能從transformer學習到什麼?

1、導讀 這個觀點的目的是構建Transformer結構背後的NLP上的直覺,以及與圖神經網絡的聯繫。 圖深度學習”聽起來很厲害,但有什麼大的商業成功的故事嗎?它有沒有被部署在實際app中? 除了Pinterest、阿里巴巴和Tw

原创 BERT: Bidirectional Encoder Representations from Transformers雙向Transformer用於語言模型 NAACL 2018

論文鏈接:https://arxiv.org/abs/1810.04805 tensorflow版本代碼鏈接:https://github.com/google-research/bert pytorch版本代碼鏈接:https

原创 Structural Deep Clustering Network 基於GNN的深度聚類算法 WWW2020

論文鏈接:https://arxiv.org/abs/2002.01633 代碼與數據集鏈接:https://github.com/lxk-yb/SDCN 摘要 聚類是數據分析中一個基礎任務。最近,深度聚類(從深度學習方法中獲取

原创 lgb,xgb,gbdt,adb,RF區別與聯繫

AdaBoost原理 原始的AdaBoost算法是在算法開始的時候,爲每一個樣本賦上一個權重值,初始的時候,大家都是一樣重要的。在每一步訓練中得到的模型,會使得數據點的估計有對有錯,我們就在每一步結束後,增加分錯的點的權重,減少分

原创 (代碼)使用預訓練的詞向量進行文本分類

import numpy as np import pandas as pd from sklearn.model_selection import train_test_split from sklearn.metrics im

原创 HetGNN-Heterogeneous Graph Neural Network 異構圖神經網絡 KDD2019

來源:KDD2019 論文鏈接:https://www3.nd.edu/~dial/publications/zhang_2019_heterogeneous.pdf 代碼鏈接: https://github.com/chuxuzhan

原创 MEIRec-Metapath-guided Heterogeneous Graph Neural Network for Intent Recommendation意圖推薦 KDD2019

論文來源:KDD2019 論文鏈接 代碼鏈接 1、摘要 本文是通過學習到節點的表示,解決意圖推薦問題。 什麼是意圖推薦:意圖推薦在電商領域應用廣泛,是指在用戶沒有輸入的前提下,根據用戶的歷史行爲爲用戶做推薦。淘寶的搜索欄在你沒有

原创 淺談零樣本網絡表示學習 AAAI2018 & TKDE2020

1、什麼是零樣本網絡表示學習 這個問題主要來自兩篇論文 AAAI 2018 和 TKDE 2020,在正式開始介紹零樣本網絡表示學習(Zero-shot Graph Embedding, ZsGE)之前,我們首先介紹一下什麼是零樣

原创 數據不平衡問題及解決方案

1.數據不平衡 1.1 數據不平衡介紹 數據不平衡,又稱樣本比例失衡。對於二分類問題,在正常情況下,正負樣本的比例應該是較爲接近的,很多現有的分類模型也正是基於這一假設。但是在某些特定的場景下,正負樣本的比例卻可能相差懸殊,如社交

原创 GTN-Graph Transformer Network 圖變換網絡 NeurIPS2019

來源:NeurIPS 2019 論文鏈接 代碼鏈接 摘要 圖神經網絡(GNNs)在圖表示學習中得到了廣泛的應用,實現了節點分類和連接預測等任務的最佳性能。然而,大多數現有的GNNs都被設計爲在固定(fix)和同質(homogen

原创 KGAT : Knowledge Graph Attention Network for Recommendation 用於推薦的知識圖注意力網絡 KDD2019

論文來源:KDD 2019 論文鏈接 代碼及數據集鏈接 1、摘要 在推薦系統領域中,爲了使推薦結果更加準確、可解釋性更高,不僅要考慮user-item之間的關係,引入外部知識豐富user-item之間的信息也非常有必要。在這方面

原创 A Survey on Knowledge Graph-Based Recommender Systems 知識圖譜提升推薦系統準確性與可解釋性ArXiv 2020

論文鏈接:https://arxiv.org/pdf/2003.00911.pdf 導讀 近來,知識圖譜用於推薦系統是關注的焦點,能夠提升推薦系統的準確性與可解釋性。如何將知識圖譜融入到推薦系統呢? 最近中科院計算所百度微軟等

原创 基於生成對抗的知識圖譜零樣本關係學習 AAAI2020

論文來源:AAAI 2020 論文鏈接:https://arxiv.org/pdf/2001.02332.pdf 本文是發表在AAAI2020上的一篇基於生成對抗網絡進行知識圖譜零樣本關係學習的文章。在知識圖譜表示學習(KG E

原创 異質圖神經網絡及其在電商領域中的應用

今天,我們首先將介紹北郵計算機學院教授石川的《異質圖神經網絡及其在電商中的應用》。 本次講座中,石川針對圖神經網絡研究的重要挑戰——傳統採用的是同質圖數據,無法滿足業界交互系統對異質圖的實際需求,介紹了自己對於解決方案的一系列相關

原创 Composition-based Multi-Relational Graph Convolutional Networks 多關係圖神經網絡 ICLR 2020

論文來源:ICLR 2020 論文鏈接:https://arxiv.org/abs/1911.03082 代碼鏈接:https://github.com/malllabiisc/CompGCN 1、引言 圖神經網絡已經成爲圖數據