目錄
本分享爲腦機學習者Rose整理髮表於公衆號：腦機接口社區(微信號：Brain_Computer).QQ交流羣：941473018
關於遷移學習應用在腦機接口領域，前面我們分享過伍冬睿教授團隊的《華中科技大學伍冬睿教授：非侵入式腦機接口中的遷移學習綜述（2016-2020）》
導讀
遷移學習利用一個問題中的數據或知識來幫助解決另一個不同但相關的問題。它在腦機接口(BCIs)中特別有用，可以用於處理不同學科和/或任務之間的差異。研究人員考慮了離線無監督多受試者腦電圖(EEG)分類，即已經對一個或多個源受試者進行了標記腦電圖試驗，但只對目標受試者進行了未標記腦電圖試驗。研究人員提出一個新穎的流形嵌入知識遷移方法(MEKT), 該方法首先在黎曼流形中對齊EEG試驗的協方差矩陣，提取切空間中的特徵，然後通過最小化源之間的聯合概率分佈轉變源和目標域,同時保留其幾何結構。MEKT可以處理一個或多個源域，可以有效地計算。針對存在大量的源域問題，研究人員提出了一種域可遷移性估計(DTE)的方法來識別最有利的源域。
近年來，腦機接口技術在輔助醫療、智能感知、人機交互等領域得到了廣泛的應用。和圖像、視頻、文本等數據不同，腦機接口中採集的腦電數據往往來自不同個體，個體之間的差異導致數據分佈存在較大差異，傳統機器學習算法較難進行跨用戶學習；此外，單獨爲某個用戶收集大量帶標註數據不僅耗時，而且會影響用戶體驗。遷移學習是解決這些難題的一個可行思路。
不同人之間對於同樣的任務或者外在刺激存在不同的反應，但是對於同樣的任務和同樣的特徵提取過程，遷移學習可以利用已有帶標註數據輔助新用戶學習，主要原理爲對齊個體之間的分佈差異，使得源用戶中的模式或者知識能夠遷移到新用戶上，從而實現在新用戶不打標、或者標註少量數據的情況下實現較好的任務學習。
爲實現上述目標，研究人員提出了一種應用於腦機接口的流形嵌入知識遷移方法 (MEKT)，以解決針對腦機接口中遷移學習的三個重要問題：
如何對數據預處理，使得不同用戶的數據可以聯合訓練？
如何借鑑圖像領域的遷移學習思想，解決個體差異問題？
如何選擇和新用戶相關的源域，以減小運算代價？
流形嵌入知識遷移方法的主要原理圖如下：
首先提出了一種中心對齊的方法，在黎曼流形上進行數據的預對齊。我們詳細證明了該對齊方法的兩個性質：減小分佈差異和數據白化。
然後將數據投影到切空間上。切空間上特徵維度較高，可以通過特徵變換進行分佈的進一步對齊，因此在我們在切空間上提出了一種新的基於聯合概率分佈對齊和數據結構保持的知識遷移方法。
最後針對多個源用戶的情況，我們提出了一種域的可遷移性的估計方法，以實現對多源域遷移情況下的遷移性估計和多源域選擇。
上圖爲MEKT的原理圖。正方形和圓形代表不同類別的示例。不同的顏色代表不同的域。首先將所有域在黎曼流形上對齊，然後映射到切空間上。A和B分別是源域和目標域的投影矩陣。
下面爲流形嵌入知識遷移方法的算法僞代碼，
無論使用黎曼均值、歐幾里得均值或對數-歐幾里得均值作爲參考矩陣，CA使對齊的協方差矩陣近似單位矩陣。爲了說明這一點，下圖給出了MI2中受試者1第一次EEG試驗的原始協方差矩陣，以及不同參考對齊後的協方差矩陣。原始協方差矩陣與恆等矩陣相差不大，但經過CA後，協方差矩陣近似恆等，因此對應的EEG試驗近似白化。
原始協方差矩陣(試驗1、受試者1、MI2)和CA後的協方差矩陣使用不同的參考矩陣
下圖顯示了MI2中不同數據對齊方式前後將受試者2的數據遷移到受試者1的結果。在CA之前，源域和目標域的樣本完全不重疊。CA後，兩組樣本均值相同，方差不同。CA-GFK和CA-JDA使得源域樣本的方差和目標域樣本的方差近似相同，但仍不能很好地分離不同類別的樣本。
MEKT-R不僅使源域樣本和目標域樣本的總體分佈一致，而且使來自兩個域中同一類的樣本接近，這將有利於分類。
在MI2中，將Subject 2的數據(源)遷移到Subject 1(目標)時，
在CA前後以及使用不同遷移學習方法時的數據分佈的t-SNE可視化。
作者使用提出的方法成功被應用到運動想象、事件相關電位等多種範式在內的腦機接口系統，並與早期的歐式空間對齊 （EA）和公開的黎曼對齊（RA-MDM）、以及爲了驗證切空間知識遷移而引入的圖像遷移領域主流的 SOTA 模型 JDA、 JGSA 等方法對比，實驗結果表明我們的算法顯著優於上述基線，且具有較低的時間複雜度；此外，提出的源域選擇方法可以實現在性能降低儘量小的前提下提高運行速度近兩倍。
研究人員表示，未來的工作將會專注於腦機接口中的在線遷移學習方法。因爲多數的腦機接口任務對實時性要求較高，數據是在線得到的，因此設計輕量且高效的分類遷移以及迴歸遷移學習算法具有更大應用價值。
本工作由華中科技大學人工智能與自動化學院博士生張穩和伍冬睿教授共同完成。
上述部分內容來源伍冬睿教授網站，部分內容由Rose整理。
http://faculty.hust.edu.cn/drwu/zh_CN/index.htm
論文信息：
Manifold Embedded Knowledge Transfer for Brain-Computer Interfaces
參考
腦機接口中的流形嵌入知識遷移學習
本文章由腦機學習者Rose筆記分享,QQ交流羣：941473018
更多分享，請關注公衆號
