目錄
1Transductive Propagation Network ( ICLR 2019)
2 Temporal Coherence Label Propagation (ICLR 2022, Under Review)
3 FlexMatch (NIPS2021)
4 Conditional Score-based Diffusion Imputation (NIPS 2021)
5 Bilinear Temporal-Spectral Fusion (ICLR 2022 Under Review)
1Transductive Propagation Network ( ICLR 2019)
簡介：
Few-shot學習的目標是學習一個即使在每個類只有有限數量的訓練實例的情況下也能很好地泛化的分類器。最近引入的元學習方法通過在大量的多類分類任務中學習一個通用分類器，並將模型推廣到一個新的任務中來解決這個問題。然而，即使有了這種元學習，新分類任務中標籤少的數據問題仍然存在。
本文提出了一種直推式傳播網絡(TPN)，是一種新的元學習框架，可一次性對整個測試集進行分類，以緩解標籤少的數據問題。具體來說，我們建議通過學習一個利用數據中的流形結構的圖構造模塊，學習將標籤從有標記的實例傳播到未標記的測試實例。TPN以端到端方式聯合學習特徵嵌入參數和圖構造。
2 Temporal Coherence Label Propagation (ICLR 2022, Under Review)
代碼：可以參考文章附錄
簡介：
缺乏標籤的時間序列數據被認爲是其相關模型廣泛適用性的障礙。同時，主動學習（Active learning）已經被成功地採用，可以減少在各種任務中的標記人力。本文提出了一個重要的模型:時間序列主動學習。受時間序列數據的時間一致性的啓發，連續的數據點往往有相同的標籤，設計了我們的標籤傳播框架，稱爲TCLP，自動分配一個查詢的標籤，在一個準確估計的時間序列段內的數據點。
3 FlexMatch (NIPS2021)
簡介：
與其他已有半監督算法一樣，FixMatch爲所有類使用預定義的常量閾值來選擇有助於訓練僞標註數據，因此沒有考慮不同類的不同學習狀態和學習困難。爲了解決這一問題，我們提出了課程僞標記(CPL)，一種根據模型的學習狀態利用僞標註數據的課程學習方法。
4 Conditional Score-based Diffusion Imputation (NIPS 2021)
簡介：
時間序列中缺失值的估算在醫療保健和金融領域有很多應用。雖然自迴歸模型是時間序列imputation的自然候選，但基於分數的擴散模型(score-based diffusion models)最近在圖像分類和音頻合成等任務中優於現有的自迴歸模型，在時間序列imputation方面具有廣闊的前景。
在本文中，我們提出了基於條件分數的擴散模型(CSDI)，一種新的時間序列估算方法，利用基於分數的擴散模型，以觀測數據爲條件。與現有的基於分數的方法不同，條件擴散模型是明確訓練的歸因，可以利用觀測值之間的相關性。在醫療保健和環境數據方面，CSDI在流行的性能指標上比現有的概率估算方法提高了40-65%。
5 Bilinear Temporal-Spectral Fusion (ICLR 2022 Under Review)
簡介：
多變量時間序列的無監督表示學習具有實際意義，但由於其複雜的動態性和稀疏的標註，也是一個具有挑戰性的問題。現有的研究主要採用對比學習的框架，採用數據增強技術對正反兩方面進行樣本抽取，進行對比訓練。然而，他們的表徵學習框架設計存在兩個缺陷。
首先，我們回顧了已有的時間序列的增強方法，發現它們大多使用的是由時間切片導出的分段級增強，這可能會由於全局上下文的缺失而導致採樣偏差和錯誤的優化和假陰性。其次，他們都沒有注意在特徵表示中加入光譜信息和時間-光譜關係。
爲了解決這些問題，我們提出了一個新的框架，即雙線性時間光譜融合(BTSF)。與段級增強相比，我們通過簡單地在整個時間序列上應用dropout來利用實例級增強，以更好地保存全局上下文並捕獲長期依賴。此外，設計了一個迭代雙線性時間-頻譜融合模塊，以顯式編碼豐富的時頻對的親和關係，並通過與Spectrum-to-Time (S2T)和time-的跨域交互，迭代地改進時間序列的表示。
在時間序列的分類、預測和異常檢測三個主要的實際任務上進行了廣泛的實驗，首次對所有三個任務進行了評價。