原创 MMClassification安裝使用 1. 安裝及測試 2. 自定義數據集 3.自定義配置文件 4.單節點訓練

1. 安裝及測試 https://mmclassification.readthedocs.io/zh_CN/1.x/get_started.html#id2 版本爲1.x版本 從源碼安裝 git clone -b 1.x https://

原创 CLIP論文閱讀筆記

論文CLIP: Learning Transferable Visual Models From Natural Language Supervision Abstract 相比於監督式的CV學習方法,直接對圖文對學習有可能提供更多監督信息

原创 VLP大規模數據集收集策略 1.Wukong的一億圖文對數據集收集策略: 2. CLIP4億圖文對收集策略 3. ALIGN 18億圖文對收集策略

1.Wukong的一億圖文對數據集收集策略: Wukong:100 Million Large-scale Chinese Cross-modal Pre-training Dataset and A Foundation 在視覺語言預訓練

原创 Augmix數據增強方法

augmix是對同一張圖片施加不同的數據增強,然後將多張 增強後的圖片疊加。 AugMix其實是混合同一個圖像的經過不同數據增強得到的圖像,而CutMix和MixUp是混合兩個不同的圖像。AugMix由於是混合同一個圖像,相比CutMix和

原创 自監督學習算法--Barlow Twins Abstract Introduction Method Result

Abstract SSL需要學習對輸入的擾動(可以理解爲一張圖像的不同視角)保持不變的編碼(embedding)。但是這會造成平凡常數解(trivial constant solutions)。 論文提出了一種目標函數可以避免這種崩潰,將

原创 自監督學習算法整理 (1)谷歌組 SimCLR v1 & v2 (2) FAIR組 MoCo v1&v2, SwAV,Simsiam DeepMind BYOL

該領域論文主要來自三大組: Facebook AI Research (FAIR) :MoCo v1&v2, SwAV,Simsiam,Twins Google Research, Brain Team:SimCLR v1 & v2 De

原创 SIMCLR V2論文整理 1.introduction 2.method 3. 實驗

摘要 目前利用大量無標籤數據的主要方法是無監督預訓練+監督型調參。本文提出的方法包括三部分1)使用SIMCLRv2對一個大型的resnet網絡進行無監督預訓練學習,2)在少量有標籤數據上進行監督調參,3)在無標籤數據上進行蒸餾以精煉模型並遷

原创 Simclr論文整理 摘要 1.Introduction 2.Method 3. 用於對比學習的數據增強 編碼器與投射頭結構

摘要 本文提出的對比式自監督學習方法不需要專有結構或者 memory bank,結構比較簡單。 主要證明了一下幾點 1)多種數據增強方法的組合對於預測任務的有效設計是非常重要的;相比於監督型學習,非監督的對比式學習從更難的數據增強中獲利更大

原创 英文科研論文詞句積累

1.we study how to leverage the learned representations for one-class classification. 2.We achieve strong performance on

原创 SSD: A UNIFIED FRAMEWORK FOR SELFSUPERVISED OUTLIER DETECTION

本文中對比式自監督學習的定義非常精準:訓練一個一個特徵提取器將樣本與其他樣本區分開,使用圖像變換(數據增強)將每張圖片生成兩個視角(原圖+增強圖),將增強圖看作正樣本,優化模型使得每張圖像的的原圖與增強圖距離更近,與其他樣本的距離更遠,其他

原创 Simclr及CSI中對數據增強方法的相關實驗

simclr動圖 https://vdn1.vzuu.com/SD/9e10ead6-5a34-11eb-b86b-26b5ae12cbf4.mp4?disable_local_cache=1&auth_key=1629184957-0-0

原创 異常事件檢測綜述 1 數據集 2 主流異常事件檢測算法

1 數據集 異常事件檢測根據場景不同,學術界開源了多種數據集,如下表所示。 表3-1異常事件檢測數據集 該領域應用最廣泛,常作爲benchmark的數據集爲UCSD Pedestrian,Avenue,ShanghaiTec數據集,下文進行

原创 PaddlePaddle深度學習百科學習筆記 1.深度學習基礎篇 1.3 機器學習評價指標

1.深度學習基礎篇 1.1基礎知識 神經元 MCP模型由兩位作者名字命名 流程是將輸入乘以權重,加權求和,對求和值與閾值進行比較,大於閾值輸出1,小於閾值輸出0.能夠實現二分類。 單層感知機 單層感知機與MCP類似,區別是

原创 異常事件檢測綜述 1 數據集 2 主流異常事件檢測算法 1 主流異常事件檢測算法

1 數據集 異常事件檢測根據場景不同,學術界開源了多種數據集,如下表所示。 表3-1異常事件檢測數據集 該領域應用最廣泛,常作爲benchmark的數據集爲UCSD Pedestrian,Avenue,ShanghaiTec數據集,下文進行

原创 PaddlePaddle學習筆記 1.深度學習基礎篇 1.1基礎知識

1.深度學習基礎篇 1.1基礎知識 神經元 MCP模型由兩位作者名字命名 流程是將輸入乘以權重,加權求和,對求和值與閾值進行比較,大於閾值輸出1,小於閾值輸出0.能夠實現二分類。