原创 Machine Learning Yearning15~19

1.如何進行錯誤分析呢?我們將錯分類別做一個表。 橫向是各種各樣的error categories。觀察多了,對比多了,就會想到各種的錯誤類別。然後通過這個表,來決定在哪方面投入精力。如上表,相對於狗這類,將方向放到Grea

原创 unsupervised image segmentation by backpropagation-論文筆記

這是一個有趣的非監督分割方法 代碼短小精悍 直接說算法 1.首先對原圖進行超像素分割。 2.使用卷積網絡進行正向傳播。網絡輸出100channel,輸出和輸入大小相同。也就是說,每個輸入像素對應輸出100個像素。這10

原创 Scaling Up Crowd-Sourcing to Very Large Datasets: A Case for Active Learning-筆記

  通過Active Learning(AL)算法,找到最小的需要標註的數據進行訓練,來標記未標記的數據。   AL必須滿需下邊的需求才能作爲crowd-sourced database的默認的最優策略: Generality

原创 安裝anaconda後,裝庫報錯權限不夠

安裝anaconda後,安裝tensorflow,或者更新pip都報錯:發現是anaconda文件夾權限不夠。 查看發現anaconda文件夾上了一把鎖,需要去掉。 sudo chown 用戶名 文件夾 -R 比如:我的用戶名叫

原创 Bootstrap-Scaling Up Crowd-Sourcing to Very Large Datasets: A Case for Active Learning

論文Scaling Up Crowd-Sourcing to Very Large Datasets A Case for Active Learning對bootstrap做了介紹。 原書(B. Efron and R. J.

原创 Machine Learning Yearning23~27

1.如果有可避免的高的偏差(可避免是相對於人類的水平來說的),可以通過增加網絡深度來解決。如果方差較高的話(過擬合),增加數據量。 2.現在有很多很棒的神經網絡架構,嘗試新的框架相較於增加網絡模型和數據量具有高的不確定性。 3

原创 Suggestive Annotation: A Deep Active Learning Framework for Biomedical Image Segmentation-筆記

本文結合activate learning和bootstrap。 網絡結構如圖: 操作過程如下:首先使用少量的標註的數據進行訓練網絡,然後輸入未標記的數據,根據提取的有用信息記錄需要標記的數據,然後進行標記。下一個階段使用

原创 各種交叉驗證評價模型

1.The validation set approach(設置驗證集) 就是說,在訓練時,留出來一部分作爲驗證集(不參與訓練),隨時檢測網絡訓練情況。我的做法是,每個epoch訓練完後,都是用驗證集進行驗證,通過觀察驗證集來驗證

原创 ubuntu16.04安裝nvidia驅動

兩塊顯卡:970和titan x 安裝好Ubuntu後,在安裝驅動之前: 1.對ubuntu軟件進行更新。因爲之前安裝好驅動後,更新了軟件重啓後,陷入循環登陸狀態。 2. sudo add-apt-repository pp

原创 強化學習之Q-learning

三要素:狀態(state),動作(action),獎賞(reward)。更具具體情況自行進行給定。 Q更新公式: Q是什麼?動作效用函數(action-utility function),用於評價在某一狀態下采取某個動作的

原创 Machine Learning Yearning1~14

1.測試數據儘量和要應用的數據分佈吻合,這可能和訓練數據分佈不吻合;儘可能的使得dev 和 test sets的分佈相同。 2.如果我們的算法要應用到特定的領域,dev和test sets的分佈最好是相同的。 3. dev和t

原创 Quantization of Fully Convolutional Networks for Accurate Biomedical Image Segmentation-筆記

本文以論文Suggestive Annotation: A deep active learning frame work for biomedical image segmentation爲基礎,使用量化技術。 1.對具有高度

原创 Interleaved 3D-CNNs for Joint Segmentation of Small-Volume Structures in Head and Neck CT Images-筆記

傳統分割: (1)Atlas based methods, (2)Statistical shape/appearance based methods (3)Classification based methods

原创 ranker-Scaling Up Crowd-Sourcing to Very Large Datasets: A Case for Active Learning

論文Scaling Up Crowd-Sourcing to Very Large Datasets A Case for Active Learning提出兩種AL算法。   首先找到分類器θ對未標註數據的不確定程度。然後讓cr

原创 Dual Path Networks

作者發現ResNet可以使得特徵重用,DenseNet可以探索新的特徵。二這兩個作用對網絡學習好的表達很重要。所以論文將2着結合起來。 結構如下圖: 首先將輸入預分爲倆部分。將所有輸入通過1X1,3X3和1X1的卷積之後也