深入淺出Yolo系列之Yolov3&Yolov4基礎知識完整講解

因爲工作原因,項目中經常遇到目標檢測的任務,因此對目標檢測算法會經常使用和關注,比如Yolov3Yolov4算法
當然,實際項目中很多的第一步,也都是先進行目標檢測任務,比如人臉識別多目標追蹤REID客流統計等項目。因此目標檢測是計算機視覺項目中非常重要的一部分。
從2018年Yolov3年提出的兩年後,在原作者聲名放棄更新Yolo算法後,俄羅斯的Alexey大神扛起了Yolov4的大旗。
因爲項目中Yolov3、Yolov4使用很多,所以大白將項目中,需要了解的Yolov3、Yolov4系列相關知識點以及相關代碼進行完整的彙總,希望和大家共同學習探討。
版權申明:轉載及引用本文相關圖片,需在評論區留言,先贊後取圖。
本文包含圖片,都爲本人所繪製,如需高清圖片,可郵箱發送信息,需要哪部分的圖片。

江大白郵箱:[email protected]


1. 論文彙總

Yolov3論文名:《Yolov3: An Incremental Improvement
Yolov3論文地址:https://arxiv.org/pdf/1804.02767.pdf

Yolov4論文名:《Yolov4: Optimal Speed and Accuracy of Object Detection
Yolov4論文地址:https://arxiv.org/pdf/2004.10934.pdf


2. Yolov3核心基礎內容

2.1 網絡結構可視化

Yolov3是目標檢測Yolo系列非常非常經典的算法。
不過很多同學拿到Yolov3或者Yolov4cfg文件時,並不知道如何直觀的可視化查看網絡結構。如果純粹看cfg裏面的內容,肯定會一臉懵逼
其實可以很方便的用netron查看Yolov3的網絡結構圖,一目瞭然。
這裏不多說,如果需要安裝,可以移步大白的另一篇文章:《網絡可視化工具netron詳細安裝流程》
如果不想安裝,也可以直接點擊此鏈接,查看Yolov3可視化流程圖

2.2 網絡結構圖

在這裏插入圖片描述
繪製網絡結構圖受到Yolov3另一位作者文章的啓發,包括下面Yolov4的結構圖,從總體框架上先了解了Yolov3的流程,再針對去學習每一小塊的知識點,會事半功倍。
上圖三個藍色方框內表示Yolov3三個基本組件:
(1)CBL:Yolov3網絡結構中的最小組件,由Conv+Bn+Leaky_relu激活函數三者組成。
(2)Res unit:借鑑Resnet網絡中的殘差結構,讓網絡可以構建的更深。
(3)ResX:由一個CBL和X個殘差組件構成,是Yolov3中的大組件。每個Res模塊前面的CBL都起到下采樣的作用,因此經過5次Res模塊後,得到的特徵圖是608->304->152->76->38->19大小。

其他基礎操作:
(1)Concat:張量拼接,會擴充兩個張量的維度,例如26×26×25626×26×512兩個張量拼接,結果是26×26×768。Concat和cfg文件中的route功能一樣。
(2)Add:張量相加,張量直接相加,不會擴充維度,例如104×104×128104×104×128相加,結果還是104×104×128。add和cfg文件中的shortcut功能一樣。

Backbone中卷積層的數量:
每個ResX中包含1+2×X個卷積層,因此整個主幹網絡Backbone中一共包含1+(1+2×1)+(1+2×2)+(1+2×8)+(1+2×8)+(1+2×4)=52,再加上一個FC全連接層,即可以組成一個Darknet53分類網絡。不過在目標檢測Yolov3中,去掉FC層,不過爲了方便稱呼,仍然把Yolov3的主幹網絡叫做Darknet53結構

2.3 核心基礎內容

Yolov32018年發明提出的,這成爲了目標檢測one-stage中非常經典的算法,包含Darknet-53網絡結構anchor錨框FPN等非常優秀的結構。
本文主要目的在於描述Yolov4Yolov3算法的不同及創新之處,對Yolov3的基礎不過多描述。
不過大白也正在準備Yolov3算法非常淺顯易懂的基礎視頻課程,讓小白也能簡單清楚的瞭解Yolov3的整個過程及各個算法細節,製作好後會更新到此處,便於大家查看。
在準備課程過程中,大白蒐集查看了網絡上幾乎所有的Yolov3資料,在此整理幾個非常不錯的文章及視頻,大家也可以點擊查看,學習相關知識。
(1)視頻:吳恩達目標檢測Yolo入門講解
https://www.bilibili.com/video/BV1N4411J7Y6?from=search&seid=18074481568368507115
(2)文章:Yolo系列之Yolov3【深度解析】
https://blog.csdn.net/leviopku/article/details/82660381
(3)文章:一文看懂Yolov3
https://blog.csdn.net/litt1e/article/details/88907542
相信大家看完,對於Yolov3的基礎知識點會有一定的瞭解。


3. Yolov3相關代碼

3.1 python代碼

代碼地址:https://github.com/ultralytics/Yolov3

3.2 C++代碼

這裏推薦Yolov4作者darknetAB代碼,代碼和原始作者代碼相比,進行了很多的優化,如需要運行Yolov3網絡,加載cfg時,使用Yolov3.cfg即可
代碼地址:https://github.com/AlexeyAB/darknet

3.3 python版本的Tensorrt代碼

除了算法研究外,實際項目中還需要將算法落地部署到工程上使用,比如GPU服務器使用時還需要對模型進行tensorrt加速
(1)Tensort中的加速案例
強烈推薦tensort軟件中,自帶的Yolov3加速案例,路徑位於tensorrt解壓文件夾的TensortX/samples/python/Yolov3_onnx
針對案例中的代碼,如果有不明白的,也可參照下方文章上的詳細說明:
代碼講解文章:https://www.cnblogs.com/shouhuxianjian/p/10550262.html
(2)Github上的tensorrt加速
除了Tensorrt軟件中的代碼, Github上也有其他作者的開源代碼
代碼地址:https://github.com/lewes6369/TensorRT-Yolov3

3.4 C++版本的Tensorrt代碼

項目的工程部署上,如果使用C++版本進行Tensorrt加速,一方面可以參照Alexey的Github代碼,另一方面也可以參照下面其他作者的開源代碼
代碼地址:https://github.com/wang-xinyu/tensorrtx/tree/master/Yolov3


4. YoloV4核心基礎內容

4.1 網絡結構可視化

Yolov4的網絡結構也可以使用netron工具查看,大白也是對照其展示的可視化流程圖繪製的下方網絡結構圖。
netron可視化顯示Yolov4網絡結構可以參照大白的另一篇文章:《netron可視化網絡結構詳細安裝流程
如果不想安裝,也可以直接點擊此鏈接,查看Yolov4可視化流程圖。

4.2 網絡結構圖

在這裏插入圖片描述
Yolov4的結構圖和Yolov3相比,因爲多了CSP結構PAN結構,如果單純看可視化流程圖,會覺得很繞,但是在繪製出上面的圖形後,會覺得豁然開朗,其實整體架構和Yolov3是相同的,不過使用各種新的算法思想對各個子結構都進行了改進。
先整理下Yolov4的五個基本組件:
1. CBM:Yolov4網絡結構中的最小組件,由Conv+Bn+Mish激活函數三者組成。
2. CBL:Conv+Bn+Leaky_relu激活函數三者組成。
3. Res unit:借鑑Resnet網絡中的殘差結構,讓網絡可以構建的更深。
4. CSPX:借鑑CSPNet網絡結構,由三個卷積層和X個Res unint模塊Concate組成。
5. SPP:採用1×1,5×5,9×9,13×13的最大池化的方式,進行多尺度融合。

其他基礎操作:
1. Concat:張量拼接,維度會擴充,和Yolov3中的解釋一樣,對應於cfg文件中的route操作。
2. Add:張量相加,不會擴充維度,對應於cfg文件中的shortcut操作。

Backbone中卷積層的數量:
和Yolov3一樣,再來數一下Backbone裏面的卷積層數量。
每個CSPX中包含3+2×X個卷積層,因此整個主幹網絡Backbone中一共包含2+(3+2×1)+2+(3+2×2)+2+(3+2×8)+2+(3+2×8)+2+(3+2×4)+1=72。
這裏大白有些疑惑,按照Yolov3設計的傳統,72個卷積層,加上最後的一個全連接層,主幹網絡的名字不應該叫CSPDaeknet73嗎????

4.3 核心基礎內容

Yolov4本質上和Yolov3相差不大,可能有些人會覺得失望。
但我覺得算法創新分爲三種方式
(1)第一種:面目一新的創新,比如Yolov1Faster-RCNNCenternet等,開創出新的算法領域,不過這種也是最難的。
(2)第二種:守正出奇的創新,比如將圖像金字塔改進爲特徵金字塔。
(3)第三種:各種先進算法集成的創新,比如不同領域發表的最新論文的tricks,集成到自己的算法中,卻發現有出乎意料的改進。
Yolov4既有第二種也有第三種創新,組合嘗試了大量深度學習領域最新論文的20多項研究成果,而且不得不佩服的是作者AlexeyGithub代碼庫維護的頻繁程度。
目前Yolov4代碼的Star數量已經1萬左右,據我所瞭解,目前超過這個數量的,目標檢測領域只有FacebookDetectron(v1-v2)、和Yolo(v1-v3)官方代碼庫(已停止更新)。
所以
Yolov4
中的各種創新方式,大白覺得還是很值得仔細研究的。

爲了便於分析,將Yolov4的整體結構拆分成四大板塊:
在這裏插入圖片描述
大白主要從以上4個部分YoloV4的創新之處進行講解,讓大家一目瞭然。

(1)輸入端:這裏指的創新主要是訓練時對輸入端的改進,主要包括Mosaic數據增強、cmBN、SAT自對抗訓練。
(2)BackBone主幹網絡:將各種新的方式結合起來,包括:CSPDarknet53Mish激活函數Dropblock
(3)Neck:目標檢測網絡在BackBone和最後的輸出層之間往往會插入一些層,比如Yolov4中的SPP模塊FPN+PAN結構
(4)Prediction:輸出層的錨框機制和Yolov3相同,主要改進的是訓練時的損失函數CIOU_Loss,以及預測框篩選的nms變爲DIOU_nms
總體來說,Yolov4Yolov3的各個部分都進行了改進優化,下面丟上作者的算法對比圖。
在這裏插入圖片描述
僅對比Yolov3Yolov4,在COCO數據集上,同樣的FPS等於83左右時,Yolov4的AP是43,而Yolov3是33,直接上漲了10個百分點
不得不服,當然可能針對具體不同的數據集效果也不一樣,但總體來說,改進效果是很優秀的,下面大白對Yolov4的各個創新點繼續進行深挖。

4.3.1 輸入端創新

考慮到很多同學GPU顯卡數量並不是很多,Yolov4對訓練時的輸入端進行改進,使得訓練在單張GPU上也能有不錯的成績。比如數據增強MosaiccmBNSAT自對抗訓練。
但感覺cmBN和SAT影響並不是很大,所以這裏主要講解Mosaic數據增強

(1)Mosaic數據增強
Yolov4中使用的Mosaic是參考2019年底提出的CutMix數據增強的方式,但CutMix只使用了兩張圖片進行拼接,而Mosaic數據增強則採用了4張圖片,隨機縮放隨機裁剪隨機排布的方式進行拼接。
在這裏插入圖片描述
這裏首先要了解爲什麼要進行Mosaic數據增強呢?
在平時項目訓練時,小目標的AP一般比中目標和大目標低很多。而Coco數據集中也包含大量的小目標,但比較麻煩的是小目標的分佈並不均勻
在這裏插入圖片描述
如上表所示,Coco數據集中小目標占比達到41.4%,數量比中目標和大目標都要多。
但在所有的訓練集圖片中,只有52.3%的圖片有小目標,而中目標和大目標的分佈相對來說更加均勻一些。
針對這種狀況,Yolov4的作者採用了
Mosaic數據增強
的方式。
主要有幾個優點:
a. 豐富數據庫:隨機使用4張圖片,隨機縮放,再隨機分佈進行拼接,大大豐富了檢測數據集,特別是隨機縮放增加了很多小目標,讓網絡的魯棒性更好。
b. 減少GPU:可能會有人說,隨機縮放,普通的數據增強也可以做,但作者考慮到很多人可能只有一個GPU。
因此Mosaic增強訓練時,可以直接計算4張圖片的數據,使得Mini-batch大小並不需要很大,一個GPU就可以達到比較好的效果。
此外,發現另一研究者的訓練方式也值得借鑑,採用的數據增強和Mosaic比較類似,也是使用4張圖片(不是隨機分佈),但訓練計算loss時,採用“缺啥補啥”的思路:
如果上一個iteration中,小物體產生的loss不足(比如小於某一個閾值),則下一個iteration就用拼接圖;否則就用正常圖片訓練,也很有意思。
參考鏈接:https://www.zhihu.com/question/390191723?rf=390194081

4.3.2 BackBone創新

(1)CSPDarknet53
CSPDarknet53是在Yolov3主幹網絡Darknet53的基礎上,借鑑2019年CSPNet的經驗,產生的Backbone結構,其中包含了5個CSP模塊
在這裏插入圖片描述
這裏因爲CSP模塊比較長,不放到本處,大家也可以點擊Yolov4的netron網絡結構圖,對比查看,一目瞭然。
每個CSP模塊前面的卷積核的大小都是3×3,因此可以起到下采樣的作用。
因爲Backbone有5個CSP模塊,輸入圖像是608*608,所以特徵圖變化的規律是:608->304->152->76->38->19
經過5次CSP模塊後得到19*19大小的特徵圖。
而且作者只在Backbone中採用了Mish激活函數,網絡後面仍然採用Leaky_relu激活函數
我們再看看下作者爲啥要參考2019年的CSPNet,採用CSP模塊?
CSPNet論文地址:https://arxiv.org/pdf/1911.11929.pdf
CSPNet全稱是Cross Stage Paritial Network,主要從網絡結構設計的角度解決推理中從計算量很大的問題。
CSPNet的作者認爲推理計算過高的問題是由於網絡優化中的梯度信息重複導致的。
因此採用CSP模塊先將基礎層的特徵映射劃分爲兩部分,然後通過跨階段層次結構將它們合併,在減少了計算量的同時可以保證準確率。
因此Yolov4在主幹網絡Backbone採用CSPDarknet53網絡結構,主要有三個方面的優點:
優點一:增強CNN的學習能力,使得在輕量化的同時保持準確性。
優點二:降低計算瓶頸
優點三:降低內存成本

(2)Mish激活函數
Mish激活函數是2019年下半年提出的激活函數
論文地址:https://arxiv.org/abs/1908.08681
leaky_relu激活函數的圖形對比如下:
在這裏插入圖片描述
Yolov4的Backbone中都使用了Mish激活函數,而後面的網絡則還是使用Leaky_relu函數。
在這裏插入圖片描述
Yolov4作者實驗測試時,使用CSPDarknet53網絡ImageNet數據集上做圖像分類任務,發現使用了Mish激活函數TOP-1TOP-5的精度比沒有使用時都略高一些。
因此在設計Yolov4目標檢測任務時,主幹網絡Backbone還是使用Mish激活函數

(3)Dropblock
Yolov4中使用的Dropblock,其實和常見網絡中的Dropout功能類似,也是緩解過擬合的一種正則化方式。
Dropblock2018年提出,論文地址:https://arxiv.org/pdf/1810.12890.pdf

傳統的Dropout很簡單,一句話就可以說的清:隨機刪除減少神經元的數量,使網絡變得更簡單。
在這裏插入圖片描述
DropblockDropout相似,比如下圖:
在這裏插入圖片描述
中間Dropout的方式會隨機的刪減丟棄一些信息,但Dropblock的研究者認爲,卷積層對於這種隨機丟棄並不敏感.
因爲卷積層通常是三層連用:卷積+激活+池化層,池化層本身就是對相鄰單元起作用。
而且即使隨機丟棄,卷積層仍然可以從相鄰的激活單元學習到相同的信息。因此,在全連接層上效果很好的Dropout在卷積層上效果並不好
所以右圖Dropblock的研究者則乾脆整個局部區域進行刪減丟棄。
這種方式其實是借鑑2017年Cutout數據增強的方式,cutout是將輸入圖像的部分區域清零,而Dropblock則是將Cutout應用到每一個特徵圖。而且並不是用固定的歸零比率,而是在訓練時以一個小的比率開始,隨着訓練過程線性的增加這個比率
在這裏插入圖片描述
Dropblock的研究者與Cutout數據增強對訓練效果進行對比驗證時,發現有幾個優點:
優點一:Dropblock的效果優於Cutout
優點二:cutout只能作用於輸入層,而Dropblock則是將Cutout應用到網絡中的每一個特徵圖上
優點三:Dropblock可以定製各種組合,在訓練的不同階段可以修改刪減的概率,從空間層面和時間層面,和cutout相比都有更精細的改進。
Yolov4中直接採用了更優的Dropblock,對網絡的正則化過程進行了全面的升級改進。

4.3.3 Neck創新

在目標檢測領域,爲了更好的提取融合特徵,通常在Backbone輸出層,會插入一些層,這個部分稱爲Neck。相當於目標檢測網絡的頸部,也是非常關鍵的。
Yolov4Neck結構主要採用了SPP模塊FPN+PAN的方式。

(1)SPP模塊
SPP模塊,其實在Yolov3中已經存在了,在Yolov4C++代碼文件夾中有一個Yolov3_spp版本,但有的同學估計從來沒有使用過,在Yolov4中,SPP模塊仍然是在Backbone主幹網絡之後:
在這裏插入圖片描述
作者在SPP模塊中,使用k={11,55,99,1313}的最大池化的方式,再將不同尺度的特徵圖進行Concat操作

在這裏插入圖片描述
在《DC-SPP-Yolo》文章:https://arxiv.org/ftp/arxiv/papers/1903/1903.08589.pdf
也對Yolo目標檢測的SPP模塊進行了對比測試。
和Yolov4作者的研究相同,採用SPP模塊的方式,比單純的使用k×k最大池化的方式,更有效的增加主幹特徵的接收範圍,顯著的分離了最重要的上下文特徵
Yolov4的作者在使用608×608大小的圖像進行測試時發現,在COCO目標檢測任務中,以0.5%的額外計算代價將AP50增加了2.7%,因此Yolov4中也採用了SPP模塊

(2)FPN+PAN
PAN結構比較有意思,看了網上Yolov4關於這個部分的講解,大多都是講的比較籠統的,而PAN是借鑑圖像分割領域PANet的創新點,有些同學可能不是很清楚。
下面大白將這個部分拆解開來,看下Yolov3Yolov4中是如何設計的。

Yolov3各個網絡結構
在這裏插入圖片描述
可以看到經過幾次下采樣,三個紫色箭頭指向的地方,輸出分別是76×7638×3819×19
以及最後的Prediction中用於預測的三個特徵圖①19×19×255②38×38×255③76×76×255
我們將Neck部分用立體圖畫出來,更直觀的看下兩部分之間是如何通過FPN結構融合的。

在這裏插入圖片描述
如圖所示,FPN是自頂向下的,將高層的特徵信息通過上採樣的方式進行傳遞融合,得到進行預測的特徵圖。

Yolov4各個網絡結構
而Yolov4中Neck這部分除了使用FPN外,還在此基礎上使用了PAN結構
在這裏插入圖片描述
前面CSPDarknet53中講到,每個CSP模塊前面的卷積核都是3×3大小,相當於下采樣操作。
因此可以看到三個紫色箭頭處的特徵圖是76×7638×3819×19
以及最後Prediction中用於預測的三個特徵圖:①76×76×255②38×38×255③19×19×255
我們也看下Neck部分的立體圖像,看下兩部分是如何通過FPN+PAN結構進行融合的。
在這裏插入圖片描述
和Yolov3的FPN層不同,Yolov4在FPN層的後面還添加了一個自底向上的特徵金字塔
其中包含兩個PAN結構
這樣結合操作,FPN層自頂向下傳達強語義特徵,而特徵金字塔則自底向上傳達強定位特徵,兩兩聯手,從不同的主幹層對不同的檢測層進行特徵聚合,這樣的操作確實很皮。
FPN+PAN借鑑的是18年CVPR的PANet,當時主要應用於圖像分割領域,但Alexey將其拆分應用到Yolov4中,進一步提高特徵提取的能力。

不過這裏需要注意幾點:
注意一:
Yolov3的FPN層輸出的三個大小不一的特徵圖①②③直接進行預測
但Yolov4的FPN層,只使用最後的一個76×76特徵圖①,而經過兩次PAN結構,輸出預測的特徵圖②和③。
這裏的不同也體現在cfg文件中,這一點有很多同學之前不太明白。
比如Yolov3.cfg中輸入時608×608,最後的三個Yolo層中,
第一個Yolo層是最小的特徵圖19×19,mask=6,7,8,對應最大的anchor box
第二個Yolo層是中等的特徵圖38×38,mask=3,4,5,對應中等的anchor box
第三個Yolo層是最大的特徵圖76×76,mask=0,1,2,對應最小的anchor box
而Yolov4.cfg則恰恰相反
第一個Yolo層是最大的特徵圖76×76mask=0,1,2,對應最小的anchor box
第二個Yolo層是中等的特徵圖38×38mask=3,4,5,對應中等的anchor box
第三個Yolo層是最小的特徵圖19×19mask=6,7,8,對應最大的anchor box
注意二:
原本的PANet網絡PAN結構中,兩個特徵圖結合是採用shortcut操作,而Yolov4中則採用concatroute)操作,特徵圖融合後的尺寸發生了變化。
在這裏插入圖片描述
這裏也可以對應Yolov4的netron網絡圖查看,很有意思。

4.3.4 Prediction創新

(1)CIOU_loss
目標檢測任務的損失函數一般由Classificition Loss(分類損失函數)和Bounding Box Regeression Loss(迴歸損失函數)兩部分構成。
Bounding Box Regeression的Loss近些年的發展過程是:Smooth L1 Loss-> IoU Loss(2016)-> GIoU Loss(2019)-> DIoU Loss(2020)->CIoU Loss(2020)
我們從最常用的IOU_Loss開始,進行對比拆解分析,看下Yolov4爲啥要選擇CIOU_Loss

a. IOU_loss

在這裏插入圖片描述
可以看到IOU的loss其實很簡單,主要是交集/並集,但其實也存在兩個問題。

在這裏插入圖片描述
缺點1:當預測框和目標框不想交時,IOU=0,無法反應兩個框距離的遠近,此時損失函數不可導,IOU_Loss無法優化兩個框不相交的情況。
缺點2:當兩個預測框大小相同,兩個IOU也相同,IOU_Loss無法區分兩者相交情況的不同。
因此2019年出現了GIOU來進行改進。

b. GIOU_loss
在這裏插入圖片描述
可以看到右圖GIOU_中,增加了相交尺度的衡量方式,緩解了單純IOU時的尷尬。
但爲什麼僅僅說緩解呢?因爲還存在一種不足
在這裏插入圖片描述
當目標框完全包裹預測框的時候,差集都是一樣的,因此三種情況的GIOU值也都是相同的,這時GIOU退化成了IOU,無法區分相對位置關係。
基於這個問題,2020年的AAAI又提出了DIOU_Loss

c. DIOU_loss

好的目標框迴歸函數應該考慮三個重要幾何因素:重疊面積中心點距離長寬比
針對IOU和GIOU存在的問題,作者從兩個方面進行考慮
一:如何最小化預測框和目標框之間的歸一化距離?
二:如何在預測框和目標框重疊時,迴歸的更準確?
針對第一個問題,提出了DIOU_LossDistance_IOU_Loss
在這裏插入圖片描述
DIOU_Loss考慮了重疊面積中心點距離,當目標框包裹預測框的時候,直接度量2個框的距離,因此DIOU_Loss收斂的更快。
但就像前面好的目標框迴歸函數所說的,沒有考慮到長寬比
在這裏插入圖片描述
比如上面三種情況,目標框包裹預測框,本來GIOU_Loss可以起作用。
但預測框的中心點的位置都是一樣的,因此按照DIOU_Loss的計算公式,三者的值都是相同的。
針對這個問題,又提出了CIOU_Loss,不對不說,科學總是在解決問題中,不斷進步!!

d. CIOU_loss

CIOU_LossGIOU_Loss前面的公式都是一樣的,不過在此基礎上還增加了一個影響因子,將預測框和目標框的長寬比都考慮了進去。
在這裏插入圖片描述
其中v是衡量長寬比一致性的參數,我們也可以定義爲:
在這裏插入圖片描述
這樣CIOU_Loss就將目標框迴歸函數應該考慮三個重要幾何因素:重疊面積、中心點距離,長寬比全都考慮進去了。

再來綜合的看下各個Loss函數不同點
IOU_Loss:主要考慮檢測框和目標框重疊面積
GIOU_Loss:在IOU的基礎上,解決邊界框不重合時的問題。
DIOU_Loss:在IOU和GIOU的基礎上,考慮邊界框中心點距離的信息。
CIOU_Loss:在DIOU的基礎上,考慮邊界框寬高比的尺度信息。
Yolov4中採用了CIOU_Loss的迴歸方式,使得預測框迴歸的速度和精度更高一些。

(2)DIOU_nms

nms主要用於預測框的篩選,常用的目標檢測算法中,一般採用普通的nms的方式,Yolov4則借鑑上面D/CIOU loss的論文:https://arxiv.org/pdf/1911.08287.pdf
將其中計算IOU的部分替換成DIOU的方式:
再來看下實際的案例:
在這裏插入圖片描述
在上圖重疊的摩托車檢測中,中間的摩托車因爲考慮邊界框中心點的位置信息,也可以迴歸出來。
因此在重疊目標的檢測中,DIOU_nms的效果優於傳統的nms

總體來說,YOLOv4的論文稱的上良心之作,將近幾年關於深度學習領域最新研究的tricks移植到Yolov4中做驗證測試,將Yolov3的精度提高了不少。
雖然沒有全新的創新,但很多改進之處都值得借鑑,借用Yolov4作者的總結。

Yolov4 主要帶來了 3 點新貢獻:
(1)提出了一種高效而強大的目標檢測模型,使用 1080Ti 或 2080Ti 就能訓練出超快、準確的目標檢測器。
(2)在檢測器訓練過程中,驗證了最先進的一些研究成果對目標檢測器的影響。
(3)改進了 SOTA 方法,使其更有效、更適合單 GPU 訓練。


5. YoloV4相關代碼

5.1 python代碼

代碼地址:https://github.com/Tianxiaomo/pytorch-Yolov4
作者的訓練和測試推理代碼都已經完成

5.2 C++代碼

Yolov4作者Alexey的代碼,俄羅斯的大神,應該是個獨立研究員,更新算法的頻繁程度令人佩服。
Yolov3作者Joseph Redmon宣佈停止更新Yolo算法之後,Alexey憑藉對於Yolov3算法的不斷探索研究,贏得了Yolov3作者的認可,發佈了Yolov4
代碼地址:https://github.com/AlexeyAB/darknet

5.3 python版本的Tensorrt代碼

目前測試有效的有tensorflow版本:weights->pb->trt
代碼地址:https://github.com/hunglc007/tensorflow-Yolov4-tflite

5.4 C++版本的Tensorrtrt代碼

代碼地址:https://github.com/wang-xinyu/tensorrtx/tree/master/Yolov4
作者自定義了Mish激活函數Plugin層,Tensorrt加速後速度還是挺快的。


6. 相關數據集下載

實際項目中,目標檢測算法應該的非常多非常多,比如人臉識別,比如疫情期間的口罩人臉識別,比如車流統計人流統計等等。
因此大白也會將不錯的值得一試的數據集彙總到此處,方便需要的同學進行下載。

(1)口罩遮擋人臉數據集

數據集詳情:由武漢大學多媒體研究中心發起,目前是全球最大的口罩遮擋人臉數據集。
分爲真實口罩人臉和模擬口罩人臉兩部分,真實口罩人臉包含525人的5000張口罩人臉9萬張正常人臉。模擬口罩人臉包含1萬個人共50萬張模擬人臉數據集。
應用項目:人臉檢測、人臉識別
數據集地址https://github.com/X-zhangyang/Real-World-Masked-Face-Dataset

(2)Wider Face人臉數據集
數據集詳情:香港中文大學發起的,包含3萬張圖片共40萬張人臉。
應用項目:人臉檢測
數據集地址http://shuoyang1213.me/WIDERFACE/WiderFace_Results.html

(3)Wider Person擁擠場景行人數據集
數據集詳情:多種場景比較擁擠場景的行人檢測數據集,包含13382張圖片,共計40萬個不同遮擋程度的人體。
應用項目:人體檢測
數據集地址http://www.cbsr.ia.ac.cn/users/sfzhang/WiderPerson/

因爲工作原因,會蒐集大量的各類公開應用場景數據集,如果有同學需要其他場景或者其他項目的,也可以留言,或者發送郵件到[email protected],也會將對應的數據集更新到此處。


7. 不斷更新ing

在深度學習的圖像領域,肯定會涉及目標檢測,而在目標檢測中,Yolov3和Yolov4是非常經典,必須要學習的算法。
有些同學,特別新接觸的同學,剛學習時會覺得Yolo算法很繁瑣
而且我發現,網上很多的教程其實講的還是比較籠統,並不適合小白學習
所以大白也在耗盡洪荒之力,在準備Yolov3和Yolov4及相關的基礎入門視頻,讓大家看完就能明白整體的流程各種算法細節,大家可以先收藏,後期製作好後會更新到此處。
希望和大家一起努力,在人工智能深度學習領域一起進步,一起提升,一起變強!

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章