一、下載YOLO3項目

git clone https://github.com/pjreddie/darknet
cd darknet

在 darknet目錄下創建 backup 文件夾，後面會用到。

二、修改makefile配置

具體配置參數說明參考：Darknet yolov3 Makefile文件解析

GPU=1
CUDNN=1
OPENCV=0
OPENMP=0
DEBUG=0

ARCH= -gencode arch=compute_30,code=sm_30 \
      -gencode arch=compute_35,code=sm_35 \
      -gencode arch=compute_50,code=[sm_50,compute_50] \
      -gencode arch=compute_52,code=[sm_52,compute_52]
#      -gencode arch=compute_20,code=[sm_20,sm_21] \ This one is deprecated?

# This is what I use, uncomment if you know your arch and want to specify
# ARCH= -gencode arch=compute_52,code=compute_52

VPATH=./src/:./examples
SLIB=libdarknet.so
ALIB=libdarknet.a
EXEC=darknet
OBJDIR=./obj/

CC=gcc
CPP=g++
NVCC=/usr/local/cuda/bin/nvcc 
AR=ar
ARFLAGS=rcs
OPTS=-Ofast
LDFLAGS= -lm -pthread 
COMMON= -Iinclude/ -Isrc/
CFLAGS=-Wall -Wno-unused-result -Wno-unknown-pragmas -Wfatal-errors -fPIC

ifeq ($(OPENMP), 1) 
CFLAGS+= -fopenmp
endif

ifeq ($(DEBUG), 1) 
OPTS=-O0 -g
endif

CFLAGS+=$(OPTS)

ifeq ($(OPENCV), 1) 
COMMON+= -DOPENCV
CFLAGS+= -DOPENCV
LDFLAGS+= `pkg-config --libs opencv` -lstdc++
COMMON+= `pkg-config --cflags opencv` 
endif

ifeq ($(GPU), 1) 
COMMON+= -DGPU -I/usr/local/cuda/include/
CFLAGS+= -DGPU
LDFLAGS+= -L/usr/local/cuda/lib64 -lcuda -lcudart -lcublas -lcurand
endif

ifeq ($(CUDNN), 1) 
COMMON+= -DCUDNN 
CFLAGS+= -DCUDNN
LDFLAGS+= -lcudnn
endif

OBJ=gemm.o utils.o cuda.o deconvolutional_layer.o convolutional_layer.o list.o image.o activations.o im2col.o col2im.o blas.o crop_layer.o dropout_layer.o maxpool_layer.o softmax_layer.o data.o matrix.o network.o connected_layer.o cost_layer.o parser.o option_list.o detection_layer.o route_layer.o upsample_layer.o box.o normalization_layer.o avgpool_layer.o layer.o local_layer.o shortcut_layer.o logistic_layer.o activation_layer.o rnn_layer.o gru_layer.o crnn_layer.o demo.o batchnorm_layer.o region_layer.o reorg_layer.o tree.o  lstm_layer.o l2norm_layer.o yolo_layer.o iseg_layer.o image_opencv.o
EXECOBJA=captcha.o lsd.o super.o art.o tag.o cifar.o go.o rnn.o segmenter.o regressor.o classifier.o coco.o yolo.o detector.o nightmare.o instance-segmenter.o darknet.o
ifeq ($(GPU), 1) 
LDFLAGS+= -lstdc++ 
OBJ+=convolutional_kernels.o deconvolutional_kernels.o activation_kernels.o im2col_kernels.o col2im_kernels.o blas_kernels.o crop_layer_kernels.o dropout_layer_kernels.o maxpool_layer_kernels.o avgpool_layer_kernels.o
endif

EXECOBJ = $(addprefix $(OBJDIR), $(EXECOBJA))
OBJS = $(addprefix $(OBJDIR), $(OBJ))
DEPS = $(wildcard src/*.h) Makefile include/darknet.h

all: obj backup results $(SLIB) $(ALIB) $(EXEC)
#all: obj  results $(SLIB) $(ALIB) $(EXEC)


$(EXEC): $(EXECOBJ) $(ALIB)
	$(CC) $(COMMON) $(CFLAGS) $^ -o $@ $(LDFLAGS) $(ALIB)

$(ALIB): $(OBJS)
	$(AR) $(ARFLAGS) $@ $^

$(SLIB): $(OBJS)
	$(CC) $(CFLAGS) -shared $^ -o $@ $(LDFLAGS)

$(OBJDIR)%.o: %.cpp $(DEPS)
	$(CPP) $(COMMON) $(CFLAGS) -c $< -o $@

$(OBJDIR)%.o: %.c $(DEPS)
	$(CC) $(COMMON) $(CFLAGS) -c $< -o $@

$(OBJDIR)%.o: %.cu $(DEPS)
	$(NVCC) $(ARCH) $(COMMON) --compiler-options "$(CFLAGS)" -c $< -o $@

obj:
	mkdir -p obj
backup:
	mkdir -p backup
results:
	mkdir -p results

.PHONY: clean

clean:
	rm -rf $(OBJS) $(SLIB) $(ALIB) $(EXEC) $(EXECOBJ) $(OBJDIR)/*

保存後退出，在當前路徑make一下。

三、準備數據集

在文件夾 darknet_sxp_anchor/scripts/VOC/ 下創建目錄結構如下
VOC
————VOCdevkit 
————————VOC2019          #文件夾的年份可以自己取,但是要與你其他文件年份一致
————————————Annotations  #放入所有的xml文件
————————————ImageSets    
————————————————Main     #用於存放train.txt,val.txt,test.txt,trainval.txt文件。
————————————JPEGImages   #放入所有的圖片文件
————————————test.py      #用於生成ImageSets/Main下的txt文件
————————————labels       #文件夾，由voc_label.py文件生成
————voc_label.py         #
 
Main中的文件分別表示test.txt是測試集，train.txt是訓練集，val.txt是驗證集，trainval.txt是訓練和驗證集，

1、將圖片處理成所需大小的圖片

本文訓練數據只有一個分類，使用如下腳本將原始數據處理成所需大小。然後將指定文件放在指定目錄下

# -*- coding: utf-8 -*-
import os
import cv2
import hashlib
import numpy as np
from xml.etree.ElementTree import parse, Element
# list = 
#查找文件
path=u"image_dir/"
tag='camera_info'

files=os.listdir(path)
file_type=".jpg"
imageSize=[832.0,832.0]
#主邏輯
#對於批量的操作，使用FOR循環
for f in files:
   # try :
    #調試代碼的方法：關鍵地方打上print語句，判斷這一步是不是執行成功
    if f.endswith(file_type):
       imageFile=path+f
       img=cv2.imdecode(np.fromfile(imageFile,dtype=np.uint8),cv2.IMREAD_COLOR)
       rateY=img.shape[0]/imageSize[0]
       rataX=img.shape[1]/imageSize[1]
       print ('rataX = {},rateY = {}'.format(rataX,rateY))
       xmlPath=imageFile.replace(file_type,".xml")
       dom=parse(xmlPath)  ###最核心的部分,路徑拼接,輸入的是具體路徑
       root=dom.getroot()
       image_info=root.find('size')
       image_info.find('width').text=str(int(imageSize[0]))
       image_info.find('height').text=str(int(imageSize[1]))
       tagobjs=root.findall('object')#.find('name')
       nameTag=root.find('object').find('name')
       nameTag.text=tag
       for obj in tagobjs:
          box=obj.find('bndbox')

          box.find('xmin').text=str(int(int(box.find('xmin').text)/rataX))
          box.find('xmax').text=str(int(int(box.find('xmax').text)/rataX))
          box.find('ymin').text=str(int(int(box.find('ymin').text)/rateY))
          box.find('ymax').text=str(int(int(box.find('ymax').text)/rateY))
       dom.write(xmlPath, xml_declaration=True)
       img = cv2.resize(img,(int(imageSize[0]),int(imageSize[1])),interpolation=cv2.INTER_CUBIC)
       imageFile=imageFile.replace(file_type,".jpg")
       cv2.imencode('.jpg', img)[1].tofile(imageFile)
#    # except : print "error"
#
#
#
files=os.listdir(path)
type=tag
file_type=".jpg"

xml_file_type=".xml"
#主邏輯
#對於批量的操作，使用FOR循環
for f in files:
   #調試代碼的方法：關鍵地方打上print語句，判斷這一步是不是執行成功

   if f.endswith(file_type):


      #找到老的文件所在的位置
      old_file=os.path.join(path,f)

      #指定新文件的位置，如果沒有使用這個方法，則新文件名生成在本項目的目錄中
      md5=hashlib.md5(old_file.encode("utf-8")).hexdigest()
      md5=str(md5).replace("raw","999")
      newName = type+"_"+md5+file_type
      new_file=os.path.join(path,newName)
      os.rename(old_file,new_file)

      old_file=old_file.replace(file_type,".xml")
      #指定新文件的位置，如果沒有使用這個方法，則新文件名生成在本項目的目錄中
      newName = type+"_"+md5+xml_file_type
      new_file=os.path.join(path,newName)
      print('old_file path ={},,new_file path = {}'
             .format( old_file,new_file))
      os.rename(old_file,new_file)

2、在 VOC2019 下創建 test.py 腳本，使用 test.py 腳本生成 Main 下的 txt 文件


import os
import random

trainval_percent = 0.2   
train_percent = 0.8
xmlfilepath = 'Annotations'
txtsavepath = 'ImageSets\Main'
total_xml = os.listdir(xmlfilepath)

num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)

ftrainval = open('ImageSets/Main/trainval.txt', 'w+')
ftest = open('ImageSets/Main/test.txt', 'w+')
ftrain = open('ImageSets/Main/train.txt', 'w+')
fval = open('ImageSets/Main/val.txt', 'w+')

for i in list:
    name = total_xml[i][:-4] + '\n'
    if i in trainval:
        ftrainval.write(name)
        if i in train:
            ftest.write(name)
        else:
            fval.write(name)
    else:
        ftrain.write(name)

ftrainval.close()
ftrain.close()
fval.close()
ftest.close()

3、在 VOC 目錄下創建 vol_label.py 腳本

（1）該腳本會在與其同級目錄下創建如下文件，產生的文件的內容是：

前四個txt文件：

數據集合與 ImageSets/Main 一一對應
存放的是對應的圖片的絕對路徑

後兩個txt文件:

前四個不同集合的並集，可以在vocI_label文件中修改

（2）該腳本也會在 /VOC/VOCdevkit/VOC2019 下創建文件夾 labels

用於存放標籤文件，格式如下

0 0.449074074074 0.679861111111 0.685185185185 0.456944444444
說明：<object-class> <x> <y> <width> <height>

# encoding: utf-8

"""
@author: sunxianpeng
@file: voc_label.py
@time: 2019/11/20 14:23
"""

import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join

 #這裏要與Main中的txt文件一致
sets = [('2019', 'train'), ('2019', 'trainval'), ('2019', 'val'), ('2019', 'test')]
 #你所標註的表簽名，第一步中已經說過
#classes = ["s","m","l","xl","xxl"] 
classes = ["camera_info"]
        
  

def convert(size, box):
    dw = 1. / (size[0])
    dh = 1. / (size[1])
    x = (box[0] + box[1]) / 2.0 - 1
    y = (box[2] + box[3]) / 2.0 - 1
    w = box[1] - box[0]
    h = box[3] - box[2]
    x = x * dw
    w = w * dw
    y = y * dh
    h = h * dh
    return (x, y, w, h)


def convert_annotation(year, image_id):
    in_file = open('VOCdevkit/VOC%s/Annotations/%s.xml' % (year, image_id))
    out_file = open('VOCdevkit/VOC%s/labels/%s.txt' % (year, image_id), 'w')
    tree = ET.parse(in_file)
    root = tree.getroot()
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)

    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult) == 1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text),
             float(xmlbox.find('ymin').text),float(xmlbox.find('ymax').text))
        bb = convert((w, h), b)
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')


wd = getcwd()

for year, image_set in sets:

    if not os.path.exists('VOCdevkit/VOC%s/labels/' % (year)):
        os.makedirs('VOCdevkit/VOC%s/labels/' % (year))
    image_ids = open('VOCdevkit/VOC%s/ImageSets/Main/%s.txt' % (year, image_set))\
        .read().strip().split()
    list_file = open('%s_%s.txt' % (year, image_set), 'w')
    for image_id in image_ids:
        list_file.write('%s/VOCdevkit/VOC%s/JPEGImages/%s.jpg\n' % (wd, year, image_id))
        convert_annotation(year, image_id)
    list_file.close()
print("xx")

#意思是要將生成的文件合併，所以很據需要修改，這裏的年份都是一致的，
os.system("cat 2019_train.txt 2019_val.txt 2019_trainval.txt > train.txt")
os.system("cat 2019_train.txt 2019_val.txt 2019_test.txt 2019_trainval.txt  > train.all.txt")

四、下載預訓練權重（未實驗）

wget https://pjreddie.com/media/files/darknet53.conv.74

五、修改3個配置文件

1、cfg/voc.data

進入目錄 /work/darknet_sxp_anchor/cfg

#classes爲訓練樣本集的類別總數，第一步中說了我分了1類標籤
classes= 1 

#classes爲訓練樣本集的類別總數，第一步中說了我分了1類標籤
train  = /work/darknet_sxp_anchor/scripts/VOC/2019_train.txt

#valid的路徑爲驗證樣本集所在的路徑，上一步中生成
valid  = /work/darknet_sxp_anchor/scripts/VOC/2019_trainval.txt

#names的路徑爲data/voc.names文件所在的路徑
names = data/voc.names
backup = backup

2、data/voc.name

進入目錄 /work/darknet_sxp_anchor/data

寫入自己的分類名字，前後要對應

camera_info

#s
#m
#l
#xl
#xxl
#修改爲自己樣本集的標籤名即第一步中標註的標籤名

3、cfg/yolov3-voc.cfg

進入目錄 /work/darknet_sxp_anchor/cfg

Ctrl + F 搜索 yolo，修改其上面的 filters 和其下面的 classes，共三初地方

[net]
# Testing
#這裏的batch跟subdivisions原來不是註釋掉的，但是訓練後沒成功，有的blog上說爲1的時候太小難以收
#斂，但是不知道下面訓練模式的 batch=64 subdivisions=8 會不會覆蓋掉，總之註釋掉後就成功了，不過
#這個腳本不是很明白，還來不及驗證 
# batch=1        
# subdivisions=1
# Training
 batch=64            
 subdivisions=8    
......
[convolutional]
size=1
stride=1
pad=1
filters=18        #---------------修改爲3*（classes+5）即3*（5+5）=30
activation=linear
[yolo]
mask = 6,7,8
anchors = 10,13,  16,30,  33,23,  30,61,  62,45,  59,119,  116,90,  156,198,  373,326
classes=1        #---------------修改爲標籤類別個數，5類
num=9
jitter=.3
ignore_thresh = .5
truth_thresh = 1
random=0            #1，如果顯存很小，將random設置爲0，關閉多尺度訓練；（轉自別的blog，還不太明白）
......
[convolutional]
size=1
stride=1
pad=1
filters=18        #---------------修改同上
activation=linear
 
[yolo]
mask = 3,4,5
anchors = 10,13,  16,30,  33,23,  30,61,  62,45,  59,119,  116,90,  156,198,  373,326
classes=1        #---------------修改同上
num=9
jitter=.3
ignore_thresh = .5
truth_thresh = 1
random=0       
......
[convolutional]
size=1
stride=1
pad=1
filters=18        #---------------修改同上
activation=linear
 
[yolo]
mask = 0,1,2
anchors = 10,13,  16,30,  33,23,  30,61,  62,45,  59,119,  116,90,  156,198,  373,326
classes=1        #---------------修改同上
num=9
jitter=.3
ignore_thresh = .5
truth_thresh = 1
random=0

六、訓練

1、普通訓練

./darknet detector train cfg/voc.data cfg/yolov3-voc.cfg darknet53.conv.74

2、若想使用多個GPU訓練

./darknet detector train cfg/coco.data cfg/yolov3.cfg darknet53.conv.74 -gpus 0,1,2,3

或者

./darknet detector train cfg/voc.data cfg/yolov3-voc.cfg darknet53.conv.74 -gpus 0,1,2,3

3、如終止訓練，權重會保存在backup文件夾下。如果要從檢查點停止並重新啓動訓練

./darknet detector train cfg/coco.data cfg/yolov3.cfg backup/yolov3.backup -gpus 0,1,2,3

或者

./darknet detector train cfg/voc.data cfg/yolov3-voc.cfg backup/yolov3.backup -gpus 0,1,2,3

七、關於訓練時打印的日誌詳解

Region 82 Avg IOU: 0.874546, Class: 0.983519, Obj: 0.984566, No Obj: 0.008776, .5R: 1.000000, .75R: 0.750000,  count: 4
Region 94 Avg IOU: 0.686372, Class: 0.878314, Obj: 0.475262, No Obj: 0.000712, .5R: 1.000000, .75R: 0.200000,  count: 5
Region 106 Avg IOU: 0.893751, Class: 0.762553, Obj: 0.388385, No Obj: 0.000089, .5R: 1.000000, .75R: 1.000000,  count: 1

三個尺度上預測不同大小的框，

82卷積層爲最大預測尺度，使用較大的mask，可以預測出較小的物體。
94卷積層爲中間預測尺度，使用中等的mask。
106卷積層爲最小預測尺度，使用較小的mask，可以預測出較大的物體。

Region 82 Avg IOU: 0.874546, Class: 0.983519, Obj: 0.984566, 
            No Obj: 0.008776, .5R: 1.000000, .75R: 0.750000,  count: 4

Region Avg IOU: 表示在當前subdivision內的圖片的平均IOU，代表預測的矩形框和真實目標的交集與並集之比。
Class: 標註物體分類的正確率，期望該值趨近於1。
Obj: 越接近1越好。
No Obj: 期望該值越來越小，但不爲零。
count: count後的值是所有的當前subdivision圖片中包含正樣本的圖片的數量。

八、測試

cd /work/darknet_sxp_anchor/

./darknet detect cfg/yolov3.cfg yolov3.weights data/one.jpg

./darknet detect cfg/yolov3-voc-test.cfg backup/yolov3-voc.backup  scripts/
                                VOC/VOCdevkit/VOC2019/JPEGImages/name.jpg 

./darknet detect cfg/yolov3-voc-test.cfg backup/yolov3-voc.backup  scripts/
                                VOC/VOCdevkit/VOC2019/JPEGImages/name.jpg -gpus 2

一把小強

發佈了167 篇原創文章 · 獲贊 4 · 訪問量 1萬+

私信關注

yoloV3訓練自己數據

一、下載YOLO3項目

二、修改makefile配置

三、準備數據集

四、下載預訓練權重（未實驗）

五、修改3個配置文件

1、cfg/voc.data

2、data/voc.name

3、cfg/yolov3-voc.cfg

六、訓練

七、關於訓練時打印的日誌詳解

八、測試

Wireshark 安裝+使用（一）

卷積神經網絡之AlexNet

七、圖像邊緣檢測之 Sobel、Scharr、拉普拉斯算子、Canny

Python Logging 模塊

卷積神經網絡之VGG

卷積神經網絡之LeNet

Mac下配置sublime實現LaTeX

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結