網上關於數據標註的文章已有很多，大多數都會有一些細節問題，比如怎樣爬取網上的原始圖片數據，如何批量重命名？數據集怎樣劃分爲訓練集，測試集，驗證集？？？標註的數據放置的目錄結構不對導致訓練報錯的問題等等，而這些問題，在本篇文章中都考慮到了，所以只要你按照步驟一步步來，並且使用本文中的代碼，將會避免遇到上面所說的問題：
我們已經知道，物體檢測，簡言之就是框出圖像中的目標物體，並給出框的位置和置信度，就像下圖這樣:
置信度在終端輸出了：
1、標註工具labelImg
是的，當然要用強大的labelImg，貌似記得直接可以pip install labelImg，還是查一下如何安裝吧，很簡單的
界面長這個樣子：
下面我們標註PascalVOC數據集：
首先下載VOC2007格式的原始數據集：
http://pjreddie.com/media/files/VOCtrainval_06-Nov-2007.tar
http://pjreddie.com/media/files/VOCtest_06-Nov-2007.tar
下載完成後，目錄應該是這樣式兒的：
如果不需要其中的圖片，直接刪除，只保留空的目錄結構。
其中，Annotations存放標註後的標籤文件(.xml)
ImageSets存放你的訓練集、測試集、驗證集等的配置文件（文件中存放圖片路徑）
JPEGImages存放原始圖片數據
SegmentationClass
SegmentationObject我們不使用
labelImg標註工具選擇 打開目錄->打開ImageSets目錄，選擇改變存放目錄，存放xml到Annotations目錄
labelImg使用簡單快捷鍵：
A / D鍵，左右選擇圖片，W：開始標註，ctrl+s保存。
標註需遵守的基本規則：
----------------------------------------分割線-----------------------------------------
那知道怎麼標註後，如何獲取我們想要的圖片數據：
請移步：
https://blog.csdn.net/Hu_helloworld/article/details/103044737
網上爬蟲等下載到圖片後，如何批量重命名？
一個小腳本：
食用時，請修改self.path重命名圖片的路徑，我會專門mkdir一個rename目錄，免得出錯。
而且重點是，VOC數據集格式是規定這樣的：佔6位數，所以必要是要修改dst那行的幾個’000’,你一試就行
#!/usr/bin/env python
# -*- coding: utf-8 -*-
import os
class ImageRename():
def __init__(self):
self.path = '/home/hujinlei/dev/YOLOv3-dev/darknet/scripts/VOCdevkit/VOC2007/rename'
def rename(self):
filelist = os.listdir(self.path)
total_num = len(filelist)
i = 2548
for item in filelist:
if item.endswith('.jpg'):
src = os.path.join(os.path.abspath(self.path), item)
dst = os.path.join(os.path.abspath(self.path), '000' + format(str(i), '0>3s') + '.jpg')
os.rename(src, dst)
print ('converting %s to %s ...'%(src, dst))
i = i + 1
print ('total %d to rename & converted %d jpgs' % (total_num, i))
if __name__ == '__main__':
newname = ImageRename()
newname.rename()
都標註好，重命名ok以後。
在VOC2007目錄下，也就是這個目錄下：
以下腳本可以給整個數據集劃分爲：訓練集、測試集、驗證集.
"""
將voc_2007格式的數據集劃分下訓練集、測試集和驗證集
"""
import os
import random
trainval_percent = 0.96
train_percent = 0.9
xmlfilepath = 'Annotations'
txtsavepath = 'ImageSets/Main'
total_xml = os.listdir(xmlfilepath)
num=len(total_xml)
list=range(num)
tv=int(num*trainval_percent)
tr=int(tv*train_percent)
trainval= random.sample(list,tv)
train=random.sample(trainval,tr)
ftrainval = open('ImageSets/Main/trainval.txt', 'w', encoding="utf-8")
ftest = open('ImageSets/Main/test.txt', 'w', encoding="utf-8")
ftrain = open('ImageSets/Main/train.txt', 'w', encoding="utf-8")
fval = open('ImageSets/Main/val.txt', 'w', encoding="utf-8")
for i in list:
name=total_xml[i][:-4]+'\n'
if i in trainval:
ftrainval.write(name)
if i in train:
ftrain.write(name)
else:
fval.write(name)
else:
ftest.write(name)
ftrainval.close()
ftrain.close()
fval.close()
ftest .close()
會在目錄下，生成ImageSets/Main/
最後，在工程項目的/scripts目錄下，修改voc_label.py文件：
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
#將下面的sets和classes改爲自己對應的
#sets=[('2012', 'train'), ('2012', 'val'), ('2007', 'train'), ('2007', 'val'), ('2007', 'test')]
#classes = ["aeroplane", "bicycle", "bird", "boat", "bottle", "bus", "car", "cat", "chair", "cow", "diningtable", "dog", "horse", "motorbike", "person", "pottedplant", "sheep", "sofa", "train", "tvmonitor"]
sets=[('2007', 'train'), ('2007', 'val'), ('2007', 'test')]
classes = ["Fire extinguisher","Fire extinguisher box","Fire hydrant","trolley","ladder"]
def convert(size, box):
dw = 1./(size[0])
dh = 1./(size[1])
x = (box[0] + box[1])/2.0 - 1
y = (box[2] + box[3])/2.0 - 1
w = box[1] - box[0]
h = box[3] - box[2]
x = x*dw
w = w*dw
y = y*dh
h = h*dh
return (x,y,w,h)
def convert_annotation(year, image_id):
in_file = open('VOCdevkit/VOC%s/Annotations/%s.xml'%(year, image_id))
out_file = open('VOCdevkit/VOC%s/labels/%s.txt'%(year, image_id), 'w')
tree=ET.parse(in_file)
root = tree.getroot()
size = root.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in root.iter('object'):
difficult = obj.find('difficult').text
cls = obj.find('name').text
if cls not in classes or int(difficult)==1:
continue
cls_id = classes.index(cls)
xmlbox = obj.find('bndbox')
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text), float(xmlbox.find('ymax').text))
bb = convert((w,h), b)
out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
wd = getcwd()
for year, image_set in sets:
if not os.path.exists('VOCdevkit/VOC%s/labels/'%(year)):
os.makedirs('VOCdevkit/VOC%s/labels/'%(year))
image_ids = open('VOCdevkit/VOC%s/ImageSets/Main/%s.txt'%(year, image_set)).read().strip().split()
list_file = open('%s_%s.txt'%(year, image_set), 'w')
for image_id in image_ids:
list_file.write('%s/VOCdevkit/VOC%s/JPEGImages/%s.jpg\n'%(wd, year, image_id))
convert_annotation(year, image_id)
list_file.close()
os.system("cat 2007_train.txt 2007_val.txt > train.txt")
os.system("cat 2007_train.txt 2007_val.txt 2007_test.txt > train.all.txt")
運行此腳本，會在當前目錄，產生以下文件：
其中，2007_test.txt測試集
2007_train.txt訓練集
2007_val.txt驗證集
我們使用2007_test.txt和train.txt就可以。
=============================================================
日後在更