tensorflow實戰:端到端簡單粗暴識別驗證碼(反爬利器)

今天分享一下如何簡單粗暴的解決驗證碼的辦法

背景:

  • 對於一個爬蟲開發者來說,反爬蟲無疑是一個又愛又恨的對手,兩者之間通過鍵盤的鬥爭更是一個沒有硝煙的戰場。
  • 反爬蟲有很多措施,在這裏說說驗證碼這一塊
  • 論爬蟲修養大家都是混口飯吃上有老下有小,碼農何苦爲難碼農?爬數據的時候儘可能減少服務器壓力,能爬列表頁,就不爬詳情頁,

環境

正文:

  • 數據集:百度上找的一個驗證碼數據集(因爲懶得生成),也可以自己生成。

  • 在訓練前可以先對圖片進行降噪,去掉干擾點,可以用opencv裏面的函數濾波器等。這樣識別會快點

  • 在這裏我就沒有去做啦,不然怎麼叫粗暴呢(真正:懶, 沒時間)

  • 準確率訓練到90+我就保存模型停止了,大家可以根據需求設置。看下圖

  • 在這裏插入圖片描述

  • 這裏是訓練中的loss以及accuracy

  • 在這裏插入圖片描述

  • 這裏是測試

  • 在這裏插入圖片描述在這裏插入圖片描述

  • 這個是識別有錯誤的,畢竟我的GTX950也辛苦算了這麼久,再說這個7這麼像1呀。莫得了。

  • 在這裏插入圖片描述在這裏插入圖片描述

話不多說來個網絡結構圖再說

在這裏插入圖片描述

覺得有點亂的,看看下面的圖

在這裏插入圖片描述

劃重點:show you code

import numpy as np
import tensorflow as tf
from PIL import Image
import os
import random
import time

number = ['0', '1', '2', '3', '4', '5', '6', '7', '8', '9']
# 圖片所在文件夾
data_dir = 'F:/checkimages/train'

# 圖片長寬
width = 160
height = 60
# 驗證碼長度
max_captcha = 4
# 每一批次的樣本數
batch_size = 64
# 字符類別的長度
num_numbers = len(number)


def get_train_data(data_dir=data_dir):
    # 獲取文件中的所有圖片的路徑
    # 返回包含所有的圖片的地址和標籤的鍵值對一個字典
    simples = {}
    for file_name in os.listdir(data_dir):
        captcha = file_name.split('.')[0]
        # {"F:/checkimages/train/1231.jpg" : "1231"}
        simples[data_dir + '/' + file_name] = captcha
    return simples

simples = get_train_data(data_dir)

# 獲取所有的鍵,也就是所有圖片的詳細地址
file_dir = list(simples.keys())
num_simples = len(simples)

# 獲取一批次的數據
def get_next_batch()# 初始化全部爲0的張量
    # batch_x :[64, 160*60]
    batch_x = np.zeros([batch_size, width * height])
    # batch_y: [64, 10類別 * 4個字符]
    batch_y = np.zeros([batch_size, num_numbers * max_captcha])

    # 隨機選取一張圖片的數據填進去batch_x,batch_y
    # 注意,因爲是隨機選的,也即是有可能選到同一張,不過沒關係
    for i in range(batch_size):
        # 隨機選出一個simples裏面的鍵,也就是圖片的路徑,如 F:/checkimages/train/1231.jpg
        file_name = file_dir[random.randint(0, num_simples - 1)]
        # 給每一個樣本輸入數值,覆蓋掉之前的0
        # np.float32(Image.open(file_name).convert('L')):
        # [[247. 247. 247. ... 247. 247. 247.]
        # [247. 247. 247. ... 247. 247. 247.]]
        # flatten(): 將2維的像素值轉化爲一維的
        # 當然還要標準化,除255
        batch_x[i, :] = np.float32(Image.open(file_name).convert('L')).flatten() / 255
        # 獲取每一個圖片的標籤,轉化爲one-hot編碼
        batch_y[i, :] = text2vec(simples[file_name])
    return batch_x, batch_y

# 將目標值轉換爲one-hot編碼。 
def text2vec(text):
    return [0 if ord(i) - 48 != j else 1 for i in text for j in range(num_numbers)]

3個卷積層, 2個全連接層,看不懂的可以看下我寫的這個博客


with tf.name_scope("input_data"):
    x = tf.placeholder(tf.float32, [None, width * height], name='input')
    y_ = tf.placeholder(tf.float32, [None, num_numbers * max_captcha])


with tf.name_scope("conv1"):
    # 運算前,先轉換圖片像素數據的維度
    x_image = tf.reshape(x, [-1, height, width, 1])
    W_conv1 = weight_variable([5, 5, 1, 32])
    b_conv1 = bias_variable([32])
    h_conv1 = tf.nn.relu(conv2d(x_image, W_conv1) + b_conv1)
    h_pool1 = max_pool_2x2(h_conv1)

with tf.name_scope("conv2"):
    W_conv2 = weight_variable([5, 5, 32, 64])
    b_conv2 = bias_variable([64])
    h_conv2 = tf.nn.relu(conv2d(h_pool1, W_conv2) + b_conv2)
    h_pool2 = max_pool_2x2(h_conv2)

with tf.name_scope("conv3"):
    W_conv3 = weight_variable([5, 5, 64, 64])
    b_conv3 = bias_variable([64])
    h_conv3 = tf.nn.relu(conv2d(h_pool2, W_conv3) + b_conv3)
    h_pool3 = max_pool_2x2(h_conv3)

with tf.name_scope("fc1"):
    W_fc1 = weight_variable([8 * 20 * 64, 1024])
    b_fc1 = bias_variable([1024])
    h_pool3_flat = tf.reshape(h_pool3, [-1, 8 * 20 * 64])
    # 全連接層加了激活函數
    h_fc1 = tf.nn.relu(tf.matmul(h_pool3_flat, W_fc1) + b_fc1)

with tf.name_scope("fc2"):
    W_fc2 = weight_variable([1024, num_numbers * max_captcha])
    b_fc2 = bias_variable([num_numbers * max_captcha])
    output = tf.matmul(h_fc1, W_fc2) + b_fc2
    output = tf.softmax(output)

損失函數,以及優化器

with tf.name_scope("loss"):
    cross_entropy = tf.reduce_mean(tf.nn.softmax_cross_entropy_with_logits(labels=y_, logits=output))

with tf.name_scope("AdamOptimizer"):
	# 1e-4也就是: 0.0001 
    train_step = tf.train.AdamOptimizer(learning_rate=1e-4).minimize(cross_entropy)

with tf.name_scope("accuracy"):
    predict = tf.reshape(output, [-1, max_captcha, num_numbers])
    labels = tf.reshape(y_, [-1, max_captcha, num_numbers])
    correct_prediction = tf.equal(tf.argmax(predict, 2, name='predict_max_idx'), tf.argmax(labels, 2))
    accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))

最後就是訓練了

with tf.Session() as sess:
    # sess = tf.InteractiveSession()
    sess.run(init_op)
    # 保存事件文件
    train_writer = tf.summary.FileWriter("F:/checkimages/event/", graph=sess.graph)

    saver = tf.train.Saver()  # 用於保存模型
    for i in range(8000):
        batch_x, batch_y = get_next_batch()
        if i % 100 == 0:
            train_accuracy = sess.run(accuracy, feed_dict={x: batch_x, y_: batch_y})
            print("第%d步 --- >準確率爲: %g " % (i, sess.run(accuracy, feed_dict={x: batch_x, y_: batch_y})))

            # 保存訓練過程的數據變化
            summary = sess.run(merged,  feed_dict={x: batch_x, y_: batch_y})
            train_writer.add_summary(summary, i)

            if train_accuracy > 0.90:
                saver.save(sess, "F:/checkimages/model/output.model", global_step=i)
                break
        # 訓練模型
        sess.run(train_step, feed_dict={x: batch_x, y_: batch_y})

小結:

  • 這次分享主要目的事分享一下實現的代碼,但不是說看了文章就可以識別驗證碼了。想要自己解決這些問題沒有其他的辦法。從頭開始學,歡迎學習交流一下。
  • 這次使用的就是單任務訓練模式。以後還會分享多任務模式以及使用Alexnet來實現。有興趣的可以關注一下,以防迷路。
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章