教你分分鐘學會用python爬蟲框架Scrapy爬取心目中的女神

Scratch，是抓取的意思，這個Python的爬蟲框架叫Scrapy，大概也是這個意思吧，就叫它：小刮刮吧。

Scrapy 使用了 Twisted異步網絡庫來處理網絡通訊。整體架構大致如下

Scrapy主要包括了以下組件：

引擎(Scrapy)
用來處理整個系統的數據流處理, 觸發事務(框架核心)
調度器(Scheduler)
用來接受引擎發過來的請求, 壓入隊列中, 並在引擎再次請求的時候返回. 可以想像成一個URL（抓取網頁的網址或者說是鏈接）的優先隊列, 由它來決定下一個要抓取的網址是什麼, 同時去除重複的網址
下載器(Downloader)
用於下載網頁內容, 並將網頁內容返回給蜘蛛(Scrapy下載器是建立在twisted這個高效的異步模型上的)
爬蟲(Spiders)
爬蟲是主要幹活的, 用於從特定的網頁中提取自己需要的信息, 即所謂的實體(Item)。用戶也可以從中提取出鏈接,讓Scrapy繼續抓取下一個頁面
項目管道(Pipeline)
負責處理爬蟲從網頁中抽取的實體，主要的功能是持久化實體、驗證實體的有效性、清除不需要的信息。當頁面被爬蟲解析後，將被髮送到項目管道，並經過幾個特定的次序處理數據。
下載器中間件(Downloader Middlewares)
位於Scrapy引擎和下載器之間的框架，主要是處理Scrapy引擎與下載器之間的請求及響應。
爬蟲中間件(Spider Middlewares)
介於Scrapy引擎和爬蟲之間的框架，主要工作是處理蜘蛛的響應輸入和請求輸出。
調度中間件(Scheduler Middewares)
介於Scrapy引擎和調度之間的中間件，從Scrapy引擎發送到調度的請求和響應。

Scrapy運行流程大概如下：

引擎從調度器中取出一個鏈接(URL)用於接下來的抓取
引擎把URL封裝成一個請求(Request)傳給下載器
下載器把資源下載下來，並封裝成應答包(Response)
爬蟲解析Response
解析出實體（Item）,則交給實體管道進行進一步的處理
解析出的是鏈接（URL）,則把URL交給調度器等待抓取

一、安裝

因爲python3並不能完全支持Scrapy，因此爲了完美運行Scrapy，我們使用python2.7來編寫和運行Scrapy。


pip install Scrapy

注：windows平臺需要依賴pywin32，請根據自己系統32/64位選擇下載安裝，https://sourceforge.net/projects/pywin32/

其它可能依賴的安裝包：lxml-3.6.4-cp27-cp27m-win_amd64.whl，VCForPython27.msi百度下載即可

二、基本使用

1、創建項目

運行命令:

scrapy startproject p1（your_project_name）

2.自動創建目錄的結果：

文件說明：

scrapy.cfg 項目的配置信息，主要爲Scrapy命令行工具提供一個基礎的配置信息。（真正爬蟲相關的配置信息在settings.py文件中）
items.py 設置數據存儲模板，用於結構化數據，如：Django的Model
pipelines 數據處理行爲，如：一般結構化的數據持久化
settings.py 配置文件，如：遞歸的層數、併發數，延遲下載等
spiders 爬蟲目錄，如：創建文件，編寫爬蟲規則

注意：一般創建爬蟲文件時，以網站域名命名

3、編寫爬蟲

在spiders目錄中新建 xiaohuar_spider.py 文件

示例代碼：


#!/usr/bin/env python

# -*- coding:utf-8 -*-

import scrapy

class  XiaoHuarSpider(scrapy.spiders.Spider):

    name  =  "xiaohuar"

    allowed_domains  =  ["xiaohuar.com"]

    start_urls  =  [

        "http://www.xiaohuar.com/hua/",

    ]

    def parse(self,  response):

        # print(response, type(response))

        # from scrapy.http.response.html import HtmlResponse

        # print(response.body_as_unicode())

        current_url  =  response.url  #爬取時請求的url

        body  =  response.body  #返回的html

        unicode_body  =  response.body_as_unicode()#返回的html unicode編碼

備註：

1.爬蟲文件需要定義一個類，並繼承scrapy.spiders.Spider
2.必須定義name，即爬蟲名，如果沒有name，會報錯。因爲源碼中是這樣定義的：

3.編寫函數parse，這裏需要注意的是，該函數名不能改變，因爲Scrapy源碼中默認callback函數的函數名就是parse；
4.定義需要爬取的url，放在列表中，因爲可以爬取多個url，Scrapy源碼是一個For循環，從上到下爬取這些url，使用生成器迭代將url發送給下載器下載url的html。源碼截圖：

4、運行

進入p1目錄，運行命令


scrapy crawl xiaohau  --nolog

格式：scrapy crawl+爬蟲名 –nolog即不顯示日誌

5.scrapy查詢語法：

當我們爬取大量的網頁，如果自己寫正則匹配，會很麻煩，也很浪費時間，令人欣慰的是，scrapy內部支持更簡單的查詢語法，幫助我們去html中查詢我們需要的標籤和標籤內容以及標籤屬性。下面逐一進行介紹：

查詢子子孫孫中的某個標籤(以div標籤爲例)：//div
查詢兒子中的某個標籤(以div標籤爲例)：/div
查詢標籤中帶有某個class屬性的標籤：//div[@class=’c1′]即子子孫孫中標籤是div且class=‘c1’的標籤
查詢標籤中帶有某個class=‘c1’並且自定義屬性name=‘alex’的標籤：//div[@class=’c1′][@name=’alex’]
查詢某個標籤的文本內容：//div/span/text() 即查詢子子孫孫中div下面的span標籤中的文本內容
查詢某個屬性的值（例如查詢a標籤的href屬性）：//a/@href

示例代碼：

def parse(self,  response):

 # 分析頁面

 # 找到頁面中符合規則的內容（校花圖片），保存

 # 找到所有的a標籤，再訪問其他a標籤，一層一層的搞下去

 hxs  =  HtmlXPathSelector(response)#創建查詢對象

 # 如果url是 http://www.xiaohuar.com/list-1-\d+.html

 if  re.match('http://www.xiaohuar.com/list-1-\d+.html',  response.url):  #如果url能夠匹配到需要爬取的url，即本站url

 items  =  hxs.select('//div[@class="item_list infinite_scroll"]/div')  #select中填寫查詢目標，按scrapy查詢語法書寫

 for  i  in  range(len(items)):

 src  =  hxs.select('//div[@class="item_list infinite_scroll"]/div[%d]//div[@class="img"]/a/img/@src'  %  i).extract()#查詢所有img標籤的src屬性，即獲取校花圖片地址

 name  =  hxs.select('//div[@class="item_list infinite_scroll"]/div[%d]//div[@class="img"]/span/text()'  %  i).extract()  #獲取span的文本內容，即校花姓名

 school  =  hxs.select('//div[@class="item_list infinite_scroll"]/div[%d]//div[@class="img"]/div[@class="btns"]/a/text()'  %  i).extract()  #校花學校

 if  src:

 ab_src  =  "http://www.xiaohuar.com"  +  src[0]#相對路徑拼接

 file_name  =  "%s_%s.jpg"  %  (school[0].encode('utf-8'),  name[0].encode('utf-8'))  #文件名，因爲python27默認編碼格式是unicode編碼，因此我們需要編碼成utf-8

 file_path  =  os.path.join("/Users/wupeiqi/PycharmProjects/beauty/pic",  file_name)

 urllib.urlretrieve(ab_src,  file_path)

注：urllib.urlretrieve(ab_src, file_path) ，接收文件路徑和需要保存的路徑，會自動去文件路徑下載並保存到我們指定的本地路徑。

5.遞歸爬取網頁

上述代碼僅僅實現了一個url的爬取，如果該url的爬取的內容中包含了其他url，而我們也想對其進行爬取，那麼如何實現遞歸爬取網頁呢？

示例代碼：


# 獲取所有的url，繼續訪問，並在其中尋找相同的url

        all_urls  =  hxs.select('//a/@href').extract()

        for  url in  all_urls:

            if  url.startswith('http://www.xiaohuar.com/list-1-'):

                yield Request(url,  callback=self.parse)

即通過yield生成器向每一個url發送request請求，並執行返回函數parse，從而遞歸獲取校花圖片和校花姓名學校等信息。

注：可以修改settings.py 中的配置文件，以此來指定“遞歸”的層數，如： DEPTH_LIMIT = 1

6.scrapy查詢語法中的正則：


from scrapy.selector import Selector

from scrapy.http import HtmlResponse

html  =  """<!DOCTYPE html>

<html>

<head lang="en">

    <meta charset="UTF-8">

    <title></title>

</head>

<body>

    <li class="item-"><a href="link.html">first item</a></li>

    <li class="item-0"><a href="link1.html">first item</a></li>

    <li class="item-1"><a href="link2.html">second item</a></li>

</body>

</html>

"""

response  =  HtmlResponse(url='http://example.com',  body=html,encoding='utf-8')

ret  =  Selector(response=response).xpath('//li[re:test(@class, "item-\d*")]//@href').extract()

print(ret)

語法規則：Selector(response=response查詢對象).xpath(‘//li[re:test(@class, “item-d”)]//@href’).extract()，即根據re正則匹配，test即匹配，屬性名是class，匹配的正則表達式是”item-d”，然後獲取該標籤的href屬性。


#!/usr/bin/env python

# -*- coding:utf-8 -*-

import scrapy

import hashlib

from tutorial.items import JinLuoSiItem

from scrapy.http import Request

from scrapy.selector import HtmlXPathSelector

class  JinLuoSiSpider(scrapy.spiders.Spider):

    count  =  0

    url_set  =  set()

    name  =  "jluosi"

    domain  =  'http://www.jluosi.com'

    allowed_domains  =  ["jluosi.com"]

    start_urls  =  [

        "http://www.jluosi.com:80/ec/goodsDetail.action?jls=QjRDNEIzMzAzOEZFNEE3NQ==",

    ]

    def parse(self,  response):

        md5_obj  =  hashlib.md5()

        md5_obj.update(response.url)

        md5_url  =  md5_obj.hexdigest()

        if  md5_url in  JinLuoSiSpider.url_set:

            pass

        else:

            JinLuoSiSpider.url_set.add(md5_url)

            hxs  =  HtmlXPathSelector(response)

            if  response.url.startswith('http://www.jluosi.com:80/ec/goodsDetail.action'):

                item  =  JinLuoSiItem()

                item['company']  =  hxs.select('//div[@class="ShopAddress"]/ul/li[1]/text()').extract()

                item['link']  =  hxs.select('//div[@class="ShopAddress"]/ul/li[2]/text()').extract()

                item['qq']  =  hxs.select('//div[@class="ShopAddress"]//a/@href').re('.*uin=(?P<qq>\d*)&')

                item['address']  =  hxs.select('//div[@class="ShopAddress"]/ul/li[4]/text()').extract()

                item['title']  =  hxs.select('//h1[@class="goodsDetail_goodsName"]/text()').extract()

                item['unit']  =  hxs.select('//table[@class="R_WebDetail_content_tab"]//tr[1]//td[3]/text()').extract()

                product_list  =  []

                product_tr  =  hxs.select('//table[@class="R_WebDetail_content_tab"]//tr')

                for  i  in  range(2,len(product_tr)):

                    temp  =  {

                        'standard':hxs.select('//table[@class="R_WebDetail_content_tab"]//tr[%d]//td[2]/text()'  %i).extract()[0].strip(),

                        'price':hxs.select('//table[@class="R_WebDetail_content_tab"]//tr[%d]//td[3]/text()'  %i).extract()[0].strip(),

                    }

                    product_list.append(temp)

                item['product_list']  =  product_list

                yield item

            current_page_urls  =  hxs.select('//a/@href').extract()

            for  i  in  range(len(current_page_urls)):

                url  =  current_page_urls[i]

                if  url.startswith('http://www.jluosi.com'):

                    url_ab  =  url

                    yield Request(url_ab,  callback=self.parse)

選擇器規則Demo


def parse(self,  response):

    from scrapy.http.cookies import CookieJar

    cookieJar  =  CookieJar()

    cookieJar.extract_cookies(response,  response.request)

    print(cookieJar._cookies)

獲取響應cookie

7、格式化處理

上述實例只是簡單的圖片處理，所以在parse方法中直接處理。如果對於想要獲取更多的數據（獲取頁面的價格、商品名稱、QQ等），則可以利用Scrapy的items將數據格式化，然後統一交由pipelines來處理。即不同功能用不同文件實現。

items：即用戶需要爬取哪些數據，是用來格式化數據，並告訴pipelines哪些數據需要保存。

示例items.py文件：


# -*- coding: utf-8 -*-

# Define here the models for your scraped items

#

# See documentation in:

# http://doc.scrapy.org/en/latest/topics/items.html

import scrapy

class  JieYiCaiItem(scrapy.Item):

    company  =  scrapy.Field()

    title  =  scrapy.Field()

    qq  =  scrapy.Field()

    info  =  scrapy.Field()

    more  =  scrapy.Field()

即：需要爬取所有url中的公司名，title，qq，基本信息info，更多信息more。

上述定義模板，以後對於從請求的源碼中獲取的數據同樣按照此結構來獲取，所以在spider中需要有一下操作：


#!/usr/bin/env python

# -*- coding:utf-8 -*-

import scrapy

import hashlib

from beauty.items import JieYiCaiItem

from scrapy.http import Request

from scrapy.selector import HtmlXPathSelector

from scrapy.spiders import CrawlSpider,  Rule

from scrapy.linkextractors import LinkExtractor

class  JieYiCaiSpider(scrapy.spiders.Spider):

    count  =  0

    url_set  =  set()

    name  =  "jieyicai"

    domain  =  'http://www.jieyicai.com'

    allowed_domains  =  ["jieyicai.com"]

    start_urls  =  [

        "http://www.jieyicai.com",

    ]

    rules  =  [

        #下面是符合規則的網址,但是不抓取內容,只是提取該頁的鏈接(這裏網址是虛構的,實際使用時請替換)

        #Rule(SgmlLinkExtractor(allow=(r'http://test_url/test?page_index=\d+'))),

        #下面是符合規則的網址,提取內容,(這裏網址是虛構的,實際使用時請替換)

        #Rule(LinkExtractor(allow=(r'http://www.jieyicai.com/Product/Detail.aspx?pid=\d+')), callback="parse"),

    ]

    def parse(self,  response):

        md5_obj  =  hashlib.md5()

        md5_obj.update(response.url)

        md5_url  =  md5_obj.hexdigest()

        if  md5_url in  JieYiCaiSpider.url_set:

            pass

        else:

            JieYiCaiSpider.url_set.add(md5_url)

            hxs  =  HtmlXPathSelector(response)

            if  response.url.startswith('http://www.jieyicai.com/Product/Detail.aspx'):

                item  =  JieYiCaiItem()

                item['company']  =  hxs.select('//span[@class="username g-fs-14"]/text()').extract()

                item['qq']  =  hxs.select('//span[@class="g-left bor1qq"]/a/@href').re('.*uin=(?P<qq>\d*)&')

                item['info']  =  hxs.select('//div[@class="padd20 bor1 comard"]/text()').extract()

                item['more']  =  hxs.select('//li[@class="style4"]/a/@href').extract()

                item['title']  =  hxs.select('//div[@class="g-left prodetail-text"]/h2/text()').extract()

                yield item

            current_page_urls  =  hxs.select('//a/@href').extract()

            for  i  in  range(len(current_page_urls)):

                url  =  current_page_urls[i]

                if  url.startswith('/'):

                    url_ab  =  JieYiCaiSpider.domain  +  url

                    yield Request(url_ab,  callback=self.parse)

spider

spider

上述代碼中：對url進行md5加密的目的是避免url過長，也方便保存在緩存或數據庫中。

此處代碼的關鍵在於：

將獲取的數據封裝在了Item對象中
yield Item對象（一旦parse中執行yield Item對象，則自動將該對象交個pipelines的類來處理）


# -*- coding: utf-8 -*-

# Define your item pipelines here

#

# Don't forget to add your pipeline to the ITEM_PIPELINES setting

# See: http://doc.scrapy.org/en/latest/topics/item-pipeline.html

import json

from twisted.enterprise import adbapi

import MySQLdb.cursors

import re

mobile_re  =  re.compile(r'(13[0-9]|15[012356789]|17[678]|18[0-9]|14[57])[0-9]{8}')

phone_re  =  re.compile(r'(\d+-\d+|\d+)')

class  JsonPipeline(object):

    def __init__(self):

        self.file  =  open('/Users/wupeiqi/PycharmProjects/beauty/beauty/jieyicai.json',  'wb')

    def process_item(self,  item,  spider):

        line  =  "%s  %s\n"  %  (item['company'][0].encode('utf-8'),  item['title'][0].encode('utf-8'))

        self.file.write(line)

        return  item

class  DBPipeline(object):

    def __init__(self):

        self.db_pool  =  adbapi.ConnectionPool('MySQLdb',

 db='DbCenter',

 user='root',

 passwd='123',

 cursorclass=MySQLdb.cursors.DictCursor,

 use_unicode=True)

    def process_item(self,  item,  spider):

        query  =  self.db_pool.runInteraction(self._conditional_insert,  item)

        query.addErrback(self.handle_error)

        return  item

    def _conditional_insert(self,  tx,  item):

        tx.execute("select nid from company where company = %s",  (item['company'][0],  ))

        result  =  tx.fetchone()

        if  result:

            pass

        else:

            phone_obj  =  phone_re.search(item['info'][0].strip())

            phone  =  phone_obj.group()  if  phone_obj else  ' '

            mobile_obj  =  mobile_re.search(item['info'][1].strip())

            mobile  =  mobile_obj.group()  if  mobile_obj else  ' '

            values  =  (

                item['company'][0],

                item['qq'][0],

                phone,

                mobile,

                item['info'][2].strip(),

                item['more'][0])

            tx.execute("insert into company(company,qq,phone,mobile,address,more) values(%s,%s,%s,%s,%s,%s)",  values)

    def handle_error(self,  e):

        print  'error',e

pipelines

上述代碼中多個類的目的是，可以同時保存在文件和數據庫中，保存的優先級可以在配置文件settings中定義。

ITEM_PIPELINES  =  {

    'beauty.pipelines.DBPipeline':  300,

    'beauty.pipelines.JsonPipeline':  100,

}

# 每行後面的整型值，確定了他們運行的順序，item按數字從低到高的順序，通過pipeline，通常將這些數字定義在0-1000範圍內。

總結：

本文對python爬蟲框架Scrapy做了詳細分析和實例講解，如果本文對您有參考價值，歡迎幫小編點下文下方視頻教程的的推薦，謝謝！
居然老師視頻教程

教你分分鐘學會用python爬蟲框架Scrapy爬取心目中的女神

一、安裝

二、基本使用

1、創建項目

2.自動創建目錄的結果：

3、編寫爬蟲

4、運行

5.scrapy查詢語法：

5.遞歸爬取網頁

6.scrapy查詢語法中的正則：

7、格式化處理

總結：

【腳本項目源碼】Python製作藝術簽名生成器，打造專屬你的個人藝術簽名

【腳本項目源碼】Python實現魯迅名言查詢系統

【腳本項目源碼】Python製作多功能音樂播放器，打造專屬你的音樂播放器

Python爬蟲實戰，requests+xlwt模塊，爬取螺螄粉商品數據（附源碼）

Python爬蟲實戰，Request+urllib模塊，批量下載爬取飆歌榜所有音樂文件

Mac下配置sublime實現LaTeX

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結