原创 PyQt實例:設計有摺疊效果的左側選項卡,且點擊不同選項卡能進行不同界面的切換

聲明:本文僅供學習用,旨在分享 首先先來看下效果圖: 要實現上面的頁面切換效果,除了QListWidget外,還需要用到一個控件QStackedWidget,叫做堆載窗口控件,QStackedWidget控件與QTabWidge

原创 PyQt5的環境安裝及初級使用

聲明:本文僅供學習用,旨在分享 基於項目需要,運用了PyQt進行了桌面版APP的開發,在此將一些常用方法進行總結。 1、環境的安裝及配置: 本人運用的是pycharm2016.3.2專業版,python3.6.0 64位,這兩者的

原创 python實戰:利用自動化模塊pywinauto及selenium登錄後爬取淘寶商品信息

聲明:本文僅供學習用,旨在分享 現在大型網站對selenium工具都會進行檢測,若檢測到selenium就判定爲機器人,訪問被拒或出現像淘寶一樣的滑塊驗證等機制。基於多次失敗的經驗教訓及探討,爲避免觸發淘寶的反爬機制,此次通過利用

原创 不用寫代碼的爬蟲:用chrome瀏覽器的爬蟲插件Web Scraper爬取豆瓣動畫片電影並運用CouchDB使爬取到的數據有序

用chrome瀏覽器的爬蟲插件Web Scraper爬取豆瓣動畫片電影。 首先我們來到目標站點:https://movie.douban.com/typerank?type_name=動畫&type=25&interval_id=10

原创 python實戰:將cookies添加到requests.session中實現淘寶的模擬登錄

將cookies添加到requests.session中實現淘寶的模擬登錄 聲明:本文僅供學習用,旨在分享 我們知道現在爬取淘寶商品是必須要登錄的,在沒有登錄的情況下搜索商品也會自動重定向到登錄頁面。之前學着用selenium,pyp

原创 python實戰:不到50行的代碼讓你下載酷狗音樂任意版本的VIP歌曲

**1、**此處以下載《周杰倫—等你下課》爲目標歌曲,首先我們來到酷狗音樂網頁版:https://www.kugou.com/yy/html/search.html#searchType=song&searchKeyWord=等你下課

原创 python實戰:破解大衆點評用CSS加密數字的反爬機制

**1、**此次我們以該站點:惠州粵菜推薦 爲目標站點,來到站點後打開chrome的開發者工具,點擊刷新頁面,按下圖操作你會看到點評數中部分數字被進行了加密,所顯示的只有span標籤和class 並沒有數字信息。 點擊其中的某個標籤

原创 Scrapy設置隨機請求頭爬取貓眼電影TOP100並用xpath解析數據後存入MongoDB

Scrapy設置隨機請求頭爬取貓眼電影TOP100並用xpath解析數據後存入MongoDB。 **1、**首先我們先創建一個scrapy項目,運行CMD後按下圖所示進行創建: **2、**項目創建好後,用pycharm打開項目ma

原创 python學習筆記:使用tkinter模塊創建可視化界面,並將.py程序轉化成.exe可執行文件

基於上次寫的有道翻譯程序python實戰:利用chrome抓包插件HTTP間諜分析有道翻譯反爬機制,此次我們使用tkinter模塊創建可視化界面,並將.py程序轉化成.exe可執行文件。 **1、**首先我們需下載pyInstalle

原创 python實戰:利用chrome抓包插件HTTP間諜分析有道翻譯反爬機制

本次實戰目標站點:http://fanyi.youdao.com/?keyfrom=fanyi-new.logo ,主要利用HTTP間諜抓包插件分析有道翻譯反爬機制,該抓包能幫我們過濾掉一些不需要的常規請求如圖片,css等。 **1、

原创 python實戰:50行代碼讓你輕鬆下載QQ音樂VIP歌曲

**1、**此處以下載《李榮浩—年少有爲》爲目標歌曲,首先我們來到QQ音樂網頁版搜索歌曲:https://y.qq.com/portal/search.html#page=1&searchid=1&remoteplace=txt.yq

原创 用python的requests庫爬取京東某商品的評論並存儲到MongoDB

用python的requests庫爬取京東某商品的評論內容,評論有用數及時間,並將結果存到MongoDB **1、**首先打開所選商品的詳情頁面,此處以https://item.jd.com/2922989.html爲例,打開chro

原创 使用python的requests庫爬取糗事百科並用xpath解析數據後存入MongoDB

首先我們來到目標站點:https://www.qiushibaike.com/text/ ,往下拖動鼠標我們可以看到一共只有13頁的數據,因此我們需要找到請求這些數據的URL,並找到這些URL的提交規律。 **1、**打開chrom

原创 python項目實戰:用多進程(multiprocessing)+多線程(threading)的方式併發爬取淘寶商品信息並存入MongoDB

用多進程(multiprocessing)+多線程(threading)的方式併發爬取淘寶商品信息並存入MongoDB 聲明:本文僅供學習用,旨在分享 基於上次寫的python實戰:將cookies添加到requests.sessio

原创 python項目實戰:用多進程(multiprocessing)+多線程(threading)的方式併發爬取智聯招聘爬蟲崗位信息並存入MongoDB

用多進程(multiprocessing)+多線程(threading)的方式併發爬取智聯招聘爬蟲崗位信息並存入MongoDB 本次實戰目標站點:https://sou.zhaopin.com/?jl=548&kw=爬蟲&kt=3 ,