原创 Promise請求

* Promise請求 function queryData(url){     var p = new Promise(function(resovle,reject){     var xhr = new XMLHttpRequest

原创 xhr

xhr數據請求流程 1.前端初始化xhr對象,設置請求方法:get方法,post方法,form方法, 以及請求接口 open() 此時xhr.readyState=0 開始發送數據到後臺 send() <body> <butto

原创 python之windows中redis數據庫的安裝

Redis 是完全開源免費的,遵守BSD協議,是一個高性能的key-value數據庫。 Redis 與其他 key - value 緩存產品有以下三個特點:     1.Redis支持數據的持久化,可以將內存中的數據保存在磁盤中,重啓的時

原创 Pthon Scrapy框架的安裝與使用

網絡爬蟲,是在網上進行數據爬取的程序,使用它能夠抓取特定網頁的html數據,我們可以在一個py文件中引入一個又一個的模塊來進行爬取,但使用框架可以更快速的來幫助我們爬取數據,提高爬取效率。Scrapy是用純Python實現一個爲了爬取網站

原创 Windows上node.js的安裝與使用

一、node.js的下載與安裝 1.下載網址:http://nodejs.cn/download/ ,你可以根據不同平臺系統選擇你需要的Node.js安裝包,我這裏下載的是windows64位的.msi安裝程序,其他系統的安裝步驟請看菜鳥

原创 python 數據庫操作

  實際開發過程當中,數據的存儲過程主要有三種: 1.將數據存儲到內存當中 優點:使用方便,讀寫速度快  缺點:程序關閉的時候 內存釋放 數據消失   2.將數據寫到文件當中  優點:數據存儲是永久性的,不易丟失 缺點:打開關閉文件 操作

原创 Python phantomjs

PhantomJS是一個可編寫腳本的無頭網頁瀏覽器。它運行在Windows,macOS,Linux和FreeBSD上。 使用QtWebKit作爲後端,它爲各種Web標準提供快速和本機支持:DOM處理,CSS選擇器,JSON,Canvas和

原创 python bs4 BeautifulSoup用法

上一篇文章講了一些xpath的基本用法,現在來介紹一下bs4,bs4也是一個第三方庫 需要引入,bs4是 第三方庫  和xpath作用一樣,都是用來解析html數據,相比之下,xpath的速度會快一點,xpath底層是用c來實現的 引入語

原创 python之如何發送郵件

今天來講一下python如何發送郵件,以163和qq郵箱爲例。 要想實現使用python代碼發送郵件,郵箱必須開啓POP3/SMTP協議,開啓之後郵箱會給你生成一個授權碼 注意:這個授權碼一定要記住,以後使用代碼實現發送郵件登陸的時候,使

原创 Python MySQL的安裝

MySQL所使用的 SQL 語言是用於訪問數據庫的最常用標準化語言。MySQL 軟件採用了雙授權政策,分爲社區版和商業版,由於其體積小、速度快、總體擁有成本低,尤其是開放源碼這一特點,一般中小型網站的開發都選擇 MySQL 作爲網站數據庫

原创 Python爬取糗事百科

上一篇文章簡單介紹了一下正則的基本語法,今天這篇文章就講一個用正則來爬取糗事百科的例子 一、引入模塊 因爲urlopen功能比較簡單,所以設置代理ip需引入ProxyHandler和build_opener模塊,ip的獲取可以上西祠代理查

原创 Python 獲取網頁標籤中的全部文本的幾種方法

上一篇文章講述了一下scrapy框架的安裝與簡單使用,今天呢,就基於scrapy框架來給大家講述一下如何獲取網頁標籤中的全部文本。 首先創建一個scrapy框架項目,至於如何創建,不知道的小夥伴們請看我的上一篇文章。 目標是百度貼吧,目標

原创 Python之分佈式爬蟲的實現步驟

什麼是分佈式爬蟲? 默認情況下,scrapy爬蟲是單機爬蟲,只能在一臺電腦上運行,因爲爬蟲調度器當中的隊列queue去重和set集合都是在本機上創建的,其他電腦無法訪問另一臺電腦上的內存中的內容。分佈式爬蟲是一個用共同的爬蟲程序,同時部署

原创 python xpath用法

xpath在Python的爬蟲學習中,起着舉足輕重的地位,對比正則表達式 re兩者可以完成同樣的工作,實現的功能也差不多,但xpath明顯比re具有優勢,在網頁分析上使re退居二線。 xpath的簡單用法: import request

原创 Python selenium安裝與應用

今天來給大家介紹一下selenium的安裝與使用 一、首先介紹一下selenium:python中常用selenium爬取動態渲染網頁,selenium是一個自動化測試工具,在python中應用爲: 1. selenium可以完全模擬瀏覽