原创 Python實現爬取馬雲的微博功能示例

這篇文章主要介紹了Python實現爬取馬雲的微博功能,結合實例形式較爲詳細的分析了Python模擬ajax請求爬取馬雲微博的相關操作技巧與注意事項,需要的朋友可以參考下 本文實例講述了Python實現爬取馬雲的微博

原创 【python】通過 for 循環理解迭代器和生成器

迭代器 可迭代對象 通過 for…in… 循環依次拿到數據進行使用的過程稱爲遍歷,也叫迭代。我們把可以通過 for…in… 語句迭代讀取數據的對象稱之爲可迭代對象。 - 通過 isinstance()可以判斷一個對象是否可以迭代

原创 裝飾器

在學習裝飾器之前我們先了解下什麼是閉包。 閉包 函數引用 def test1(): print("--- in test1 func----") # 調用函數 test1() # 引用函數 ret = test1 pri

原创 爬取馬雲的微博

分析請求 我們打開 Ajax 的 XHR 過濾器,然後一直滑動頁面加載新的微博內容,可以看到會不斷有Ajax請求發出。 我們選定其中一個請求來分析一下它的參數信息,點擊該請求進入詳情頁面,如圖所示: 可以發現這是一個 GET 請求

原创 爬取貓眼 TOP100 電影並以 excel 格式存儲

爬取目標 本文將提取貓眼電影 TOP100 排行榜的電影名稱、時間、評分、圖片等信息,URL 爲http://maoyan.com/board/4,提取的結果我們以 excel 格式保存下來。 準備工作 保證電腦安裝了 python3.6

原创 併發與並行,同步與異步阻塞

併發與並行 併發:指的是任務數多餘cpu核數,通過操作系統的各種任務調度算法, 實現用多個任務“一起”執行(實際上總有一些任務不在執行,因爲切換任務的速度相當快, 看上去一起執行而已),一個 CPU 執行多個任務. 並行:指的是任

原创 MySQL 數據庫基本操作(1)

準備工作 在 windows 和 Ubuntu 安裝 MySQL。具體安裝步驟可去 csdn 論壇查詢。 命令行腳本 數據庫的操作 連接數據庫 注意:sql 語句最後需要以分號 ;結尾 mysql -uroot -p; 輸入密碼即可進

原创 Python獲取當前頁面內的所有鏈接的五種方法

本文講述了 Python 獲取當前頁面內的所有鏈接的五種方法,分享給大家僅供參考,具體如下: # 利用 requests_html from requests_html import HTMLSession session = HTMLS

原创 from 和 import 導入的區別

from 和 import 導入的區別 import 導入一定能實現變量的全局共享 from 導入不一定能實現變量的全局共享,只有定義的是可變類型才能全局共享,不變類型無法全局共享,類似於全局變量和局部變量 在實際開發中,應該選擇使用

原创 爬取網易雲熱門音樂歌單

需求分析 每當歌荒時,總想找那些播放量比較高的歌單聽,畢竟這麼多人選擇的歌單歌曲質量總會有保證. 爬取目標 本文將提取網易雲音樂 播放量在1000萬 以上的歌單名稱,播放量和鏈接地址. 準備工作 保證電腦安裝了 python3.6 和已經

原创 Python算法——插入排序

插入排序 插入排序(英語:Insertion Sort)是一種簡單直觀的排序算法。它的工作原理是通過構建有序序列,對於未排序數據,在已排序序列中從後向前掃描,找到相應位置並插入。插入排序在實現上,通常採用in-place排序(即只需用到

原创 深拷貝與淺拷貝(copy)

淺拷貝 copy方法 拷貝的內容要少一些, 只會拷貝最外層深拷貝 deepcooy 就是拷貝的內容更多, 從外層到內層都會拷貝可變類型: 淺拷貝和深拷貝只要最外層是可變的都會生成新的對象[] 或者{}, 淺拷貝和深拷貝都會生成新的對象In

原创 【python】property 的詳細使用方法

property 有兩種使用方式 裝飾器:在方法上應用裝飾器 類屬性: 在類中定義值爲 property 對象的類屬性 裝飾器方式 官方幫助文檔 property(fget=None, fset=None, fdel=None,

原创 python 爬蟲——爬取百度文庫VIP內容

轉載自:爬取百度文庫 代碼實現 import requests import re import json import os session = requests.session() def fetch_url(url):

原创 【python】如何自己開發 一個Web服務器

HTTP 請求報文格式: Host: 127.0.0.1:8888 Connection: keep-alive Cache-Control: max-age=0 Upgrade-Insecure-Requests: 1 User-A