原创 python 全局鎖

python的全局鎖問題 問題 你已經聽說過全局解釋器鎖GIL,擔心它會影響到多線程程序的執行性能。 解決方案 儘管Python完全支持多線程編程, 但是解釋器的C語言實現部分在完全並行執行時並不是線程安全的。 實際上,解釋器被一

原创 django rest framework api構建

文章目錄Introductionswhat is django rest frameworkAn example for basedata1. settings2. model3. serializers4. use viewse

原创 手機抓包爬蟲

通過Fiddler進行手機抓包 通過Fiddler抓包工具,可以抓取手機的網絡通信,但前提是手機跟電腦處於同一局域網內(wifi或熱點),然後進行以下設置: 用Fiddler對Android應用進行抓包 打開Fiddler設置

原创 vmware 共享文件夾

進入 共享文件夾 。檢測是否能看到共享文件 sudo vmhgfs-fuse -o allow_other .host:/ /mnt/hgfs 開機自動掛載共享文件 .host:/ /mnt/hgfs f

原创 scrapy 爬取視頻

直接上github 爬取非ts類型的視頻

原创 tor privoxy 設置

安裝tor sudo apt-get install tor 配置 sudo vim /etc/tor/torrc 添加以下內容 。 ControlPort 9051 CookieAuthentication 1 #本機s

原创 supervisor

安裝 yum install -y supervisor 配置 vim /etc/supervisord.conf 修改其內容爲 [include] files = supervisord.d/conf/*.conf 若無

原创 python之匿名函數

lambda讓我們可以創建一個匿名函數,可取代def形式,lambda的用法如下 lambda [arg1 [,arg2, ... argN]] : expression lambda 函數直接調用 (lambda x,y:x-

原创 drf-jwt-wechat django jwt 小程序登錄後臺

drf-jwt-wechat 小程序,drf,jwt,一個對三者進行封裝登錄的包小程序登錄邏輯jwtdrf源代碼示例drf-jwt-wechatUsage 小程序,drf,jwt,一個對三者進行封裝登錄的包 項目進行時,創建的一個

原创 python的元編程之添加裝飾器

在函數上添加裝飾器 你想使用額外的代碼包裝一個函數,可以定義一個裝飾器函數。 import time from functools import wraps import logging def timethis_and_log(

原创 scarpy-redis介紹

Scarpy-redis 分佈式策略: 假設有四臺電腦:windows10、mac os x、ubuntu 16.04、centos7,任意一臺電腦作爲master端或slaver端,比如: * master端使用centos7,作

原创 爬蟲介紹

通用爬蟲和聚焦爬蟲 根據使用場景,網絡爬蟲可分爲 通用爬蟲 和 聚焦爬蟲 兩種. 通用爬蟲 通用網絡爬蟲 是 捜索引擎抓取系統(Baidu、Google、Yahoo等)的重要組成部分。主要目的是將互聯網上的網頁下載到本地,形成一個互聯

原创 Xpath用法

什麼是xpath? Xpath (XML Path Language)是一門在XML文檔中查選信心的語言,可用在XML文檔中對元素和屬性進行遍歷。 xpath W3School官方文檔 XPath 開發工具 開源的XPath表達式編輯

原创 scrapy日誌

Scrapy 生成的調試信息非常有用,但是通常太羅嗦。你可以在 Scrapy 項目中 的 setting.py 文件中設置日誌顯示層級: LOG_LEVEL = ‘ERROR’ Scrapy 日誌有五種層級,按照範圍遞增順序排列如下:

原创 scarpy 反爬蟲相關機制

反反爬蟲相關機制 Some websites implement certain measures to prevent bots from crawling them, with varying degrees of sophist