原创 fiddler bpu 攔截多個請求
修改1: 修改2: 修改3: 改完,然後保存。 回到fiddler頁面。命令輸入:bpu http://www.xxxx.com/xxx111 http://www.xxxx.com/xxx222兩
原创 python 做爬蟲真的很慢嗎?(協程併發測試 )
這篇文章永久掛在首頁,就是爲了給一些人說Python做爬蟲慢的人啪啪打臉。 總有人說python做爬蟲速度慢,能開併發數少,至於爲什麼慢就是說不上來,今天就是測試一下python語言的速度和併發數量。 在網絡爬蟲中,影響速度的有數據下載,數
原创 docker 安裝火狐和火狐驅動
直接上命令 第一步:下載火狐瀏覽器和驅動 版本號 firefox-89.0.tar.bz2 火狐驅動 :https://github.com/mozilla/geckodriver/rel
原创 window 客戶端抓包詳解
互聯網的數據有web,app,小程序,windows客戶端等,抓取數據不能拘泥於一點,只要能搞到數據,一切都是OK。 今天主要詳細的介紹一下windows的抓包。 1. 下載windows客戶端,安裝 這個就不介紹了,太簡單了,不會的就
原创 瀏覽器指紋介紹
一、什麼是瀏覽器指紋 瀏覽器指紋是指通過收集您設備的特徵標識,用來對您進行唯一性識別、跟蹤、分析行爲、所生成的摘要ID 網站通過收集大量的信息,然後對所有的特徵標識進行並集匹配,可以十分精確的對您進行標
原创 Chrome瀏覽器啓動參數大全(命令行參數)
前言 在開發Web項目當中,瀏覽器必不可少,而瀏覽器的啓動參數可以幫我們實現很多功能。 常用參數 常用參數請參考下表。 序號參數說明 1 --allow-outdated-plugins 不停用過期的插件。 2 --allo
原创 ubuntu 增加 用戶
1、新建用戶user1 sudo useradd -r -m -s /bin/bash user12、設置user1的密碼 sudo passwd user1 3、給user1管理員權限 sudo vi /etc/sudoersroot
原创 瀏覽器實現get請求
let url = 'https://www.toutiao'; let params = { }; let xhr = new XMLHttpRequest(); xhr.open("GET", url, true); xhr.set
原创 python 讀取apk文件
import zipfile def spider(): data_list = [] z = zipfile.ZipFile("maimai.apk") for file in z.namelist():
原创 ubuntu docker 安裝 redis
第一步:查看redis鏡像 如果沒有redis鏡像,執行命令即可 docker pull redis 下載成功後執行 docker images 會查看到 redis鏡像第二步:修改 redis.conf 文
原创 fastapi 返回請求頭信息
直接上代碼 # -*- coding: utf-8 -*- ''' createTime : 2022-04-18 16:18 @software: : spiderSystem @File : test2.py Co
原创 mysqlv8.0 通過idb文件恢復數據
關於MySQL數據遷移的問題,對於一個有千萬級別的數據,文件可能幾十個GB,如何高效的遷移,是一個很大的問題,、 最好的方式是直接遷移idb文件,前提條件是兩個數據庫是相同的版本。 一、建立一張和需要還原的空表,表結構要一致 二、找到當
原创 python3 執行代碼塊,並返回數據 exec 返回值
Python3 exec 函數 描述 exec 執行儲存在字符串或文件中的 Python 語句,相比於 eval,exec可以執行更復雜的 Python 代碼。 語法 以下是 exec 的語法: exec(object[, globals[
原创 fidler 數據保存到本地
找到 OnBeforeResponse,在後面添加如下代碼 if (oSession.fullUrl.Contains("edith.xiaohongshu.com/api/sns/v10/search/notes?keyword")