原创 fiddler bpu 攔截多個請求

  修改1:         修改2:      修改3:     改完,然後保存。 回到fiddler頁面。命令輸入:bpu http://www.xxxx.com/xxx111 http://www.xxxx.com/xxx222兩

原创 python 做爬蟲真的很慢嗎?(協程併發測試 )

這篇文章永久掛在首頁,就是爲了給一些人說Python做爬蟲慢的人啪啪打臉。 總有人說python做爬蟲速度慢,能開併發數少,至於爲什麼慢就是說不上來,今天就是測試一下python語言的速度和併發數量。 在網絡爬蟲中,影響速度的有數據下載,數

原创 docker 安裝火狐和火狐驅動

直接上命令 第一步:下載火狐瀏覽器和驅動 版本號 firefox-89.0.tar.bz2 火狐驅動 :https://github.com/mozilla/geckodriver/rel

原创 window 客戶端抓包詳解

互聯網的數據有web,app,小程序,windows客戶端等,抓取數據不能拘泥於一點,只要能搞到數據,一切都是OK。 今天主要詳細的介紹一下windows的抓包。 1. 下載windows客戶端,安裝   這個就不介紹了,太簡單了,不會的就

原创 瀏覽器指紋介紹

    一、什麼是瀏覽器指紋        瀏覽器指紋是指通過收集您設備的特徵標識,用來對您進行唯一性識別、跟蹤、分析行爲、所生成的摘要ID         網站通過收集大量的信息,然後對所有的特徵標識進行並集匹配,可以十分精確的對您進行標

原创 Chrome瀏覽器啓動參數大全(命令行參數)

前言 在開發Web項目當中,瀏覽器必不可少,而瀏覽器的啓動參數可以幫我們實現很多功能。 常用參數 常用參數請參考下表。 序號參數說明 1 --allow-outdated-plugins 不停用過期的插件。 2 --allo

原创 ubuntu 增加 用戶

1、新建用戶user1 sudo useradd -r -m -s /bin/bash user12、設置user1的密碼 sudo passwd user1 3、給user1管理員權限 sudo vi /etc/sudoersroot

原创 瀏覽器實現get請求

let url = 'https://www.toutiao'; let params = { }; let xhr = new XMLHttpRequest(); xhr.open("GET", url, true); xhr.set

原创 python 讀取apk文件

import zipfile def spider(): data_list = [] z = zipfile.ZipFile("maimai.apk") for file in z.namelist():

原创 ubuntu docker 安裝 redis

第一步:查看redis鏡像           如果沒有redis鏡像,執行命令即可      docker pull redis  下載成功後執行 docker images 會查看到 redis鏡像第二步:修改 redis.conf 文

原创 fastapi 返回請求頭信息

直接上代碼 # -*- coding: utf-8 -*- ''' createTime : 2022-04-18 16:18 @software: : spiderSystem @File : test2.py Co

原创 mysqlv8.0 通過idb文件恢復數據

 關於MySQL數據遷移的問題,對於一個有千萬級別的數據,文件可能幾十個GB,如何高效的遷移,是一個很大的問題,、 最好的方式是直接遷移idb文件,前提條件是兩個數據庫是相同的版本。 一、建立一張和需要還原的空表,表結構要一致 二、找到當

原创 python3 執行代碼塊,並返回數據 exec 返回值

Python3 exec 函數 描述 exec 執行儲存在字符串或文件中的 Python 語句,相比於 eval,exec可以執行更復雜的 Python 代碼。 語法 以下是 exec 的語法: exec(object[, globals[

原创 fidler 數據保存到本地

找到 OnBeforeResponse,在後面添加如下代碼   if (oSession.fullUrl.Contains("edith.xiaohongshu.com/api/sns/v10/search/notes?keyword")