原创 【資源蒐集】7 款不錯的聊天機器人 API 接口蒐集

前段時間玩微信爬蟲,彷彿打開了新世界的大門。 使用 wxpy 庫調用微信的接口,可以獲取好友信息,聊天消息收發等功能。 腦洞一開,這樣不就可以用來做 聊天消息防撤回,紅包提醒,自動回覆這些有意思的玩意兒了嘛! 言歸正傳,這次我搜集整理

原创 【Pyppeteer】如何避開網站的反爬檢測

【問題描述】 有些網站的反爬機制是很強的,不僅網絡請求中的參數經過 JS 加密,甚至還針對一些常用的爬蟲工具,如 Selenium 作了屏蔽。 比如前段時間我爬取的衛健委官網,反爬機制就相當變態(傳送門:Python網絡爬蟲實戰:衛健委官

原创 【Pyppeteer】爬取多個網頁時,如何只創建一個瀏覽器窗口,打開多個頁籤

【問題描述】 使用 Pyppeteer 工具寫爬蟲時,我們一般可以用這樣的方式來爬取網頁。 import asyncio from pyppeteer import launch url = 'http://www.baidu.co

原创 Python 網絡爬蟲實戰:去哪兒網旅遊攻略圖文爬取保存爲 Markdown電子書

接上回,《Python 網絡爬蟲實戰:爬取《去哪兒》網數千篇旅遊攻略數據》。 我們爬取到了數千篇的旅遊攻略文章的數據。  但是事情還沒有結束,對於大部分的人來講,最希望得到的東西應該不是這種乾巴巴的 Excel 數據, 而是這種圖文並茂

原创 Python 網絡爬蟲實戰:爬取《去哪兒》網數千篇旅遊攻略數據,再也不愁旅遊去哪兒玩了

好久不見! 今天我們來爬取 去哪兒網站 的 旅遊攻略 數據。  0x00  找一個合理的作案動機 作爲一名立志成爲技術宅的普通肥宅,每次一到週末就會面臨一個人生難題:這週末怎麼過? 本來是沒有這些問題的,該喫喫該睡睡,打打遊戲敲敲代碼

原创 Python網絡爬蟲實戰:衛健委官網數據的爬取

好久不見! 這次我們來爬一下 國家衛健委官網 的文章。 零  爬蟲和反爬機制間的博弈   關於我跟網站反爬機制之間的各種博弈過程,我其實在另一篇博客中詳細寫了,可惜不知道哪兒觸碰到了 CSDN 的審覈機制,審查沒有通過。其實也是一些失

原创 【轉載聲明】轉載本博客的文章請註明原始出處和作者

今天在無意間發現了自己的博客文章被 騰訊雲社區,企鵝號,天天快報 轉載,並且文章內容缺失的一塌糊塗,很多關鍵性的段落,圖片,以及代碼丟失,很容易給讀者朋友帶來困惑和誤導。 我在這篇博客中對這件事兒進行了詳細的說明和吐槽,《【超級不爽】騰訊

原创 Python網絡爬蟲實戰:爬取攜程網酒店評價信息

這個爬蟲是在一個小老弟的委託之下寫的。 他需要爬取攜程網上的酒店的評價數據,來做一些分詞和統計方面的分析,然後來找我幫忙。 爬這個網站的時候也遇到了一些有意思的小麻煩,正好整理一下拿出來跟大家分享一下。 這次爬取過程稍微曲折,各種碰壁

原创 【操作系統】C/C++中涉及到的內存的五大區域

C 和 C++ 語言相比於其他高級編程語言,一個很明顯的優勢就是,可以直接控制內存管理,執行效率更高。 所以啊,面試過程中已經多次被問到了關於內存中幾大區域的問題,比如內存分爲幾個區域,哪些區域是存放哪些數據等等。 沒有好好下功夫學習過

原创 【編程語言】關於 malloc,calloc,realloc,new 進行動態內存分配的區別

前天面試被問到了這四種內存分配方法的區別,瞬間懵比,半天說不出個所以然,好尷尬。 看來基礎還是不紮實,下來趕緊整理整理,惡補一下。 malloc 函數:void *malloc(unsigned int size) 在內存的動態分配區

原创 【編程語言】C++中未初始化的數組的默認值問題

之前寫代碼,一般都是用 Vector 來的,很少使用數組。 刷題時冷不丁遇到這種 “數組未初始化時的默認值” 問題,一時間還真有點懵。 這個其實不是什麼難題,就是平時接觸少,沒在意,生疏了。 記住三點: 全局數組,未初始化時,默認值都

原创 【程序人生】盛趣遊戲 U3D 面經(已拿 offer )

2020秋招,有幸拿到了盛趣遊戲公司的 U3D 開發的 Offer。 面試共有兩面,技術面試和HR面。 話說我一開始以爲至少也有兩輪技術面吧,於是第一輪技術面通過後,我在牛客上連着刷了一週的題目,C++,C# 基礎,數據結構,算法,計算機

原创 【數據結構和算法】八大排序算法分析和比較

最近找工作面試,真的是被數據結構和算法給反覆吊打了。 平時做項目基本都是在寫業務邏輯,即使遇到了關於數據結構算法的東西,也是一個接口調用搞定。 基礎的一些東西反而薄弱了,拿排序算法來說吧,長時間不寫,光是記清楚算法複雜度就夠嗆了,更別說

原创 Python網絡爬蟲實戰:利用 Python & ADB & 人臉識別實現自動給抖音漂亮小姐姐視頻點贊

這隻爬蟲做了些什麼事兒呢? 通過 ADB 控制你的手機,幫你自動刷抖音 調用百度人臉識別的接口,給視頻畫面中出現的小姐姐打分 自動給顏值 70 以上的小姐姐的視頻點贊 有趣的是,根據抖音的推薦算法,連着刷幾天之後,抖音裏給你推薦的全是漂

原创 【程序人生】虛擬現實(VR)版霍蘭德職業興趣島測試

畢設項目是關於 “虛擬現實技術在心理篩查中的應用” 方面的。 無意間看到霍蘭德職業興趣島測驗挺有意思的,特別適合用VR的形式沉浸式地來做。 於是順手就改造了一版 VR 版 的霍蘭德職業興趣島測驗。  如果你不知道什麼叫 “霍蘭德職業興