原创 python爬取flash頁面的返回數據(flex技術、amf格式、charles抓包)

flash頁面的返回數據,無法從網頁源代碼中查看到數據,這種頁面的爬取需要藉助一個工具——charles,通過它來查看amf。 這裏用到一個第三方庫pyamf,安裝方式: pip install -i https://pypi.t

原创 python+selenium+Chrome(無頭版)爬取國家地表水水質自動監測實時數據發佈系統(修改版)——動態網頁爬蟲

這是一篇動態網頁的爬蟲教程,新手可以操作一下,簡單實用。 一、前言 這篇blog跟python+selenium+phantomJS爬取國家地表水水質自動監測實時數據發佈系統——動態網頁爬蟲的爬蟲思路非常類似。 但由於原來的國家地

原创 Django開發註冊登錄系統筆記和系統運行流程(含避坑策略)

本文參考:實戰一:基於Django2.2可重用登錄與註冊系統 文章不做具體的操作,給大家一些分享一些我遇到的坑和解決方式。 一、系統結構 mysite工程文件根目錄下: 1、my_app是我創建的app。 2、mysite和根目

原创 利用python的geopandas實現geojson數據的可視化(含geopandas安裝和問題解決方式)

一、什麼是geojson? GeoJSON是一種對各種地理數據結構進行編碼的格式,基於Javascript對象表示法的地理空間信息數據交換格式。GeoJSON支持點、線、面、多點、多線、多面和幾何集合等幾何類型。GeoJSON裏的

原创 批量下載全國縣級行政區劃geojson格式數據,將下載的geojson數據批量轉爲shapefile格式,在arcgis中可視化

一、數據來源 阿里雲提供了數據下載接口,我們可以在下面這個網站下載到各級別行政區劃geojson格式的數據,精確到縣級。 地址 二、數據分析 由上圖,我們可以看到: 地名:”武漢市“ adcode:“420100” 發現這個代

原创 1、應仁之亂

故事的起因          自1449年繼任室町幕府第八代將軍的足利義政,終日沉迷酒色,不問政事,導致社會逐漸動盪,各地紛紛暴動,將軍權利逐漸衰落,實權逐漸落入守護大名細川勝元和山名持豐等重臣手中,即將步天皇后塵。       

原创 2、明應之變

         在上一篇提到,1473年12月19日,足利義政讓位於年僅九歲的嫡長子足利義尚,隨後隱居於小川御所,與正室日野富子分居。足利義尚繼位時年齡太小,於是母親日野富子協助執政。足利義尚在位頭幾年,應仁之亂還未完全平息,1

原创 python實現Excel數據的批量(546個數據文件)合併及windows批量改名(附源代碼)

一、你們有沒有遇到這種情況? 546個excel文件需要合併,怎麼辦? 一個一個複製?時間來不及! 還是。。。想 想 別 的 招! 人 生 苦 短,我 有 python! 這個問題如果使用python做批處理,會有意想不到的效果

原创 python實現爬取12306所有站點及其編碼信息(附源代碼)!

一、思路 1、打開12306.cn 2、ctrl + shift + i(開發者人員工具) 得到站點信息鏈接:https://kyfw.12306.cn/otn/resources/js/framework/station_na

原创 python實現“快遞價格查詢系統”的編寫

一、代碼 #--author--張俊傑@Nick #系統提示 print("歡迎來到快遞系統!") #死循環 while 1==1: #簡單交互,鍵入值 weight=int(input("請輸入重量(千克): ")) n

原创 python+selenium+phantomJS爬取國家地表水水質自動監測實時數據發佈系統——動態網頁爬蟲

一、關於phantomjs 1、介紹 PhantomJS是一個爲自動化而生的利器,它本質上是一個基於webkit內核的無界面瀏覽器,並可使用JavaScript或CoffeeScript進行編程。由於沒有界面,它的使用就有點像cu

原创 用python寫個翻譯小程序——死循環程序

一、有道詞典 有道在線翻譯有自動翻譯功能(Ajax),我們可以藉助這個功能在不用click的情況下,利用python實現我們的翻譯小程序。 二、思路 爬蟲思路類似,繼承有道在線翻譯功能,寫在代碼裏了。 三、代碼 import ur

原创 Python實現淘寶商品數據爬取——靜態網頁爬蟲(僅供學習,切勿無限制爬取)

一、關於淘寶網 淘寶網是亞太地區較大的網絡零售、商圈,由阿里巴巴集團在2003年5月創立。淘寶網是中國深受歡迎的網購零售平臺,擁有近5億的註冊用戶數,每天有超過6000萬的固定訪客,同時每天的在線商品數已經超過了8億件,平均每分鐘

原创 python程序實現最大限度突破高德地圖爬蟲限制,包括.exe文件的編譯,提供最大限度爬蟲高德地圖poi思路

一、關於高德地圖 高德是中國領先的數字地圖內容、導航和位置服務解決方案提供商。高德地圖產品更多的還是我們查找位置和路線的一個工具,但實際上地圖能夠實現的層面還有很多,甚至是將現實的商家店鋪以及場所搬至虛擬的地圖上,然後每個地理位置