原创 使用scrapy框架來進行抓取的原因

在python爬蟲中:使用requests + selenium就可以解決將近90%的爬蟲需求,那麼scrapy就是解決剩下10%的嗎?   這個顯然不是這樣的,scrapy框架是爲了讓我們的爬蟲更強大、更高效的存在,所以我們有必要好好了解

原创 Elasticsearch快速開始

Elasticsearch是一個分佈式RESTful風格的搜索和數據分析引擎 查詢:Elasticsearch允許執行和合並多種類型的搜索——結構化、非結構化、地理位置、度量指標。搜索方式隨心而變 分析:找到與查詢最匹配的是個文檔是一回事

原创 二叉樹遍歷問題、時間空間複雜度、淘汰策略算法、lru數據結構、動態規劃貪心算法

二叉樹的前序遍歷、中序遍歷、後序遍歷 前序遍歷 遍歷順序規則爲【根左右】 ABCDEFGHK 中序遍歷 遍歷順序規則爲【左根右】 BDCAEHGKF 後序遍歷 遍歷順序規則爲【左右根】 DCBHKGFEA 什麼是時間複雜度和

原创 Django--中間件

Django中間件   Django默認由七個中間件             WSGI、wsgiref、uwsgi的區別     WSGI是協議     wsgiref和uwsgi是實現該協議的模塊   Django默認有七個中間件,但是D

原创 Django--csrf跨站請求僞造、Auth認證模塊

form表單中使用跨站請求僞造   { % csrf_token % }  會動態生成一個input框,內部的value是隨機刷新的     如果不想校驗csrf   from django.views.decorators.csrf im

原创 Django--Cookie和Session組件

什麼是Cookie:   cookie的工作原理是:由服務端產生內容,瀏覽器收到請求之後保存在本地;當瀏覽器再次訪問的時候,瀏覽器會自動帶上這個cookie,這樣服務端就能去通過這個cookie來判斷你是誰了   Django中操作cook

原创 Django--form表單組件

form組件的祖耀功能如下:   1、生成頁面可用的HTML標籤   2、對用戶提交的數據進行校驗   3、保留上次輸入內容   使用form組件實現註冊功能   第一步需要一個form類   第二步實例化form對象   第三步查看校驗數

原创 安裝配置flask環境

安裝 Flask 好的,讓我們開始吧! 現在我們必須開始安裝 Flask 以及一些我們會用到的擴展。我首選的方式就是創建一個虛擬環境,這個環境能夠安裝所有的東西,而你的主 Python 不會受到影響。另外一個好處就是這種方式不需要你擁有管

原创 Django--路由層、視圖層、模版層

   路由層:   路由匹配     url(正則表達式,視圖函數內存地址)     只要正則匹配到了內容,就不再往下匹配,而是直接運行後面的視圖函數       匹配首頁)         url(r'^&', home)       匹

原创 Django--模型層

13個方法   all()   filter()   get()   reverse()     order_by()   exclude()   values()   values_list()   count()   distinct(

原创 利用GitHub來進行團隊協作開發項目

首先:    1、項目組長要在GitHub創建一個倉庫    2、組長git clone倉庫地址到本地    3、組長在本地克隆到的項目裏面創建一個Django項目    4、在當前項目下進行git add以及git commit操作,將D

原创 scrapy-redis分佈式爬取貓眼電影

能夠利用redis緩存數據庫的優點去重來避免數據的大面積冗餘   1、首先就是要創建貓眼爬蟲項目 2、進入項目內部創建一個爬蟲文件 創建完文件之後就是要爬取的內容,我這邊以爬取貓眼電影的title和link爲例(這個完全看個人你可以先去寫爬

原创 Django與mongodb數據庫的連接

1、最開始需要下載一個第三方模塊:mongoengine   2、下載完成之後,需要在settings中完成配置(在DATABASES後面,別問我爲什麼,問了我也不告訴你...)   connect中傳入的是mongodb中的數據庫的庫

原创 redis鍵(key)

redis鍵:   用於管理redis的鍵 command key_name 127.0.0.1:6379> set runoodkey redis OK 127.0.0.1:6379> del runoodkey 1  

原创 redis--數據類型

redis支持五種數據類型: string(字符串) hash(哈希) list(列表) set(集合) zset(sorted set:有序集合)   string(字符串)   string時redis最基本的類型,一個key對應一