原创 網絡爬蟲--6.urllib庫的基本使用(2)

文章目錄一. urllib.parse.urlencode()和urllib.parse.unquote()二. Get方式三. 批量爬取百度貼吧數據四.POST方式五.關於CA六.處理HTTPS請求 SSL證書驗證 一. url

原创 網絡爬蟲--4.requests的簡單實用

文章目錄一.簡介二.基本GET請求1.最基本的GET請求--直接用get方法2.添加 headers 和查詢參數parmas3.通過requests獲取網絡上圖片的大小三.基本POST請求1.傳入data數據四.代理(proxie

原创 網絡爬蟲--3.str和bytes的區別

文章目錄一.bytes二.str和bytes相互轉換三.bytearray 一.bytes bytes對象只負責以二進制字節序列的形式記錄所需記錄的對象,至於該對象到底表示什麼(比如到底是什麼字符)則由相應的編碼格式解碼所決定。

原创 網絡爬蟲--2.HTTP和HTTPS

文章目錄一.簡介二.HTTP的請求與響應三.客戶端HTTP請求1.格式2.請求方法四.常用的請求報頭1.Host (主機和端口號)2.Connection (鏈接類型)3.Upgrade-Insecure-Requests (升級

原创 網絡爬蟲--5.urllib庫的基本使用

文章目錄一. 前言二. urlopen三. Request四. User-Agent五. 添加更多的Header信息1. 添加一個特定的header2. 隨機添加/修改User-Agent 一. 前言 所謂網頁抓取,就是把URL地

原创 網絡爬蟲--1.通用爬蟲和聚焦爬蟲

根據使用場景,網絡爬蟲可分爲 通用爬蟲 和 聚焦爬蟲 兩種. 通用爬蟲 通用網絡爬蟲 是 捜索引擎抓取系統(Baidu、Google、Yahoo等)的重要組成部分。主要目的是將互聯網上的網頁下載到本地,形成一個互聯網內容的鏡像備份

原创 Diango博客--24.單元測試:測試評論應用

文章目錄1. 前言2. 數據基類3.測試 Comment Model4. 測試視圖函數5. 測試模板標籤 1. 前言 comments應用的測試和blog應用測試的套路是一樣的。 先來建立測試文件的目錄結構。首先在 comment

原创 Diango博客--25.使用Coverage統計測試覆蓋率

文章目錄1. 前言2. 安裝 Coverage3. 簡單配置 Coverage4. 運行 Coverage5. 完善 Coverage 配置6. 生成 HTML 報告7. 完善單元測試 1. 前言 我們完成了對 blog 應用和

原创 Diango博客--23.單元測試:測試 blog 應用

文章目錄1. 前言2. 搭建測試環境3. 測試模型4. 測試視圖5. 測試模板標籤6. 測試輔助方法和類 1. 前言 我們博客功能越來越來完善了,但這也帶來了一個問題,我們不敢輕易地修改已有功能的代碼了! 我們怎麼知道代碼修改後帶

原创 Diango博客--22.Django Haystack 全文檢索與關鍵詞高亮

文章目錄1. Django Haystack 簡介2. 安裝 django-haystack和elasticsearch 23. 構建容器來運行 elasticsearch 服務4. 配置 Haystack5. 處理數據6. 配置

原创 Diango博客--20.開啓 Django 博客的 RSS 功能

1.Rss簡介 博客提供 RSS 訂閱應該是標配,這樣讀者就可以通過一些聚合閱讀工具訂閱你的博客,時時查看是否有文章更新,而不必每次都跳轉到博客上來查看。現在我們就來爲博客添加 RSS 訂閱功能。 RSS(Really Simpl

原创 Diango博客--21.實現簡單的全文搜索

文章目錄1. 概述2. 模板:將關鍵詞提交給服務器3. 視圖:查找含有搜索關鍵詞的文章4. 視圖:綁定 URL 1. 概述 搜索是一個複雜的功能,但對於一些簡單的搜索任務,我們可以使用 Django Model 層提供的一些內置方

原创 Diango博客--19.使用 Docker部署項目到線上服務器

文章目錄1.克隆代碼到服務器2.創建環境變量文件用於存放項目敏感信息3.在 .production 文件寫入下面的內容並保存4.修改 Nginx 配置5.修改項目配置文件6.啓動容器7.檢查容器啓動狀況8.配置 HTTPS 證書(

原创 Centos7安裝Docker教程

1.首先安裝必要依賴: $ sudo yum install -y yum-utils \ device-mapper-persistent-data \ lvm2 2.然後添加倉庫源: $ sudo yum-confi

原创 學成在線--22.課程營銷

文章目錄一.需求分析二.數據模型三.服務端1.Api接口1)查詢課程營銷信息2)更新課程營銷信息2.Dao3.Service4.Controller四.前端1.Api 方法2.編寫 course_marketinfo.vue1)t