原创 【java】Spring+Mongodb,按月查詢集合查詢數據

Spring+Mongodb在查詢數據時,是可以指定查詢集合的。那麼現在的需求是按月份查詢數據。 一、在serviceImpl上,先指定構造時間集合字符串 @Resource private MongoTemplate mongo

原创 【java】獲取昨天、今天、明天、幾天前、幾天後的時間

java總會遇到獲取之前時間和之後時間的需求,封裝一個類,方便複用。 package com.yzkj.zf.utils; import java.text.ParseException; import java.text.Si

原创 【scrapy】mongo存儲數據時,按月分表存儲

爲了方便數據的查詢和存儲,減輕查詢壓力,可以使用按月分表保存數據,然後按月查表查數據。 那在scrapy存數據時,怎麼按月份存數據呢? 這裏我scrapy的數據時存在mongo內部的,只要更改存儲的集合名稱就行。這裏只是按月分表,

原创 京東商品價格獲取的三種方式

問題描述:京東商品的詳情頁,價格是js動態加載的,源代碼裏獲取不到,該如何破解? 商品詳情頁的價格,在網頁源代碼裏找不到,xpath提取爲空,這可怎麼辦? 解決方案: 一、selenium加載頁面,進行提取 這個方法是萬能的

原创 scrapy -o xxx.json 命令,不開啓pipeline,也可以將item寫入到一個json文件中

如果想保存item到一個json文件中,除了使用pipeline進行寫入保存外,還可以使用一行命令,就寫入json文件。 # spider 是你的爬蟲文件名字,可替換 # -o 是表示輸出到文件的命令,不可替換 # xxx.jso

原创 京東搜索產品時,pc端列表頁只展示100頁的數據

問題描述:當你在電腦上瀏覽京東網站時,官網只給你返回100頁數據,每頁60個,總共只顯示6000個商品,但實際有幾十萬的相關產品沒有展示出來。 這算是京東的一種反扒機制,美團的電腦端也是這樣,只給你返回固定頁數的信息。遇到這個

原创 【Python】僞造數據使用faker庫

什麼是faker Faker是一個Python包,開源的GITHUB項目,主要用來創建僞數據,使用Faker包,無需再手動生成或者手寫隨機數來生成數據,只需要調用Faker提供的方法,即可完成數據的生成。 GitHub鏈接:ht

原创 【算法圖解】 之 [二分查找法] 詳解

入門算法學習,看的第一本是深入淺出的《算法圖解》一書,本博客是對《算法圖解》一書的學習筆記,將書中的分享的算法示例用Python3語言實現。 如果你也想要閱讀這本書,百度雲盤鏈接:https://pan.baidu.com/s/

原创 【算法圖解】 之 [遞歸] 詳解

入門算法學習,看的第一本是深入淺出的《算法圖解》一書,本博客是對《算法圖解》一書的學習筆記,將書中的分享的算法示例用Python3語言實現。 如果你也想要閱讀這本書,百度雲盤鏈接:https://pan.baidu.com/s/

原创 【算法圖解】 之 [快速排序] 詳解

入門算法學習,看的第一本是深入淺出的《算法圖解》一書,本博客是對《算法圖解》一書的學習筆記,將書中的分享的算法示例用Python3語言實現。 如果你也想要閱讀這本書,百度雲盤鏈接:https://pan.baidu.com/s/

原创 【算法圖解】 之 [貪婪算法(貪心算法)] 詳解

入門算法學習,看的第一本是深入淺出的《算法圖解》一書,本博客是對《算法圖解》一書的學習筆記,將書中的分享的算法示例用Python3語言實現。 如果你也想要閱讀這本書,百度雲盤鏈接:https://pan.baidu.com/s/

原创 【Python】自動生成requirements.txt

項目開發的時候,總是要搭建和部署環境,這時,就需要一個python第三方包的list,一般叫做requirements.txt。如果項目使用virtualenv環境,直接使用pip freeze即可,但是如果項目的依賴沒有維護,

原创 將redis-server添加到Linux啓動項

修改/etc/rc.local腳本 舉例:將redis-server添加到啓動項 vim /etc/rc.local /etc/rc.local 腳本內容如下: #!/bin/sh # # This script will b

原创 reids配置文件詳細解讀(中文翻譯)

#daemonize no 默認情況下, redis 不是在後臺運行的,如果需要在後臺運行,把該項的值更改爲 yes daemonize yes # 當 redis 在後臺運行的時候, Redis 默認會把 pid 文件放在

原创 Vim設置顯示行號 & 永久性顯示行號

當前文件下顯示行號 :set number 或者 :set nu 永久顯示行號 vim ~/.vimrc 配置文件輸入set number 或者 set nu 就可以了,然後保存退出。再次用vim打開文件時,就會顯示