原创 騰訊雲scrapy定時爬蟲

1.定時執行的.sh腳本   --->/zhanglei/sh/scrapySchedule.sh cd /zhanglei/python/scrapy_project/zl1/zl1      //到達scrapy項目目錄(必須寫,不然

原创 調用spark中的reduceByKey的坑

上圖找不到reduceByKey方法,主要是rdd2可能爲空的情況,而reduceByKey只能給確定的(k,v) 使用,這種不確定性導致無法調用reduceByKey,修改爲下面的就好了 可以看到將if去掉就可以調用了   

原创 linux上安裝python,pip,scrapy

1、下載python3.6的安裝包:     wget https://www.python.org/ftp/python/3.6.0/Python-3.6.0.tgz 2、解壓後,進入到解壓目錄下,執行如下命令,將python3.6進行

原创 linux上安裝nginx,並且部署vue項目

yum -y install gcc zlib zlib-devel pcre-devel openssl openssl-devel //創建一個文件夾 cd /usr/local mkdir nginx cd nginx //下載ta

原创 linux上部署springboot項目

確保maven的環境配好了,在Terminal窗口中執行  mvn clean install -Dmaven.test.skip=true 這時已經打包成功了,可以在project結構中可以看到多了一個target包,打包好的jar包就

原创 vue利用webpack搭建項目

vue init webpack webpack-multipage  // 創建項目 cd webpack-multipage  // 進入webpack-multipage目錄 npm install  // 下載依賴 npm run

原创 git常用命令操作

git pull 拉取代碼 git add -A 提交所有變化(包括刪除、新增、修改)  git commit -m "註釋" 本地倉庫提交 git push origin master 推送   參考  :https://blog.cs

原创 比較兩個List是否相同(利用hashCode比較)

1.利用eclipse中自動重寫hashCode和equals對象 @Override     public int hashCode() {         final int prime = 31;         int resul

原创 weblogic下查詢系統日誌

查詢系統服務器的請求日誌  /u01/Oracle/Middleware/user_projects/domains/base_domain/servers/AdminServer/logs      命令:tail -fn30 acce

原创 數據庫錯誤定位(to_date日期格式錯誤數據定位)

定位到具體id(在工具中的DBMS Output輸出臺看) DECLARE      v_date DATE;    BEGIN   FOR aRecord IN (SELECT *                     FROM EP

原创 linux下安裝python開發環境

1. 安裝依賴環境# yum -y install zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gdbm-

原创 EXCEL中設置滾動條初始位置在最左邊

打開excel右鍵sheet-->查看代碼-->添加如下代碼:Private Sub UserForm_Activate()  Dim i  For i = 1 To 100    Application.SendKeys "{RIGHT

原创 python3 TypeError:Unicode-objects must be encode before hashing

python3環境下,利用hash值對url進行 md5加密,時報錯TypeError:Unicode-objects must be encode before hashing原因是:python3跟python2區別:python3下

原创 無敵SQL

1.查詢文章內容連帶點贊評論(多表)SELECT s.id,s.title,s.img,s.context,DATE_FORMAT(s.create_time,'%Y-%m-%d %H:%i:%s') AS createTime, IFN

原创 linux上安裝MongoDB

curl -O https://fastdl.mongodb.org/linux/mongodb-linux-x86_64-amazon-3.6.3.tgz #下載文件export PATH=<mongodb-install-dire