原创 前後分離之後SpringBoot+SpringSecurity放行Swagger訪問後,security跨域配置失效的問題

問題背景: 項目用的swagger生成的接口文檔,同時也有security權限驗證,爲了方便後端自己測試,所以接口測試直接訪問swagger; 但是security如果沒有放行swagger的話,本地是訪問不到swagger的,同時前端要

原创 Springboot+kaptcha驗證碼的生成與校驗

今天發現了一個有意思的生成驗證碼的工具,研究了一下  <dependency> <groupId>org.springframework.boot</groupId> <artifac

原创 com.google.common.base.Preconditions.checkState(ZLjava/lang/String;Ljava/lan

今天用seleniumhq爬某個站的時候,突然一下起不來了,報錯: com.google.common.base.Preconditions.checkState(ZLjava/lang/String;Ljava/lan 查資料說可能

原创 使用Selenium(WebDriver)滑動頁面,爬取下拉加載的信息

爬某些視頻網站的時候,有些視頻列表是下拉加載的,js請求參數都是加密或者混淆的,要想逆向也比較麻煩; 有個簡單方法,就是使用Selenium包,Selenium有Java的API也有Python的,下面說一下Java使用Selenium怎

原创 IDEA啓動SpringBoot要2分鐘,修改hosts文件無效,最後發現是Apollo配置中心搞的鬼!!

背景: 剛入職新公司,某天IDEA啓動項目的時候,特別慢,某個服務居然要2分鐘,這太影響工作效率了,就找了很多解決辦法,比如 這篇文章也不能解決 修改IDEA VM options也不管用,就這樣忍了幾天,直到今天,我才靈光乍現,項目中用

原创 NIO斷點續傳

斷點續傳一般在header中需要攜帶Content-Range 後端接收該header,正則校驗如下: public static final String RANGE_PATTERN = "bytes \\d+-\\d+/\\d+";

原创 Teamviewer日誌查看是否被他人登陸過

最近公司電腦總是自動開機,很奇怪,想起了我的teamviewer是開機自動啓動的,然後就想查看一下日誌,百度了全是說的廢話,谷歌大法走一波,找到了答案。 意思就是:日誌文件在C:\Program Files (x86)\TeamView

原创 Java爬蟲使用Selenium+Autoit自動化爬取複雜頁面

前言: 最近玩爬蟲的時候,遇到一個國外的圖片網站,具體哪個就不說了,這個站很有意思,即使拿到了圖片的鏈接,用httpclient下載都不行,不是User-Agent的原因,不知道圖片服務器的後端有什麼校驗,沒辦法了,只能用Selenium

原创 深入理解JVM:從JVM層面來講講Java多態

首先來一道筆試題: 對多態理解不夠深入的,多半都會答錯;如果能記住口訣:“變量多態看左邊,方法多態看右邊,靜態多態看左邊”的話,肯定就知道答案,但是JVM是如何確定具體調用哪個方法的,有小夥伴思考過嗎? 1、方法調用: 方法調用並不等於

原创 Docker部署MySQL 8.0配置主從同步,Docker部署Mycat配置讀寫分離,數據庫分片

首先準備一臺centos服務器 安裝docker環境: 參考:https://www.runoob.com/docker/centos-docker-install.html docker部署MySQL 注意:創建docker的文件掛載目

原创 IDEA 代碼格式設置(方法參數格式化)

今天格式化代碼的時候,有個方法參數比較多,而且格式對不齊,看着很不舒服,找了一下配置沒找到,自己試了一下, 一般的代碼格式化,IDEA裏面是按Ctrl+Alt+L就可以了,但是這個方法參數這裏不行,可以在這裏配 表示方法參數總是換行,而

原创 Java實現一個ip池,讓你的蜘蛛暢行無阻

  玩爬蟲的時候,如果訪問的太頻繁的話,很容易被封ip,一物降一物,有反爬,當然就有反反爬╰( ̄▽ ̄)╭ 爲了防止ip被封,就可以使用ip代理,讓代理服務器幫你完成這個請求,再將請求結果返回給你,是不是很像平時我們用的梯子 ( ‵▽′)ψ

原创 使用Selenium爬取js渲染的頁面

自從我的個人博客搭建起之後,每天的nginx日誌裏面都有很多來自爬蟲的請求,大多都是 /index.php /login.php   /admin.php等等之類的請求.據說互聯網50%以上的流量都是來自爬蟲, 以前前後端未分離的時候,頁

原创 zuul+SpringSession的session不一致問題

情況是這樣:      zuul作爲網關,轉發用戶請求到下層微服務,下層微服務有個模塊用了SpringSession+SpringSecurity控制權限 我通過下層微服務的swagger測試,登錄之後,瀏覽器生成了一個cookie,然後

原创 POI公式(函數)自動刷新值

項目中遇到需要用POI公式計算某列的和 想到個簡便方法 比如要計算B列的和,在excel中是在單元格填充 :  =SUM(B2:B30) 這個是意思就是B列第三行到第31行的求和 在POI裏面也可以這樣計算 /** * E