原创 浩鯨科技高級工程師面試總結

一面:技術面 1.自我介紹 你好,面試官,我是XXX,於xxxx參加工作,上家公司就職於xxxx,做過xxxx項目,會xxx技術,最擅長xxx,平時生活愛好。。。 2.Spring AOP的原理和用處 原理: SpringAOP是動態代理

原创 Linux搭建sqoop數據遷移工具及簡單的數據遷移測試

1.準備環境及工具 JDK 1.8  已搭建 Hadoop 3.1.1  已搭建 zookeeper 3.5.5  下載 hbase 2.2.0  下載 hive 3.1.1  已搭建 sqoop-1.4.7  下載 ojdbc8(該版本

原创 SpringCloud + JWT + Spring-Security實現Restful API在網關層的權限管理和Token管理

    在移動開發中,接口的訪問經常需要在請求的header中校驗token,看看接口是否有訪問權限,從而保證移動端功能的安全性。而token是需要在用戶登錄成功時獲取的,成功獲取後,每次訪問都需要在url的request.header中

原创 SpringBoot + Kafka模擬系統心跳監測告警功能

      做一個簡單的kafka消息發送訂閱功能,使用心跳機制進行監測,監測系統的線上健康狀態,通過消息隊列給kafka服務端發送健康狀態標識值,在系統內實時監聽消費,並做相應的業務提醒操作。因爲只是介紹kafka的實現原理,心跳監測這

原创 SpringBoot + Redis實現事件的發佈訂閱功能

       消息隊列,消息的發佈訂閱模式貌似是隻有kafka,MQ類中間件才能實現的事情,但是別出新裁的是redis也同樣具有這些功能。但是這些消息並沒有持久化機制,屬於即發即棄模式,也就是說它們不能像MQ中的消息那樣保證持久化消息訂閱

原创 Kafka搭建系統實時監控平臺,到達時間閾值或者數量限制後並實現Redis日批量入庫

代碼: 1.生產者 import org.apache.kafka.clients.producer.Callback; import org.apache.kafka.clients.producer.KafkaProducer; i

原创 記一次生產Dubbo線程池耗盡的問題排查處理

        運維的某一系統,技術架構採用Dubbo + SSM(Spring + SpringMVC + Mybatis)開發,項目拆分成N個大模塊,分佈式部署在N臺服務器上,註冊中心採用zookeeper。該系統在交付使用一段時間後

原创 Python基礎運用實戰----實現簡單的12306自動化搶票功能

一.所謂搶票,本質上就是基於瀏覽器驅動,實現登錄、預定、確認信息的自動化,其操作主要有以下幾步組成 1.登錄     登錄過程中,自動輸入用戶名和密碼比較簡單,難點在於識別驗證碼。截至目前,各種自動識別驗證碼的方案准確率都不高,因此,這裏

原创 Python基礎運用實戰----實現簡單爬蟲,並存儲到Excel

      最近看了幾天的Python語法,就想做個簡單的Demo來鞏固所學的基礎知識。爬蟲是python裏頭比較廣泛而有特點的一個應用面,之前沒學python之前一直在用Java爬,現在試着用python抓取一個簡單的列表頁。     

原创 Windows系統搭建Storm 分佈式實時計算開發環境

1.準備工作 1.1 下載Storm apache-storm-2.0.0下載 1.2 下載安裝 zookeeper 步驟詳看本人博客  Window系統下搭建Zookeeper和Kafka環境 1.3 下載python 2. 安裝Sto

原创 Linux服務器搭建VUE + Nginx部署環境

一.VUE相關環境搭建 1.去Node.js官網選擇合適版本的Node.js,下載安裝 wget https://nodejs.org/dist/v12.18.0/node-v12.18.0-linux-x64.tar.xz 解壓縮至

原创 logstash批量導入Oracle關聯查詢的數據到Elasticsearch索引庫

1.安裝好logstash後,在該文件夾下的bin目錄下新建文件夾conf,新建logstash導入數據啓動文件,和導入數據的配置 新建要導入數據的索引 newIndex jdbc.conf   input { stdin {

原创 SpringBoot集成Hadoop系列二 ---- MapReduce明星微博統計

代碼: package com.hadoop.reduce.model; import org.apache.hadoop.io.WritableComparable; import java.io.DataInput; impor

原创 SpringBoot集成Hadoop系列二 ---- MapReduce詞頻統計

        繼上篇SpringBoot集成Hadoop系列一 ---- 對HDFS的文件操作建的工程,接下來使用MapReduce進行一些數據文件的統計開發.這裏做一個很經典的統計功能,詞頻統計.   代碼: package com

原创 一些開發常用的js語句總結

       在一些原生的jsp開發中,總會使用到一些js的語法。作爲Java工程師,如果是在這種前後端不分離的開發模式下做開發,熟練原生的js語法是必備的工作能力。這裏總結下,在jsp開發中最常用的一些js語句。 1.$(functio