原创 關於spark-submit報錯java.lang.NoClassDefFoundError: scala/runtime/LambdaDeserialize

解決方案寫在前面:將 Scala 的版本改成 2.11.8,環境是 Spark 2.1.0 。 當使用 spark-submit 提交 Scala App 時,代碼僅僅做了一個filter或者map操作。然後報了一長串的錯。 1

原创 CentOS7 下安裝 Python3.6.1

假設你的CentOS上啥都沒裝,我們該怎麼裝 Python3.6.1 呢? wget https://www.python.org/ftp/python/3.6.1/Python-3.6.1.tgz 看到這個也許你就關掉頁

原创 etcd 源碼閱讀環境搭建

最近一個項目用了 etcd,想研讀一下 etcd 源碼。既然是源碼閱讀,第一步就是搭建源碼閱讀環境,好像網上沒有類似的文章;官網也沒有提供文檔。在下不算特別熟悉 go 語言,有一年沒認真寫 go 了,所以倒騰了很久。總算還是倒騰

原创 Etcd 的最大連接數問題 (grpc 的最大連接數問題)

最近有個項目要用 etcd ,同時會有很多服務來連 etcd ,但是沒搞清楚 etcd 的最大連接數是多少,總是心裏虛,雖然可以壓測。 首先試了一下,測試機器上可以創建多少個連接,大概 879 個左右。但是爲什麼是 879

原创 CentOS 7下安裝MySQL

首先下載rpm,比如mysql57-community-release-el7-9.noarch.rpm wget http://dev.mysql.com/get/mysql57-community-release-el7-8.

原创 nginx: [error] invalid PID number "" in "/run/nginx.pid"

再重啓雲主機(系統)之後,執行 nginx -t 是OK的,然而在執行 nginx -s reload 的時候報錯 nginx: [error] invalid PID number "" in "/run/nginx.pid" 經過查找

原创 關於一些面試題的記錄

本月因爲離職在家了,做着一個全棧開發的外包,沒啥技術突破好記錄的。正巧最近在一個全棧羣裏有一些有趣的面試題。這邊作爲一些記錄,也算是保住“月更博主”的稱號。 問題1:如何用 git 命令查看某個文件某一行最後是誰改的? 看到

原创 使用 etcd 的分佈式鎖進行選主的嘗試

最近做項目在使用 etcd, 由於項目裏很多定時任務,在實現高可用的時候需要進行選主,即只執行一次定時任務。之前的項目用的是 zookeeper 進行選主。大概思路是搶一個key,沒搶到的就不執行了,搶到的就執行,類似於 red

原创 Spark 源碼閱讀學習(一)

寫本文的目標就是立下 flag :好好研讀 Spark 源碼,從 branch-0.7 這個分支開始。 如何通過閱讀源碼提高自己 大家都說要多讀優秀開源框架的源碼,那麼怎麼讀呢?像 Apache Spark 在 GitHub 上有兩

原创 MacBook 如何將 Touch Bar 上的默認按鍵移出(比如 Siri )

解決方案寫在前面:系統偏好設置 -> 鍵盤 -> 自定功能欄,然後就可以將鼠標光標移到 Touch Bar 上,然後就可以將一些默認的按鍵移出了。 問題描述: 平常用 MacBook 在按 delete 鍵時總是容易誤觸到 Siri

原创 補充:compile: version "" does not match go tool version ""

CSDN上已經有btqszl的blog記錄這個問題,StackOverflow也有相應的解釋:https://stackoverflow.com/questions/46693653/compile-version-go1-9-does

原创 Linux Shell 命令自動補全(各方資料彙總補全版)

在下所在的公司定義了一種路徑,配合自定義的 loader 命令;遂命令在下完成自定義路徑的自動補全需求。 關於Linux Shell命令自動補全已有的一些優秀 blog 沒有開花的樹的《詳解Linux Shell命令自動補全》 這

原创 關於 Goroutine 的一些使用細節

我一向認爲一篇 blog 需要使用給出使用場景,纔有借鑑意義,所以本文會先給出使用場景,然後給出解決方案。本文只是記錄,並不代表本人的創新。 在使用 Go 語言的 go 關鍵字的時候,總是有一種錯覺:goroutine 沒有執行。下面給一

原创 Docker 學習筆記(一):Docker 基本命令 和 用 Dockerfile build 一個 JDK 鏡像

本文檔爲學習筆記,部分內容將持續更新。 注:本人信仰用最簡單的方式去做一些事,怎麼簡單怎麼來,也許不求甚解。 Docker 基本命令 docker version 獲取 docker 版本號 docker images 獲取所

原创 Kafka 獲取N條消息

解決方案寫在前面:./kafka-console-consumer.sh –topic xxxxxx –bootstrap-server localhost:9092 –max-messages 10 –from-beginning