原创 JVM垃圾回收

一.簡介 最近又複習下jvm相關內容,理解下思想,吸收下前輩經驗,本文jdk 1.7/1.8 二.引用計數法與可達性分析 垃圾回收,便是將已經分配出去的的,但卻不再使用的內存回收回來,以便能夠再次分配。在Java虛擬機的語境下,垃

原创 gitchat文章-Apache Beam 大數據處理一站式分析

隨着大數據 2.0 時代悄然到來,大數據從簡單的批處理擴展到了實時處理、流處理、交互式查詢和機器學習應用。近年來涌現出諸多大數據應用組件,如 HBase、Hive、Kafka、Spark、Flink 等。開發者經常要用到不同的技術、框架、

原创 Beam-鏈路順序

簡介 這個的介紹在我的另一篇博文中(Beam-介紹),在此不在再贅述,最近碰到個有意思的事,聊聊beam的鏈路,簡單來說自己操作的一些函數中間有些轉換組件,註冊在鏈路中,在此截了一張官網的圖片。 這是簡單鏈路大概樣子,各個函數串聯在一起

原创 Beam-介紹

簡介 Beam提供了一套統一的API來處理兩種數據處理模式(批和流),讓我們只需要將注意力專注於在數據處理的算法上,而不用再花時間去對兩種數據處理模式上的差異進行維護。 Beam每6周更新一個小版本。 編程模型 第一層是現有各大數據處理

原创 架構思想--基礎架構

  最近研究一些架構思想,看看李雲華老師的專欄(從0開始學架構),做些筆記有些個人的思考。 一.基礎架構 1.1簡介 架構設計面臨複雜度:高可用,可擴展,低成本,安全,規模。 架構設計主要目的爲了解決軟件系統複雜度帶來的問題。 1.2高性

原创 scala系列--併發01

  最近研究了一些scala併發的知識,總結一下。 一.簡介 即時響應性是一項決定任何應用程序成敗的關鍵因素。有兩種方式來提高即時響應性:1.多線程,並行運行多個任務。2.有策略的計算,惰性運行任務。 二.惰性求值 1.短路控制,scal

原创 Spark報錯系列01

1.java.lang.NoClassDefFoundError: org/apache/spark/Logging Exception in thread "main" java.lang.NoClassDefFoundError: o

原创 hadoop報錯總結02

hadoop報錯總結01:https://blog.csdn.net/qq_19968255/article/details/82803768 1.當腳本在運行時報錯信息如下: Examining task ID: task_201201

原创 算法系列03

  最近養病中,文章發佈的少學些了,整理一套經典算法項目,學習一下。  項目地址:https://github.com/77954309/classical_algorithm

原创 Netty系列--源碼

  近期,花費了一些時間,註解了一些Netty的源碼,從總體到一些細節瞭解一下Netty,學到很多,註解其中一些有代表性的類和方法,後續會持續更新的。 地址:https://github.com/77954309/netty-all-4.

原创 tcp/ip系列--IP協議

上一篇(tcp/ip系列--數據鏈路):https://blog.csdn.net/qq_19968255/article/details/83832035 一.IP即網際協議 TCP/IP的心臟是互聯網層(網絡層),這一層主要由IP和I

原创 算法文檔進行中

  有一些算法文檔,有興趣的可以收藏看看,如果鏈接失效了,私聊吧! 後續還有一些,就不一一顯示了。 下載地址:https://pan.baidu.com/s/1uH7vzXHyHT-IH3ii4TMjuw  

原创 tcp/ip系列--數據鏈路

tcp/ip系列上一篇(tcp/ip基礎知識):https://blog.csdn.net/qq_19968255/article/details/83547041 一.簡介 數據鏈路,指OSI參考模型中的數據鏈路層,有時也指以太網、無線

原创 tcp/ip系列--tcp/ip基礎知識

  最近讀完了《圖解TCP/IP》,做一下總結加深記憶,後續會寫幾篇關於TCP/IP的文章。 一.網絡基礎知識 1.1計算機與網絡發展的7個階段 批處理:指事先將用戶程序和數據裝入卡帶或磁帶,並由計算機按照一定的順序讀取,使用戶所執行這些

原创 rpc系列-ZooKeeper

一.簡介 Zookeeper是一個分佈式協調服務,就是爲用戶的分佈式應用程序提供協調服務。 Zookeeper本身就是一個分佈式程序(只要有半數以上節點存活,zk就能正常服務)。 Zookeeper所提供的服務涵蓋:主從協調、服務器節點動