原创 APACHE BEAM2.0.0版本如何支持SPARK2.0.2

APACHE BEAM2.0.0支持的是SPARK1.6版本,如果要支持SPARK2.0.2版本需要做部分改造 改造內容一: 廢棄原有的Accumulator接口,實現 AccumulatorV2 需要實現 public class Na

原创 SPARKSQL讀SPARK表

SPARK2.0.2版本 1. 讀取SPARK表 創建sparkSession,執行SQL,每行記錄輸出Object[],再對每行記錄做轉換,增加時間戳 public RDD<WindowedValue<Object[]>> getSou