spark本地運行模式

Spark設置setMaster=local,不提交集羣,在本地啓用多線程模擬運行

object SparkUtil {
  
  private val logger = Logger.getLogger(getClass.getName, true)
  
  def getSparkContext(appName:String, local:Boolean=false, threadNum:Int=4):SparkContext = {
    
      val conf = new SparkConf().setAppName(appName)
      if(local)
        conf.setMaster(s"""local[$threadNum]""")
      val sc = new SparkContext(conf)
      return sc
  }
}

SparkUtil.getSparkContext("testApp",true)  // 本地啓4個線程模擬運行


本地模式運行可以測試主要的程序邏輯,並不能一定在集羣中正確運行.




發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章