Spark提交任務的命令

bin/spark-submit --master spark://master.hadoop:7077,slave1.hadoop:7077 --executor-memory 512mb --total-executor-cores 4

--class nuc.sw.test.ScalaWordCount /root/spark-1.0.jar hdfs://master.hadoop:9000/input hdfs://master.hadoop:9000/output

解釋:

bin/spark-submit

--master  指定master的位置如果有多個任務，用逗號分隔。spark://master.hadoop:7077,slave1.hadoop:7077

--executor-memory  指定運行時候的內存 512mb(每個機器上)

--total-executor-cores 指定核數（整個任務總共的核數）

--class  指定main方法的類名    jar包的路徑   輸入路徑  輸出路徑