spark-submit java.lang.OutOfMemoryError: Java heap space

原因:默認情況下每個節點分配的執行內存爲1G

解決辦法:

方法一:val conf = new SparkConf().setAppName("appname").set("spark.executor.memory","6g")

方法二:修改spark-env.sh

添加:export SPARK_EXECUTOR_MEMORY=8G

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章