【Flink 基础】-- TaskManager、Solt和 Parallelism 说明及设置

一、概念理解

  • solt:把 slot 看做 cpu 的核一个slot一可以并行跑很多作业
  • 并发度:一个算子有多少个运行实例
  • 关系: slot数 = 最大并发度、一个slot一可以同时运行不同算子的一个实例

参考:点击

二、参数设置说明

举例

  1. 计算 TaskManager 数量: 50/4 = 13 , 13个TM一共可以提供13*4=52 个 slot。最大并发是50,只占了 50 slot,还剩下52-50=2 空闲,所以建议设置 算子并行度 为 52,避免浪费
  2. 设置 TaskManager 内存: 2G/4=500MB 左右,可适当调大些,具体要看监控,避免 OOM
  3. 设置 Solt 的数量: 不能超过单台设备 cpu 的 core 数量,一般设置 2。
  4. 设置 JobManager 内存: 主要是管理 TaskManger ,所以 TaskManager 不多的情况下,只需要 1GB 内存就行
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章