Flink基础06-Flink的容错机制

目录
一致性检查点(checkpoint)
从检查点恢复状态
Flink检查点算法
保存点(save points)

一致性检查点(checkpoint)
在这里插入图片描述
(1) flink故障恢复机制的核心,就是应用状态的一致性检查点
(2) 有状态流应用的一直检查点,其实就是所有任务的状态,在某个时间点的一份拷贝(一份快照);这个时间点,应该是所有任务都恰好处理完一个相同的输入数据的时候
从检查点恢复状态
在这里插入图片描述
(1)在执行流应用期间,Flink会定期保存状态的一致检查点
(2)如果发生故障,Flink将会使用最近的检查点来一致恢复应用程序的状态,并且重新启动处理流程
在这里插入图片描述
遇到故障之后,第一步就是重启应用
在这里插入图片描述
第二步是从checkpoint中读取状态,将状态重置
从检查点重新启动应用程序后,其内部状态与检查点完成时的状态完全相同
在这里插入图片描述
第三步:开始消费并处理检查点到发生故障之间的所有数据
这种检查点的保存和恢复机制可以为应用程序状态提供“精确一次”的一致性,因为所有算子都会保存检查点并恢复其所有状态,这样所有的输入流都会被重置到检查点完成时的位置
检查点的实现算法
简单的想法:暂停应用,保存状态到检查点,再重新恢复应用
Flink的改进实现:
——基于Chandy-Lamport算法的分布式快照
——将检查点的保存和数据处理分离开,不暂停整个应用
Flink检查点算法
检查点分界线(Checkpoint Barrier)
(1)Flink的检查点算法用到了一种称为分界线的特殊数据形式,用来把一条流上数据按照不同的检查点分开
(2)分界线之前到来的数据导致的状态更改,都会被包含在当前分界线所属的检查点中;而基于分界线之后的数据导致的所有更改,就会被包含在之后的检查点中
在这里插入图片描述

现在是一个有两个输入流的应用程序,用并行的两个Source任务来读取
在这里插入图片描述
JobManager会向每个source任务发送一条带有新检查点ID的消息,通过这种方式来启动检查点
在这里插入图片描述
数据源将他们的状态写入检查点,并发出一个检查点barrier
数据源将他们的状态写入检查点之后,会返回通知给source任务,source任务就会向JobManager确认检查点完成
在这里插入图片描述

分界线对齐:barrier向下游传递,sum任务会等待所有输入分区的barrier到达
对于barrier已经到达的分区,继续到达的数据会被缓存
而barrier尚未到达的分区,数据会被正常处理
在这里插入图片描述

当收到所有输入分区的barrier时,任务就将其状态保存到状态后端的检查点中,然后将barrier继续向下游转发
在这里插入图片描述
向下游转发检查点barrier后,任务继续正常的数据处理
在这里插入图片描述
Sink任务向JobManager确认状态保存到checkpoint完毕
当所有任务都确认已成功将状态保存到检查点时,检查点就真正完成了
保存点(save points)
(1)Flink还提供了可以自定义的镜像保存功能,就是保存点(savepoints)
(2)原则上,创建保存点使用的算法与检查点完全相同,因此保存点可以认为就是具有一些额外元数据的检查点
(3)Flink不会自动创建保存点,因此用户必须明确地触发创建操作
(4)保存点是一个强大的功能。除了故障恢复外,保存点可以用于:有计划的手动备份,更新应用程序,版本迁移,暂停和重启应用,等等

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章