郑州网站开发douyanet,电子商务网站建设费用,宁波搭建网站,四川省和城乡建设厅网站今天学Flink的关键技术–容错机制#xff0c;用一些通俗的比喻来讲这个复杂的过程。参考自《离线和实时大数据开发实战》
需要先回顾昨天发的Flink关键概念
检查点#xff08;checkpoint#xff09;
Flink容错机制的核心是分布式数据流和状态的快照#xff0c;从而当分布…今天学Flink的关键技术–容错机制用一些通俗的比喻来讲这个复杂的过程。参考自《离线和实时大数据开发实战》
需要先回顾昨天发的Flink关键概念
检查点checkpoint
Flink容错机制的核心是分布式数据流和状态的快照从而当分布式job由于网络、集群或者任何原因失败时可以快速从这些分布式快照(检查点checkpoint)中快速恢复且是轻量级的。
理解思路
Flink容错机制的关键是分组标记栏(barrier)。用河水的例子来简单类比
Storm是一滴一滴地处理数据;SparkStreaming就像水坝一样一批一批地放水上一批放的水处理完了才会放下一批水;Flink的处理方式则更为优雅它在水中定期地插入barrier水仍然继续流所以轻量只是加了些barrier如果源头有多个数据流那么都会同步地增加同样的barrier。
同时在job处理的过程中为了保证iob失败的时候可以从错误中恢复Flink还对barrier 进行对齐(align)操作比如某个operator有多个数据流那么Flink会等到其多个输入流的同样的barrier 都到了(这就是align的含义)才会将对齐那一刻的状态进行保存确保出等的时候可以恢复。当然对齐也是有负面影响的如果某个源头数据延迟很多为了对其可能造成任务延迟对齐是可以根据业务选择关闭的
详细描述
barrier不会干扰正常数据数据流分割成两部分一部分进去当前检查点一部分进入下一检查点。每个barrier带有检查点ID n并且之前的数据都进入了这个检查点检查点中会记录数据的进度信息即偏移量。分布式job中间的operator会接受这些数据流当接收到带有检查点n标识的barrier时会给所有输出流也插入一个标识n的barrier。当sink operatorDAG的终点接收到所有输入流的barrier n时确认检查点n 已完成。所有sink都确认检查点n完成这个检查点才完成。
这个中间的operator如果有多个输入流是需要对齐
对齐操作
接收到某个输入流的barrier n就不能继续处理这个输入流后的数据直到其余流都收到。不然检查点会和下一个混淆先不处理barrier n所属的数据流从这些数据流接收到的数据先放缓冲区当从最后一个流提取到barrier noperator会把等待发送的数据向后传同时发射检查点n所属的barrier。
经过上述步骤operator恢复所有输入流数据的处理并优先处理输入缓存中的数据。
保存点Savepoint
检查点是由Flink自动管理的定期创建发生故障之后自动读取进行恢复这是一个“自动存盘”的功能而保存点不会自动创建必须由用户明确地手动触发保存操作所以就是“手动存盘”。 场景
版本管理和归档存储更新Flink版本更新应用程序调整并行度暂停应用程序
