Flink——容错机制
作者:互联网
状态一致性:
at-most-once:数据最多处理一次,可能缺失数据。
at-least-once:数据最少处理一次,可能重复处理。
exactlly-once:数据正确处理,不重复不缺失。
端到端(end-to-end)状态一致性:
内部保证:checkpoint
source端:外部源重设数据读取位置
sink端:幂等写入和事务性写入
幂等写入:多次写入,只执行一次
事务性写入:等 checkpoint 完成,才写入数据。有两种实现:预写日志(wal)、两阶段调教(2PC)
CheckPonit 检查点(异步分界线快照(asynchronous barrier snapshotting)):
在算子中插入检查点,将状态以异步的方式写入持久化存储,flink 可以根据该位置重启。
故障恢复时,将输入流倒回上一个检查点屏障的位置,同时恢复map算子的状态值,flink 开始重新处理。
标签:checkpoint,end,Flink,写入,容错,检查点,机制,数据,once 来源: https://www.cnblogs.com/mmql-bjz/p/15266594.html