其他分享
首页 > 其他分享> > Flink——容错机制

Flink——容错机制

作者:互联网

状态一致性:

  at-most-once:数据最多处理一次,可能缺失数据。

  at-least-once:数据最少处理一次,可能重复处理。

  exactlly-once:数据正确处理,不重复不缺失。

 

端到端(end-to-end)状态一致性:

  内部保证:checkpoint

  source端:外部源重设数据读取位置

  sink端:幂等写入和事务性写入

    幂等写入:多次写入,只执行一次

    事务性写入:等 checkpoint 完成,才写入数据。有两种实现:预写日志(wal)、两阶段调教(2PC)

 

CheckPonit 检查点(异步分界线快照(asynchronous barrier snapshotting)):

  在算子中插入检查点,将状态以异步的方式写入持久化存储,flink 可以根据该位置重启。

  故障恢复时,将输入流倒回上一个检查点屏障的位置,同时恢复map算子的状态值,flink 开始重新处理。

 

标签:checkpoint,end,Flink,写入,容错,检查点,机制,数据,once
来源: https://www.cnblogs.com/mmql-bjz/p/15266594.html