数据库
首页 > 数据库> > 真服了!从kafka取出数据存到redis中

真服了!从kafka取出数据存到redis中

作者:互联网

# **NO1:说说zookeeper是什么?** ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现(Chubby是不开源的),它是集群的管理者,监视着集群中各个节点的状态根据节点提交的反馈进行下一步合理操作。最终,将简单易用的接口和性能高效、功能稳定的系统提供给用户 。 Zookeeper一个最常用的使用场景就是用于担任服务生产者和服务消费者的注册中心,服务生产者将自己提供的服务注册到Zookeeper中心,服务的消费者在进行服务调用的时候先到Zookeeper中查找服务,获取到服务生产者的详细信息之后,再去调用服务生产者的内容与数据,简单示例图如下: ![Zookeeper面试常见的11个连环炮](http://www.icode9.com/i/li/?n=2&i=images/20210706/1625570736993722.jpg) # **NO2:了解Zookeeper的系统架构吗?** ![](http://www.icode9.com/i/li/?n=2&i=images/20210706/1625570736149488.jpg) ZooKeeper 的架构图中我们需要了解和掌握的主要有: (1)ZooKeeper分为服务器端(Server) 和客户端(Client),客户端可以连接到整个 ZooKeeper服务的任意服务器上(除非 leaderServes 参数被显式设置, leader 不允许接受客户端连接)。 (2)客户端使用并维护一个 TCP 连接,通过这个连接发送请求、接受响应、获取观察的事件以及发送信息。如果这个 TCP 连接中断,客户端将自动尝试连接到另外的 ZooKeeper服务器。客户端第一次连接到 ZooKeeper服务时,可以接受这个连接的 ZooKeeper服务器会为这个客户端建立一个会话。当这个客户端连接到另外的服务器时,这个会话会被新的服务器重新建立。 (3)上图中每一个Server代表一个安装Zookeeper服务的机器,即是整个提供Zookeeper服务的集群(或者是由伪集群组成); (4)组成ZooKeeper服务的服务器必须彼此了解。它们维护一个内存中的状态图像,以及持久存储中的事务日志和快照, 只要大多数服务器可用,ZooKeeper服务就可用; (5)ZooKeeper 启动时,将从实例中选举一个 leader,Leader 负责处理数据更新等操作,一个更新操作成功的标志是当且仅当大多数Server在内存中成功修改数据。每个Server 在内存中存储了一份数据。 (6)Zookeeper是可以集群复制的,集群间通过Zab协议(Zookeeper Atomic Broadcast)来保持数据的一致性; (7)Zab协议包含两个阶段:leader election阶段和Atomic Brodcast阶段。 * a) 集群中将选举出一个leader,其他的机器则称为follower,所有的写操作都被传送给leader,并通过brodcast将所有的更新告诉给follower。 * b) 当leader崩溃或者leader失去大多数的follower时,需要重新选举出一个新的leader,让所有的服务器都恢复到一个正确的状态。 * c) 当leader被选举出来,且大多数服务器完成了 和leader的状态同步后,leadder election 的过程就结束了,就将会进入到Atomic brodcast的过程。 * d) Atomic Brodcast同步leader和follower之间的信息,保证leader和follower具有形同的系统状态。 # **NO3:能说说Zookeeper的工作原理?** Zookeeper的核心是原子广播,这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议。 Zab协议有两种模式,它们 分别是恢复模式(选主)和广播模式(同步)。 Zab协议 的全称是 Zookeeper Atomic Broadcast** (Zookeeper原子广播)。Zookeeper 是通过 Zab 协议来保证分布式事务的最终一致性。Zab协议要求每个 Leader 都要经历三个阶段:发现,同步,广播。 当服务启动或者在领导者崩溃后,Zab就进入了恢复模式,当领导者被选举出来,且大多数Server完成了和 leader的状态同步以后,恢复模式就结束了。状态同步保证了leader和Server具有相同的系统状态。 为了保证事务的顺序一致性,zookeeper采用了递增的事务id号(zxid)来标识事务。所有的提议(proposal)都在被提出的时候加 上了zxid。实现中zxid是一个64位的数字,它高32位是epoch用来标识leader关系是否改变,每次一个leader被选出来,它都会有一 个新的epoch,标识当前属于那个leader的统治时期。第32位用于递增计数。 epoch:可以理解为皇帝的年号,当新的皇帝leader产生后,将有一个新的epoch年号。 每个Server在工作过程中有三种状态: * LOOKING:当前Server不知道leader是谁,正在搜寻。 * LEADING:当前Server即为选举出来的leader。 * FOLLOWING:leader已经选举出来,当前Server与之同步。 # **NO4:Zookeeper为什么要这么设计?** ZooKeeper设计的目的是提供高性能、高可用、顺序一致性的分布式协调服务、保证数据最终一致性。 高性能(简单的数据模型) 1. 采用树形结构组织数据节点; 2. 全量数据节点,都存储在内存中; 3. Follower 和 Observer 直接处理非事务请求; 高可用(构建集群) 1. 半数以上机器存活,服务就能正常运行 2. 自动进行 Leader 选举 顺序一致性(事务操作的顺序) 1. 每个事务请求,都会转发给 Leader 处理 2. 每个事务,会分配全局唯一的递增id(zxid,64位:epoch + 自增 id) 最终一致性 1. 通过提议投票方式,保证事务提交的可靠性 2. 提议投票方式,只能保证 Client 收到事务提交成功后,半数以上节点能够看到最新数据 # **NO5:你知道Zookeeper中有哪些角色?** 系统模型: ![](http://www.icode9.com/i/li/?n=2&i=images/20210706/1625570736445388.jpg) 领导者(leader) Leader服务器为客户端提供读服务和写服务。负责进行投票的发起和决议,更新系统状态。 学习者(learner) * 跟随者(follower) Follower服务器为客户端提供读服务,参与Leader选举过程,参与写操作“过半写成功”策略。 * 观察者(observer) Observer服务器为客户端提供读服务,不参与Leader选举过程,不参与写操作“过半写成功”策略。用于在不影响写性能的前提下提升集群的读性能。 客户端(client):服务请求发起方。 # **NO6:你熟悉Zookeeper节点ZNode和相关属性吗?** 节点有哪些类型? Znode两种类型: 持久的(persistent):客户端和服务器端断开连接后,创建的节点不删除(默认)。 短暂的(ephemeral):客户端和服务器端断开连接后,创建的节点自己删除。 Znode有四种形式: * 持久化目录节点(PERSISTENT):客户端与Zookeeper断开连接后,该节点依旧存在持久化顺序编号目录节点(PERSISTENT_SEQUENTIAL) * 客户端与Zookeeper断开连接后,该节点依旧存在,只是Zookeeper给该节点名称进行顺序编号:临时目录节点(EPHEMERAL) * 客户端与Zookeeper断开连接后,该节点被删除:临时顺序编号目录节点(EPHEMERAL_SEQUENTIAL) * 客户端与Zookeeper断开连接后,该节点被删除,只是Zookeeper给该节点名称进行顺序编号 **「注意」**:创建ZNode时设置顺序标识,ZNode名称后会附加一个值,顺序号是一个单调递增的计数器,由父节点维护。 # 最后 每年转战互联网行业的人很多,说白了也是冲着高薪去的,不管你是即将步入这个行业还是想转行,学习是必不可少的。作为一个Java开发,学习成了日常生活的一部分,不学习你就会被这个行业淘汰,这也是这个行业残酷的现实。 如果你对Java感兴趣,想要转行改变自己,那就要趁着机遇行动起来。或许,这份**限量版的Java零基础宝典**能够对你有所帮助。 领取这份**Java零基础宝典**,**[只需要点击这里即可免费下载](https://docs.qq.com/doc/DSmxTbFJ1cmN1R2dB)** ![](http://www.icode9.com/i/li/?n=2&i=images/20210706/1625570737969441.jpg) ![](http://www.icode9.com/i/li/?n=2&i=images/20210706/1625570737817615.jpg)

标签:ZooKeeper,Zookeeper,redis,kafka,真服了,节点,Server,leader,客户端
来源: https://blog.51cto.com/u_15292611/2994186