首页 > 其他分享> > |NO.Z.00007|——————————|BigDataEnd|——|Hadoop&kafka.V07|-------------------------------------------|ka
|NO.Z.00007|——————————|BigDataEnd|——|Hadoop&kafka.V07|-------------------------------------------|ka
作者:互联网
[BigDataHadoop:Hadoop&kafka.V07] [BigDataHadoop.kafka][|章节一|Hadoop生态圈技术栈|kafka|kafka生产与消费|]
一、Kafka开发实战
### --- [kafka架构与实战]
~~~ [kakfa开发实战_消息发送]
~~~ [kafka开发实战_消息消费]
### --- 消息的发送与接收
~~~ 生产者主要的对象有: KafkaProducer , ProducerRecord 。
~~~ 其中KafkaProducer 是用于发送消息的类, ProducerRecord 类用于封装Kafka的消息。
二、KafkaProducer 的创建需要指定的参数和含义:### --- KafkaProducer 的创建需要指定的参数和含义:
~~~ 其他参数可以从org.apache.kafka.clients.producer.ProducerConfig
~~~ 中找到我们后面的内容会介绍到。
~~~ 消费者生产消息后,需要broker端的确认,可以同步确认,也可以异步确认。
~~~ 同步确认效率低,异步确认效率高,但是需要设置回调对象。
参数 | 说明 |
bootstrap.servers | 配置生产者如何与broker建立连接。该参数设置的是初始化参数。 如果生产者需要连接的是Kafka集群,则这里配置集群中几个broker的地址,而不是全部, 当生产者连接上此处指定的broker之后,在通过该连接发现集群中的其他节点。 |
key.serializer | 要发送信息的key数据的序列化类。 设置的时候可以写类名,也可以使用该类的Class对象。 |
value.serilizeracks | 要发送消息的alue数据的序列化类。 设置的时候可以写类名,也可以使用该类的Class对象。 |
acks | 默认值:all。acks=0: 生产者不等待broker对消息的确认,只要将消息放到缓冲区,就认为消息已经发送完成。 该情形不能保证broker是否真的收到了消息,retries配置也不会生效。 发送的消息的返回的消息偏移量永远是-1。 acks=1 表示消息只需要写到主分区即可,然后就响应客户端,而不等待副本分区的确认。 在该情形下,如果主分区收到消息确认之后就宕机了, 而副本分区还没来得及同步该消息,则该消息丢失。 acks=all 首领分区会等待所有的ISR副本分区确认记录。 该处理保证了只要有一个ISR副本分区存活,消息就不会丢失。 这是Kafka最强的可靠性保证,等效于acks=-1 |
retries | retries重试次数 当消息发送出现错误的时候,系统会重发消息。跟客户端收到错误时重发一样。 如果设置了重试,还想保证消息的有序性,需要设置 MAX_IN_FLIGHT_REQUESTS_PER_CONNECTION=1 否则在重试此失败消息的时候,其他的消息可能发送成功了 |
===============================END===============================
Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart ——W.S.Landor
来自为知笔记(Wiz)
标签:发送,V07,分区,broker,kafka,-------------------------------------------,消息,acks 来源: https://www.cnblogs.com/yanqivip/p/16121779.html