其他分享
首页 > 其他分享> > |NO.Z.00007|——————————|BigDataEnd|——|Hadoop&kafka.V07|-------------------------------------------|ka

|NO.Z.00007|——————————|BigDataEnd|——|Hadoop&kafka.V07|-------------------------------------------|ka

作者:互联网



[BigDataHadoop:Hadoop&kafka.V07]                                                                          [BigDataHadoop.kafka][|章节一|Hadoop生态圈技术栈|kafka|kafka生产与消费|]








一、Kafka开发实战
### --- [kafka架构与实战]

~~~     [kakfa开发实战_消息发送]
~~~     [kafka开发实战_消息消费] 
### --- 消息的发送与接收

~~~     生产者主要的对象有: KafkaProducer , ProducerRecord 。
~~~     其中KafkaProducer 是用于发送消息的类, ProducerRecord 类用于封装Kafka的消息。
二、KafkaProducer 的创建需要指定的参数和含义:
### --- KafkaProducer 的创建需要指定的参数和含义:

~~~     其他参数可以从org.apache.kafka.clients.producer.ProducerConfig 
~~~     中找到我们后面的内容会介绍到。
~~~     消费者生产消息后,需要broker端的确认,可以同步确认,也可以异步确认。
~~~     同步确认效率低,异步确认效率高,但是需要设置回调对象。
参数说明
bootstrap.servers配置生产者如何与broker建立连接。该参数设置的是初始化参数。
如果生产者需要连接的是Kafka集群,则这里配置集群中几个broker的地址,而不是全部,
当生产者连接上此处指定的broker之后,在通过该连接发现集群中的其他节点。
key.serializer要发送信息的key数据的序列化类。
设置的时候可以写类名,也可以使用该类的Class对象。
value.serilizeracks要发送消息的alue数据的序列化类。
设置的时候可以写类名,也可以使用该类的Class对象。
acks默认值:all。acks=0:
生产者不等待broker对消息的确认,只要将消息放到缓冲区,就认为消息已经发送完成。
该情形不能保证broker是否真的收到了消息,retries配置也不会生效。
发送的消息的返回的消息偏移量永远是-1。
acks=1
表示消息只需要写到主分区即可,然后就响应客户端,而不等待副本分区的确认。
在该情形下,如果主分区收到消息确认之后就宕机了,
而副本分区还没来得及同步该消息,则该消息丢失。
acks=all
首领分区会等待所有的ISR副本分区确认记录。
该处理保证了只要有一个ISR副本分区存活,消息就不会丢失。
这是Kafka最强的可靠性保证,等效于acks=-1
retriesretries重试次数
当消息发送出现错误的时候,系统会重发消息。跟客户端收到错误时重发一样。
如果设置了重试,还想保证消息的有序性,需要设置
MAX_IN_FLIGHT_REQUESTS_PER_CONNECTION=1
否则在重试此失败消息的时候,其他的消息可能发送成功了








===============================END===============================


Walter Savage Landor:strove with none,for none was worth my strife.Nature I loved and, next to Nature, Art:I warm'd both hands before the fire of life.It sinks, and I am ready to depart                                                                                                                                                   ——W.S.Landor



来自为知笔记(Wiz)

标签:发送,V07,分区,broker,kafka,-------------------------------------------,消息,acks
来源: https://www.cnblogs.com/yanqivip/p/16121779.html