kafka 【源码篇】KafkaProducer初始化源码流程 Kafka版本3.0,从源码层面对KafkaProducer初始化流程进行分析。 2022-04-22 浏览(313) 评论(0) 阅读全文
Kafka Kafka Producer 异步发送消息居然也会阻塞? KafkaProducer异步发送消息也会发生阻塞现象,那究竟是怎么回事呢?在新版的KafkaProducer中,设计了一个消息缓冲池,客户端发送的消息都会被存储到缓冲池中,同时Producer启动后还会开启一个Sender线程,不断地从缓冲池获取消息。 2022-04-22 浏览(236) 评论(0) 阅读全文
kafka 【源码篇】Kafka内存管理BufferPool 为了实现内存的高效利用,基本上每个成熟的框架或者工具都有一套内存管理机制,kafka的生产者使用BufferPool来实现内存(ByteBuffer)的复用。 2022-03-28 浏览(355) 评论(0) 阅读全文
Kafka 零拷贝技术 零拷贝技术是基于 PageCache 的,PageCache 会缓存最近访问的数据,提升了访问缓存数据的性能,同时,为了解决机械硬盘寻址慢的问题,它还协助 I/O 调度算法实现了 IO 合并与预读,这也是顺序读比随机读性能好的原因。这些优势,进一步提升了零拷贝的性能。 2022-03-21 浏览(260) 评论(0) 阅读全文
Kafka Kafka在Zookeeper存储结构 在Kafka2.8之前,Kafka强依赖zookeeper,2.8版本之后Kafka可以采用KRaft(KafkaRaft)模式,逐步去除对zookeeper的依赖(依然兼容)。 2022-03-18 浏览(356) 评论(0) 阅读全文
Flink Flink消费Kafka指定offset的五种方式 - setStartFromGroupOffsets - setStartFromSpecificOffsets - setStartFromEarliest - setStartFromTimestamp - setStartFromLatest 2021-01-26 浏览(2,417) 评论(0) 阅读全文
Kafka 如何快速全面掌握Kafka?这篇文章总结了 Kafka是目前主流的分布式消息引擎及流处理平台,经常用做企业的消息总线、实时数据管道,本文挑选了Kafka的几个核心话题,帮助大家快速掌握Kafka。 2021-01-26 浏览(451) 评论(0) 阅读全文