1.Java教程：dubbo源码解析-网络通信
2.RocketMQ（一）NameServer
3.生产故障｜Kafka消息发送延迟达到几十秒的心跳p心罪魁祸首竟然是...

Java教程：dubbo源码解析-网络通信

       在之前的内容中，我们探讨了消费者端服务发现与提供者端服务暴露的包源相关内容，同时了解到消费者端通过内置的跳包负载均衡算法获取合适的调用invoker进行远程调用。接下来，心跳p心我们聚焦于远程调用过程，包源即网络通信的跳包atis源码查询细节。

       网络通信位于Remoting模块中，心跳p心支持多种通信协议，包源包括但不限于：dubbo协议、跳包rmi协议、心跳p心hessian协议、包源ty进行网络通讯，跳包NettyClient.doOpen()方法中可以看到Netty的心跳p心相关类。序列化接口包括但不限于：Serialization接口、包源Hessian2Serialization接口、跳包Kryo接口、FST接口等。

       序列化方式如Kryo和FST，性能往往优于hessian2，能够显著提高序列化性能。bigworld 源码这些高效Java序列化方式的引入，可以优化Dubbo的序列化过程。

       在配置Dubbo RPC时，引入Kryo和FST非常简单，只需在RPC的XML配置中添加相应的属性即可。

       关于服务消费方发送请求，Dubbo框架定义了私有的RPC协议，消息头和消息体分别用于存储元信息和具体调用消息。消息头包括魔数、数据包类型、消息体长度等。消息体包含调用消息，如方法名称、参数列表等。请求编码和解码过程涉及编解码器的使用，编码过程包括消息头的写入、序列化数据的存储以及长度的写入。解码过程则涉及消息头的读取、序列化数据的mxnet源码解析以及调用方法名、参数等信息的提取。

       提供方接收请求后，服务调用过程包含请求解码、调用服务以及返回结果。解码过程在NettyHandler中完成，通过ChannelEventRunnable和DecodeHandler进一步处理请求。服务调用完成后，通过Invoker的invoke方法调用服务逻辑。响应数据的编码与请求数据编码过程类似，涉及数据包的构造与发送。

       服务消费方接收调用结果后，首先进行响应数据解码，获得Response对象，并传递给下一个处理器NettyHandler。处理后，响应数据被派发到线程池中，此过程与服务提供方接收请求的过程类似。

       在异步通信场景中，Dubbo在通信层面为异步操作，cdp源码通信线程不会等待结果返回。默认情况下，RPC调用被视为同步操作。Dubbo通过CompletableFuture实现了异步转同步操作，通过设置异步返回结果并使用CompletableFuture的get()方法等待完成。

       对于异步多线程数据一致性问题，Dubbo使用编号将响应对象与Future对象关联，确保每个响应对象被正确传递到相应的Future对象。通过在创建Future时传入Request对象，可以获取调用编号并建立映射关系。线程池中的线程根据Response对象中的调用编号找到对应的Future对象，将响应结果设置到Future对象中，供用户线程获取。

       为了检测Client端与Server端的连通性，Dubbo采用双向心跳机制。HeaderExchangeClient初始化时，开启两个定时任务：发送心跳请求和处理重连与断连。心跳检测定时任务HeartbeatTimerTask确保连接空闲时向对端发送心跳包，而ReconnectTimerTask则负责检测连接状态，djkk 源码当判定为超时后，客户端选择重连，服务端采取断开连接的措施。

RocketMQ（一）NameServer

       NameServer是RocketMQ中的重要组件，它作为服务注册和发现中心，实现了集群中所有节点的对等关系，每个节点独立运行且互不通信。当Broker启动时，会向集群中的所有NameServer节点进行服务注册，确保每个节点都持有Broker的注册信息，便于生产者和消费者获取消息发送和消费的Broker列表。

       在高并发和分布式部署场景下，NameServer避免了Broker之间大规模的信息交换，减少了通信压力。相较于ZooKeeper这类分布式协调组件，RocketMQ选择NameServer更侧重可用性，因为它在一致性与可用性之间更倾向于后者。例如，即使在ZooKeeper不可用时，消费者可能因为无法从NameServer获取信息而无法正常工作，这在高负载情况下可能导致严重问题。相比之下，NameServer通过心跳机制确保数据最终一致性，即便短暂的不一致也能在后续恢复。

       NameServer的工作机制包括定时向所有注册的Broker发送心跳包，以检测其可用性。如果NameServer超过一定时间未收到某个Broker的心跳，会认为其下线并从列表中移除。生产者和消费者也会定期更新从NameServer获取的Broker信息，以保持最新的连接状态。

       关于具体实现，例如Broker的注册、心跳检测以及异常下线处理，可以通过查看如下的源码理解：RocketMQ源码NameServer的启动和RocketMQ源码Broker服务注册。若想深入了解，可以关注个人公众号获取更多信息。

生产故障｜Kafka消息发送延迟达到几十秒的罪魁祸首竟然是...

       在双十一期间，负责的Kafka集群响应时间飙升至至秒，严重影响了消息写入。通过对日志分析，发现存在大面积分区Leader选举问题，特别是__consumer_offsets主题的分区。最终确定了故障根源：Broker节点与Zookeeper会话超时，触发了大量分区重新选举。本文将剖析Zookeeper在Kafka中的关键作用及故障分析过程，提供排查问题的启示。

       Zookeeper在Kafka架构中扮演着至关重要的角色，尤其是在控制器选举、Broker节点故障实时发现等方面。在Zookeeper中，通过创建临时节点+事件监听机制，可以实现实时数据动态感知。本文重点介绍/brokers目录的布局与作用，以及/brokers/ids目录的实现方式。

       Kafka对Zookeeper的依赖性非常大，特别是Kafka控制器和Broker节点的存活状态都依赖于Zookeeper。控制器作为整个Kafka集群的“大脑”，其异常会导致广泛的影响。故障分析将通过具体实例展示这一过程。

       在故障发现阶段，观察到客户端请求未到达Kafka排队队列，以及专门用于处理网络读写的线程池空闲，消息发送响应时间长但服务端线程空闲，情况异常。通过查看服务端日志，发现大量主题（包括__consumer_offsets）进行Leader选举。核心日志显示“start at Leader Epoch”信息，指出分区在进行Leader选举。这种情况下，只有Leader分区能处理读、写请求，而Follower分区仅复制数据。分区进行Leader选举时无法处理客户端写入请求，导致发送端有重试机制，消息发送延迟明显。

       大量主题进行重新选举的触发条件是什么？通过查看当前集群的Controller节点日志，发现分区状态从OnlinePartition变更为OfflinePartition。进一步分析发现，Broker与Zookeeper的会话超时导致临时节点被移除。会话超时会给Kafka集群带来严重影响，特别是当Broker节点被移除时，Kafka控制器会将该节点上分配的所有分区状态变更，触发分区重新选举。此外，当Controller节点被移除时，不仅会导致Controller选举，还会触发Kafka控制器相关事件监听器重新注册、分区状态机和副本状态机的停止与重新启动，各个分区会自动进行leader选举。

       排查Zookeeper会话超时的根源，通过服务端日志观察到“Closed socket connection for client”信息，提示客户端主动关闭连接。进一步分析发现，心跳处理机制是定时向服务端发送心跳包，若在指定时间内未收到或处理心跳包，则会导致会话超时。通过阅读源码，发现客户端会将请求放入队列，由发送线程从队列中获取并发送到服务端。在大量Zookeeper更新操作下，心跳处理可能未能及时进行，导致在会话超时前集群频繁更新Zookeeper，触发客户端心跳超时。

       综上所述，由于Zookeeper会话超时导致大量分区重新选举，最终造成消息发送延迟和消费组大面积重平衡。通过这一故障分析，我们明确了问题的根本原因，并为排查类似问题提供了思路。本文到此结束，期待下期分享更多Kafka相关知识。