记一次Kafka Producer TimeoutException排查

基本需求

程序读取HDFS上的日志发送至Kafka集群 由于日志量较大 每小时约7亿条+ 采用多线程 多producer实例发送 TPS 可达到120W+

修改前Producer配置

val props = new Properties() props.put("bootstrap.servers", Config.kafka_server) props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer") props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer") props.put("acks", "1") props.put("retries", "3")

send（）采用异步发送的方式 并传入自己的Callback函数（用于处理异常逻辑）程序运行一段时间后经过callback函数统计发现会有不少消息出现TimeoutException并且这些消息并不会重试。以为是retries参数设置未生效，于是去查阅资料等，最后没有找到还是原因。

Expiring 190 record(s) for feedback-0: 60261 ms has passed since last append

最后不得不从源码入手 发现错误信息是从这里产生的

boolean maybeExpire(int requestTimeoutMs, long retryBackoffMs, long now, long lingerMs, boolean isFull) { if (!this.inRetry() && isFull && requestTimeoutMs < (now - this.lastAppendTime)) expiryErrorMessage = (now - this.lastAppendTime) + " ms has passed since last append"; else if (!this.inRetry() && requestTimeoutMs < (createdTimeMs(now) - lingerMs)) expiryErrorMessage = (createdTimeMs(now) - lingerMs) + " ms has passed since batch creation plus linger time"; else if (this.inRetry() && requestTimeoutMs < (waitedTimeMs(now) - retryBackoffMs)) expiryErrorMessage = (waitedTimeMs(now) - retryBackoffMs) + " ms has passed since last attempt plus backoff time"; boolean expired = expiryErrorMessage != null; if (expired) abortRecordAppends(); return expired; }

后找到这个方法的调用 发现是由于kafka把这些消息标记为expired（过期） 当每一批消息满了（batch.size）且 requestTimeoutMs < (now - this.lastAppendTime)) 这一批消息就会被标记为过期且不会放到RecordAccumulator中（不会再次重试发送）

解决方法

调大batch.size 参数和request.timeout.ms 参数

修改后Producer配置

val props = new Properties() props.put("bootstrap.servers", Config.feedback_log_kafka_server) props.put("key.serializer", "org.apache.kafka.common.serialization.StringSerializer") props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer") props.put("retries", "3") props.put("request.timeout.ms", "120000") props.put("acks", "1") props.put("batch.size", "32768")