Files
go-sms-V2/internal/pkg/queue/lag.go
T

148 lines
4.4 KiB
Go

// lag.go Day 48:Kafka 消费组 lag 读取(背压水位采样源)。
// Σ(topic 各分区 高水位 − 已提交 offset);组未提交过的分区按 0 计
// (新组起步口径,与 Kafka Consumer Group 命令行 lag 一致)。
// Day 56 根治(Day55 挂账清偿):提交 offset 改 OffsetFetchRequest(V1)
// 直连 coordinator——sarama OffsetManager.NextOffset 对 coordinator fetch
// 失败静默返回 -1(与「组从未提交」不可区分,压测期 gauge 冻结假值实证);
// 协议级 Err 字段可鉴别真错误并上抛,gauge 假冻结场景消除。
package queue
import (
"context"
"errors"
"fmt"
"sync"
"time"
"github.com/IBM/sarama"
"go.uber.org/zap"
)
// LagReader lag 采样器(轻量 client+coordinator 直连 offset fetch,只读)。
type LagReader struct {
client sarama.Client
group string
log *zap.Logger
mu sync.Mutex
coord *sarama.Broker // 缓存的 coordinator 连接(失败即弃,下轮重发现)
}
// NewLagReader 构造(brokers/group)。
func NewLagReader(brokers []string, group string, log *zap.Logger) (*LagReader, error) {
cfg := sarama.NewConfig()
cfg.Net.DialTimeout = 3 * time.Second
cfg.Net.ReadTimeout = 3 * time.Second
cfg.Version = sarama.V2_1_0_0 // OffsetFetch V1 需 ≥0.8.2+;2.1 与消费组一致
client, err := sarama.NewClient(brokers, cfg)
if err != nil {
return nil, err
}
if log == nil {
log = zap.NewNop()
}
return &LagReader{client: client, group: group, log: log}, nil
}
// Close 释放连接。
func (r *LagReader) Close() error {
r.mu.Lock()
if r.coord != nil {
_ = r.coord.Close()
r.coord = nil
}
r.mu.Unlock()
return r.client.Close()
}
// coordinator 取组协调者(缓存复用;nil 时发现并连接)。
// 注:client.Coordinator 返回的 broker 由 client 连接池管理(registerBroker
// 已 Open);二次 Open 报 ErrAlreadyConnected 属正常——视为已连接。
func (r *LagReader) coordinator() (*sarama.Broker, error) {
r.mu.Lock()
defer r.mu.Unlock()
if r.coord != nil {
if ok, _ := r.coord.Connected(); ok {
return r.coord, nil
}
_ = r.coord.Close()
r.coord = nil
}
br, err := r.client.Coordinator(r.group)
if err != nil {
return nil, fmt.Errorf("coordinator 发现失败: %w", err)
}
if err := br.Open(r.client.Config()); err != nil && !errors.Is(err, sarama.ErrAlreadyConnected) {
return nil, fmt.Errorf("coordinator 连接失败: %w", err)
}
r.coord = br
return br, nil
}
// dropCoordinator 连接异常时弃置(下轮重新发现)。
func (r *LagReader) dropCoordinator() {
r.mu.Lock()
if r.coord != nil {
_ = r.coord.Close()
r.coord = nil
}
r.mu.Unlock()
}
// Total 全 topic lag 合计(topics 为关心的消费域,如 [sms-submit])。
// 提交 offset 单次 OffsetFetchRequest V1 拉齐全部目标分区;
// 协议错误(coordinator 不可用/鉴权失败等)上抛——调用方保留上次采样值,
// 不再出现「静默 -1 当 0」的假冻结。
func (r *LagReader) Total(ctx context.Context, topics []string) (int64, error) {
if ctx.Err() != nil {
return 0, ctx.Err()
}
if len(topics) == 0 {
return 0, nil
}
req := sarama.NewOffsetFetchRequest(sarama.V2_1_0_0, r.group, nil)
topicParts := make(map[string][]int32, len(topics))
for _, topic := range topics {
pids, err := r.client.Partitions(topic)
if err != nil {
return 0, err // topic 不存在/元数据不可用:真错误上抛
}
topicParts[topic] = pids
for _, pid := range pids {
req.AddPartition(topic, pid) // V1 显式分区列表(-1 全分区属 v8+ KIP-822)
}
}
br, err := r.coordinator()
if err != nil {
return 0, err
}
resp, err := br.FetchOffset(req)
if err != nil {
r.dropCoordinator()
return 0, fmt.Errorf("offset fetch 失败: %w", err)
}
var lag int64
for topic, pids := range topicParts {
for _, pid := range pids {
blk := resp.GetBlock(topic, pid)
if blk == nil {
return 0, fmt.Errorf("offset fetch 响应缺分区 topic=%s pid=%d", topic, pid)
}
if blk.Err != sarama.ErrNoError {
// 协议级错误(coordinator 漂移/鉴权失败/未知)→上抛;
// 「组从未提交」在 V1 语义下=Offset=-1 且 Err=NoError→按 0 计。
return 0, fmt.Errorf("offset fetch 分区错误 topic=%s pid=%d err=%s",
topic, pid, blk.Err.Error())
}
hw, err := r.client.GetOffset(topic, pid, sarama.OffsetNewest)
if err != nil {
return 0, err
}
if co := blk.Offset; hw > co { // 未提交(co=−1)按高水位差累计(新组起步)
lag += hw - co
}
}
}
return lag, nil
}