ES 无效数据日报 — 2026-09-06(CST)

统计范围:2026-09-06 00:00 ~ 24:00 CST(UTC 2026-09-05T16:00:00Z ~ 2026-09-06T16:00:00Z)
治理基线:2026-08-20(youdu hook 刷屏已 drop;clickhouse-server 堆栈已重启修复)
数据来源:ES 只读查询,total 均启用 track_total_hits
口径说明(与 08-27 以来各期日报同口径):youdu_next_log 索引按保留策略仅存当日 CST 08–24 时 16h 观测窗口;system-log 跨 .05/.06 双索引取完整 24h。无效碎片 match_phrase 子句打在 text 字段 syslog_message 上、regexp 打 .keyword。昨日为周日,youdu 总量受周末低峰影响。

1. 总览

索引昨日总量口径治理后正常基线判定
youdu_next_log-2026.09.063,021,59616h 观测窗口(周日)~800 万/天✅ 正常(折算全天 ~453 万,远低于 1200 万阈值)
system-log-2026.09.05/09.0612,573,710完整 24h~700 万/天🟡 黄色预警(>1000 万,连续第 14 天;clickhouse-server 连续 11 天零值,红色项保持闭环)

环比(vs 20260903 日报,中间 09-04/09-05 未出报):

索引09-03(周四)09-06(周日)变化
youdu_next_log7,120,076(16h)3,021,596(16h)-57.6%(周末低峰,业务日志量正常回落)
system-log12,949,727(24h)12,573,710(24h)-2.9%(高位平台内继续回落,无新增刷屏源)

2. 告警项

✅ 红色告警(保持闭环):clickhouse-server 堆栈刷屏 — 0 条(阈值 >100)

✅ youdu hook 刷屏红线通过

🟡 黄色预警:system-log 日总量 1257.4 万(>1000 万阈值,连续第 14 天)

3. 无效数据分类计数

youdu_next_log-2026.09.06(CST 08–24 时窗口,总量 3,021,596)

类别数量占比环比 09-03
hook 刷屏(can't rename log file)000 → 持平 ✅
parsefail_kitex11,5360.38%11,573 → 持平
parsefail_nsq5,7600.19%5,760 → 持平
err_unparsed3,8900.13%4,701 → -17.2%
parsefail_grpc(附加)2820.01%4,202 → -93%(上期观察项已明显回落)
log_type_unmatched10~08 → 噪音级
gin-access 缺 gin_status005 → 归零 ✅
goapp_dissectfail / caddy_parsefail / ylog_parsefail / _grokparsefailure00持平 ✅

system-log-2026.09.05/09.06(完整 24h,总量 12,573,710)

类别数量占比环比 09-03
clickhouse-server 堆栈000 → 持平 ✅
无效碎片总量("from /" 真实口径)287,7582.3%309,077 → -6.9%
三子句组合口径(参考,含 [0] 误匹配失真)1,653,59813.2%1,680,622 → -1.6%,不作趋势比较
_grokparsefailure38,3200.30%38,323 → 持平(低位稳定)

碎片来源 Top5(三子句口径机器分布,与真实口径来源一致):

#机器程序(Top)数量(三子句口径)环比 09-03
1LAN_addcn_45dockerd(594,853)/ kubelet(5,500)600,652583,479 → +2.9%
2LAN_addcn_82haproxy[124397](270,057)/ rpc.mountd[96046](23,040)320,839340,272 → -5.7%
3LAN_addcn_22kubelet[1594525](201,956)207,472213,788 → -3.0%
4LAN_addcn_26automount[1146](57,556)/ filebeat(2,220)61,94261,905 → 持平
5LAN_addcn_137kubelet(49,906)/ kernel(5,678)60,51576,562 → -21.0%

4. 小时分布与尖峰

5. 当日结论

两索引红色项全部通过:hook 刷屏 0 条(连续 18 天零回归)、clickhouse-server 0 条(连续 11 天零值,闭环稳固)。youdu 周日 16h 观测 302.2 万、折算全天约 453 万,环比 -57.6% 属周末正常低峰;各类 parsefail 低位持平,上期观察项 parsefail_grpc 由 4,202 回落至 282(-93%),可移出观察。system-log 完整 24h 1257.4 万,仍处 >1000 万的黄色高位平台(连续第 14 天),但环比再降 2.9%、小时曲线平稳无尖峰、真实无效碎片环比 -6.9%。整体判定:正常——无需应急处置;若要压降黄色平台,落地项仍是把 LAN_addcn_45 的 dockerd 日志从 debug 调到 info(预计日减 ~59 万条,约 4.7%)。