1. 首页
  2. 物联网开发
  3. 系统设计
  4. 监控告警调优:把无效告警降下来的四步

监控告警调优:把无效告警降下来的四步

  • 发布于 2026-10-30
  • 0 次阅读

告警系统上线第一个月往往最热闹,第二个月开始值班的人就学会了无视,第三个月出真故障时反而没人接。原因不是人的问题,是无效告警太多:一次机房断电能刷出上百条,每条都响,等于没人被吵醒。调优的目标很朴素,把告警量压到一个值班日有效告警不超过 10 条。

下面按分级、聚合、阈值校准、责任绑定四步给出参数,顺序不能颠倒,先分级定范围,再聚合减量,然后校准准头,最后绑责任人。

一、分级:先定什么值得吵醒人

按影响面与可恢复性分四级:全场不可用或存在数据丢失风险为 P1,5 分钟确认、30 分钟未恢复自动升级;核心功能受损但有绕行为 P2,30 分钟确认;单点异常不影响开馆为 P3,工作时间处理;信息类统计为 P4,进日报。只有 P1 允许电话与短信叫人,P2 只进即时通讯,P3 与 P4 进日报。这条定完,夜间被打扰的次数立刻掉下来。

二、聚合:把一百条变成三条

  • 同设备同指标 5 分钟窗口内合并为一条,保留首末时间与最大值;
  • 依赖抑制:核心交换机离线时,挂在它下面的端口、无线接入点、摄像头告警折叠成一条受影响清单,不逐条发;
  • 重复静默:同一对象未恢复前 2 小时内不重复推送,恢复时补一条恢复通知;
  • 验收口径:一次机房断电演练的告警量,聚合前后对比,应从上百条降到 3 条以内。

三、阈值校准:用历史数据说话

静态阈值只适合电压、温度、磁盘这类波动小的指标。请求量、并发连接、心率带读数有明显潮汐,要用动态基线:取过去 14 天同一时刻的均值加减 3 倍标准差。每月做一次规则回放,拿上月真实数据跑当前规则,统计误报与漏报,误报率超过两成的规则必须调整。分时段设基线,凌晨的低流量不要报成异常。目标口径两条:单个值班日有效告警不超过 10 条,无效告警占比低于 10%,连续两周超标就动阈值。

四、责任绑定:没主的告警直接下线

每类告警绑定唯一责任人与备份人,值班表与告警路由同源,换班即换路由。没有处置手册的告警不允许上线,收到一条不知道该干嘛的通知只会消耗信任。每周一次 30 分钟复盘:上周条数、有效率、平均确认时长、排名前三的来源,超时未处理的逐条说明。连续一个月零触发的告警和无主告警,季度清理时直接下线。

五、给运维团队的三条建议

  1. 四周做完四步:第一周分级、第二周聚合、第三周校准、第四周绑责任人,每步留前后对比数据;
  2. 把有效告警占比与平均确认时长做成月度指标上墙,有数才有人管;
  3. 新增告警走评审,级别人与手册链接齐全才允许启用,入口管住,后面不用天天清理。