告警 5000 条没人看:可观测性体系从碎片化到统一的 6 个架构决策
概述 去年有个朋友跟我吐槽:他们公司上了 Prometheus、ELK、Jaeger 三套工具,运维团队 7 个人,每天光处理告警就耗掉 4 小时。某天凌晨支付服务 P0 故障,从告警触发到定位根因花了 42 分钟——根因是一个数据库连接池配置变更导致慢查询堆积,Jaeger 里有完整的 Trace,但没人看;ELK 里有慢查询日志,但没人搜;Prometheus 里有连接池指标的异常波动,但告警被淹没在 5000 条日常告警里。 问题出在哪?工具都上了,数据都采了,但三套系统各自为战,没有形成"可观测性"。这就像你给一辆车装了速度表、油表、温度计,但三个表盘分别放在后备箱、手套箱和引擎盖下面——仪表都在,但你开不了车。 可观测性(Observability)这个词来自控制理论,核心定义很简单:通过系统的外部输出推断系统内部状态的能力。说白了就是——不用进到系统里面去翻代码,光看数据就能回答"系统现在健不健康?出了问题在哪?为什么出问题?" 这篇文章不讲三支柱是什么(Metrics/Logs/Traces 满大街都有文章讲),讲的是从碎片化监控到统一可观测性体系,你需要做哪些架构决策,以及每个决策的踩坑实录。每一条都是我在生产环境中验证过的,不是 PPT 上的理论。 监控≠可观测性:先搞清楚你在解决什么问题 很多人把监控和可观测性混为一谈。这俩不是一回事。 监控(Monitoring) 回答的是"出了什么问题"——CPU 炸了、内存满了、接口超时了。它是预设的、基于已知故障模式的。你提前定义好"CPU > 80% 就告警",系统照着执行。 可观测性(Observability) 回答的是"为什么出问题"——为什么这个接口突然变慢了?为什么这个 Pod 一直在重启?为什么这个用户的请求失败了?它是探索性的、面向未知故障模式的。你没法提前定义所有可能的故障,但通过 Metrics + Logs + Traces 的关联,你能在出事后快速定位。 举个例子:用户反馈下单失败。 只有监控:你看到订单服务的错误率从 0.1% 跳到 5%。你盯着 Grafana 看了 10 分钟,猜可能是数据库问题,跑去查 DB 日志。发现有个慢查询。但为什么有慢查询?不知道。继续猜。 有可观测性:你看到错误率跳到 5%,点开 Trace 链路,看到请求在库存服务的 DB 查询 Span 耗时 8 秒。点开这个 Span 关联的日志,看到是连接池等待超时。再看 Metrics,发现连接池活跃连接数在 15 分钟前从 5 飙到 50(配置变更后上限改大了,但数据库端 max_connections 没改)。3 分钟定位完毕。 维度 监控 可观测性 核心问题 出了什么问题? 为什么出问题? 数据预设 预定义指标和阈值 探索性分析,支持临时查询 故障模式 已知故障模式 未知故障模式也能排查 数据关联 各系统独立查看 Metrics↔Logs↔Traces 互相关联 典型工具 Zabbix、Nagios Prometheus+Loki+Tempo+Grafana 适用阶段 基础运维阶段 微服务/云原生阶段 别被概念绕晕了。记住一点:监控告诉你"病了",可观测性告诉你"病在哪、为什么病"。如果你的系统是单体应用、部署在 3 台服务器上,监控够了。但如果你的系统是 50 个微服务跑在 K8s 上,没有可观测性,出了故障你就是盲人摸象。...