凌晨三点 Pod 集体被 OOM Kill:从 working_set 盲区到内存预警体系的 5 个生产决策
概述 凌晨三点,告警群炸了。 5 个 Pod 在 10 分钟内陆续 OOMKilled 重启。值班同学打开 Grafana 看内存曲线,事发前所有 Pod 的 working_set 离 limit 还有 200MB,使用率 80%。监控显示一切正常,Pod 照样死了。 这不是个例。在某新能源物流平台做 K8s 迁移时,这类"监控绿着 Pod 就死了"的事故我处理过不下 10 次。根因每次都一样:运维团队只盯了一个指标,而且盯的那个指标会骗人。 容器内存不是单一数值。cAdvisor 暴露了四个维度的内存指标,大部分团队只用 container_memory_working_set_bytes 做告警基线。问题在于,当 page cache 已经很小时,working_set 显示 80% 可能意味着实际只剩 5% 的可分配额度——你看到的 20% 余量根本不存在。 本文拆解容器内存监控的四层指标迷雾,给出 5 个生产级预警决策,包含完整的 PromQL recording rules、告警规则和 Grafana 查询。这套配置在某新能源物流平台 120+ 微服务集群上跑了 6 个月,OOM 预警准确率从 60% 提升到 95%,误报率从 40% 降到 5%(相关文章:告警策略设计:从噪声到信号)。 容器内存的四层指标迷雾 cAdvisor 暴露了什么 cAdvisor(Container Advisor)是 K8s 节点上 kubelet 内置的容器监控组件,通过 /metrics 端点暴露 Prometheus 格式的指标。在内存维度,它暴露了四个关键指标,每个都对应不同的 cgroup 底层字段:...