凌晨三点,监控报警把你叫醒:某个容器进程没了,服务返回 502。你登上服务器看日志,应用日志干干净净,最后一行还是正常处理请求的记录,进程像是凭空蒸发。再看 dmesg,一行 Out of memory: Killed process 躺在那里——容器把内存吃穿,被内核的 OOM Killer 直接处决了。
更糟的剧本是第二个:容器没被杀,宿主机先死了。内存被一个容器慢慢吃光,内核在全机范围内回收、换页,SSH 都连不进去,所有容器一起陪葬。这两种惨案的根源是同一个:容器没设资源限制。这一篇就把内存、CPU、进程数、文件句柄这四类限制的每个参数讲清楚,再给出在 Compose 里落地的方法和定标的思路。
关于安全边界(比如容器逃逸、权限收敛)不在本篇范围,那是 Docker 安全与资源限制 那篇的主题;本篇只谈性能配比:每个参数是什么意思、设多少合适、设错了会发生什么。
资源不设限的三种死法
很多人对 Docker 有个误解:以为容器天然就是隔离的、有限的。其实恰恰相反,默认情况下,一个容器可以使用宿主机的全部内存和全部 CPU,和裸跑的进程没有区别。资源隔离是你要主动打开的功能,不设就是没有。不设限的容器通常有三种死法:
第一种:容器被 OOM Kill。 容器内存用量超过宿主机可用内存,内核 OOM Killer 挑选牺牲品——它按内存占用和 oom_score 挑,往往挑中的就是最能吃的那个,也就是肇事者本人。进程被 SIGKILL,没有优雅退出,没有日志收尾,数据写一半就断。表面看是”应用崩了”,实际是被内核杀了。
第二种:宿主机被拖死。 如果容器里的程序不是猛吃内存,而是缓慢泄漏、或者疯狂触发换页(swap 抖动),内核会把大量时间花在内存回收上,整机负载飙升,所有容器和宿主机进程一起变卡。这种死法最难查:每个容器看起来都”没超限”,但机器就是不行了。
第三种:CPU 被一个容器吃干。 某个容器里跑了个死循环或者编译任务,把多核 CPU 全部占满,其他容器的请求开始排队、超时。没有 CPU 限制时,Linux 的 CFS 调度器只按进程数大致公平分配,一个容器里开几十个线程,就能在争抢中占尽便宜。
这三种死法对应三类限制:内存限制防前两种,CPU 限制防第三种。再加上进程数和文件句柄两类”防滥用”限制,就是本篇的全部内容。
内存四参数辨析
内存相关的参数有四个,名字长得像,作用完全不同,先用一张表对齐:
| 参数 | 含义 | 类型 | 说明 |
|---|---|---|---|
--memory | 容器可用内存的硬上限 | 硬限制 | 超过后容器内进程被 OOM Kill;最小值 6m |
--memory-swap | 内存 + 交换空间(swap)的总和上限 | 硬限制 | 需先设 --memory 才有意义;设为 -1 表示 swap 不限量 |
--memory-reservation | 内存软限制 | 软限制 | 宿主机内存吃紧时,超过此值的容器优先被回收内存;平时可以超 |
--memory-swappiness | 容器内存被换出到 swap 的倾向 | 调优参数 | 取值 0–100,越小越倾向于留在内存里;仅 cgroup v1 或特定条件下生效 |
硬上限:—memory 与 —memory-swap
--memory 是最常用的一个,它决定了容器最多能用多少物理内存:
docker run -d --name app \ --memory 512m \ --memory-swap 512m \ myapp:latest这里有个最容易踩的坑:--memory-swap 限制的不是 swap 本身的大小,而是内存加 swap 的总和。上面把两个都设成 512m,意思是总和不超过 512m,也就是完全不允许用 swap。如果只设 --memory 512m 而不设 --memory-swap,Docker 的默认行为是容器最多能用 512m 内存再加 512m swap,总和是内存限制的两倍——很多人的容器”设了限制还是把机器拖慢”,就是因为多出来的这部分 swap 在疯狂换页。
几个典型组合:
# 组合一:内存 512m,最多再借 256m swap(总和 768m)docker run -d --memory 512m --memory-swap 768m myapp:latest
# 组合二:内存 1g,禁止使用 swap(总和等于内存)docker run -d --memory 1g --memory-swap 1g myapp:latest
# 组合三:内存 1g,swap 不限量(-1,谨慎使用)docker run -d --memory 1g --memory-swap -1 myapp:latest容器内存打满之后的命运是确定的:内核在容器对应的 cgroup 范围内触发 OOM,杀掉容器里的进程(通常是内存占用最高的那个)。这听起来残忍,但这正是我们想要的——宁可让肇事容器单独死,也不要让它拖着整台宿主机一起死。容器死了,重启策略会把它拉起来,监控会报警,影响范围就这一个服务。
软限制:—memory-reservation
--memory-reservation 是软限制:平时容器可以用超过这个值的内存,但当宿主机内存开始吃紧、内核需要回收时,超过 reservation 的部分会被优先回收(先换出、再挤压)。它适合用来表达”这个服务平时给它留这么多,闲时可以多用,忙时先让它让路”:
docker run -d --name cache \ --memory 2g \ --memory-reservation 512m \ redis:latest注意 reservation 必须小于 --memory 才有意义。另外它在 cgroup v2 下对应的是 memory.low 语义(尽力保护之外的部分优先回收),行为细节和 v1 略有差别,排障一节会再提到。
换页倾向:—memory-swappiness
--memory-swappiness 控制这个容器的内存被换出到 swap 的积极程度,取值 0 到 100,数值越小越倾向于把数据留在内存里、优先回收文件缓存。这个参数只建议在明确知道自己在干什么时调整,一般保持默认即可。它还有个历史包袱:在 cgroup v2 环境下该参数基本不起作用(v2 移除了 per-cgroup 的 swappiness 控制),所以不要指望靠它解决所有版本的换页问题。
一条红线:—oom-kill-disable
Docker 还有个参数叫 --oom-kill-disable,作用是禁止内核 OOM Kill 容器里的进程。听起来像”保命符”,实际是把单点故障升级成整机故障的开关。
WARNING慎用
--oom-kill-disable:容器内存打满又不允许杀进程时,内核只能反复回收、换页直至彻底卡死,容器不死、宿主机先死,其他所有容器跟着陪葬。它只在极特殊场景下才考虑——比如容器内进程自己实现了严格的内存管理、且配合--memory-swap等参数做了完整兜底。99% 的场景下,正确答案是让容器被杀、被重启策略拉起、被监控报警,而不是关掉 OOM Kill。
CPU 三种控制方式
CPU 的控制思路和内存不同:内存是”用到顶就杀”,CPU 是”按规则分时间片”。Docker 提供三种方式,对应三种管理粒度:
| 方式 | 参数 | 适用场景 |
|---|---|---|
| 总量上限 | --cpus | 最常用:直接说”最多用几个核”,可写小数 |
| 相对权重 | --cpu-shares | 多个容器争抢时按权重比例分配,默认 1024 |
| 周期配额 | --cpu-period / --cpu-quota | CFS 底层参数,老式精细控制,现多被 --cpus 换算替代 |
| 绑核 | --cpuset-cpus | 把容器钉在指定核心上,低延迟场景用 |
总量上限:—cpus
--cpus 是日常首选,它就是 --cpu-period 与 --cpu-quota 的语法糖:--cpus 1.5 等价于在 100ms 的周期里给 150ms 的配额。可以写小数,含义直观:
# 最多用满 2 个核docker run -d --name worker --cpus 2 myapp:latest
# 最多用半个核,适合后台小任务docker run -d --name agent --cpus 0.5 myapp:latest注意 --cpus 是上限不是预留:容器闲的时候不占用,忙的时候最多用到这个数。它不会”保证”容器一定能分到这么多——如果宿主机本身超卖严重,实际可用算力还是要靠抢。
相对权重:—cpu-shares
--cpu-shares 是相对权重,默认值 1024。它只在 CPU 发生争抢时才起作用:两个容器 shares 分别是 1024 和 512,争抢时按 2:1 分配 CPU 时间。宿主机 CPU 空闲时,设了 shares 的容器照样可以用满所有核心——这是它最反直觉的地方,排障一节还会回来讲。
# 核心服务权重拉高,批处理任务权重压低docker run -d --name api --cpu-shares 2048 myapi:latestdocker run -d --name batch --cpu-shares 256 mybatch:latestshares 是无量纲的相对值,只有同机容器之间的比值有意义,单独看一个数字说明不了任何事。
绑核:—cpuset-cpus
--cpuset-cpus 把容器限定在指定的 CPU 核心上运行:
# 只允许在 0、1 号核心上运行docker run -d --name rt --cpuset-cpus "0,1" myapp:latest绑核的收益是缓存亲和性和延迟稳定性,代价是灵活性——核心被占满时容器不会溢出到空闲核心上去。一般业务用不上,它属于对延迟极其敏感的场景(实时音视频处理、高频交易类服务)才会考虑的手段,通常还会配合 --cpus 一起限制总量。
进程数与文件句柄:pids 和 ulimit
这两类限制平时存在感低,但缺了它们,某些事故会非常难看。
--pids-limit 限制容器内能创建的最大进程(线程)数,防的是 fork 炸弹:一旦某个程序失控疯狂 fork,进程数瞬间打满,宿主机的 PID 空间和内存会被迅速耗尽,docker stop 都可能执行不了。
# 最多 200 个进程/线程,绝大多数单体服务绰绰有余docker run -d --name app --pids-limit 200 myapp:latest注意 Java、Go 这类运行时默认会开不少线程,设之前先用 docker stats 或 ps 看一眼实际峰值,别把正常服务卡死。一般 Web 服务设 200–500 是个安全的起点;设为 -1 表示不限制,也就是默认行为。
--ulimit 调整容器内进程的资源上限,最常用的是文件句柄数 nofile。高并发服务(网关、WebSocket 长连接、文件服务)默认的 1024 句柄很容易撞墙,表现是莫名其妙的 too many open files 报错:
docker run -d --name gateway \ --ulimit nofile=65535:65535 \ --ulimit nproc=4096:4096 \ mygateway:latestnofile 的值写成 软限制:硬限制 两个数,简单起见可以设成一样。也可以在 /etc/docker/daemon.json 里用 default-ulimits 给所有容器统一兜底,免得逐个容器写。
cgroup v2 的现状
上面所有限制最终都落在 Linux 的 cgroup 上。cgroup 有 v1 和 v2 两个版本,查看当前环境用哪版:
docker info | grep -i "cgroup"# 输出类似: Cgroup Driver: systemd# Cgroup Version: 2Docker 从 20.10 起支持 cgroup v2,前提是宿主机本身启用了 v2(统一层级)且配合 systemd 的 cgroup 驱动。现在主流发行版的新版本(Debian 12、Ubuntu 22.04 以后等)默认就是 v2。对使用者的影响主要是两点:一是少数 v1 的参数在 v2 下语义变化或失效(前面提到的 --memory-swappiness 就是例子);二是查看容器实际用量时,文件路径从 v1 的多个子目录变成了 v2 的统一目录。
查看某个容器实时的资源用量,最顺手的还是 docker stats:
docker stats --no-stream# CONTAINER ID NAME CPU % MEM USAGE / LIMIT MEM % ...# a1b2c3d4e5f6 app 45.20% 380MiB / 512MiB 74.22% ...想看 cgroup 层面的原始计数(比如 OOM 次数),可以进 /sys/fs/cgroup 下对应容器的目录:
# cgroup v2 下查看容器的内存事件(oom_kill 计数在这里)cat /sys/fs/cgroup/system.slice/docker-<容器ID>.scope/memory.events另外 docker inspect 能把容器的限制配置完整打出来,排查”限制到底生效没有”时先看它:
docker inspect app --format '{{json .HostConfig}}' | python3 -m json.tool | grep -i -E "memory|cpu|pids"在 Compose 里落地
生产环境基本都是 Compose 管理,资源限制写在 deploy.resources 下。需要先说清一个历史包袱:deploy 段原本是 Swarm 的语法,但在现在的 Docker Compose(v2)里,resources 部分的 limits 和 reservations 在普通的 docker compose up 下同样生效,不需要 Swarm 模式。下面是一个完整的落地示例:
services: api: image: myapi:latest restart: unless-stopped deploy: resources: limits: cpus: "2.0" memory: 1G pids: 300 reservations: cpus: "0.5" memory: 256M ulimits: nofile: soft: 65535 hard: 65535
worker: image: myworker:latest restart: unless-stopped mem_swappiness: 30 deploy: resources: limits: cpus: "1.0" memory: 512M几个细节:limits.memory 对应 --memory;如果想同时控制 swap 总量,Compose 里用顶层的 memswap_limit 字段(对应 --memory-swap)。reservations.memory 对应 --memory-reservation。mem_swappiness 是 Compose 的扩展字段。改完配置后 docker compose up -d 会按新限制重建容器,验证还是用 docker inspect 看 HostConfig 是否和文件里写的一致。
顺带提一句重启策略:上面示例用了 unless-stopped,它和 always 的区别是手动停掉的容器在宿主机重启后不会被自动拉起,而 always 会。这一处点到为止,重启策略与容器生命周期管理的完整话题不在本篇展开。
观察与定标:limit 不是拍脑袋填的
参数都懂了,最难的问题反而是:数字填多少?填错的两个方向都有代价——填小了容器天天被 OOM Kill,填大了等于没设限,宿主机超卖。所以定标要靠观察,不要靠猜。
推荐的做法是分两步。第一步,先不设硬限制(或设一个明显宽松的值),让服务正常跑起来,用 docker stats 持续观察。手动看一眼只能抓到瞬时值,正经做法是把指标接进监控系统长期记录,用 Prometheus 监控 Docker 那篇讲过完整的采集方案,至少攒一周的数据,覆盖工作日高峰和夜间低谷。
第二步,按观察到的峰值定标:
- 内存 limit:取一周峰值的 1.2–1.5 倍。留的余量是给突发流量和内存碎片的,超过这个倍数就说明你的服务内存波动本身不正常,该去查程序而不是放大限制。
- 内存 reservation:取日常均值略高一点即可,它决定的是”内存紧张时谁先被回收”,按常态占用定。
- CPU limit:按业务能接受的延迟反推。高峰时段 CPU 长期顶在 limit 上,说明不是限制的问题,是容量的问题,该加副本或升配置。
这里有个反直觉的结论要说清:limit 不是越大越安全。把每个容器的内存 limit 都设成宿主机总量,看起来谁都不会被杀,实际上等于把 OOM 的决策权还给了内核的全局挑选——真出事时,被杀的可能不是肇事者,而是隔壁无辜的大内存服务。限制的本质是提前决定好”谁先死”,把这个决定权握在自己手里,而不是留给内核临场发挥。
另外,调完限制后要回看一眼监控:被限流(CPU throttling)和 OOM 次数都是应该长期盯着的指标。cgroup v2 下 CPU 限流次数在容器的 cpu.stat 里(nr_throttled 字段),这个数持续增长说明 CPU limit 卡得太紧,服务在被”掐脖子”,要么放宽,要么扩容。
排障小节
设了 —cpu-shares,感觉完全没生效
先别怀疑参数写错了,大概率是预期错了:--cpu-shares 只在 CPU 争抢时才分配权重,宿主机 CPU 没跑满时,所有容器都能用满空闲算力,权重再低也不会被限速。验证方法:把宿主机 CPU 人为压满(比如同时跑几个压测容器),再看各容器的实际 CPU 占用比例是否接近 shares 的比值。如果你想要的是”无论如何最多用 X 个核”,该用的是 --cpus,不是 shares。
容器频繁 OOM:limit 太小还是程序内存泄漏?
这是最常见的灵魂拷问。区分方法看曲线形状:把容器的内存用量按时间画出来(监控系统里看一周曲线),如果是锯齿形——涨上去、被杀、重启、再涨上去,且每次涨满的周期差不多——那基本是泄漏或无节制的缓存增长,放大 limit 只是把被杀的周期拉长,不解决问题。如果是台阶形——某次发版或流量上涨后稳定地贴在 limit 附近,偶尔尖峰被杀——那是 limit 定小了,按定标方法重新观察峰值后上调。同时结合 memory.events 里的 oom_kill 计数确认确实是内存杀,不要把应用自己崩溃误判成 OOM。
同一套参数,在 cgroup v1 和 v2 的机器上行为不一样
确实会不一样,这是已知差异而不是你的错觉。典型例子:--memory-swappiness 在 v2 下不起作用;--memory-reservation 在 v1 对应 memory.soft_limit_in_bytes、v2 对应 memory.low,回收语义有细微差别;查看用量的路径也不同(v1 分散在各子系统的目录,v2 是统一目录)。排查跨机器不一致问题时,第一步永远是 docker info 确认两边的 Cgroup Version 和驱动是否一致,再谈参数。长期方案是把舰队内的宿主机发行版和 Docker 版本尽量统一,混版本运行迟早要在这种细节上交学费。
改了 Compose 的资源配置,容器却没变化
docker compose up -d 对未变更的服务不会重建,而资源限制属于需要重建才生效的配置。如果确认文件改对了却没生效,先 docker inspect 看 HostConfig 里的实际值,再试 docker compose up -d --force-recreate <服务名> 强制重建一次。另外注意一个坑:如果你用的是老版本 Compose 或某些第三方编排工具,deploy.resources 可能被直接忽略,这时要退回到在 docker run 参数或 Compose 的 mem_limit、cpus 等顶层兼容字段上写限制。
小结
容器资源调优的全部要领,可以收成三句话。第一,默认无限制等于把宿主机的命运交给运气,内存和 CPU 的硬上限是每个生产容器的必修课。第二,参数分清硬软:内存看 --memory 与 --memory-swap 的总和关系,CPU 用 --cpus 定总量、--cpu-shares 只管争抢时的比例,--pids-limit 和 --ulimit 补上防滥用的短板。第三,数字靠观察不靠猜:先跑一周拿到峰值曲线,再按倍数定标,并把 OOM 次数和 CPU 限流纳入长期监控——限制不是设完就结束的,它和 Compose 进阶用法 里的编排配置一样,是需要随业务增长反复回看的东西。