先说问题:聊天界面和对话数据,凭什么放在别人家
现在用 AI 聊天,主流姿势是打开某个厂商的网页或 App:界面是人家的,对话记录存在人家的服务器上,账号一封、服务一停,你的历史会话、上传的文档、调好的提示词全都跟着没了。更别提不少服务有地区和支付门槛,光是「能用上」就得费一番周折。
Open WebUI 解决的正是这一层:它是一个可以自建的 AI 聊天前端,界面长得和主流 AI 聊天产品几乎一样——左侧会话列表、模型切换、文档上传、多模态输入一应俱全——但它跑在你自己的服务器上,后端接什么模型完全由你决定:
- 想彻底离线,就连同机部署的 Ollama,在本地跑开源模型,一个字都不出内网;
- 想用云端大模型的能力,就填一个 OpenAI 兼容的 API 地址和密钥,它只当一个纯前端,请求直达你填的接口;
- 两种可以同时接:本地模型处理日常小问题,云端 API 留给硬活,界面里下拉切换。
本篇是「自建服务实战系列」的扩充篇。动手之前,建议先看 自建服务入门:从一台 VPS 开始的完整规划 把机器、域名和目录规划好,本篇默认你已经有一台装好 Docker 的服务器。
两种形态,先选再装
Open WebUI 本身不包含模型,它只是「界面 + 用户系统 + 数据层」。模型从哪来,决定了部署形态:
| 对比项 | 形态一:本地模型 | 形态二:纯前端接 API |
|---|---|---|
| 模型来源 | 同机 Ollama 跑开源模型 | 外部 OpenAI 兼容 API |
| 资源占用 | 高,吃 CPU/GPU 和内存 | 极低,一个小容器即可 |
| 数据流向 | 完全不出内网 | 请求发往你填的 API 服务商 |
| 回答质量 | 取决于本地模型大小 | 取决于所接的云端模型 |
| 成本 | 电费 + 硬件 | 按 API 用量付费 |
| 典型场景 | 隐私敏感、离线可用、随便折腾 | 小服务器、要强模型、多人共用 |
两种形态不冲突:先按形态二十分钟搭起来用上,之后有闲置显卡再把本地 Ollama 挂上去,界面和账号数据都不用动。下面分别给出两套 Compose。
形态一:同机 Ollama 跑本地模型
Ollama 是目前最省心的本地模型运行器,一条命令拉模型、一条命令跑服务,还对外提供标准的 HTTP 接口。把 Ollama 和 Open WebUI 放进同一份 Compose、同一个 Docker 网络,两者用服务名直连,最稳妥:
services: ollama: image: ollama/ollama:latest container_name: ollama restart: unless-stopped volumes: - ollama:/root/.ollama
open-webui: image: ghcr.io/open-webui/open-webui:main container_name: open-webui restart: unless-stopped depends_on: - ollama ports: - "3000:8080" environment: - OLLAMA_BASE_URL=http://ollama:11434 volumes: - open-webui:/app/backend/data
volumes: ollama: open-webui:docker compose up -d启动后先给 Ollama 拉一个模型(以通义千问 7B 量化版为例,中文对话够用、体积约 5 GB):
docker exec -it ollama ollama pull qwen2.5:7bdocker exec -it ollama ollama list然后浏览器打开 http://服务器IP:3000,注册的第一个账号自动成为管理员。进界面后左上角模型列表里应该已经能看到刚拉的模型,点开就能聊。想换大模型就再 pull 一个更大的,Open WebUI 会自动把 Ollama 里所有已下载模型列出来。
有 NVIDIA 显卡的话,给 ollama 服务加上 GPU 预留,推理速度会有数量级差别:
# 在 ollama 服务下追加 deploy: resources: reservations: devices: - driver: nvidia count: 1 capabilities: [gpu]没有显卡也能跑,只是 7B 模型用 CPU 推理大概每秒几个字,适合当备用和玩具,别指望它干重活。另外提一句:官方还提供 ghcr.io/open-webui/open-webui:ollama 这种把 Ollama 打包进同一个容器的镜像,一条 docker run 就能起全套,适合尝鲜;长期使用还是推荐上面的双容器拆分版,升级和排障都更清楚。
WARNINGOllama 的 11434 端口默认没有任何鉴权。上面的 Compose 没有把 11434 映射到宿主机,这是故意的——千万不要为了「方便调试」把无鉴权的 Ollama 端口暴露到公网,任何人扫到都能白嫖你的算力,甚至通过接口乱拉模型塞满你的硬盘。需要从别的机器调 Ollama 时,走内网或反向代理加认证。
形态二:只接外部 API 当纯前端
如果你的服务器只是台 2 核 2G 的小机器,本地跑模型不现实,那就让 Open WebUI 纯当界面:删掉 Ollama,只填 API 地址。任何提供 OpenAI 兼容接口的服务都能接(官方 API、云厂商的模型服务、公司内网的模型网关都行):
services: open-webui: image: ghcr.io/open-webui/open-webui:main container_name: open-webui restart: unless-stopped ports: - "3000:8080" environment: - OPENAI_API_BASE_URL=https://api.example.com/v1 - OPENAI_API_KEY=sk-xxxxxxxxxxxx volumes: - open-webui:/app/backend/data注意 OPENAI_API_BASE_URL 一般要带上 /v1 后缀,具体以服务商文档为准。想同时接多家做对比或互为备份,用分号分隔写多组:
OPENAI_API_BASE_URLS=https://api-a.example.com/v1;https://api-b.example.com/v1OPENAI_API_KEYS=sk-aaaa;sk-bbbb两组值按顺序一一对应。接好后,各家的模型会合并出现在同一个模型列表里,聊天时随手切换——哪个便宜用哪个、哪个挂了切哪个,这是官方网页给不了的自由。
密钥管理上多说一句:不要把带真实密钥的 Compose 文件提交到公开仓库,密钥单独写进同目录的 .env 文件再用 ${VAR} 引用,或者至少把仓库设为私有。密钥一旦泄漏,账单是按分钟涨的。
第一次打开:管理员、多用户与权限
Open WebUI 的用户体系是它比「单机版聊天工具」更适合自建的原因:
- 第一个注册的账号自动成为管理员,所以部署完请第一时间自己注册占住这个位置;
- 之后在管理员面板里可以关闭公开注册(
ENABLE_SIGNUP=false环境变量也能锁死),新用户由管理员手动创建或审批; - 新注册用户默认是「待批准」状态,管理员批准后才能登录使用,可以逐个分配可用模型——比如只给家人开本地模型,强模型只留给自己;
- 每个人有独立的会话历史、上传文档和个人设置,互不可见。
也就是说,你完全可以把它当成一个「全家共用的 AI 入口」:你在后台统一管理模型和密钥,使用者只管打开网页聊天,不用每人去注册一堆账号、绑一堆卡。对话数据全部落在你自己的数据卷里,这正是下一篇要说的重点。
数据自持:你的聊天记录到底存在哪
Open WebUI 的全部状态都在 open-webui 这个数据卷里,核心是 /app/backend/data/webui.db(SQLite 数据库,存用户、会话、设置)和同目录下的上传文件、向量库数据。把这个卷纳入常规备份,就等于把整个站的历史完整带走,方法见 自建服务备份与迁移实战。
这也是自建前端最实在的意义:模型可以随便换、API 可以随便切,但你的对话、文档和账号体系沉淀在自己手里,不随任何一家服务商的政策变化而消失。哪天某个 API 涨价或停服,你换一行环境变量继续用,历史会话一条不少。
进阶功能速览
用熟基础聊天之后,这几个内置功能值得打开:
- 知识库(RAG):把 PDF、Word、文本文件传进知识库,聊天时让模型基于你的文档回答,适合喂产品手册、课程讲义、公司制度;
- 联网搜索:在设置里接一个搜索引擎后端(比如自建的 SearXNG),模型就能查实时信息再回答;
- 模型预设与提示词:给常用场景(翻译、润色、代码审查)存好系统提示词模板,一键调用,不用每次粘贴;
- 语音输入输出:浏览器端语音识别加上 TTS 接口,能当语音助手用。
这些功能都不需要额外装容器,在管理面板里按需开启即可。注意知识库的向量检索会额外吃一些 CPU 和磁盘,文档量大的时候先小批量试。
对外访问:反向代理与 HTTPS
3000 端口明文 HTTP 只适合内网尝鲜。正式使用请套一层反向代理上 HTTPS,做法和系列里其他服务完全一致,见 Nginx Proxy Manager:所有自建服务的统一入口:新增一条 Proxy Host 指向 open-webui:3000(同 Docker 网络)或 服务器IP:3000,勾选 Websockets Support(Open WebUI 的流式输出和语音功能要用到),再申请一张 Let’s Encrypt 证书即可。
安全上再补两点:一是管理员账号务必用强密码并保存在密码库里;二是如果只在家里用,完全可以用 Access List 或内网访问把暴露面降到零,整体思路见 自建服务安全加固:最小暴露与访问控制。
常见问题与排障
界面里看不到 Ollama 的模型。 先确认 Ollama 容器在跑:docker compose ps;再进 Open WebUI 容器里测连通性:docker exec -it open-webui curl http://ollama:11434/api/tags,能返回模型 JSON 说明链路没问题,多半是 OLLAMA_BASE_URL 写错。如果你把 Ollama 装在宿主机而不是容器里,要改用 http://host.docker.internal:11434 并给 open-webui 服务加 extra_hosts: ["host.docker.internal:host-gateway"],同时 Ollama 本身默认只监听 127.0.0.1,需要设 OLLAMA_HOST=0.0.0.0 才接受容器来的连接——但记住前面的警告,这种用法只限内网。
接了 API 但模型列表是空的。 依次排查:Base URL 是否少了 /v1;密钥是否有效(在宿主机上 curl https://api.example.com/v1/models -H "Authorization: Bearer 你的密钥" 直接验证);服务商是否限制了调用来源 IP。
回答速度极慢。 本地模型先看有没有用上 GPU:宿主机执行 nvidia-smi 看 ollama 进程在不在;不在就是 GPU 预留没生效或驱动没装好。纯 CPU 跑大模型慢是物理规律,换小一号的模型或量化等级更实际。
升级后页面打不开或报错。 先 docker compose logs -f open-webui 看日志。Open WebUI 更新较频繁,跨大版本升级前建议先备份数据卷再 docker compose pull && docker compose up -d,真出问题把镜像标签改回旧版本号就能回滚。
多个人同时用,本地模型排队严重。 Ollama 默认并发有限,本地模型本质上是单机单卡资源,家庭内部错峰用没问题;要正经多人并发,还是把主力切到云端 API、本地只作备用。
小结
Open WebUI 是自建服务里投入产出比很高的一类:一个小容器,换来一个界面现代、账号数据完全自持的 AI 聊天入口。部署形态就两条路——有显卡就连 Ollama 在本地跑开源模型,彻底离线;没硬件就只接 OpenAI 兼容 API 当纯前端,轻得任何小服务器都能带。把注册关掉、管理员占好、反向代理和 HTTPS 配上、数据卷纳入备份,它就能长期稳定地当全家人的 AI 总入口,模型爱换哪家换哪家。