2860 字
14 分钟
Open WebUI:自建 AI 聊天界面(本地模型与 API 接入)
2026-11-15

先说问题:聊天界面和对话数据,凭什么放在别人家#

现在用 AI 聊天,主流姿势是打开某个厂商的网页或 App:界面是人家的,对话记录存在人家的服务器上,账号一封、服务一停,你的历史会话、上传的文档、调好的提示词全都跟着没了。更别提不少服务有地区和支付门槛,光是「能用上」就得费一番周折。

Open WebUI 解决的正是这一层:它是一个可以自建的 AI 聊天前端,界面长得和主流 AI 聊天产品几乎一样——左侧会话列表、模型切换、文档上传、多模态输入一应俱全——但它跑在你自己的服务器上,后端接什么模型完全由你决定:

  • 想彻底离线,就连同机部署的 Ollama,在本地跑开源模型,一个字都不出内网;
  • 想用云端大模型的能力,就填一个 OpenAI 兼容的 API 地址和密钥,它只当一个纯前端,请求直达你填的接口;
  • 两种可以同时接:本地模型处理日常小问题,云端 API 留给硬活,界面里下拉切换。

本篇是「自建服务实战系列」的扩充篇。动手之前,建议先看 自建服务入门:从一台 VPS 开始的完整规划 把机器、域名和目录规划好,本篇默认你已经有一台装好 Docker 的服务器。

两种形态,先选再装#

Open WebUI 本身不包含模型,它只是「界面 + 用户系统 + 数据层」。模型从哪来,决定了部署形态:

对比项形态一:本地模型形态二:纯前端接 API
模型来源同机 Ollama 跑开源模型外部 OpenAI 兼容 API
资源占用高,吃 CPU/GPU 和内存极低,一个小容器即可
数据流向完全不出内网请求发往你填的 API 服务商
回答质量取决于本地模型大小取决于所接的云端模型
成本电费 + 硬件按 API 用量付费
典型场景隐私敏感、离线可用、随便折腾小服务器、要强模型、多人共用

两种形态不冲突:先按形态二十分钟搭起来用上,之后有闲置显卡再把本地 Ollama 挂上去,界面和账号数据都不用动。下面分别给出两套 Compose。

形态一:同机 Ollama 跑本地模型#

Ollama 是目前最省心的本地模型运行器,一条命令拉模型、一条命令跑服务,还对外提供标准的 HTTP 接口。把 Ollama 和 Open WebUI 放进同一份 Compose、同一个 Docker 网络,两者用服务名直连,最稳妥:

services:
ollama:
image: ollama/ollama:latest
container_name: ollama
restart: unless-stopped
volumes:
- ollama:/root/.ollama
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
restart: unless-stopped
depends_on:
- ollama
ports:
- "3000:8080"
environment:
- OLLAMA_BASE_URL=http://ollama:11434
volumes:
- open-webui:/app/backend/data
volumes:
ollama:
open-webui:
Terminal window
docker compose up -d

启动后先给 Ollama 拉一个模型(以通义千问 7B 量化版为例,中文对话够用、体积约 5 GB):

Terminal window
docker exec -it ollama ollama pull qwen2.5:7b
docker exec -it ollama ollama list

然后浏览器打开 http://服务器IP:3000,注册的第一个账号自动成为管理员。进界面后左上角模型列表里应该已经能看到刚拉的模型,点开就能聊。想换大模型就再 pull 一个更大的,Open WebUI 会自动把 Ollama 里所有已下载模型列出来。

有 NVIDIA 显卡的话,给 ollama 服务加上 GPU 预留,推理速度会有数量级差别:

# 在 ollama 服务下追加
deploy:
resources:
reservations:
devices:
- driver: nvidia
count: 1
capabilities: [gpu]

没有显卡也能跑,只是 7B 模型用 CPU 推理大概每秒几个字,适合当备用和玩具,别指望它干重活。另外提一句:官方还提供 ghcr.io/open-webui/open-webui:ollama 这种把 Ollama 打包进同一个容器的镜像,一条 docker run 就能起全套,适合尝鲜;长期使用还是推荐上面的双容器拆分版,升级和排障都更清楚。

WARNING

Ollama 的 11434 端口默认没有任何鉴权。上面的 Compose 没有把 11434 映射到宿主机,这是故意的——千万不要为了「方便调试」把无鉴权的 Ollama 端口暴露到公网,任何人扫到都能白嫖你的算力,甚至通过接口乱拉模型塞满你的硬盘。需要从别的机器调 Ollama 时,走内网或反向代理加认证。

形态二:只接外部 API 当纯前端#

如果你的服务器只是台 2 核 2G 的小机器,本地跑模型不现实,那就让 Open WebUI 纯当界面:删掉 Ollama,只填 API 地址。任何提供 OpenAI 兼容接口的服务都能接(官方 API、云厂商的模型服务、公司内网的模型网关都行):

services:
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
restart: unless-stopped
ports:
- "3000:8080"
environment:
- OPENAI_API_BASE_URL=https://api.example.com/v1
- OPENAI_API_KEY=sk-xxxxxxxxxxxx
volumes:
- open-webui:/app/backend/data

注意 OPENAI_API_BASE_URL 一般要带上 /v1 后缀,具体以服务商文档为准。想同时接多家做对比或互为备份,用分号分隔写多组:

Terminal window
OPENAI_API_BASE_URLS=https://api-a.example.com/v1;https://api-b.example.com/v1
OPENAI_API_KEYS=sk-aaaa;sk-bbbb

两组值按顺序一一对应。接好后,各家的模型会合并出现在同一个模型列表里,聊天时随手切换——哪个便宜用哪个、哪个挂了切哪个,这是官方网页给不了的自由。

密钥管理上多说一句:不要把带真实密钥的 Compose 文件提交到公开仓库,密钥单独写进同目录的 .env 文件再用 ${VAR} 引用,或者至少把仓库设为私有。密钥一旦泄漏,账单是按分钟涨的。

第一次打开:管理员、多用户与权限#

Open WebUI 的用户体系是它比「单机版聊天工具」更适合自建的原因:

  • 第一个注册的账号自动成为管理员,所以部署完请第一时间自己注册占住这个位置;
  • 之后在管理员面板里可以关闭公开注册(ENABLE_SIGNUP=false 环境变量也能锁死),新用户由管理员手动创建或审批;
  • 新注册用户默认是「待批准」状态,管理员批准后才能登录使用,可以逐个分配可用模型——比如只给家人开本地模型,强模型只留给自己;
  • 每个人有独立的会话历史、上传文档和个人设置,互不可见。

也就是说,你完全可以把它当成一个「全家共用的 AI 入口」:你在后台统一管理模型和密钥,使用者只管打开网页聊天,不用每人去注册一堆账号、绑一堆卡。对话数据全部落在你自己的数据卷里,这正是下一篇要说的重点。

数据自持:你的聊天记录到底存在哪#

Open WebUI 的全部状态都在 open-webui 这个数据卷里,核心是 /app/backend/data/webui.db(SQLite 数据库,存用户、会话、设置)和同目录下的上传文件、向量库数据。把这个卷纳入常规备份,就等于把整个站的历史完整带走,方法见 自建服务备份与迁移实战。

这也是自建前端最实在的意义:模型可以随便换、API 可以随便切,但你的对话、文档和账号体系沉淀在自己手里,不随任何一家服务商的政策变化而消失。哪天某个 API 涨价或停服,你换一行环境变量继续用,历史会话一条不少。

进阶功能速览#

用熟基础聊天之后,这几个内置功能值得打开:

  • 知识库(RAG):把 PDF、Word、文本文件传进知识库,聊天时让模型基于你的文档回答,适合喂产品手册、课程讲义、公司制度;
  • 联网搜索:在设置里接一个搜索引擎后端(比如自建的 SearXNG),模型就能查实时信息再回答;
  • 模型预设与提示词:给常用场景(翻译、润色、代码审查)存好系统提示词模板,一键调用,不用每次粘贴;
  • 语音输入输出:浏览器端语音识别加上 TTS 接口,能当语音助手用。

这些功能都不需要额外装容器,在管理面板里按需开启即可。注意知识库的向量检索会额外吃一些 CPU 和磁盘,文档量大的时候先小批量试。

对外访问:反向代理与 HTTPS#

3000 端口明文 HTTP 只适合内网尝鲜。正式使用请套一层反向代理上 HTTPS,做法和系列里其他服务完全一致,见 Nginx Proxy Manager:所有自建服务的统一入口:新增一条 Proxy Host 指向 open-webui:3000(同 Docker 网络)或 服务器IP:3000,勾选 Websockets Support(Open WebUI 的流式输出和语音功能要用到),再申请一张 Let’s Encrypt 证书即可。

安全上再补两点:一是管理员账号务必用强密码并保存在密码库里;二是如果只在家里用,完全可以用 Access List 或内网访问把暴露面降到零,整体思路见 自建服务安全加固:最小暴露与访问控制。

常见问题与排障#

界面里看不到 Ollama 的模型。 先确认 Ollama 容器在跑:docker compose ps;再进 Open WebUI 容器里测连通性:docker exec -it open-webui curl http://ollama:11434/api/tags,能返回模型 JSON 说明链路没问题,多半是 OLLAMA_BASE_URL 写错。如果你把 Ollama 装在宿主机而不是容器里,要改用 http://host.docker.internal:11434 并给 open-webui 服务加 extra_hosts: ["host.docker.internal:host-gateway"],同时 Ollama 本身默认只监听 127.0.0.1,需要设 OLLAMA_HOST=0.0.0.0 才接受容器来的连接——但记住前面的警告,这种用法只限内网。

接了 API 但模型列表是空的。 依次排查:Base URL 是否少了 /v1;密钥是否有效(在宿主机上 curl https://api.example.com/v1/models -H "Authorization: Bearer 你的密钥" 直接验证);服务商是否限制了调用来源 IP。

回答速度极慢。 本地模型先看有没有用上 GPU:宿主机执行 nvidia-smi 看 ollama 进程在不在;不在就是 GPU 预留没生效或驱动没装好。纯 CPU 跑大模型慢是物理规律,换小一号的模型或量化等级更实际。

升级后页面打不开或报错。 先 docker compose logs -f open-webui 看日志。Open WebUI 更新较频繁,跨大版本升级前建议先备份数据卷再 docker compose pull && docker compose up -d,真出问题把镜像标签改回旧版本号就能回滚。

多个人同时用,本地模型排队严重。 Ollama 默认并发有限,本地模型本质上是单机单卡资源,家庭内部错峰用没问题;要正经多人并发,还是把主力切到云端 API、本地只作备用。

小结#

Open WebUI 是自建服务里投入产出比很高的一类:一个小容器,换来一个界面现代、账号数据完全自持的 AI 聊天入口。部署形态就两条路——有显卡就连 Ollama 在本地跑开源模型,彻底离线;没硬件就只接 OpenAI 兼容 API 当纯前端,轻得任何小服务器都能带。把注册关掉、管理员占好、反向代理和 HTTPS 配上、数据卷纳入备份,它就能长期稳定地当全家人的 AI 总入口,模型爱换哪家换哪家。

Open WebUI:自建 AI 聊天界面(本地模型与 API 接入)
https://www.anexns.cloudns.org/posts/selfhost-open-webui/
作者
Anexns
发布于
2026-11-15
许可协议
CC BY-NC-SA 4.0