自托管系统实践 · 3/10

Ollama 与 Open WebUI 的区别:自托管 AI 栈中的不同角色

Ollama 负责运行模型并提供 API,Open WebUI 负责用户界面和应用体验。了解什么时候只需要其中一个,什么时候需要同时部署。

2 阅读

Ollama 是模型运行时

Ollama 管理模型下载、本地运行和程序调用 API,其资源需求主要由实际用于推理的模型决定。

Open WebUI 是应用层

Open WebUI 提供浏览器对话、用户管理和应用数据,并连接 Ollama 或其他兼容后端,而不是替代模型运行时。

常见部署方式

两个服务部署在同一主机:适合个人体验,但模型负载与应用流量会共享资源。
应用主机与推理主机分开:便于隔离安全边界,并独立扩展不同组件。
Open WebUI 连接托管模型 API:无需本地模型硬件,但需要评估服务费用和数据政策。

安全边界

保持 Ollama 原始 API 仅内部访问。通过 HTTPS 对外提供 Open WebUI,并控制注册、使用固定密钥和持久化存储。

先按照 Ollama Linux 教程 安装运行时,再通过 Open WebUI Docker 教程 添加界面。