返回全部指南
AI Agent VPS分钟阅读•Updated 2026-03-27
如何在云 VPS 上部署 Ollama 与 Open WebUI（完整指南）
生产部署指南：使用 Docker Compose、AMD AVX-512 多线程计算、自动 SSL 的 Caddy 反向代理以及基于 nomic 嵌入的文档 RAG，自托管 Ollama 本地 LLM 推理和 Open WebUI。
1
验证 CPU 的 AVX-512 加速与系统架构
启用 AVX-512 指令时，llama.cpp 运行的量化 LLM 能高效执行向量矩阵乘法。连接到您的 NodexVPS VPS 并检查硬件标志。
2
安装 Docker Engine 与 Compose V2 插件
配置 Docker 官方软件源，以容器方式运行 Ollama 和 Open WebUI，并支持自动重启。
3
使用 Docker Compose 部署 Ollama 与 Open WebUI
创建独立的项目目录和 docker-compose.yml 文件，挂载持久化的模型缓存和 WebUI 数据库存储。
4
拉取高性能模型（DeepSeek-R1、Llama 3.3、Qwen 2.5）
将最新的推理和对话模型直接下载到持久化的 GGUF 存储卷中。
5
配置文档 RAG 与知识库上传
在 Open WebUI 中进入 Workspace -> Knowledge，上传企业 PDF、CSV 或文档。Open WebUI 使用同机部署的 nomic-embed-text 嵌入模型进行语义检索，无需把文本发送到外部向量 API。
6
使用 Caddy 反向代理与自动 Let's Encrypt SSL 保护访问
通过 Caddy 以公网 HTTPS（443 端口）开放 Open WebUI，无需手动续期 certbot 证书。
7
为外部 IDE 和智能体集群开放兼容 OpenAI 的 API
使用标准的 /v1 端点，将 Cursor IDE、Continue.dev、Claude Code 或 CrewAI 智能体连接到您的私有 VPS。
探索更多 VPS 主机方案
为您的项目找到合适的服务器。