私有本地推理与文档 RAG 中心

Ollama + Open WebUI 专属 VPS — 私有本地推理与知识库

在您自己的 VPS 上托管 Ollama 私有推理与 Open WebUI,零 Token 费用,支持文档 RAG、AMD AVX-512 加速和 OpenAI 兼容 API。

低至$14.99/月

按年付费,共 $179.94。按月付费为 $29.99/月。

入门方案

SRV-B2C
$14.99
2 vCPU · 4 GB · 60 GB NVMe
SRV-M4C
$21.50
4 vCPU · 8 GB · 120 GB NVMe
SRV-A8C
$28.00
8 vCPU · 16 GB · 160 GB NVMe

Ollama + Open WebUI VPS 推荐套餐

此方案可满足大多数首次部署需求。只有在持续负载表明需要更多资源时再升级。

包含: SRV-B2C · 2 vCPU · 4 GB · 60 GB NVMe

之后可原地升级,数据和 IP 地址保持不变。

部署此方案

Ollama + Open WebUI VPS 套餐与价格

简单透明的月付价格,按年付费立省 50%。

LLM Starter

轻松入门之选。

$14.99/mo
按年付费($179.94)$29.99/mo
vCPU2 Core (AMD)
Memory4 GB DDR5 ECC
Storage60 GB NVMe Gen4
Bandwidth3 TB @ 10 Gbps

LLM Plus

为成长中的项目提供更多空间。

$21.50/mo
按年付费($257.94)$42.99/mo
vCPU4 Core (AMD)
Memory8 GB DDR5 ECC
Storage120 GB NVMe Gen4
Bandwidth3 TB @ 10 Gbps

LLM Pro

为高负载业务提供更强性能。

$28.00/mo
按年付费($335.94)$55.99/mo
vCPU8 Core (AMD)
Memory16 GB DDR5 ECC
Storage160 GB NVMe Gen4
Bandwidth3 TB @ 10 Gbps

LLM Max

为重度使用提供最强配置。

$62.49/mo
按年付费($749.94)$124.99/mo
vCPU8 Core (AMD)
Memory32 GB DDR5 ECC
Storage240 GB NVMe Gen4
Bandwidth3 TB @ 10 Gbps

什么是 Ollama + Open WebUI VPS?

在独享的 AMD EPYC NVMe 云服务器上部署自托管的 Ollama 本地推理和 Open WebUI。运行 DeepSeek-R1、Llama 3.3、Mistral 和 Qwen 2.5,没有第三方遥测,支持文档 RAG、兼容 OpenAI API,提示词令牌不限量。

自托管您私有的 ChatGPT 替代方案和 LLM 推理引擎,没有按令牌订阅费,也没有第三方数据追踪。运行新一代量化模型(DeepSeek-R1、Llama 3.3、Qwen 2.5),配合本地 nomic 嵌入、多用户角色管理、联网搜索增强以及兼容 OpenAI 的 API 路由。

Ollama + Open WebUI VPS 与在笔记本上运行对比

为什么全天候运行的服务器效果更好。

NodexVPS 服务器本地电脑
在线时间7×24 小时运行,合上笔记本也不中断休眠、出行或重启时就会停止
网络10 Gbps 端口,固定 IP家庭宽带,常在 NAT 之后
隔离性独立服务器,与个人文件隔离与您的其他所有工作共用一台电脑
Webhook 与 API可从任何地方接收回调需要内网穿透或端口转发
扩展原地升级 CPU 和内存受限于自有硬件
成本固定月费电费、硬件损耗和您的时间

客户怎么说

每天使用 NodexVPS 的用户的真实反馈。

“我们把 45 个微服务从 AWS 迁移到了 NodexVPS 法兰克福节点。得益于独享的 NVMe 硬盘和 AMD EPYC 处理器,每月云账单下降了 72%,API 延迟从 48 毫秒降到 14 毫秒。”

David K.
CTO & Co-Founder, HyperScale Analytics ·
已验证客户高吞吐分析 API

“Terraform Provider 和 30 秒内的开通速度让基础设施自动化变得轻而易举。没有吵闹的邻居,真正的 KVM 隔离,也没有任何莫名的带宽限速。”

Sarah Lin
DevOps 首席工程师, Kinetix Labs ·
已验证客户Kubernetes(k3s)集群

“在伦敦的 Windows Server 上运行低延迟的 MetaTrader 5 和自动交易机器人。连续 9 个月 99.99% 在线,稳如磐石。到主要经纪商 ECN 的延迟低于 2 毫秒。”

Mikhail P.
量化交易员, Nordic Quant Capital ·
已验证客户自动化算法外汇交易

为什么选择 NodexVPS 的 Ollama + Open WebUI VPS?

高速硬件、公道价格和真人支持。

零令牌费,生成不限量

以固定可预期的月费每天生成数百万令牌,不用担心意外的按令牌 API 账单或速率限制。

100% 数据主权,零遥测

您的提示词、文档、公司内部备忘录和嵌入都严格保存在独享服务器的内存和加密 NVMe 中。

私有文档 RAG 与向量嵌入

Open WebUI 使用本地嵌入模型处理 PDF、Word 文档、文本文件和 Markdown,给出有据可查的问答。

兼容 OpenAI 的本地 API 端点

开放 http://your-vps:11434/v1,即可无缝集成 Cursor、Claude Code、LibreChat、Continue.dev 和自定义 Python 智能体脚本。

谁在使用 Ollama + Open WebUI VPS?

适合开发者、企业以及所有需要可靠服务器的用户。

注重隐私的团队

与模型讨论内部文档,提示词和上传文件始终留在您掌控的服务器上。

开发者

让 Cursor、Continue.dev 或您自己的脚本调用 Ollama 的 OpenAI 兼容端点,替代付费 API。

文档密集型岗位

将 PDF、Word 文件和笔记上传到 Open WebUI,基于这些文档提问。

共享同一助手的企业

为员工分配带角色权限的独立 Open WebUI 账户,全部由同一个 Ollama 实例提供服务。

模型评估者

拉取 DeepSeek-R1、Llama 3.3、Mistral 或 Qwen 2.5,比较它们对同一提示词的回答。

精打细算的开发者

以固定月费处理海量提示词,无需按 Token 计费。

部署前需要规划什么

几项简单检查,帮您日后节省时间。

为最大的模型配置内存

量化模型必须能装进内存,并为上下文留出空间。请按您要加载的最大模型选择套餐。

模型文件的磁盘空间

每个拉取的模型都会占用 NVMe 空间。请为保留的模型以及 Open WebUI 的上传文件和嵌入向量预留容量。

保持 Ollama API 私有

Ollama 的 API 没有内置登录。请将其绑定到 localhost,并通过 SSH 隧道或带认证的代理远程访问。

先创建管理员账户

第一个注册的 Open WebUI 账户会成为管理员。部署后请立即创建,再决定允许哪些人注册。

备份正确的数据

备份存放聊天、用户和文档的 Open WebUI 数据卷。模型可以重新拉取,因此不那么重要。

关注生成负载

在模型生成时关注 CPU 和内存,了解何时因上下文变长或用户增多而需要更大的套餐。

Ollama + Open WebUI VPS 的部署方式

选择适合您项目的部署方式。

全部放进 Docker Compose

将 Ollama 和 Open WebUI 作为两个服务运行,模型和聊天数据使用命名卷,并通过私有 Docker 网络互联。

Ollama 原生安装,Open WebUI 用 Docker

用安装脚本将 Ollama 安装为 systemd 服务,再在容器中运行连接它的 Open WebUI。

模型服务器与界面分离

将 Ollama 放在大内存服务器上,Open WebUI 运行在较小的服务器上,通过受防火墙保护的端口访问。

分步部署指南

从全新服务器到应用上线。

  1. 1

    更新服务器

    通过 SSH 登录,将基础系统更新到最新。

  2. 2

    安装 Docker

    使用官方脚本安装 Docker Engine 和 Compose 插件。

  3. 3

    配置防火墙

    只放行 SSH 和 HTTPS,然后启用防火墙。

  4. 4

    启动服务栈

    将 compose 文件放入项目目录,并在后台启动。

开箱即用的 AI 框架

无需手动配置即可启动热门 AI 工具。

浏览全套 AI 部署指南

今天就开始使用 Ollama + Open WebUI VPS

按年付费立省 50%,无合约,随时可取消。

Ollama + Open WebUI VPS:常见问题

常见问题的快速解答。

没有独立 GPU,我能在 CPU 上运行 DeepSeek-R1 和 Llama 3.3 这类模型吗?

可以!在 Ollama 中通过 llama.cpp 运行的新式 GGUF 量化模型能充分利用 AMD EPYC 的 AVX-512 向量指令。4 位和 8 位量化模型在多线程 vCPU 核心上能达到流畅的交互速度(每秒 15-30+ 个令牌),成本只是租用 GPU 的一小部分。

Open WebUI 如何连接这台 VPS 上的 Ollama?

两个服务运行在通过 Docker 网络桥接的隔离容器中。Open WebUI 通过内部容器网络与 Ollama 通信,无需暴露到公网。

我可以把 Cursor、Continue.dev 或外部 AI 智能体连接到这台 Ollama VPS 吗?

可以。Ollama 原生提供兼容 OpenAI 的 /v1 API。您可以把外部智能体和 IDE 指向由 Caddy TLS 和 API 密钥保护的 VPS 端点。

新服务器多久能就绪?

大多数服务器在 30 秒内即可开通。服务器启动后,您会立即收到 IP 地址和登录信息。

以后可以升级方案吗?

可以。您可以在控制面板中升级到更高配置的方案,数据和 IP 地址保持不变。

有合约或开通费吗?

没有。方案按月或按年计费,无开通费,可随时取消。

可以安装哪些操作系统?

Ubuntu、Debian、AlmaLinux、Rocky Linux、CentOS Stream、Arch Linux、openSUSE、RouterOS 和 Windows Server,也可以通过您自己的 ISO 安装任何系统。

包含 DDoS 防护吗?

包含。每台服务器都有全天候 DDoS 清洗,不额外收费。