Ollama & Open WebUI auf einem Cloud-VPS bereitstellen (vollständige Anleitung)
Anleitung für den Produktivbetrieb von selbst gehosteter lokaler LLM-Inferenz mit Ollama und Open WebUI, mit Docker Compose, mehrkerniger AMD-Rechenleistung mit AVX-512, Caddy als Reverse Proxy mit automatischem SSL und Dokumenten-RAG mit nomic-Embeddings.
AVX-512-Beschleunigung der CPU & Systemarchitektur prüfen
Quantisierte LLMs über llama.cpp berechnen Vektor-Matrix-Multiplikationen effizient, wenn AVX-512 verfügbar ist. Verbinden Sie sich mit Ihrem NodexVPS-VPS und prüfen Sie die Hardware-Flags.
Docker Engine & Compose-V2-Plugin installieren
Richten Sie die offizielle Docker-Paketquelle ein, um Ollama und Open WebUI als Container mit automatischem Neustart zu betreiben.
Ollama & Open WebUI mit Docker Compose bereitstellen
Legen Sie ein isoliertes Projektverzeichnis und eine docker-compose.yml an, die dauerhafte Modell-Caches und den Datenbankspeicher von WebUI einbindet.
Leistungsstarke Modelle herunterladen (DeepSeek-R1, Llama 3.3, Qwen 2.5)
Laden Sie die neuesten Reasoning- und Chat-Modelle direkt in Ihr dauerhaftes GGUF-Speichervolume.
Dokumenten-RAG & Uploads in die Wissensdatenbank konfigurieren
Öffnen Sie in Open WebUI Workspace -> Knowledge. Laden Sie Unternehmens-PDFs, CSVs oder Dokumentation hoch. Open WebUI nutzt Ihr Embedding-Modell nomic-embed-text auf demselben Server für die semantische Suche, ohne Text an externe Vektor-APIs zu senden.
Mit Caddy als Reverse Proxy & automatischem SSL von Let's Encrypt absichern
Stellen Sie Open WebUI über öffentliches HTTPS (Port 443) mit Caddy bereit, ganz ohne manuelle Erneuerung mit certbot.
OpenAI-kompatible API für externe IDEs & Agentenschwärme bereitstellen
Verbinden Sie Cursor IDE, Continue.dev, Claude Code oder CrewAI-Agenten über den Standard-Endpunkt /v1 mit Ihrem privaten VPS.
Inhaltsverzeichnis
- 1.1. Rechenleistung dimensionieren & AVX-512 prüfen
- 2.2. Docker & Compose V2 installieren
- 3.3. Stack aus Ollama & Open WebUI konfigurieren
- 4.4. Leistungsstarke quantisierte Modelle herunterladen
- 5.5. Dokumenten-RAG & nomic-Embeddings aktivieren
- 6.6. Caddy als TLS-Reverse-Proxy konfigurieren
- 7.7. OpenAI-kompatiblen API-Endpunkt bereitstellen
Weitere VPS-Hosting-Angebote entdecken
Finden Sie den passenden Server für Ihr Projekt.
Starten Sie noch heute mit NodexVPS
50 % sparen bei jährlicher Zahlung. Kein Vertrag, jederzeit kündbar.