Open WebUI: ChatGPT-Alternative für lokale KI

Was dieser Artikel über Open WebUI behandelt

• Was Open WebUI ist und wie es Dir eine ChatGPT-ähnliche Oberfläche für lokale Modelle bietet
• Wie Du Open WebUI mit Docker oder ohne Docker installierst und mit Ollama verbindest
• Welche Funktionen Open WebUI bietet, von Chat über RAG bis hin zu Multi-User-Verwaltung
• Wie Du Dokumente hochlädst und mit Deinem eigenen Wissen chattest (RAG)
• Welche Stolpersteine es gibt und wie Du typische Probleme vermeidest

Einleitung: Open WebUI verständlich erklärt

Wenn Du Dich mit lokaler KI beschäftigst, stehst Du schnell vor einer Frage: Wie rede ich eigentlich mit meinen Modellen? Ollama bringt einen Befehl für die Kommandozeile mit, aber das ist auf Dauer unbequem. Du willst eine Oberfläche, die sich anfühlt wie ChatGPT, nur dass alles auf Deinem eigenen Rechner läuft.

Genau hier kommt Open WebUI ins Spiel. Open WebUI ist eine Web-Oberfläche, die Du lokal betreiben kannst und die Dich mit Modellen kommunizieren lässt, die über Ollama oder andere Backends laufen. Du öffnest den Browser, wählst ein Modell aus, stellst Deine Frage und bekommst eine Antwort. Alles bleibt auf Deiner Hardware.

In diesem Artikel erfährst Du, was Open WebUI kann, wie Du es installierst und welche Funktionen Dir den Alltag mit lokaler KI erleichtern. Wenn Du noch neu im Thema bist, wirf zuerst einen Blick auf unseren Artikel Was ist lokale KI?.

Warum brauche ich Open WebUI?

Stell Dir vor, Du hast Ollama installiert und ein Modell geladen. Du öffnest das Terminal, tippst einen Befehl ein und chattest los. Das funktioniert, aber es gibt Einschränkungen. Du kannst keine Dokumente hochladen, keine Unterhaltungen speichern und andere Personen haben keinen Zugriff.

Du möchtest aber vielleicht Folgendes:

• Eine Oberfläche, die wie ChatGPT aussieht und sich genauso bedienen lässt
• Unterhaltungen speichern, wiederfinden und weiterführen
• Dokumente hochladen und Fragen dazu stellen
• Der Familie oder dem Team Zugriff geben, ohne dass jeder die Kommandozeile bedienen muss
• Verschiedene Modelle nebeneinander nutzen und vergleichen

Open WebUI löst all diese Punkte. Es läuft im Browser, sieht vertraut aus und bringt Funktionen mit, die Du von kommerziellen Angeboten kennst. Der Unterschied: Deine Daten verlassen Deinen Rechner nicht.

Mehr zur Grundlage findest Du in unserer Übersicht zur Lokale KI Software.

Open WebUI kurz erklärt

Open WebUI ist eine selbsthostbare Web-Oberfläche für lokale Sprachmodelle. Es verbindet sich mit Backends wie Ollama und bietet Dir eine Chat-Oberfläche, die stark an ChatGPT erinnert. Du installierst es einmal, öffnest es im Browser und legst los.

Die wichtigsten Eigenschaften:

• Selbsthostbar: Du betreibst es auf Deinem Rechner oder Server
• Browserbasiert: Keine separate App, nur ein Browserfenster
• Multi-Backend: Funktioniert mit Ollama, OpenAI-kompatiblen APIs und weiteren Backends
• Multi-User: Mehrere Personen können gleichzeitig nutzen, mit Rollen und Rechten
• RAG-fähig: Dokumente hochladen und gezielt dazu Fragen stellen

Wer Ollama noch nicht kennt, liest zuerst unseren Artikel zu Ollama.

Für wen ist Open WebUI gedacht?

Open WebUI richtet sich an mehrere Zielgruppen:

• Einzelnutzer, die lokal mit Modellen arbeiten wollen, ohne die Kommandozeile zu nutzen
• Familien, die einen gemeinsamen KI-Assistenten betreiben wollen, ohne Daten in die Cloud zu schicken
• Teams und kleine Unternehmen, die mehrere Modelle zentral bereitstellen und den Zugriff steuern wollen
• Entwickler, die eine Oberfläche zum Testen und Vergleichen von Modellen brauchen
• Selbsthoster, die ihre Infrastruktur um eine KI-Oberfläche erweitern wollen

Vorkenntnisse brauchst Du nicht zwingend. Wenn Du Docker nutzt, ist die Installation in wenigen Minuten erledigt. Grundlagen dazu findest Du in unserem Artikel Docker Grundlagen.

Wichtige Begriffe rund um Open WebUI

Begriff	Erklärung
Open WebUI	Web-Oberfläche für lokale Sprachmodelle, selbsthostbar
Ollama	Backend, das Modelle lädt und ausführt, mit dem Open WebUI kommuniziert
Docker	Container-Technologie, mit der Du Open WebUI isoliert betreiben kannst
RAG	Retrieval-Augmented Generation, Fragen an eigene Dokumente stellen
Multi-User	Mehrere Nutzerkonten mit Rollen und Rechten in einer Installation
WebUI	Web-basierte Benutzeroberfläche, im Browser bedienbar
Pipeline	Funktion zur Vorverarbeitung oder Nachbearbeitung von Anfragen
Model Selector	Auswahlfeld, in dem Du das aktive Modell wechselst
System Prompt	Anweisung, die das Verhalten des Modells steuert
Authentication	Anmeldung mit Nutzerkonto, schützt den Zugriff

Installation mit Docker

Die einfachste Variante ist die Installation über Docker. Du brauchst Docker und Ollama auf Deinem Rechner. Wenn Ollama noch fehlt, hilft unser Artikel Ollama mit Docker.

Ein einzelner Befehl reicht aus, um Open WebUI zu starten:

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

Erklärung der einzelnen Teile:

• -d: Container läuft im Hintergrund
• -p 3000:8080: Der Port 3000 Deines Rechners zeigt auf Port 8080 im Container
• --add-host=host.docker.internal:host-gateway: Erlaubt dem Container, Ollama auf dem Host zu erreichen
• -v open-webui:/app/backend/data: Daten wie Unterhaltungen und Konten bleiben erhalten
• --restart always: Container startet automatisch nach einem Neustart

Danach öffnest Du http://localhost:3000 im Browser. Wenn Ollama läuft, verbindet sich Open WebUI automatisch.

Soll Ollama über das Netzwerk erreichbar sein, lies unseren Artikel Ollama Netzwerkzugriff.

Installation ohne Docker

Falls Du Docker nicht nutzen möchtest, kannst Du Open WebUI direkt aus dem Quellcode installieren. Du brauchst Python, Node.js und Git.

Schritte:

git clone https://github.com/open-webui/open-webui.git
cd open-webui

Backend installieren und starten:

cd backend
pip install -r requirements.txt
python -m uvicorn main:app --host 0.0.0.0 --port 8080

Frontend bauen:

cd ../frontend
npm install
npm run build

Diese Variante ist aufwändiger und eher für Entwickler gedacht, die Anpassungen vornehmen wollen. Für den regulären Betrieb empfiehlt sich Docker.

Erste Schritte

Nach der Installation gehst Du folgende Schritte durch:

1. Admin-Konto anlegen: Beim ersten Öffnen fragt Open WebUI nach einem Namen, E-Mail und Passwort. Der erste Account wird automatisch zum Admin.
2. Mit Ollama verbinden: Standardmäßig verbindet sich Open WebUI mit Ollama auf localhost:11434. Läuft Ollama woanders, trägst Du die Adresse in den Einstellungen ein.
3. Modell auswählen: Im Model Selector oben wählst Du ein Modell aus, das in Ollama verfügbar ist. Falls keines auftaucht, lädst Du erst eins herunter, zum Beispiel mit ollama pull llama3.1.
4. Chatten starten: Klicke auf “New Chat”, stell Deine Frage und leg los.

Das wars. Ab hier bewegen sich Unterhaltungen wie bei ChatGPT, nur dass alles lokal passiert.

Funktionen im Überblick

Open WebUI bringt eine ganze Reihe Funktionen mit, die über simples Chatten hinausgehen:

• Chat: Mehrere Unterhaltungen gleichzeitig, speicherbar, durchsuchbar
• RAG mit Dokumenten: Dateien hochladen und gezielt Fragen dazu stellen
• Web-Suche: Anfragen um Suchergebnisse aus dem Internet ergänzen
• Modell-Verwaltung: Modelle herunterladen, löschen und vergleichen
• Multi-User: Mehrere Konten mit Rollen wie Admin, User und Gast
• Berechtigungen: Steuern, wer Modelle sehen, herunterladen oder löschen darf
• System Prompts: Vorlagen für wiederkehrende Anweisungen anlegen
• Pipelines: Eigene Verarbeitungsschritte vor oder nach dem Modell einbauen
• API: Open WebUI bietet eine API, über die Du es in andere Tools einbinden kannst

Wer sich ausführlich mit RAG beschäftigen will, findet mehr in unserem Artikel Lokales RAG.

RAG mit Open WebUI

RAG steht für Retrieval-Augmented Generation. Einfach gesagt: Du gibst dem Modell eigene Dokumente dazu, damit es Fragen dazu beantworten kann, ohne dass es diese Informationen vorher gelernt haben muss.

In Open WebUI funktioniert das so:

1. Öffne einen Chat oder lege einen neuen an.
2. Klicke auf das Plus-Symbol oder ziehe eine Datei per Drag-and-Drop ins Fenster.
3. Open WebUI verarbeitet die Datei und legt sie als Wissensbasis ab.
4. Stell Deine Frage. Das Modell sucht in Deinen Dokumenten nach passenden Stellen und baut die Antwort darauf auf.

Unterstützte Formate umfassen PDF, Textdateien, Markdown und mehr. Besonders praktisch: Du kannst mehrere Dokumente in einer Unterhaltung kombinieren und gezielt Fragen stellen, die sich auf alle beziehen.

Ein typischer Anwendungsfall: Du lädst ein Handbuch hoch und fragst, wie eine bestimmte Funktion funktioniert. Das Modell sucht die passende Stelle und zitiert sie in der Antwort.

Multi-User und Berechtigungen

Open WebUI ist nicht nur für Einzelnutzer gedacht. Du kannst mehrere Konten anlegen und den Zugriff steuern.

Die Rollen im Überblick:

• Admin: Vollzugriff, kann Nutzer anlegen, Modelle verwalten, Einstellungen ändern
• User: Kann chatten, Dokumente hochladen, eigene Unterhaltungen verwalten
• Gast: Eingeschränkter Zugriff, oft nur Lesen oder chatten ohne Speichern

Als Admin legst Du in den Einstellungen fest, ob sich neue Nutzer selbst registrieren dürfen oder ob Du sie manuell anlegst. Du steuerst auch, welche Modelle für welche Rolle sichtbar sind und ob Nutzer Modelle herunterladen dürfen.

Für Familien oder Teams ist das praktisch: Jeder bekommt ein eigenes Konto, Unterhaltungen bleiben getrennt, und Du als Admin behältst die Kontrolle über die Infrastruktur.

Sicherheitstechnisch solltest Du darauf achten, dass Open WebUI nicht ungeschützt aus dem Internet erreichbar ist. Mehr dazu in unserem Artikel Netzwerksicherheit.

Open WebUI vs. LM Studio vs. Ollama

Diese drei Tools werden oft verglichen, erfüllen aber unterschiedliche Zwecke:

Eigenschaft	Open WebUI	LM Studio	Ollama
Typ	Web-Oberfläche	Desktop-App	Backend / CLI
Multi-User	Ja	Nein	Nein
RAG eingebaut	Ja	Begrenzt	Nein
Browserbasiert	Ja	Nein	Nein
Docker-Support	Ja	Nein	Ja
Modell-Auswahl	Über Backends	Eigene Verwaltung	Eigene Verwaltung
Zielgruppe	Teams, Familien	Einzelnutzer	Entwickler, Tinkerer

Kurz gesagt: Ollama ist das Backend, das Modelle ausführt. LM Studio ist eine Desktop-App für Einzelnutzer. Open WebUI ist die Web-Oberfläche, die mehrere Nutzer verwaltet und sich gut für Server-Betrieb eignet.

Beispiel: Open WebUI mit Ollama einrichten

Hier ein kompletter Ablauf von null bis zum ersten Chat:

1. Ollama installieren: Lade Ollama herunter und installiere es. Prüfe mit ollama --version, ob es läuft.
2. Modell laden: Führe ollama pull llama3.1 aus, um ein Modell herunterzuladen.
3. Docker starten: Führe den docker run-Befehl aus dem Abschnitt “Installation mit Docker” aus.
4. Browser öffnen: Gehe auf http://localhost:3000.
5. Admin-Konto anlegen: Trage Name, E-Mail und Passwort ein.
6. Modell auswählen: Wähle oben “llama3.1” aus dem Model Selector.
7. Frage stellen: Klicke auf “New Chat” und leg los.

Der ganze Ablauf dauert je nach Internetverbindung und Hardware etwa 10 bis 15 Minuten.

Typische Stolpersteine bei Open WebUI

Open WebUI läuft in den meisten Fällen problemlos, aber ein paar Dinge sorgen regelmäßig für Fragen:

1. Ollama wird nicht gefunden: Wenn Open WebUI und Ollama in unterschiedlichen Containern laufen, stimmt oft die Netzwerkadresse nicht. Prüfe, ob host.docker.internal korrekt aufgelöst wird.
2. Modelle tauchen nicht auf: Du musst Modelle erst mit ollama pull herunterladen, bevor sie im Model Selector erscheinen.
3. Port-Konflikte: Port 3000 ist manchmal belegt. Ändere den Port im docker run-Befehl, zum Beispiel auf -p 8080:8080.
4. Datenverlust nach Update: Ohne Volume-Mapping sind alle Unterhaltungen nach einem Neustart weg. Der -v-Parameter im Docker-Befehl ist wichtig.
5. RAG liefert schlechte Ergebnisse: Große Dokumente werden in Stücke geteilt. Wenn die Stücke zu klein sind, fehlt Zusammenhang. Spiel mit den RAG-Einstellungen in den Optionen.
6. Anmeldung vergessen: Wenn Du das Admin-Passwort vergisst, gibt es keinen einfachen Reset-Button. Du musst über die Datenbank oder eine Neuinstallation gehen.
7. Performance-Probleme: Bei vielen gleichzeitigen Nutzern wird die Hardware zum Flaschenhals. Ollama und Open WebUI teilen sich GPU und RAM.
8. Updates schlagen fehl: Docker-Images werden regelmäßig aktualisiert. Ziehe das neueste Image mit docker pull und starte den Container neu.

Hardware, Kosten und Sicherheit bei Open WebUI

Hardware: Open WebUI selbst braucht wenig Ressourcen. Die Last entsteht durch Ollama und die Modelle. Für kleine Modelle reicht ein normaler Rechner, für größere Modelle empfiehlt sich eine GPU mit ausreichend VRAM. Als Faustregel: 8 GB VRAM für Modelle bis 8 Milliarden Parameter, mehr für größere.

Kosten: Open WebUI ist Open Source und kostenlos. Du zahlst nichts für die Software selbst. Kosten entstehen nur durch Hardware, falls Du aufrüsten musst, und durch Strom.

Sicherheit: Da alles lokal läuft, bleiben Deine Daten auf Deinem Rechner. Das ist ein großer Vorteil gegenüber Cloud-Diensten. Achte trotzdem auf folgendes:

• Setze Open WebUI nicht ohne Authentifizierung ins Netz
• Nutze einen Reverse Proxy mit HTTPS, wenn Du von aus darauf zugreifen willst
• Halte die Software aktuell, um Sicherheitslücken zu schließen
• Trenne Nutzerkonten sauber, besonders im Team-Betrieb

Weiterführende Links und Infos zu Open WebUI

• Open WebUI auf GitHub
• Offizielle Dokumentation
• Ollama bei BotServ.de
• Ollama mit Docker bei BotServ.de
• Lokales RAG bei BotServ.de
• Docker Grundlagen bei BotServ.de

FAQ: Open WebUI - Typische Fragen

Ist Open WebUI kostenlos? Ja, Open WebUI ist Open Source und kostenlos. Du zahlst nichts für die Software, nur für die Hardware, auf der es läuft.

Brauche ich Ollama für Open WebUI? Nicht zwingend. Open WebUI unterstützt auch OpenAI-kompatible APIs und andere Backends. Ollama ist aber die häufigste und einfachste Kombination für lokale Modelle.

Kann ich Open WebUI ohne Docker installieren? Ja, Du kannst es direkt aus dem Quellcode installieren. Das erfordert Python und Node.js und ist aufwändiger als die Docker-Variante.

Funktioniert Open WebUI auf einem Raspberry Pi? Grundsätzlich ja, aber die Hardware eines Raspberry Pi ist für größere Modelle zu schwach. Für kleine Modelle und Tests ist es möglich.

Kann ich mehrere Modelle gleichzeitig nutzen? Ja, Du kannst im Model Selector jederzeit wechseln. In einer Unterhaltung kannst Du auch Modelle vergleichen, indem Du dieselbe Frage an mehrere schickst.

Wie speichert Open WebUI meine Unterhaltungen? Unterhaltungen werden in einer Datenbank gespeichert, die im Docker-Volume liegt. Solange das Volume erhalten bleibt, bleiben auch Deine Chats erhalten.

Kann ich Dokumente hochladen und dazu Fragen stellen? Ja, das ist die RAG-Funktion. Du lädst Dokumente hoch und stellst Fragen, die das Modell anhand Deiner Dateien beantwortet.

Ist Open WebUI sicher für mehrere Nutzer? Ja, wenn Du die Authentifizierung aktiviert lässt und Rollen sauber trennst. Setze es aber nicht ohne Schutz ins offene Internet.

Brauche ich eine GPU? Für kleine Modelle reicht die CPU. Für flüssiges Arbeiten mit größeren Modellen ist eine GPU empfehlenswert.

Kann ich Open WebUI mit Cloud-Diensten verbinden? Ja, Du kannst OpenAI-kompatible APIs als Backend einbinden. Dann laufen Anfragen aber über den Cloud-Dienst, und Deine Daten verlassen Deinen Rechner.

Wie aktualisiere ich Open WebUI? Bei Docker ziehst Du das neueste Image mit docker pull ghcr.io/open-webui/open-webui:main und startest den Container neu. Das Volume erhält Deine Daten.

Quellen und weiterführende Literatur

• Open WebUI Dokumentation: https://docs.openwebui.com/
• Open WebUI GitHub-Repository: https://github.com/open-webui/open-webui
• Ollama Dokumentation: https://ollama.com/
• Weitere Artikel auf BotServ.de: Lokale KI Software, Was ist lokale KI?