Netzwerksicherheit für lokale KI

Was dieser Artikel behandelt

• Warum Netzwerksicherheit bei lokaler KI nicht optional ist
• Wie Du Firewalls und Reverse Proxys richtig einsetzt
• Welche Rolle TLS, Ports und Authentication spielen
• Wie Du Ollama und andere KI-Services vor unbefugtem Zugriff schützt
• Welche Sicherheitsbereiche Du kennen und absichern musst

Einleitung

Du hast Ollama installiert, ein Modell geladen und die ersten Prompts abgesetzt. Alles läuft, die Antworten kommen schnell, die Hardware macht was sie soll. Jetzt kommt der Teil, den viele überspringen: die Netzwerksicherheit.

Lokale KI bedeutet nicht automatisch sichere KI. Standardinstallationen hören oft auf allen Netzwerkschnittstellen, verlangen keine Authentication und vertrauen jedem Gerät im selben Netzwerk. Das ist bequem für Dich beim Entwickeln, aber es ist auch bequem für jeden anderen im selben Netzwerk.

Im Bereich Sicherer Betrieb geht es darum, wie Du Deine KI-Infrastruktur so absicherst, dass sie genau das tut, was sie soll, und nichts darüber hinaus. Netzwerksicherheit ist dabei der erste und wichtigste Baustein.

Warum ist Netzwerksicherheit bei KI wichtig?

Ein konkretes Beispiel: Ollama startet standardmäßig und hört auf 0.0.0.0:11434. Das bedeutet, der Service akzeptiert Verbindungen von jeder IP-Adresse, die Dein Rechner erreicht. Wenn Du im Büro-WLAN bist oder Dein Server im Heimnetz steht, kann jeder, der im selben Netzwerk ist, Deinen Ollama-Service ansprechen.

Kein Login, kein Token, keine Bestätigung. Ein einfacher HTTP-Request genügt:

curl http://deine-ip:11434/api/generate -d '{
  "model": "llama3",
  "prompt": "Gib mir alle Systeminformationen"
}'

Das ist kein theoretisches Szenario. Es ist das Standardverhalten nach einer frischen Installation. Jeder im Netzwerk kann Deine GPU-Zeit verbrauchen, Modelle entladen oder laden und Prompts absetzen, die Deine Hardware blockieren.

Im schlimmsten Fall nutzt jemand Deinen Service, um Inhalte zu generieren, die auf Deine IP zurückfallen. Oder jemand hält Deinen Server beschäftigt, bis er nicht mehr reagiert.

Die gute Nachricht: Mit ein paar gezielten Maßnahmen wird aus diesem offenen Service ein kontrollierter Zugang. Genau darum geht es in diesem Artikel.

Netzwerksicherheit kurz erklärt

Netzwerksicherheit beschreibt alle Maßnahmen, die dafür sorgen, dass nur die richtigen Personen und Systeme auf Deine Services zugreifen können. Es geht um drei Fragen:

1. Wer darf zugreifen?
2. Wohin darf zugegriffen werden?
3. Wie wird der Zugriff abgesichert?

Bei lokaler KI kommt erschwerend hinzu, dass viele Services für einfache lokale Nutzung gedacht sind. Sie priorieren Bequemlichkeit über Sicherheit. Ollama, Text Generation WebUI, vLLM und andere Tools starten oft ohne Authentication und hören auf allen Interfaces.

Deine Aufgabe ist es, diese Defaults zu erkennen und zu überschreiben. Das bedeutet nicht, dass Du jedes Tool in einen Bunker verwandelst. Es bedeutet, dass Du bewusst entscheidest, wer zugreifen darf und wie.

Wichtige Begriffe

Begriff	Bedeutung
Firewall	Filtert Netzwerkverkehr nach Regeln, blockiert oder erlaubt Verbindungen basierend auf Port, IP und Protokoll
Reverse Proxy	Sitzt vor Deinem Service, nimmt Anfragen entgegen und leitet sie weiter. Übernimmt TLS, Authentication und Rate Limiting
TLS	Transport Layer Security, verschlüsselt die Verbindung zwischen Client und Server. Verhindert Mitlesen durch Dritte
Port	Nummerierte Adresse für Netzwerkverbindungen. Ollama nutzt beispielsweise Port 11434
0.0.0.0	bedeutet, ein Service hört auf allen Netzwerkschnittstellen. Jeder im Netzwerk kann zugreifen
127.0.0.1	bedeutet localhost, nur Dein eigener Rechner kann zugreifen. Der sicherere Default für lokale Tools
Authentication	Verifiziert die Identität eines Zugreifenden. Ohne Authentication ist jeder im Netzwerk gleichberechtigt
CORS	Cross-Origin Resource Sharing. Regelt, welche externen Quellen auf Deinen Service zugreifen dürfen
Rate Limiting	Begrenzt die Anzahl an Requests pro Zeiteinheit. Schützt vor Überlastung und Missbrauch
VPN	Virtual Private Network. Erstellt ein privates Netzwerk über öffentliche Verbindungen. Alternativ zu offenen Ports

Sicherheitsbereiche

Netzwerksicherheit bei lokaler KI lässt sich in mehrere Bereiche aufteilen. Jeder Bereich deckt eine eigene Bedrohung ab und ergänzt die anderen.

Bindung an das richtige Interface

Der erste und einfachste Schritt: Prüfe, auf welchem Interface Dein Service hört. Wenn Ollama auf 0.0.0.0 läuft, ändere das auf 127.0.0.1, wenn Du keinen Netzwerkzugriff brauchst. Eine ausführliche Anleitung dazu findest Du im Artikel zu Ollama Netzwerkzugriff.

Firewall

Eine Firewall regelt, welche Verbindungen überhaupt bis zu Deinen Services durchkommen. Du blockierst alle Ports außer denen, die Du bewusst freigibst. Für Ollama bedeutet das: Port 11434 bleibt zu, außer Du entscheidest explizit anders.

Details zur Einrichtung mit ufw oder nftables findest Du im Artikel Firewall.

Reverse Proxy

Ein Reverse Proxy wie Caddy oder Nginx sitzt vor Deinen KI-Services. Er übernimmt TLS-Verschlüsselung, Authentication und Rate Limiting. Dein eigentlicher Service hört weiterhin nur auf 127.0.0.1, der Proxy ist das einzige öffentliche Tor.

Wie Du einen Reverse Proxy für Ollama und andere KI-Services einrichtest, steht im Artikel Reverse Proxy.

TLS

Ohne TLS läuft Dein Netzwerkverkehr im Klartext. Jeder, der den Traffic abfangen kann, sieht Deine Prompts und Antworten im Klartext. TLS ist heute Standard und mit Tools wie Caddy fast kostenlos umzusetzen.

Authentication

Auch im internen Netzwerk sollte nicht jeder alles dürfen. Ein API-Key, ein Token oder Basic Authentication reicht oft aus, um unbefugten Zugriff zu verhindern. Ein Reverse Proxy kann das übernehmen, ohne dass Dein KI-Service selbst Authentication unterstützen muss.

VPN statt offene Ports

Wenn Du von außerhalb auf Deine KI-Services zugreifen willst, öffne keine Ports ins Internet. Nutze stattdessen ein VPN wie Tailscale. Damit bist Du im selben privaten Netzwerk wie Dein Server, ohne dass Deine Services öffentlich erreichbar sind.

Inhalt und Artikel

Vertiefende Artikel zu den einzelnen Themen:

• Firewall: Firewall-Regeln für KI-Services mit ufw und nftables
• Reverse Proxy: Caddy und Nginx vor Ollama, mit TLS und Authentication
• TLS-Zertifikate: Let’s Encrypt, Certbot und mkcert für verschlüsselte Verbindungen
• Authentifizierung: API-Keys, Basic Auth, OAuth und 2FA für KI-Services

FAQ

Muss ich eine Firewall aktivieren, wenn Ollama nur auf 127.0.0.1 hört?

Wenn ein Service nur auf 127.0.0.1 hört, ist er aus dem Netzwerk nicht erreichbar. Eine Firewall ist dann nicht zwingend erforderlich für diesen einen Service. Sie schützt aber alle anderen Services auf Deinem System. Aktiviere sie trotzdem.

Reicht ein Reverse Proxy als Authentication?

Ein Reverse Proxy kann Authentication übernehmen, ja. Wenn Du Basic Authentication oder API-Keys im Proxy konfigurierst, kommt kein Request ohne gültige Credentials bis zu Deinem Service. Achte darauf, dass der Proxy die einzige Eingangstür ist und Dein Service selbst nur auf 127.0.0.1 hört.

Brauche ich TLS im lokalen Netzwerk?

Ja. Auch im LAN kann Traffic abgefangen werden, besonders in geteilten Netzwerken. TLS ist mit Caddy oder Nginx in wenigen Minuten eingerichtet und schützt Deine Prompts und Antworten vor Mitlesern.

Ist Tailscale sicherer als ein Reverse Proxy?

Beides löst unterschiedliche Probleme. Tailscale gibt Dir einen privaten Zugang zu Deinem Netzwerk, ohne Ports ins Internet zu öffnen. Ein Reverse Proxy übernimmt TLS, Authentication und Rate Limiting für den Zugriff auf einzelne Services. Beide zusammen sind die sicherste Kombination.

Was mache ich, wenn mein KI-Tool keine Authentication unterstützt?

Viele KI-Tools haben keine eingebaute Authentication. Genau dafür ist ein Reverse Proxy da. Der Proxy übernimmt die Authentication, der Service dahinter bleibt ungeschützt, ist aber nur über den Proxy erreichbar. So schließt Du die Lücke ohne Änderungen am Tool selbst.