Sicherer Betrieb von KI-Systemen
Was dieser Artikel behandelt
- Warum Sicherheit bei lokaler KI ein eigenes Thema ist und welche Bereiche dazugehören.
- Welche Begriffe Du kennen solltest, bevor Du KI-Systeme produktiv betreibst.
- Welche Sicherheitsbereiche es gibt und welche Artikel es dazu gibt.
- Verweise auf die Detailartikel zu Agentensicherheit und Netzwerksicherheit.
Einleitung
Lokale KI-Systeme laufen auf Deiner eigenen Hardware. Das bedeutet volle Kontrolle über Daten und Modelle, aber auch volle Verantwortung für die Sicherheit. Ein Sprachmodell, das auf Deinem Server läuft, ist nicht automatisch sicher. Es kann auf Dateien zugreifen, Netzwerkverbindungen öffnen und, wenn Du Agenten einsetzt, Aktionen ausführen, die Du nicht geplant hast.
Sicherer Betrieb bedeutet, dass Du KI-Systeme so aufstellst, dass sie ihre Aufgabe erfüllen, ohne unnötige Risiken einzugehen. Das umfasst zwei große Bereiche: die Sicherheit der Agenten selbst und die Sicherheit der Netzwerk-Infrastruktur, auf der sie laufen.
Wenn Du lokal KI betreibst, hast Du bereits einen großen Vorteil: Deine Daten verlassen nicht Deinen Server. Aber lokale KI bedeutet nicht automatisch sichere KI. Ein Agent mit Zugriff auf Dein Dateisystem kann Daten löschen. Ein offen zugänglicher Ollama-Server kann von außen missbraucht werden. Dieser Bereich hilft Dir, diese Risiken systematisch zu reduzieren.
Warum ist Sicherheit bei lokaler KI wichtig?
Lokale KI gibt Dir Kontrolle, aber Kontrolle bedeutet auch, dass Du für Sicherheitslücken selbst verantwortlich bist. Es gibt keinen Cloud-Anbieter, der Firewalls, Zugriffskontrolle und Updates für Dich übernimmt.
Ein Beispiel: Du betreibst Ollama auf einem Server im lokalen Netzwerk. Standardmäßig lauscht Ollama auf allen Netzwerkschnittstellen. Ohne Firewall oder Reverse Proxy kann jeder in Deinem Netzwerk Anfragen senden, Modelle laden und Ressourcen verbrauchen. Schlimmer noch, wenn der Server aus dem Internet erreichbar ist, kann jeder weltweit Anfragen stellen. Mehr dazu im Artikel Ollama Netzwerkzugriff.
Ein weiteres Beispiel: Du baust einen KI-Agenten, der Dateien lesen und schreiben darf. Der Agent interpretiert eine Aufgabe falsch und überschreibt eine wichtige Konfigurationsdatei. Ohne Sandbox, ohne Logging und ohne Freigaben merkst Du es erst, wenn das System nicht mehr läuft.
Sicherheit bei lokaler KI ist kein optionales Extra. Sie ist Teil des Betriebs. Wer KI-Systeme einsetzt, muss wissen, welche Risiken entstehen und wie man sie begrenzt. Der Artikel Was ist lokale KI? gibt Dir einen Überblick über die Grundlagen lokaler KI.
Wichtige Begriffe
| Begriff | Bedeutung |
|---|---|
| Sandbox | Abgeschottete Umgebung, in der ein Prozess läuft, ohne Zugriff auf das restliche System zu haben |
| Firewall | Netzwerkfilter, der ein- und ausgehenden Datenverkehr nach Regeln blockiert oder erlaubt |
| Reverse Proxy | Server, der zwischen Client und Backend schaltet und Anfragen weiterleitet, oft mit TLS und Authentifizierung |
| Authentication | Verfahren, mit dem sich Nutzer oder Systeme ausweisen, bevor sie Zugriff erhalten |
| TLS | Transport Layer Security, verschlüsselt die Kommunikation zwischen zwei Systemen |
| Guardrails | Regeln und Filter, die verhindern, dass ein Agent unerwünschte Aktionen ausführt |
| Human-in-the-Loop | Prinzip, bei dem kritische Aktionen eine menschliche Freigabe erfordern |
| Rate Limiting | Begrenzung der Anzahl Anfragen pro Zeiteinheit, um Überlastung und Missbrauch zu verhindern |
| Audit Log | Protokoll aller Aktionen, das nachvollziehbar aufzeichnet, wer was wann getan hat |
| Least Privilege | Prinzip, nach dem ein Prozess oder Nutzer nur die minimal nötigen Rechte erhält |
Sicherheitsbereiche
Sicherheit bei lokaler KI lässt sich in zwei Hauptbereiche unterteilen, die sich ergänzen, aber unterschiedliche Maßnahmen erfordern.
Agentensicherheit beschäftigt sich mit dem, was ein KI-Agent tun kann. Ein Agent plant, trifft Entscheidungen und führt Aktionen aus. Das bedeutet, er kann Dinge tun, die Du nicht vorhergesehen hast. Agentensicherheit umfasst Sandbox-Umgebungen, Tool-Berechtigungen, Guardrails, Human-in-the-Loop und Audit Logging. Ziel ist es, die Autonomie des Agenten so weit wie nötig zu lassen, aber so weit wie möglich zu begrenzen. Mehr dazu im Artikel Agentensicherheit.
Netzwerksicherheit beschäftigt sich mit der Infrastruktur, auf der Deine KI-Systeme laufen. Ein Ollama-Server, ein Reverse Proxy, eine Firewall, TLS-Zertifikate und Zugriffskontrolle fallen in diesen Bereich. Ziel ist es, dass nur berechtigte Personen und Systeme auf Deine KI-Dienste zugreifen können. Der Artikel Netzwerksicherheit behandelt dieses Thema im Detail.
Beide Bereiche sind wichtig. Ein perfekt abgesicherter Agent nützt wenig, wenn Dein Server von außen offen ist. Eine starke Firewall nützt wenig, wenn Dein Agent ungefiltert Dateien löschen darf. Sicherheit funktioniert nur als Ganzes.
Inhalt und Artikel
- Agentensicherheit - Sandbox, Tool-Berechtigungen, Guardrails, Human-in-the-Loop und Audit Logging für KI-Agenten.
- Netzwerksicherheit - Firewalls, Reverse Proxys, TLS und Zugriffskontrolle für lokale KI-Server.
- Menschliche Freigaben - Wie Human-in-the-Loop funktioniert und wann Du Freigaben brauchst.
- Ollama Netzwerkzugriff - Wie Du Ollama sicher im Netzwerk erreichbar machst.
FAQ - Häufige Fragen
Ist lokale KI automatisch sicher?
Nein. Lokale KI bedeutet, dass Deine Daten Deinen Server nicht verlassen. Das ist ein Sicherheitsvorteil, aber es ersetzt keine Firewalls, keine Sandbox und keine Zugriffskontrolle. Du trägst die Verantwortung für die Sicherheit Deines Systems selbst.
Was ist der wichtigste Sicherheitsbereich?
Es gibt keinen einzelnen wichtigsten Bereich. Agentensicherheit und Netzwerksicherheit ergänzen sich. Ein Agent ohne Sandbox kann Schaden anrichten, ein Server ohne Firewall ist von außen angreifbar. Beide Bereiche müssen zusammen gedacht werden.
Brauche ich eine Firewall für lokale KI?
Ja. Auch wenn Dein Server nur im lokalen Netzwerk läuft, sollte eine Firewall aktiv sein. Sie begrenzt, welche Geräte und Dienste auf Deinen KI-Server zugreifen können. Mehr dazu im Artikel Netzwerksicherheit.
Was ist eine Sandbox und warum brauche ich sie?
Eine Sandbox ist eine abgeschottete Umgebung, in der ein Prozess läuft, ohne Zugriff auf das restliche System zu haben. Für KI-Agenten bedeutet das, dass der Agent Dateien, Netzwerk und Systemressourcen nur innerhalb seiner Sandbox nutzen kann. Mehr dazu im Artikel Agentensicherheit.
Was bedeutet Least Privilege?
Least Privilege ist das Prinzip, nach dem ein Prozess oder Nutzer nur die minimal nötigen Rechte erhält. Ein Agent, der nur Dateien lesen muss, sollte nicht auch schreiben dürfen. Ein Server, der nur im LAN erreichbar sein soll, sollte nicht aus dem Internet zugänglich sein.