Self-Hosting Grundlagen

IRC-Mania Die Seite rund um Sicherheit und Programmierung

Internet, Sicherheit , Internet Relay Chat

Gesponsert

Was dieser Artikel über Self-Hosting Grundlagen behandelt

• Was Self-Hosting genau bedeutet und wo der Unterschied zur Cloud liegt.
• Welche Vorteile und Pflichten Du übernimmst, wenn Du Dienste selbst betreibst.
• Welche Hardware, welches Betriebssystem und welche Software Du für den Einstieg brauchst.
• Wie Docker, Proxmox und Linux zusammenhängen und wo lokale KI ins Spiel kommt.
• Welche typischen Stolpersteine Anfänger erwarten und wie Du sie vermeidest.

Einleitung: Self-Hosting verständlich erklärt

Self-Hosting bedeutet, dass Du Software und Dienste auf eigener Hardware betreibst, statt sie von einem Cloud-Anbieter mieten zu müssen. Statt eine Datenbank bei AWS, ein Chat-Tool bei Slack oder eine KI bei OpenAI zu nutzen, installierst Du diese Dienste auf Deinem eigenen Server zu Hause oder in einem eigenen Rechenzentrum. Du behältst die volle Kontrolle über die Daten, die Konfiguration und die Kosten.

Dieser Artikel richtet sich an Einsteiger, die zum ersten Mal über Self-Hosting nachdenken. Du brauchst keine tiefen Systemadministrations-Kenntnisse, solltest aber bereit sein, Dich mit Linux, Containern und Netzwerkgrundlagen zu beschäftigen. Wer Grundlagen der Programmierung lernen möchte, findet auf IRC-Coding.de Tutorials zu Python, C# und mehr. Sicherheitsthemen werden auf IRC-Security.de behandelt.

Warum brauche ich Self-Hosting?

Stell Dir vor, Du nutzt einen Cloud-Dienst für Deine Notizen, Deine Kontakte oder Deine KI-Modelle. Eines Tages ändert der Anbieter die Preise, stellt eine Funktion ein oder schließt Dein Konto. Deine Daten sind weg oder nur noch gegen hohe Gebühren erreichbar. Genau das passiert häufiger, als man denkt.

Self-Hosting löst dieses Problem, weil Du die Hoheit über die Daten behältst. Du entscheidest, wo sie gespeichert werden, wer Zugriff hat und wie lange sie aufbewahrt werden. Das ist besonders wichtig bei sensiblen Informationen wie Kundendaten, Gesundheitsdaten oder internen Dokumenten.

Dazu kommt die Kostenfrage. Eine kleine GPU-Instanz in der Cloud kostet schnell mehrere hundert Euro im Monat. Ein eigener Server mit gebrauchten GPU-Karten ist nach wenigen Monaten abbezahlt und läuft danach zum Preis des Stroms. Wer lokale KI mit Ollama betreibt, kommt um Self-Hosting ohnehin nicht herum, weil die Modelle auf eigener Hardware laufen sollen.

Self-Hosting kurz erklärt

Self-Hosting ist die Betriebsform, bei der Du Software auf eigener Hardware installierst und selbst verantwortest. Das kann ein Raspberry Pi unter dem Schreibtisch sein, ein alter PC im Keller oder ein kompletter Server-Rack. Die Software läuft meist in Containern, die alle Abhängigkeiten mitbringen und sich einfach verwalten lassen.

Der Kerngedanke lautet: Du besitzt die Hardware, Du kontrollierst die Software, Du verantwortest die Daten. Niemand kann Dir von auße eine Funktion abschalten oder Deine Daten einsehen, solange Du Deine Systeme richtig absicherst.

Für wen ist Self-Hosting gedacht?

Self-Hosting richtet sich an mehrere Gruppen:

• Privatpersonen, die ihre Daten nicht an große Konzerne übergeben wollen und Spaß am Ausprobieren haben.
• Kleine und mittlere Unternehmen, die DSGVO-konform arbeiten und Cloud-Kosten reduzieren müssen.
• Entwicklerinnen und Entwickler, die lokale KI, RAG-Pipelines oder Agenten-Workflows aufbauen und dafür eigene Infrastruktur brauchen.
• Hobby-Bastler, die mit Home Assistant, Nextcloud und eigenen Chatbots experimentieren.

Vorkenntnisse in Linux sind hilfreich, aber nicht zwingend. Wer noch nie eine Kommandozeile bedient hat, sollte zuerst die Grundlagen eines Linux-Tutorials durcharbeiten. Die Lernkurve ist steil, aber lohnend.

Wichtige Begriffe rund um Self-Hosting

• Docker - Container-Plattform, die Software in isolierten Umgebungen paketiert. Wann nützlich: bei fast jedem Dienst, den Du selbst hosten willst.
• Proxmox VE - Virtualisierungsplattform für VMs und Container auf einem Host. Wann nützlich: wenn Du mehrere isolierte Systeme auf einem Server betreiben willst.
• Linux - Betriebssystem, auf dem die meisten Server laufen. Wann nützlich: als Basis für jeden Self-Hosting-Server.
• Ollama - Lokaler Modellserver für KI-Modelle. Wann nützlich: wenn Du lokale KI betreiben willst.
• Tailscale - VPN-Dienst für sicheren Fernzugriff. Wann nützlich: wenn Du von unterwegs auf Deine Dienste zugreifen willst.
• Reverse Proxy - Dienst, der Anfragen von außen an interne Dienste weiterleitet. Wann nützlich: wenn Du mehrere Dienste über eine Domain erreichbar machen willst.
• Kubernetes - Container-Orchestrierung für große Deployments. Wann nützlich: wenn Du viele Container über mehrere Server verwalten musst.

Hardware für den Einstieg

Die Hardware entscheidet darüber, was Du hosten kannst. Für einen kleinen Notiz-Server reicht ein Raspberry Pi mit 4 GB RAM. Für lokale KI mit 7B-Modellen brauchst Du eine GPU mit mindestens 8 GB VRAM, für größere Modelle entsprechend mehr.

Wichtig ist nicht nur die Rechenleistung, sondern auch die Zuverlässigkeit. Ein Server läuft oft 24/7, also brauchst Du stabilen Strom, ausreichende Kühlung und idealerweise eine USV (Unterbrechungsfreie Stromversorgung), die bei kurzen Stromausfällen überbrückt. Details dazu findest Du im Artikel KI-Cluster planen.

Betriebssystem: Welches Linux für Self-Hosting?

Die meisten Self-Hosting-Server laufen mit Linux, weil es kostenlos, stabil und ressourcenschonend ist. Drei Distributionen haben sich bewährt:

• Ubuntu Server - Einsteigerfreundlich, riesige Community, lange Support-Zyklen. Gut für den ersten Server.
• Debian - Noch schlanker als Ubuntu, extrem stabil. Standard für viele professionelle Server.
• Proxmox VE - Basiert auf Debian, bringt aber eine Weboberfläche für Virtualisierung mit. Ideal, wenn Du mehrere VMs oder Container auf einem Host betreiben willst.

Für reine KI-Workloads ohne Virtualisierung reicht Ubuntu oder Debian. Sobald Du mehrere Dienste sauber trennen willst, lohnt sich Proxmox, weil Du für jeden Zweck eine eigene VM oder einen LXC-Container anlegen kannst. Der Artikel Proxmox LXC vs. VM hilft bei der Entscheidung.

Docker: Der Standard für Self-Hosting

Docker ist die wichtigste Technologie für Self-Hosting, weil sie Software in Containern paketiert. Ein Container enthält das Programm, alle Bibliotheken und die Konfiguration in einem Paket. Du installierst nicht mehr einzelne Pakete auf dem System, sondern startest einen Container, der alles mitbringt.

Vorteile von Docker:

• Isolation: Jeder Dienst läuft in seiner eigenen Umgebung und beeinflusst andere nicht.
• Einfache Updates: Ein neuer Container ersetzt den alten, das System bleibt sauber.
• Portabilität: Ein Container läuft überall, wo Docker installiert ist.
• Reproduzierbarkeit: Die Konfiguration steht in einer docker-compose.yml, die Du versionieren kannst.

Ein typischer Einstieg sieht so aus: Du legst eine docker-compose.yml an, definierst Deine Dienste und startest alles mit docker compose up -d. Details dazu findest Du im Artikel Docker Compose optimieren.

services:
  ollama:
    image: ollama/ollama:latest
    ports:
      - "11434:11434"
    volumes:
      - ollama-data:/root/.ollama
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

volumes:
  ollama-data:

Dieses Beispiel startet Ollama in Docker mit GPU-Unterstützung. Das Volume ollama-data speichert die Modelle dauerhaft, damit sie nach einem Neustart noch vorhanden sind.

Netzwerk und Sicherheit beim Self-Hosting

Wer Dienste selbst hostet, muss sie auch absichern. Ein Server, der direkt im Internet hängt, ist innerhalb weniger Minuten ein Angriffsziel. Drei Grundregeln helfen:

1. Nicht alle Ports nach außen öffnen. Nur die Dienste, die von außen erreichbar sein müssen (z. B. Webserver auf Port 443), dürfen aus dem Internet erreichbar sein. Alles andere bleibt im lokalen Netzwerk.
2. Reverse Proxy verwenden. Ein Reverse Proxy wie Nginx oder Caddy nimmt Anfragen von außen entgegen und leitet sie an interne Dienste weiter. So hast Du eine zentrale Stelle für TLS-Verschlüsselung und Zugriffskontrolle.
3. VPN für Fernzugriff. Statt Dienste direkt ins Internet zu stellen, nutze ein VPN wie Tailscale oder WireGuard. Damit erreichst Du Deine Dienste verschlüsselt von unterwegs, ohne sie öffentlich zu exponieren.

Wer sensible Daten verarbeitet, sollte zusätzlich Secrets richtig verwalten, eine Firewall konfigurieren und regelmäßige Backups erstellen. Der Artikel Sicherer Betrieb Grundlagen geht darauf detailliert ein.

Lokale KI und Self-Hosting

Lokale KI ist einer der wichtigsten Anwendungsfälle für Self-Hosting. Statt ChatGPT, Claude oder Gemini zu nutzen, betreibst Du eigene Modelle auf eigener Hardware. Das hat mehrere Vorteile:

• Datenschutz: Keine Daten verlassen Dein Netzwerk.
• Kosten: Nach der Hardware-Investition zahlst Du nur Strom.
• Unabhängigkeit: Keine API-Limits, keine Preiserhöhungen, keine Abschaltungen.
• Anpassbarkeit: Du kannst Modelle feintunen, System-Prompts anpassen und eigene Tools einbinden.

Typische Komponenten eines lokalen KI-Stacks:

• Ollama als Modellserver.
• Open WebUI als Chat-Oberfläche.
• AnythingLLM für RAG mit eigenen Dokumenten.
• n8n für Workflow-Automatisierung mit KI.
• Vektordatenbank wie Chroma oder Qdrant für Embeddings.

Wer KI-Agenten aufbauen will, braucht zusätzlich ein Framework wie LangGraph oder CrewAI und eventuell einen MCP-Server, damit der Agent auf Tools zugreifen kann. All das läuft idealerweise in Containern auf dem eigenen Server.

Praxisbeispiel: Ein kleiner Self-Hosting-Server

Stell Dir vor, Du willst einen Server für Nextcloud, Ollama und einen Reverse Proxy aufsetzen. Der Ablauf sieht so aus:

1. Hardware besorgen: Ein Mini-PC mit N100-CPU, 16 GB RAM und 1 TB NVMe reicht für Nextcloud und kleine KI-Modelle. Für größere Modelle brauchst Du eine dedizierte GPU.
2. Betriebssystem installieren: Ubuntu Server 24.04 LTS auf die NVMe aufspielen, SSH aktivieren, System aktualisieren (apt update && apt upgrade).
3. Docker installieren: curl -fsSL https://get.docker.com | sh installiert Docker und Docker Compose.
4. Dienste definieren: Eine docker-compose.yml mit Nextcloud, Ollama und Caddy als Reverse Proxy anlegen.
5. Netzwerk absichern: UFW-Firewall aktivieren, nur Port 443 und 22 (SSH, idealerweise nur im LAN) öffnen.
6. TLS einrichten: Caddy holt automatisch Let’s-Encrypt-Zertifikate für Deine Domain.
7. Backup einrichten: Ein Cron-Job sichert nightly die Volumes auf eine externe Festplatte.

Nach einem Nachmittag Arbeit hast Du einen voll funktionsfähigen Server, der Nextcloud für Dateien, Ollama für lokale KI und eine verschlüsselte Verbindung von außen bietet. Die laufenden Kosten bestehen nur aus Strom (wenige Euro im Monat) und der Domain.

Typische Stolpersteine beim Self-Hosting

• Ports nicht geprüft: Viele Anfänger öffnen aus Frustration alle Ports, um “es endlich zum Laufen zu bringen”. Das ist ein massives Sicherheitsrisiko. Lieber den Reverse Proxy richtig konfigurieren.
• Kein Backup: Ein Festplattenausfall ohne Backup bedeutet Datenverlust. Mindestens die Volumes und Konfigurationen sollten an einem anderen Ort liegen. Siehe Docker Volume-Backup.
• Zu viele Dienste auf zu wenig Hardware: Ein Raspberry Pi mit 4 GB RAM schafft keine lokale KI und Nextcloud gleichzeitig. Realistisch einschätzen, was die Hardware leisten kann.
• Updates vernachlässigt: Auch selbst gehostete Software muss aktualisiert werden. Ein docker compose pull && docker compose up -d pro Monat hält alles aktuell.
• Secrets im Klartext: Passwörter und API-Schlüssel gehören nicht in die docker-compose.yml. Nutze Docker Secrets oder eine .env-Datei, die nicht ins Git kommt.
• Kein Monitoring: Wer nicht mitbekommt, dass die Festplatte voll ist oder ein Container gecrasht ist, merkt den Ausfall erst, wenn Nutzer sich beschweren. Docker Monitoring hilft.

Weiterführende Links und Infos zu Self-Hosting

• Docker Grundlagen - Wie Container funktionieren und wie Du sie einsetzt.
• Proxmox Installation - Virtualisierung auf einem Host einrichten.
• Linux Grundlagen - Ubuntu, Debian und Systemadministration.
• Netzwerk und Tailscale - Sicherer Fernzugriff auf Deine Dienste.
• Lokale KI mit Ollama - KI-Modelle auf eigener Hardware betreiben.
• Sicherer Betrieb - Firewall, Secrets und Datenschutz für Self-Hosting.

Key Takeaways:

• Self-Hosting bedeutet Kontrolle über Daten, Software und Kosten.
• Docker ist der Standard für das Paketieren und Betreiben von Diensten.
• Sicherheit beginnt mit einer Firewall, einem Reverse Proxy und einem VPN.
• Lokale KI ist einer der wichtigsten Anwendungsfälle für Self-Hosting.
• Backups und Updates sind keine Optionalitäten, sondern Pflicht.

FAQ: Self-Hosting Grundlagen - Typische Fragen

Quellen und weiterführende Literatur

• Docker Dokumentation - Offizielle Docker-Docs.
• Proxmox VE Wiki - Virtualisierung mit Proxmox.
• Ubuntu Server Guide - Offizielle Ubuntu-Server-Doku.
• Selfhosted Podcast - Wöchentlicher Podcast zum Thema Self-Hosting.
• Ollama GitHub - Lokaler Modellserver.

Premium VPS Hosting

Schnelle und sichere VPS Server

Gesponsert