Debian, Ubuntu oder Fedora auf Mini-PC und VPS installieren

Was dieser Artikel behandelt

• Welche der drei Distributionen für Deinen Zweck passt.
• Wie die Installation auf einem Mini-PC abläuft, inklusive USB-Stick und BIOS.
• Was bei einem VPS anders ist, wo Du gar kein ISO bootest.
• Die Schritte direkt nach der Installation, damit der Server als Basis für Ollama, Docker und Deine Dienste dient.

Mini-PC oder VPS: die Grundsatzfrage

Bevor Du eine Distribution wählst, lohnt sich die Entscheidung, wo der Server überhaupt steht. Ein Mini-PC im eigenen Netz kostet einmalig, läuft stromsparend und hält alle Daten im Haus. Ein VPS kostet monatlich, ist sofort verfügbar und hat eine öffentliche IP, braucht aber kein lokales Modell für schwere KI-Lasten, weil die wenigsten günstigen VPS eine GPU haben.

Als Faustregel: Lokale KI mit Ollama, Sprachverarbeitung oder Bildgenerierung gehört auf eigene Hardware. Öffentliche Dienste, Bots und Webseiten sind auf einem VPS gut aufgehoben. Die Mischung ist üblich: Mini-PC für die KI, VPS für alles, was eine feste öffentliche Adresse braucht, verbunden per WireGuard oder Tailscale.

Wenn Du noch zwischen eigener Hardware und einem gemieteten KI-Server abwägst, hilft der Vergleich GPU kaufen oder mieten und der Artikel zu KI-Cloud-Servern. Für die Hardware-Auswahl des Mini-PCs gibt es den Mini-PC-Kaufratgeber.

Welche Distribution?

Alle drei sind vollwertige Server-Systeme. Der Unterschied liegt im Rhythmus und in der Philosophie:

Distribution	Release-Rhythmus	Stärken	Typischer Einsatz
Debian (stable)	ca. alle 2 Jahre	Sehr stabil, riesiges Archiv, wenig Überraschungen	Server, die jahrelang einfach laufen sollen
Ubuntu Server LTS	alle 2 Jahre, 5 Jahre Support	Größte Doku-Menge, beste Treiber- und Tool-Unterstützung, Snap für KI-Tools	Standard-Empfehlung für den Einstieg
Fedora Server	ca. alle 6 Monate	Aktuelle Kernel und Software, Wayland/SELinux von Haus aus	Wer neue Hardware und frische Versionen will

Praktisch gesprochen: Für einen KI- oder Self-Hosting-Server sind Debian stable und Ubuntu Server LTS die sichere Wahl. Fast jede Anleitung, jedes Docker-Image und jedes Installations-Skript ist damit getestet. Fedora ist technisch exzellent, bringt aber kürzere Supportfenster und etwas mehr Pflegeaufwand bei Major-Upgrades mit.

Die Vertiefung gibt es hier: Ubuntu für KI: Server-Setup und Debian für KI als Alternative zu Ubuntu.

Installation auf dem Mini-PC

1. Image holen und Stick schreiben

Lade das Server- oder Netinstall-Image von der jeweiligen Projektseite. Schreibe es mit balenaEtcher, Rufus (im DD-Modus) oder Ventoy auf einen USB-Stick. Ventoy ist bequem, weil Du mehrere ISOs auf einen Stick kopierst und beim Booten auswählst.

# Alternativ direkt per dd (Stick-Geraet vorher mit lsblk pruefen!)
sudo dd if=debian-13.x-amd64-netinst.iso of=/dev/sdX bs=4M status=progress conv=fsync

2. BIOS vorbereiten

Beim Mini-PC ins BIOS/UEFI (meist Entf oder F2 beim Start):

• Secure Boot: Ubuntu und Fedora kommen damit klar, bei Debian oft einfacher ausgeschaltet.
• Boot-Reihenfolge: USB zuerst.
• Automatischer Start nach Stromausfall („Restore on AC Power Loss” o.ä.): aktivieren, damit der Server nach einem Stromausfall von allein hochfährt.
• Bei Intel iGPU-Geräten mit optionaler NVIDIA-Karte: unbedingt die PCI-E-Version und Platz prüfen, wenn später eine GPU rein soll.

3. Installieren

Der Installer fragt Sprache, Netzwerk, Partitionierung und Benutzer ab. Für einen Server reicht in den meisten Fällen die geführte Partitionierung der ganzen Platte. Punkte, auf die Du achten solltest:

• Hostname gleich sinnvoll setzen (ki-server, homelab, …), das erleichtert SSH später.
• OpenSSH-Server bei Debian im Auswahlschritt mit abhaken, bei Ubuntu Server ist er meist schon vorgeschlagen.
• Kein root-Login: Normalen Benutzer anlegen, root per sudo erreichen.
• Bei Fedora: Den Server-Spins fehlt ein grafischer Installer-Wizard, die Text-Variante ist aber genauso geführt.

Nach dem ersten Boot: Updates ziehen und SSH testen.

sudo apt update && sudo apt upgrade -y   # Debian/Ubuntu
sudo dnf upgrade -y                       # Fedora
ip a                                      # IP-Adresse des Servers notieren

Wenn der Mini-PC danach ohne Monitor weiterlaufen soll, führt Dich das Headless-Setup durch alle Details.

Installation auf dem VPS

Auf einem VPS installierst Du fast nie selbst ein ISO. Der Ablauf sieht anders aus:

1. Image beim Anbieter wählen: Hetzner, netcup, IONOS, OVH und praktisch alle anderen bieten Debian, Ubuntu und Fedora als fertige Images. Du klickst die Version an, der Server ist in Sekunden da.
2. SSH-Key beim Anlegen hinterlegen: Passwort-Login gleich vermeiden, nur Key-Auth. Den Public Key lädst Du beim Bestellvorgang hoch.
3. Reinstall statt Installation: Wenn Du die Distribution wechseln willst, gibt es im Web-Panel eine „Reinstall”-Option. Das überschreibt die Platte komplett.
4. Rescue-System: Falls doch ein eigenes ISO nötig ist, stellen viele Anbieter ein Rescue-Image oder eine KVM-Konsole bereit, darüber lässt sich sogar ein Vanilla-Debian von Hand installieren. Für den Normalfall ist das unnötig.

Danach gelten dieselben ersten Schritte wie lokal, nur dass der Server sofort aus dem Internet erreichbar ist und die Absicherung entsprechend wichtiger wird:

# Updates
sudo apt update && sudo apt upgrade -y
# Root-Login in /etc/ssh/sshd_config abschalten
PermitRootLogin no
PasswordAuthentication no
# fail2ban gegen Passwort-Raten
sudo apt install fail2ban -y
# Firewall: nur SSH (und spaeter Deine Dienste) freigeben
sudo ufw allow OpenSSH && sudo ufw enable

Die Schritte, die beide Varianten gemeinsam haben

• Statische IP oder DNS-Namen festlegen: lokal im Router eine feste DHCP-Zuweisung, beim VPS die öffentliche IP unter einer Domain.
• Docker installieren, sobald Du Dienste per Compose betreiben willst. Der Einstieg steht in Docker für KI und Self-Hosting.
• Backups von Anfang an: Erst wenn das erste Backup läuft, ist der Server „fertig”.
• Monitoring kommt später, aber htop und journalctl solltest Du von Tag eins an kennen.

Häufige Fragen

Debian oder Ubuntu für den Anfang?

Beides ist gut. Ubuntu Server hat die meisten Anleitungen und das größte Ökosystem an fertigen Paketen. Debian ist minimaler und stabiler, wenn Du weniger Drumherum willst. Im Zweifel nimm das System, zu dem die meisten Deiner Follow-up-Anleitungen geschrieben sind.

Kann ich Fedora auf dem VPS nehmen?

Ja, wenn der Anbieter das Image anbietet. Bedenke nur den kurzen Release-Zyklus: Ein Fedora-Server sollte etwa jährlich ein Major-Upgrade bekommen. Wer ein System „installieren und vergessen” will, ist mit Debian oder Ubuntu LTS entspannter.

Brauche ich eine GUI auf dem Server?

Nein. Server laufen headless, und eine grafische Oberfläche frisst nur RAM und Angriffsfläche. Verwaltung passiert per SSH, Cockpit (Web-UI von Fedora/RHEL, auch auf Debian installierbar) oder Web-Interfaces Deiner Dienste.

Wie viel RAM braucht der Mini-PC für lokale KI?

Für das System selbst reichen 4 bis 8 GB. Für lokale Modelle hängt es vom Modell ab: 7B-Modelle in Q4 laufen ab etwa 8 GB RAM, 13B ab 16 GB. Details stehen im Hardware-Ratgeber für lokale KI.

Was, wenn der VPS kein GUI-Installations-Tool hat?

Das ist normal. Der Anbieter installiert das Image per Template, Du bekommst nur SSH-Zugang. Eine Desktop-Umgebung gehört auf einen Server ohnehin nicht.

Der Weiterweg

Mit einem frischen Debian, Ubuntu oder Fedora auf Mini-PC oder VPS ist der Grundstein gelegt. Als Nächstes typischerweise: Docker installieren, die ersten Dienste per Compose hochziehen, SSH und Firewall härten und ein Backup einrichten. Die Übersicht aller Folgeschritte findest Du in der Self-Hosting-Kategorie und im Linux-Bereich.