Debian für KI: Alternative zu Ubuntu

Was dieser Artikel behandelt

• Wie Debian als Server für lokale KI funktioniert.
• Die Unterschiede zwischen Debian und Ubuntu im KI-Alltag.
• Wie Du Ollama und Docker auf Debian installierst.
• Wann Debian die bessere Wahl ist.

Einleitung

Ubuntu ist der bekannteste Weg, KI-Services auf Linux zu betreiben. Debian ist der ältere, konservativere Verwandte. Wer Wert auf Stabilität, weniger Snap-Abhängigkeiten und saubere Paketquellen legt, ist mit Debian oft besser bedient. Für KI-Server, die monatelang unbeaufsichtigt laufen sollen, ist Debian eine solide Wahl.

Warum Debian für KI?

Debian ist bekannt für langen Support und stabilen Paketbestand. Du bekommst nicht die neuesten Versionen, dafür aber weniger Updates, die Dein KI-Setup unterbrechen. Ollama, Docker und Python lassen sich trotzdem einfach installieren. Wer einen schlanken, zuverlässigen Server will, ist mit Debian gut beraten.

Debian kurz erklärt

Debian ist eine Linux-Distribution, auf der Ubuntu basiert. Die Paketverwaltung funktioniert mit apt. Debian hat drei Zweige: Stable, Testing und Unstable. Für Server empfehlen sich Stable oder die Long-Term-Support-Version. Debian hat weniger proprietäre Erweiterungen als Ubuntu und bringt standardmässig kein Snap mit.

Für wen ist dieser Artikel gedacht?

• Für Nutzer, die einen KI-Server aufsetzen wollen und zwischen Ubuntu und Debian entscheiden.
• Für Einsteiger, die eine stabile, schlanke Distribution suchen.
• Für alle, die Ollama und Docker auf Debian nutzen wollen.

Wichtige Begriffe

Begriff	Bedeutung
Debian	Konservative Linux-Distribution
Ubuntu	Auf Debian basierende Distribution mit mehr Aktualisierungen
apt	Paketverwaltung für Debian und Ubuntu
Stable	Getesteter Debian-Zweig für Server
Snap	Container-Paketformat, das Ubuntu nutzt, Debian nicht
Ollama	Software zum Ausführen lokaler Modelle
Docker	Container-Plattform für KI-Services
LTS	Long-Term Support, lange Wartungszeit
Root	Administrator-Account auf Linux
Sudo	Befehl, um Aktionen mit Admin-Rechten auszuführen

Debian installieren

1. Lade Debian Netinst von debian.org herunter.
2. Erstelle einen bootbaren USB-Stick.
3. Boote den Server und folge dem Installationsassistenten.
4. Wähle SSH-Server und Standard-Systemwerkzeuge.
5. Lege einen normalen Benutzer an und gib ihm sudo-Rechte.

Erstkonfiguration

# System aktualisieren
sudo apt update && sudo apt upgrade -y

# Nützliche Tools
sudo apt install -y curl wget htop git ufw

# Firewall aktivieren
sudo ufw default deny incoming
sudo ufw default allow outgoing
sudo ufw allow ssh
sudo ufw enable

Ollama auf Debian installieren

curl -fsSL https://ollama.com/install.sh | sh
ollama run llama3.2

Ollama läuft unter Debian identisch wie unter Ubuntu, weil beide Distributionen auf denselben Paketquellen basieren.

Docker installieren

# Abhängigkeiten
sudo apt install -y ca-certificates curl gnupg

# Docker GPG Key
sudo install -m 0755 -d /etc/apt/keyrings
curl -fsSL https://download.docker.com/linux/debian/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg

# Repository
echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/debian $(. /etc/os-release && echo "$VERSION_CODENAME") stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

# Installation
sudo apt update
sudo apt install -y docker-ce docker-ce-cli containerd.io docker-compose-plugin

Debian vs Ubuntu für KI

Merkmal	Debian	Ubuntu
Stabilität	Sehr hoch	Hoch
Paket-Aktualität	Konservativ	Neuer
Snap	Nein	Ja
Ollama	Läuft gut	Läuft gut
Docker	Läuft gut	Läuft gut
Server-Eignung	Hervorragend	Hervorragend
LTS-Länge	ca. 5 Jahre	5 Jahre

Typische Stolpersteine

• Falsche Edition wählen: Für KI-Server Debian Stable, nicht Testing.
• Sudo nicht konfiguriert: Der eigene Benutzer muss in der sudo-Gruppe sein.
• Neue Hardware: Sehr neue GPUs oder WiFi-Chips werden von Debian Stable oft nicht sofort erkannt.
• NVIDIA Treiber: Debian kann Probleme mit aktuellen NVIDIA-Treibern haben, weil die Pakete älter sind.
• Snapshots: Debian Stable ändert sich kaum. Das ist gut, kann aber auch bedeuten, dass neue KI-Tools manuell installiert werden müssen.
• Docker ohne sudo: Füge Deinen Benutzer zur docker-Gruppe hinzu.
• Firewall blockiert Ollama: Öffne Port 11434 nur, wenn nötig.
• Keine LTS-Info beachten: Plane Updates, bevor der Support endet.

Hardware, Kosten und Sicherheit

Debian läuft auf fast allen PCs und Servern. Der Stromverbrauch ist identisch zu Ubuntu. Es gibt keine Lizenzkosten. Durch den langsameren Update-Rhythmus ist Debian etwas weniger anfällig für Fehler durch neue Paketversionen. Sicherheit liegt bei Dir: Firewall, SSH-Keys und regelmässige Updates bleiben Pflicht.

Weiterführende Links

• Self-Hosting Übersicht
• Ubuntu für KI
• Docker Grundlagen
• Ollama auf Linux
• Firewall einrichten
• Proxmox für KI
• Headless-Setup

FAQ

Kann ich Ollama auf Debian nutzen?

Ja, Ollama läuft auf Debian genauso wie auf Ubuntu. Das Installationsscript erkennt die Distribution.

Ist Debian besser als Ubuntu?

Das kommt auf den Anwendungsfall an. Debian ist stabiler und schlanker, Ubuntu bietet neuere Treiber und Pakete.

Brauche ich Snap unter Debian?

Nein, Debian kommt ohne Snap. Du nutzt ausschliesslich apt oder Docker.

Welche Debian-Version für KI?

Für Server empfehlen sich Stable oder die aktuelle LTS-Version. Testing und Unstable sind für Produktion nicht ideal.

Läuft Docker unter Debian?

Ja, offizielle Docker-Pakete für Debian sind verfügbar und werden regelmässig gepflegt.

Ist Debian für Anfänger geeignet?

Ja, die Installation ist ähnlich einfach wie Ubuntu. Der Paketumfang ist etwas kleiner, aber für KI-Server ausreichend.

Kann ich NVIDIA-GPUs nutzen?

Ja, aber oft musst Du neuere Treiber manuell installieren. Ubuntu ist hier etwas komfortabler.

Wie oft sollte ich updaten?

Debian Stable braucht nicht oft Updates. Einmal pro Monat reicht meist, bei Sicherheitsupdates öfter.

Lohnt sich der Umstieg von Ubuntu zu Debian?

Wenn Du Stabilität und weniger Schnickschnack willst, ja. Wenn Du aktuelle Treiber brauchst, bleibe bei Ubuntu.

Kann ich Ollama und Docker gleichzeitig nutzen?

Ja, viele nutzen Ollama direkt und weitere Services wie Open WebUI in Docker.

Quellen

• Debian Documentation (debian.org)
• Ollama Installationsguide (ollama.com)
• Docker Docs für Debian (docs.docker.com)
• Ubuntu vs Debian Vergleich (canonical.com)