Ollama-Modelle und Daten sichern

Was dieser Artikel über Ollama-Backup behandelt

• Was bei einer Ollama-Installation gesichert werden muss.
• Wo Ollama seine Daten speichert.
• Wie man Modelle und Konfigurationen exportiert.
• Wie ein Restore auf einem neuen System aussieht.
• Tipps für automatische und portable Backups.

Einleitung: Ollama-Modelle und Daten sichern

Ollama-Installationen enthalten neben dem eigentlichen Programm vor allem Modelle, Modelfiles und Konfigurationen. Bei einem Hardwaredefekt, einem Umzug auf einen neuen Rechner oder einem versehentlichen Löschen geht ohne Backup viel Arbeit verloren. Wer regelmässig sichert, kann seine Modelle schnell wiederherstellen oder auf einem anderen System identisch bereitstellen.

Dieser Artikel zeigt, welche Daten relevant sind und wie man sie zuverlässig sichert.

Wichtige Begriffe

• Modellverzeichnis: Ort, an dem Ollama Modelle speichert.
• Blob: Grosse Binärdatei eines Modells.
• Manifest: Metadaten eines Modells.
• Modelfile: Beschreibungsdatei für ein benutzerdefiniertes Modell.
• Volume: Docker-Datenträger für Ollama.
• Restore: Wiederherstellung eines Backups.
• Export: Sicherung eines Modells als Datei.

Wo speichert Ollama Daten?

Standardmässig liegen die Daten unter:

~/.ollama

Unter Linux ist der tatsächliche Speicherort:

/usr/share/ollama/.ollama/models

Bei Docker liegt das Verzeichnis im Volume ollama-data unter /root/.ollama.

Wichtige Inhalte

• models/blobs/: Grosse Binärdateien der Modelle.
• models/manifests/: Beschreibungen der Modelle.
• id_ed25519 und id_ed25519.pub: Schlüsselpaar für Modell-Signatur.

Was sollte gesichert werden?

Komponente	Begründung
~/.ollama	Enthält Modelle, Manifeste und Schlüssel.
Modelfiles	Beschreiben eigene Modelle.
Compose-Dateien	Definieren den Ollama-Service.
.env-Dateien	Enthalten Konfiguration und Secrets.
Docker Volumes	Persistente Daten im Containerbetrieb.

Manuelles Backup

tar -czf ollama-backup-$(date +%Y%m%d).tar.gz ~/.ollama

Für Docker:

docker run --rm -v ollama-data:/data -v $(pwd):/backup alpine \
  tar -czf /backup/ollama-data.tar.gz -C /data .

Restore

tar -xzf ollama-backup-20260907.tar.gz -C ~/

Für Docker:

docker volume create ollama-data
docker run --rm -v ollama-data:/data -v $(pwd):/backup alpine \
  tar -xzf /backup/ollama-data.tar.gz -C /data

Modelle exportieren

Einzelne Modelle können exportiert werden:

ollama show llama3.1 --modelfile > llama31.Modelfile
ollama cp llama3.1 mein-llama31

Das Modell lässt sich anschliessend auf einem anderen System importieren:

ollama create mein-llama31 -f llama31.Modelfile

Automatisiertes Backup-Skript

#!/bin/bash
set -e

BACKUP_DIR="/backup/ollama/$(date +%Y%m%d_%H%M%S)"
mkdir -p "$BACKUP_DIR"

# Ollama-Daten
tar -czf "$BACKUP_DIR/ollama-data.tar.gz" -C "$HOME" .ollama

# Modelfiles und Konfiguration
rsync -av "$HOME/ollama-config/" "$BACKUP_DIR/ollama-config/"

# Docker-Compose
rsync -av /opt/ollama-compose/ "$BACKUP_DIR/compose/"

echo "Backup erstellt: $BACKUP_DIR"

Cronjob:

0 4 * * * /usr/local/bin/backup-ollama.sh

Verschlüsselung

Backups mit Restic verschlüsseln:

restic -r /mnt/backup-repo backup ~/.ollama

Oder tar mit GPG:

tar -czf - ~/.ollama | gpg -c > ollama-backup.tar.gz.gpg

Offsite-Speicherung

• NAS oder externe Festplatte.
• Cloud-Storage mit rclone.
• Entfernter Tailscale-Node.
• S3-kompatible Objektspeicher.

Modelle auf neuen Host übertragen

1. Backup erstellen.
2. ~/.ollama auf neuen Rechner kopieren.
3. Ollama installieren.
4. ollama list prüft, ob Modelle erkannt werden.
5. ollama run testet.

Docker-Volumes sichern

docker run --rm -v ollama-data:/data -v $(pwd):/backup alpine tar -czf /backup/ollama-data.tar.gz -C /data .

Auf neuem System:

docker volume create ollama-data
docker run --rm -v ollama-data:/data -v $(pwd):/backup alpine tar -xzf /backup/ollama-data.tar.gz -C /data

Wichtige Hinweise

• Modelle sind grosse Dateien, Backup braucht viel Platz.
• Inkrementelle Backups mit rsync oder restic sparen Platz.
• Modelfiles und Konfiguration sollten zusammen gesichert werden.
• Vor grossen Updates immer ein Backup machen.
• Restore regelmässig testen.

Typische Stolpersteine

• Nur Modellname gesichert: Blobs fehlen.
• Zu wenig Speicherplatz: Backup bricht ab.
• Falsches Verzeichnis: Ollama-Daten liegen an anderem Ort.
• Docker-Volume vergessen: Daten liegen im Volume, nicht im Container.
• Keine Verschlüsselung: Private Modelle liegen ungeschützt.
• Kein Restore getestet: Backup ist unbrauchbar.

Weiterführende Links und Infos

• BotServ.de Ollama Befehle
• BotServ.de Ollama Modell-Lebenszyklus
• BotServ.de Docker Backup
• BotServ.de Docker Volumes

FAQ: Ollama-Backup

Kann ich Modelle einfach kopieren? Ja, das Verzeichnis ~/.ollama enthält alles Wichtige.

Brauche ich das Schlüsselpaar? Nur wenn man signierte Modelle pushen oder verifizieren möchte.

Wie gross ist ein Backup? So gross wie alle Modelle zusammen, oft mehrere hundert GB.

Kann ich Modelle zwischen Hosts verschieben? Ja, mit tar oder rsync. Manifeste und Blobs müssen zusammen sein.

Sollte ich Backups verschlüsseln? Ja, besonders wenn Modelle oder Konfigurationen sensible Informationen enthalten.

Quellen und weiterführende Literatur

• Ollama Datenverzeichnis: https://github.com/ollama/ollama/blob/main/docs/faq.md
• rsync: https://rsync.samba.org/
• restic: https://restic.net/

Zusammenfassung: Ollama-Modelle und Daten sichern

Ein Ollama-Backup umfasst vor allem das Verzeichnis ~/.ollama mit Modellen, Manifesten und Schlüsseln. Manuelle Sicherungen mit tar oder rsync sind einfach, automatisierte Skripte und verschlüsselte Offsite-Backups schützen zuverlässig. Wer seine Modelfiles, Compose-Konfigurationen und Volumes mit einbezieht, kann im Ernstfall schnell wiederherstellen. Regelmässige Restore-Tests stellen sicher, dass das Backup im Ernstfall funktioniert.