Ollama-Modelle verschieben und migrieren

Was dieser Artikel über Ollama-Migration behandelt

• Wie man Ollama-Modelle exportiert und importiert.
• Wie man Modelle auf einen anderen Rechner überträgt.
• Welche Dateien im .ollama-Verzeichnis liegen.
• Wie man Modelle spiegeln oder synchronisieren kann.
• Tipps für Fehlerbehebung.

Einleitung: Ollama-Modelle verschieben und migrieren

Ollama speichert Modelle lokal im .ollama-Verzeichnis. Wer ein neues System einrichtet oder Modelle von einem Rechner auf einen anderen bringen möchte, muss diese Dateien korrekt übertragen. Eine einfache Kopie des Verzeichnisses reicht meist, doch je nach Plattform und Version sind Details zu beachten. Für gelegentliche Übertragungen bietet Ollama auch eigene Import- und Exportmechanismen.

Dieser Artikel zeigt die gängigsten Wege, Ollama-Modelle zu verschieben und zu migrieren.

Wichtige Begriffe

• Modelfile: Rezept für ein Modell mit Base, Parameter und Template.
• Blob: Modell-Gewichtsdatei.
• Manifest: Metadaten-Datei, die Blobs referenziert.
• .ollama: Standard-Verzeichnis für Ollama-Daten.
• Export: Modell in eine Datei speichern.
• Import: Modell aus einer Datei laden.
• rsync: Synchronisierungstool für Dateien.
• GGUF: Format für Modellgewichte.

Wo Ollama Daten speichert

Standardpfad:

• Linux: ~/.ollama
• macOS: ~/.ollama
• Windows: C:\Users\<Benutzer>\.ollama

Struktur:

.ollama/
  models/
    manifests/
    blobs/

Modell verpacken

Ein einzelnes Modell lässt sich mit ollama show und ollama pull nicht direkt als Paket exportieren. Alternativ kopiert man das .ollama-Verzeichnis.

Kopieren auf neuen Rechner

Variante 1: Archivieren

# Auf dem alten Rechner
tar -czf ollama-backup.tar.gz -C ~/.ollama .

# Auf dem neuen Rechner
tar -xzf ollama-backup.tar.gz -C ~/.ollama

Ollama muss vorher gestoppt und danach neu gestartet werden.

Variante 2: rsync über Netzwerk

rsync -avz --progress ~/.ollama/models/ neuer-server:/home/benutzer/.ollama/models/

Variante 3: Externe Festplatte

# Altes Verzeichnis kopieren
cp -r ~/.ollama /pfad/zum/backup/

# Auf neuem Rechner
cp -r /pfad/zum/backup/.ollama ~/

Nur einzelne Modelle kopieren

Wenn nur einzelne Modelle übertragen werden sollen, ist ein direktes Kopieren der Blobs schwierig, weil Manifeste auf Blobs verweisen. Einfacher:

1. Modelfile auf dem alten System sichern:

ollama show --modelfile llama3.1 > llama3.1.modelfile

2. Modelfile und Blobs auf den neuen Rechner kopieren.
3. Ollama neu starten oder ollama create mit dem Modelfile ausführen.

Modell aus GGUF importieren

ollama create mein-modell -f ./Modelfile

Modelfile-Beispiel:

FROM ./mein-modell.gguf
PARAMETER temperature 0.7
SYSTEM "Hilfreicher Assistent"

Ollama vor dem Kopiervorgang stoppen

sudo systemctl stop ollama

Nach dem Kopiervorgang:

sudo systemctl start ollama

Plattformabhängigkeit

• Modelle sind plattformunabhängig, wenn sie im gleichen Format vorliegen.
• x86 und ARM müssen jeweils passende Binärdateien nutzen.
• GPU-Treiber müssen auf dem Zielsystem passen.

Synchronisierung halten

Für mehrere Systeme kann ein rsync oder ein Netzwerk-Speicher helfen:

# Synchronisiert .ollama zwischen zwei Hosts
rsync -avz --delete -e ssh host1:/home/benutzer/.ollama/models/ /home/benutzer/.ollama/models/

Tipps

• Vorher Platz prüfen.
• Ollama beenden, bevor Dateien kopiert werden.
• Rechte und Benutzer anpassen.
• Manifeste mitkopieren.
• Versionen auf beiden Systemen angleichen.
• Backup vor grösseren Änderungen.

Typische Stolpersteine

• Ollama läuft während des Kopiervorgangs: Dateien können korrupt sein.
• Rechte falsch: Ollama kann Modelle nicht lesen.
• Manifest fehlt: Modell taucht nicht in ollama list auf.
• Platz knapp: Ziel hat nicht genug Speicher.
• Inkompatible Version: Neueres Ollama braucht möglicherweise anderes Format.
• Windows-Pfade: Schrägstriche und Laufwerksbuchstaben beachten.

Weiterführende Links und Infos

• BotServ.de Ollama Backup
• BotServ.de Ollama Modell-Aktualisierung
• BotServ.de Ollama Modell-Lebenszyklus
• BotServ.de Ollama Befehle

FAQ: Ollama-Modelle verschieben

Kann ich einfach das .ollama-Verzeichnis kopieren? Ja, wenn Ollama beendet ist und Rechte stimmen.

Sind Modelle zwischen Linux und macOS kompatibel? Ja, die GGUF-Modelle sind plattformunabhängig.

Wie übertrage ich nur ein Modell? Modelfile und zugehörige Blobs kopieren oder neu importieren.

Geht das über USB? Ja, wenn Dateien korrekt kopiert werden.

Muss ich Ollama neu installieren? Auf dem Zielsystem muss Ollama installiert sein, aber Konfiguration und Daten können übernommen werden.

Quellen und weiterführende Literatur

• Ollama GitHub: https://github.com/ollama/ollama
• GGUF Format: https://github.com/ggerganov/ggml/blob/master/docs/gguf.md
• Ollama CLI: https://ollama.com/

Zusammenfassung: Ollama-Modelle verschieben und migrieren

Das Verschieben von Ollama-Modellen ist am einfachsten über das .ollama-Verzeichnis. Davor sollte Ollama gestoppt werden, damit Dateien konsistent bleiben. Für einzelne Modelle können Modelfiles und Blobs übertragen oder Modelle neu importiert werden. Plattformunabhängigkeit, Speicherplatz, Rechte und Ollama-Versionen sind die wichtigsten Faktoren. Wer diese Punkte beachtet, kann Modelle schnell zwischen Rechnern, Servern oder Backups bewegen.