RAM für lokale KI kaufen

Was dieser Artikel über RAM für lokale KI behandelt

• Warum RAM bei lokaler KI so wichtig ist.
• Wie viel RAM für verschiedene Modellgrössen nötig ist.
• Unterschied zwischen DDR4, DDR5 und ECC.
• Warum Dual-Channel die Performance verbessert.
• Tipps für den Kauf und typische Fehler.

Einleitung: RAM für lokale KI kaufen

RAM ist neben VRAM die wichtigste Ressource für lokale KI-Modelle. Modelle, die nicht in den GPU-Speicher passen, werden teilweise oder ganz in den Arbeitsspeicher ausgelagert. Je grösser und schneller der RAM, desto flüssiger läuft die Inferenz. Wer für Ollama, llama.cpp oder Agenten-Setups die passende RAM-Ausstattung wählt, vermeidet Engpässe und Ladezeiten.

Dieser Artikel hilft, die richtige RAM-Menge und -Technologie für lokale KI-Projekte auszuwählen.

Wichtige Begriffe

• RAM: Arbeitsspeicher des Systems.
• VRAM: Speicher der Grafikkarte.
• DDR4: Gängiger RAM-Standard, erschwinglich.
• DDR5: Neuerer Standard mit höherer Bandbreite.
• ECC: Error-Correcting Code, korrigiert Bitfehler.
• Dual-Channel: Zwei RAM-Riegel parallel für mehr Bandbreite.
• Speicherbandbreite: Geschwindigkeit, mit der Daten durch RAM fliessen.
• Unified Memory: RAM und VRAM geteilt, wie bei Apple Silicon.

Warum ist RAM wichtig?

Lokale KI-Modelle bestehen aus Milliarden von Parametern. Diese müssen im Speicher gehalten werden, damit das Modell antworten kann. Bei CPU-Inferenz oder wenn das Modell grösser als der GPU-Speicher ist, liegt das Modell vollständig im RAM. Auch während der Verarbeitung wird ein sogenannter KV-Cache im Arbeitsspeicher gehalten, der mit der Kontextlänge wächst.

Faustregel für Modellgrössen

Bei 4-Bit-Quantisierung gilt eine grobe Schätzung:

Modellgrösse	Benötigter RAM
7B / 8B	6 bis 8 GB
13B / 14B	10 bis 12 GB
30B	20 bis 24 GB
70B	40 bis 48 GB

Das ist nur der Bedarf für das Modell. Das Betriebssystem, Ollama, Datenbanken und andere Dienste brauchen zusätzlich RAM. Daher sollte man etwas Luft einplanen.

Empfohlene Mindestwerte

• Einstieg mit 7B-Modellen: 16 GB RAM.
• Komfortables Arbeiten mit 13B/14B: 32 GB RAM.
• 30B-Modelle: 64 GB RAM.
• 70B-Modelle: 96 bis 128 GB RAM.

Mehr RAM ist fast immer besser, da man dann grössere Modelle, längere Kontexte oder mehrere Dienste gleichzeitig betreiben kann.

DDR4 vs. DDR5

DDR4

• Günstiger und reichlich verfügbar.
• Gut für Bestands- und Budget-Systeme.
• Für viele lokale KI-Setups ausreichend.

DDR5

• Höhere Bandbreite.
• Bessere Leistung bei CPU-Inferenz.
• Teurer, vor allem bei grösseren Kapazitäten.
• Lohnt sich, wenn CPU-Inferenz im Fokus steht.

Für reine GPU-Inferenz ist der Unterschied zwischen DDR4 und DDR5 kleiner, da das Modell im VRAM liegt. Für CPU-Inferenz spielt die Speicherbandbreite eine grössere Rolle.

ECC-RAM

• Fehlerkorrektur für lange Berechnungen.
• Wichtig für Server und Homelabs, die viele Stunden laufen.
• Verfügbar bei vielen Server-Plattformen und Workstation-CPUs.
• Nicht zwingend für Consumer-Testrechner.

Wer einen 24/7-Server betreibt, profitiert von ECC. Desktop-PCs mit normalen AMD- oder Intel-Consumer-CPUs unterstützen ECC oft nicht.

Dual-Channel

Zwei passende RAM-Riegel im Dual-Channel-Betrieb liefern deutlich mehr Speicherbandbreite als ein einzelner Riegel. Bei CPU-Inferenz ist das spürbar. Wer RAM nachrüstet, sollte also immer paarweise kaufen und in den passenden Steckplätzen installieren.

Apple Silicon und Unified Memory

Auf Macs mit Apple Silicon teilen CPU und GPU denselben Speicher. 16 GB sind für kleine 7B-Modelle okay, 32 bis 64 GB Unified Memory ermöglichen grössere Modelle. Die Bandbreite ist sehr hoch, weshalb Apple Silicon auch ohne dedizierte GPU gut für KI geeignet ist.

Speicherbandbreite

Bandbreite beeinflusst CPU-Inferenz. DDR4-3200 liefert etwa 51 GB/s pro Kanal, DDR5-4800 etwa 76 GB/s pro Kanal. Dual-Channel verdoppelt diese Werte. Modelle mit vielen Parametern profitieren deutlich von mehr Bandbreite.

Kaufempfehlungen

Budget-Build für 7B-Modelle

• 32 GB DDR4-3200, Dual-Channel.
• Ausreichend für Ollama mit 8B-Modellen.

Mittelklasse für 14B-Modelle

• 64 GB DDR4 oder DDR5.
• Ausreichend für grössere Modelle und RAG-Dienste.

Workstation für 30B- bis 70B-Modelle

• 128 GB DDR4/DDR5, eventuell ECC.
• Für CPU-Inferenz oder als Puffer, wenn VRAM nicht reicht.

Typische Kauffehler

• Zu wenig RAM: Modell wird ausgelagert oder bricht ab.
• Einzelner Riegel: Verpasste Dual-Channel-Performance.
• Langsame RAM-Timings: Bandbreite sinkt.
• Inkompatibles ECC: Mainboard oder CPU unterstützt kein ECC.
• Mischbestückung: Unterschiedliche Riegel können Probleme verursachen.
• Apple Silicon unterschätzen: Unified Memory ist anders als klassischer RAM + VRAM.

Weiterführende Links und Infos

• BotServ.de GPU für lokale KI kaufen
• BotServ.de Ollama Performance
• BotServ.de Hardware richtig dimensionieren
• BotServ.de RAM- und VRAM-Anforderungen

FAQ: RAM für lokale KI

Brauche ich mehr RAM als VRAM? Ja, wenn das Modell grösser als der GPU-Speicher ist, liegt es im RAM. Auch das Betriebssystem und andere Dienste brauchen RAM.

Reichen 16 GB für Ollama? Für kleine 7B-Modelle ja, aber für grössere Modelle oder RAG-Setups nicht.

Ist DDR5 deutlich besser für KI? Bei CPU-Inferenz ja, bei reiner GPU-Inferenz weniger relevant.

Lohnt sich ECC für ein Homelab? Ja, wenn der Server dauerhaft läuft und Stabilität wichtig ist.

Sollte ich lieber 32 GB DDR4 oder 16 GB DDR5 kaufen? 32 GB DDR4 sind in der Regel besser, da mehr RAM mehr Modellgrössen ermöglicht.

Quellen und weiterführende Literatur

• Ollama GitHub: https://github.com/ollama/ollama
• DDR5-Übersicht: https://www.crucial.de/articles/about-memory/memory-types

Zusammenfassung: RAM für lokale KI kaufen

RAM ist ein zentraler Faktor für lokale KI, besonders bei CPU-Inferenz oder grossen Modellen. Für 7B-Modelle reichen 16 bis 32 GB, für grössere Modelle sind 64 GB oder mehr sinnvoll. DDR5 bietet mehr Bandbreite, DDR4 ist günstiger. Dual-Channel ist wichtig, ECC hilft bei stabilen Dauerbetrieb. Wer RAM passend zur Modellgrösse und zum Einsatzzweck wählt, bekommt deutlich flüssigere Ergebnisse aus Ollama und anderen lokalen KI-Tools.