KI-Hardware Kaufberatung

Was dieser Artikel behandelt

• Warum die richtige Hardware für lokale KI wichtig ist.
• Welche Komponenten den Unterschied ausmachen.
• Wie die Leistung von KI-Hardware gemessen wird.
• Wo passende Mini-PCs und GPUs im Amazon Shop zu finden sind.

Einleitung

Lokale KI braucht keinen Server-Schrank. Für erste Schritte reicht oft ein günstiger Rechner, eine gebrauchte GPU oder ein kompakter Mini-PC. Wer direkt etwas kaufen will, steht vor der Frage: Was muss die Hardware wirklich können? Dieser Bereich fasst Kaufempfehlungen zusammen und erklärt, worauf es bei RAM, VRAM, Prozessoren und KI-Beschleunigern ankommt.

Warum brauche ich einen passenden KI-PC?

Ein Sprachmodell ist eine große Datei. Um daraus Antworten zu berechnen, muss sie in den Speicher geladen und dort verarbeitet werden. Ohne genug RAM oder VRAM passen kleinere oder weniger quantisierte Modelle einfach nicht. Mit der richtigen Hardware läuft Ollama, LM Studio oder ein KI-Agent flüssig und wartet nicht ständig auf Berechnungen.

Wer also ernsthaft mit lokaler KI arbeiten will, sollte von Anfang an auf ausreichend Speicher und eine starke GPU oder APU achten. Das spart späteres Aufrüsten und Frust.

Wichtige Komponenten

Komponente	Rolle	Worauf achten
CPU	Führt Inferenz und Betriebssystem aus	Moderne Kerne, viel Cache
RAM	Speichert Modelle bei CPU-Inferenz	16 GB Minimum, 32 GB besser, 64-128 GB ideal
GPU/VRAM	Schnelle parallele Berechnung	8 GB Minimum, 16 GB oder mehr besser
APU	CPU und GPU auf einem Chip	Unified oder Shared Memory nutzt gemeinsamen RAM
SSD	Schneller Speicher für Modelle	500 GB oder mehr, vorzugsweise NVMe

Wichtige Begriffe

• TOPS/NTOPS - Tera Operations Per Second. Gibt an, wie viele Rechenoperationen ein Prozessor pro Sekunde schafft. Höhere Werte bedeuten schnellere KI-Inferenz.
• APU - Accelerated Processing Unit: CPU und GPU auf einem Chip, wie bei Apple Silicon oder Ryzen AI Max.
• Unified/Shared Memory - Arbeitsspeicher wird von CPU und GPU gemeinsam genutzt. Wichtig für Apple Silicon und Ryzen AI Max.
• Quantisierung - Reduziert Modellgröße und Speicherbedarf. Ermöglicht größere Modelle auf kleinerer Hardware.
• VRAM - Speicher der Grafikkarte. Bei GPU-Inferenz entscheidend.

Empfohlene Mini-PCs und GPUs

Passende Mini-PCs, Ryzen AI Max-Geräte und GPUs für lokale KI findest Du im Amazon Shop. Ich empfehle, dort regelmäßig vorbeizuschauen, weil sich Preise und Verfügbarkeiten schnell ändern.

Inhalt

• KI-PC für Einsteiger - Ausführliche Kaufberatung mit Preisklassen, Varianten und konkreten Modellen.
• KI-PC Mittelklasse - Mehr Power für 13B bis 30B Modelle, 1000 bis 2500 EUR.
• KI-Workstation - Maximale Power für 70B+ Modelle, Dual-GPU und High-End Builds.
• PC für Ollama - Optimale Hardware für Ollama mit Build-Vorschlägen.
• PC für KI-Agenten - Hardware für Multi-Agent-Systeme und parallele Modelle.
• PC für RAG - Hardware für Vektordatenbanken, Embedding-Modelle und RAG-Pipelines.
• PC für Bildgenerierung - Stable Diffusion, Flux und ComfyUI mit GPU-Empfehlungen.
• Mac mini für KI - Apples kompakter KI-Rechner mit M4, M4 Pro und M4 Max.
• Mac Studio für KI - Apples Workstation für 70B+ Modelle mit bis zu 192GB Unified Memory.
• Gebrauchte GPU für KI - Sparpotenzial, Risiken und welche Karten sich lohnen.
• Mini-PC für KI - Kompakte Rechner: Ryzen AI Max, Intel NUC und Mac mini.

FAQ - Häufige Fragen

Brauche ich sofort eine teure Grafikkarte?

Nein. Für erste Experimente reicht oft die CPU oder eine günstige GPU. Erst wenn größere Modelle schnell laufen sollen, lohnt sich mehr VRAM.

Was bedeutet NTops?

NTops steht für Nano oder Tera Operations Per Second. Es misst, wie viele Rechenoperationen ein Chip für KI-Aufgaben pro Sekunde durchführen kann. Meist siehst Du TOPS, also Billionen Operationen pro Sekunde.

Wo finde ich Hardware-Grundlagen?

In KI-Hardware Grundlagen erklären wir RAM, VRAM und weitere Begriffe.