KI-PC Einsteiger
Einleitung
Wer mit lokaler KI anfangen will, braucht keinen Serverraum. Für erste Experimente reicht oft ein handelsüblicher Rechner oder ein gebrauchter PC. Wer direkt etwas Neues kaufen will, findet inzwischen leistungsstarke Mini-PCs und Workstations, die speziell für KI gedacht sind. Die wichtigsten Fragen sind: Wie viel RAM oder VRAM steht zur Verfügung? Läuft Ollama auf der CPU oder GPU? Und was kostet ein passender Einstieg?
KI-PC Einsteiger - kurz erklärt
Für den Einstieg in lokale KI eignet sich ein PC mit mindestens 16 GB RAM und optional einer dedizierten GPU. Eine GPU mit 8 GB VRAM erlaubt bereits das flüssige Ausführen quantisierter 7B-Modelle. Wer nur CPU nutzen will, braucht mindestens 16 GB RAM, besser 32 GB, und sollte Geduld mitbringen.
Aktuelle Mini-PCs mit AMD Ryzen AI Max+ 395 oder Apples M4-Prozessoren bieten viel Speicher auf kleinem Raum. Sie sind kompakt, leise und trotzdem stark genug für größere Modelle. Für besonders ambitionierte Workloads gibt es Geräte wie den NVIDIA DGX Spark.
Wichtige Begriffe
- TOPS/NTOPS - Tera Operations Per Second. Die Maßeinheit für KI-Rechenleistung. Je höher der Wert, desto schneller kann ein Chip Modelle ausführen.
- APU - Prozessor mit integrierter GPU. Beispiele: Apple Silicon und Ryzen AI Max.
- Unified/Shared Memory - CPU und GPU teilen denselben Arbeitsspeicher. Wichtig bei Apple Silicon und Ryzen AI Max.
- Quantisierung - Reduziert die Genauigkeit eines Modells, um es mit weniger Speicher laufen zu lassen. Ermöglicht größere Modelle auf kleinerer Hardware.
- VRAM - Speicher der dedizierten Grafikkarte. Entscheidend für GPU-Inferenz.
- LLM - Large Language Model, ein großes Sprachmodell.
Mindestanforderungen
| Komponente | CPU-Setup | Empfohlen |
|---|---|---|
| RAM | 16 GB | 32 GB |
| GPU | Keine nötig | GTX 1660, RTX 3060 oder besser |
| VRAM | - | 8 GB oder mehr |
| Speicher | 256 GB SSD | 500 GB SSD oder mehr |
Ein Rechner mit 16 GB RAM und einer CPU ist für kurze Tests ausreichend. Für flüssiges Arbeiten und größere Modelle lohnt sich eine GPU oder ein spezialisierter Mini-PC.
Günstige Einstiegsvarianten
Variante 1: Besterhender Rechner
Viele PCs mit 16 GB RAM können bereits kleine Modelle über Ollama im CPU-Betrieb ausführen. Das ist der günstigste Einstieg. Die Geschwindigkeit ist begrenzt, aber für Experimente reicht es.
Variante 2: Gebrauchte GPU
Eine gebrauchte RTX 3060 mit 12 GB VRAM oder RTX 3060 Ti mit 8 GB VRAM eröffnet deutlich mehr Möglichkeiten. Achte darauf, dass Dein Netzteil und Gehäuse die Karte unterstützen.
Variante 3: Apple Silicon Mac
Ein Mac mini oder MacBook Pro mit M-Serie und 16 oder 32 GB Unified Memory ist ein sehr beliebter Einstieg. Das Unified Memory teilt Arbeitsspeicher und GPU-Speicher. Viele 7B- und 13B-Modelle laufen darauf gut.
Aktuelle Mini-PCs für lokale KI
Mini-PCs mit starken APUs oder dedizierten GPU-Optionen eignen sich besonders gut für Ollama, LM Studio, Open WebUI, ComfyUI und KI-Agenten. Sie sind kompakt, leise und verbrauchen weniger Strom als große Workstations.
Empfohlene Auswahl im Amazon Shop
Mini-PCs für lokale KI im Amazon Shop
Bei Amazon ansehenAffiliate-Link: Bei einem Kauf erhalten wir möglicherweise eine Provision.
Ryzen AI Max+ 395
Der AMD Ryzen AI Max+ 395 ist aktuell eine der spannendsten Optionen für lokale KI. Er vereint bis zu 16 CPU-Kerne mit einer leistungsstarken integrierten Radeon 8060S GPU und 128 GB LPDDR5X. Das ist genug, um große LLMs, Agenten-Workflows und auch Bildgenerierung lokal auszuführen.
Hier sind einige konkrete Modelle, die mit diesem Prozessor verfügbar sind:
- MINIS FORUM MS-S1 Max: Workstation mit 64 GB RAM, ideal für große lokale LLMs. 128 GB-Variante war zum Zeitpunkt der Liste nicht verfügbar.
- GMKtec EVO-X2: Erhältlich mit 64 GB oder 128 GB RAM, 2 TB SSD, USB4 und 2,5 G LAN.
- GMKtec X3: 128 GB LPDDR5X, 2 TB SSD, OCuLink und Kartenleser.
- Corsair AI Workstation 300: Desktop-Workstation mit 128 GB RAM und 4 TB SSD, gut als stationäre KI-Maschine.
- BOSGAME M5: Mini-PC mit 128 GB RAM, 2 TB SSD und Radeon 8060S.
- WEELIAO ONEXStation: 128 GB RAM, RGB-Beleuchtung, konzipiert für lokales AI Computing.
- Thdeukoty Ryzen AI Max+ 395: 128 GB LPDDR5X, 2 TB SSD, 10 GbE und WiFi 7.
Preise und Verfügbarkeiten ändern sich schnell. Die aktuellen Preise findest Du im Amazon Shop über die Karte oben.
Apple Mac mini M4 Pro
Der aktuelle Mac mini mit M4 Pro und 24 GB Unified Memory ist ein solider Einstieg. Mit 32 GB oder mehr wird er richtig komfortabel für lokale KI. Apple Silicon punktet durch Unified Memory und gute Effizienz. Ein Mac mini passt auf jeden Schreibtisch und läuft dabei fast lautlos.
NVIDIA DGX Spark und Project Digits
NVIDIA hat mit dem DGX Spark bzw. Project Digits ein sehr leistungsstarkes Gerät für lokale KI angekündigt und ausgeliefert. Es basiert auf dem GB10 Grace Blackwell Superchip und bietet bis zu 128 GB Speicher mit einer petaFLOP KI-Leistung. Geräte wie der ASUS Ascent GX10 oder der NVIDIA DGX Spark richten sich an ambitionierte Nutzer, die große Modelle flüssig lokal betreiben wollen.
Was ist mit dem Ryzen AI Max+ 495?
AMD hat noch keine offiziell verfügbaren Ryzen AI Max+ 495 Prozessoren auf den Markt gebracht. Sobald die nächste Generation startet, wird sie voraussichtlich noch mehr Speicherbandbreite und Leistung bieten. Für den Einstieg lohnt es sich heute, auf den 395er zu setzen.
Kostenbeispiele
| Setup | Ungefähre Kosten | Für wen |
|---|---|---|
| Bestehender PC mit CPU | 0 EUR | Erste Experimente |
| PC + gebrauchte GPU | 300 bis 600 EUR | Solider Einstieg |
| Apple Silicon Mac mini | 700 bis 1.500 EUR | Komfortabler Einstieg |
| Ryzen AI Max+ 395 Mini-PC | 1.000 bis 3.000 EUR | Kompakte KI-Workstation |
| NVIDIA DGX Spark / GB10 | 4.000 bis 7.500 EUR | Höchste Leistung im Mini-Format |
Entscheidungshilfen und Stolpersteine
- RAM ist wichtiger als die reine CPU-Leistung. Große Modelle brauchen vor allem viel Speicher.
- APUs wie Ryzen AI Max nutzen Shared Memory. 128 GB RAM bedeuten nicht 128 GB VRAM, aber viel mehr als bei einer typischen Grafikkarte.
- Mini-PCs sind kompakt, aber nicht aufrüstbar. Wenn Du größere Modelle vorhast, direkt viel RAM wählen.
- Apple Silicon ist effizient, aber nicht alles läuft nativ. Einige Tools und Modelle funktionieren besser unter Linux oder Windows.
- Günstige gebrauchte GPUs bleiben sinnvoll. Wer nicht viel ausgeben will, findet mit RTX 3000-Serien eine brauchbare Option.
Weiterführende Infos und Links
- 16 GB RAM sind das Minimum für CPU-Betrieb.
- 8 GB VRAM ermöglichen quantisierte 7B-Modelle.
- Apple Silicon ist wegen Unified Memory sehr beliebt.
- Ryzen AI Max+ 395 und NVIDIA DGX Spark bieten aktuell viel Leistung für Mini-PCs.
- Mehr zu Speicher findest Du in RAM vs. VRAM und RAM und VRAM Anforderungen.
- Passende Mini-PCs für lokale KI gibt es im Amazon Shop von schutzgeist.
FAQ - Typische Fragen zum KI-PC
Kann ich Ollama ohne GPU nutzen?
Ja, Ollama läuft auf der CPU. Allerdings ist die Geschwindigkeit deutlich geringer als auf einer GPU oder APU.
Welche Nvidia-GPU ist der beste Einstieg?
Eine RTX 3060 mit 12 GB VRAM oder eine RTX 4060 Ti mit 16 GB VRAM bieten viel Speicher für den Preis. Wer neu kauft, sollte 12 oder 16 GB VRAM anstreben.
Reicht 16 GB RAM auf einem Mac?
Für 7B-Modelle ja. Wer 13B oder größere Modelle nutzen will, profitiert von 32 GB oder mehr Unified Memory.
Sollte ich lieber einen Mini-PC oder eine Desktop-GPU kaufen?
Mini-PCs mit Ryzen AI Max oder Apple Silicon sind kompakt und leise. Desktop-GPUs bieten oft mehr Flexibilität für spätere Upgrades. Für dauerhaft laufende lokale KI im Wohnzimmer sind leise Mini-PCs oft die bessere Wahl.
Ist 128 GB RAM bei einem Mini-PC wirklich nötig?
Nicht für den Einstieg. Für große LLMs, langen Kontext und Bildgenerierung ist 64 bis 128 GB aber ein großer Vorteil. Damit laufen 70B-Modelle in Quantisierung manchmal auch auf der APU.
Laufen alle KI-Tools auf Apple Silicon?
Die meisten gängigen Tools wie Ollama, LM Studio und ComfyUI laufen nativ oder gut emuliert. Einige Open-Source-Modelle sind aber zuerst für CUDA optimiert und laufen unter Linux oder Windows mit Nvidia-GPU besser.
Was ist der Vorteil des Ryzen AI Max+ 395 gegenüber einer Grafikkarte?
Der Prozessor vereint CPU, GPU und bis zu 128 GB Speicher in einem kompakten Gehäuse. Er braucht weniger Strom als eine große Workstation und ist dabei stark genug für große lokale Modelle.
Lohnt sich der NVIDIA DGX Spark für Einsteiger?
Nein. Der DGX Spark richtet sich an Profis und sehr ambitionierte Projekte. Für den Einstieg reichen ein gebrauchter Rechner, eine günstige GPU oder ein Ryzen-AI-Max-Mini-PC.