Festplatte für lokale KI kaufen
Was dieser Artikel über Speicher für lokale KI behandelt
- Welche Rolle die Festplatte bei KI-Workloads spielt.
- Unterschiede zwischen SATA-, NVMe- und HDD-Laufwerken.
- Wie viel Speicher Modelle und Daten brauchen.
- TLC vs. QLC, DRAM-Cache und Langlebigkeit.
- Empfehlungen für verschiedene Anwendungen.
Einleitung: Festplatte für lokale KI kaufen
KI-Modelle können sehr gross werden. Ein einzelnes 70B-Modell in voller Präzision belegt weit über 100 GB. Auch quantisierte Modelle, Embeddings und Vektordatenbanken wachsen schnell an. Wer regelmässig Modelle lädt, sollte auf schnelle NVMe-SSDs setzen. Wer viele Modelle hortet oder Backups macht, braucht ausreichend Kapazität. Die Festplatte ist daher bei lokalen KI-Setups wichtiger als oft gedacht.
Dieser Artikel zeigt, wie man die richtige Speicherlösung für KI-Anwendungen wählt.
Wichtige Begriffe
- SSD: Solid State Drive, schneller Flash-Speicher.
- NVMe: Protokoll für SSDs über PCIe.
- SATA: Älteres, langsameres Interface.
- TLC: Triple-Level-Cell, drei Bit pro Zelle.
- QLC: Quad-Level-Cell, vier Bit pro Zelle, günstiger aber langsamer.
- DRAM-Cache: Zwischenspeicher für Schreibzugriffe.
- TBW: Terabytes Written, Lebensdauer einer SSD.
- IOPS: Input/Output Operations pro Sekunde.
Wie viel Speicher braucht ein KI-PC?
| Inhalt | Geschätzte Grösse |
|---|---|
| Betriebssystem und Programme | 50 bis 100 GB |
| Kleine Modelle (7B, Q4) | 4 bis 8 GB pro Modell |
| Mittlere Modelle (13B, Q4) | 8 bis 15 GB pro Modell |
| Grosse Modelle (70B, Q4) | 40 bis 50 GB pro Modell |
| Embedding-Modelle | 1 bis 5 GB |
| Vektordatenbank und Daten | Variabel, 10 bis 100+ GB |
| Backups und Snapshots | Abhängig von Strategie |
Für einen typischen KI-PC sollten mindestens 1 bis 2 TB eingeplant werden. Wer viele Modelle sammelt, braucht schnell 4 TB oder mehr.
SATA vs. NVMe
| Typ | Geschwindigkeit | Einsatz |
|---|---|---|
| SATA SSD | ca. 550 MB/s | Einsteiger, Datenlager |
| NVMe PCIe 3.0 | bis 3.500 MB/s | Guter Allround |
| NVMe PCIe 4.0 | bis 7.000 MB/s | Schnelles Laden grosser Modelle |
| NVMe PCIe 5.0 | bis 14.000 MB/s | High-End, teuer |
| HDD | 100 bis 200 MB/s | Nur für Archive |
Für häufiges Laden grosser Modelle lohnt sich eine NVMe-SSD mit PCIe 3.0 oder 4.0.
TLC vs. QLC
- TLC: Drei Bit pro Zelle, gute Balance aus Geschwindigkeit, Preis und Lebensdauer.
- QLC: Vier Bit pro Zelle, günstiger pro GB, aber langsamer bei Schreibzugriffen und weniger langlebig.
Für Modelle, die häufig geschrieben oder verändert werden, ist TLC besser. Für reine Lese-Workloads reicht QLC.
DRAM-Cache
SSDs mit eigenem DRAM-Cache sind bei zufälligen Zugriffen schneller und haltbarer. Ohne Cache sinkt die Schreibgeschwindigkeit deutlich, wenn der SLC-Cache voll ist. Für KI-Workloads mit vielen kleinen Dateien oder häufigen Schreibzugriffen ist ein DRAM-Cache empfehlenswert.
M.2 oder 2,5 Zoll?
- M.2: Kompakt, meist NVMe, direkt auf dem Mainboard.
- 2,5 Zoll: SATA-SSDs oder kleinere NVMe mit Adapter.
- PCIe-Karte: Zusatz-SSDs über PCIe-Steckplatz.
M.2-NVMe ist die moderne und bevorzugte Lösung.
Modelle und Datensätze organisieren
- Modelle auf einer schnellen NVMe.
- Grosses Datenarchiv auf einer zweiten SSD oder HDD.
- Backups auf externes Laufwerk oder NAS.
- Docker-Volumes auf schnellem Speicher.
- Vektordatenbanken profitieren von schnellen SSDs.
SSD-Lebensdauer
TBW gibt an, wie viele Terabytes geschrieben werden können, bevor die SSD anfällig wird. Für KI-Workloads mit häufigem Download und Löschen grosser Modelle sollte auf eine hohe TBW geachtet werden. Enterprise-SSDs oder Modelle mit hoher TBW sind für Dauerbetrieb besser geeignet.
Empfehlungen
Einsteiger
- 1 TB NVMe PCIe 3.0.
- TLC.
- DRAM-Cache.
Mittelklasse
- 2 TB NVMe PCIe 4.0.
- TLC.
- Hohe TBW.
High-End / Workstation
- 4 TB NVMe PCIe 4.0 oder 5.0.
- Enterprise-SSD oder High-End-Consumer.
- Zusätzliche HDD oder NAS für Archive.
Typische Kauffehler
- Zu wenig Kapazität: Modelle und Datensätze passen nicht.
- QLC für viele Schreibzugriffe: Langsam und weniger langlebig.
- Kein DRAM-Cache: Geschwindigkeit bricht bei grossen Schreibvorgängen ein.
- SATA statt NVMe: Ladezeiten spürbar länger.
- Keine zweite Platte für Backups: Datenverlust möglich.
- Zu wenig Puffer: SSDs werden bei fast voller Kapazität langsamer.
Weiterführende Links und Infos
- BotServ.de RAM für lokale KI kaufen
- BotServ.de KI-PC zusammenstellen
- BotServ.de Mainboard für lokale KI kaufen
- BotServ.de Docker Backup
FAQ: Festplatte für lokale KI
Wie gross sollte meine SSD sein? Mindestens 1 TB, besser 2 TB für mehrere Modelle.
Brauche ich NVMe? Empfohlen. Grosse Modelle laden deutlich schneller als von SATA.
Ist QLC schlecht? Nicht schlecht, aber langsamer und weniger langlebig bei vielen Schreibzugriffen.
Wie lange hält eine SSD? Meist viele Jahre, wenn sie nicht dauerhaft an der Kapazitätsgrenze betrieben wird.
Sollte ich Modelle auf einer zweiten Festplatte speichern? Eine zweite Platte oder ein NAS ist für Archiv und Backup sinnvoll.
Quellen und weiterführende Literatur
- SSD-Ratgeber: https://www.techpowerup.com/ssd-specs/
- NVMe Grundlagen: https://nvmexpress.org/
- CrystalDiskMark: https://crystalmark.info/
Zusammenfassung: Festplatte für lokale KI kaufen
Für lokale KI ist eine schnelle NVMe-SSD mit ausreichend Kapazität unverzichtbar. Modelle, Embeddings und Datenbanken wachsen schnell an, deshalb sollten mindestens 1 bis 2 TB eingeplant werden. TLC-SSDs mit DRAM-Cache und guter TBW bieten das beste Verhältnis aus Geschwindigkeit und Langlebigkeit. Für Archive und Backups lohnt sich eine zweite Platte oder ein NAS. Wer beim Speicher nicht spart, spart Zeit beim Modell-Load und vermeidet spätere Aufrüstung.