KI-Server selbst bauen

Was dieser Artikel über KI-Server-Selbstbau behandelt

• Wann ein eigener Server sinnvoll ist.
• Welche Komponenten gebraucht werden.
• Worauf beim Gehäuse und Mainboard geachtet werden muss.
• Wie man Kühlung und Netzteil dimensioniert.
• Typische Fehler beim Zusammenbau.

Einleitung: KI-Server selbst bauen

Wer regelmässig und intensiv KI-Workloads betreibt, kommt irgendwam an den Punkt, an dem ein fertiger PC oder Mini-PC nicht mehr reicht. Ein selbst gebauter KI-Server bietet maximale Erweiterbarkeit, mehrere GPUs, viel RAM und spezielle Kühlung. Allerdings erfordert der Bau mehr Planung und Wissen als ein normaler PC. Wer die richtigen Komponenten wählt und sorgfältig zusammenbaut, bekommt ein leistungsfähiges System, das jahrelang genutzt werden kann.

Dieser Artikel zeigt den Weg von der Planung bis zum fertigen KI-Server.

Wichtige Begriffe

• Rackmount-Gehäuse: Servergehäuse für 19-Zoll-Schrank.
• Tower-Server: Standalone-Server wie Workstation.
• Backplane: Verteilung von Strom und Daten im Gehäuse.
• Riser: Erweiterungskarte für PCIe-Slots.
• Heatsink: Passiver Kühler.
• Blower-Style-GPU: GPU mit Ausblasen aus dem Gehäuse.
• Open-Air-GPU: GPU mit seitlichem Luftauswurf.
• Dual-CPU: Zwei Prozessoren im System.
• IPMI: Fernverwaltung des Servers.

Wann lohnt ein eigener Server?

• 24/7-Betrieb.
• Mehrere GPUs.
• 256 GB RAM und mehr.
• Viele Festplatten.
• Dauerhaftes Training oder Fine-Tuning.
• Professionelles Homelab.
• Kosten auf lange Sicht senken.

Gehäuse

• Tower-Server: Einfacher aufzubauen, flexibel, lauter im Wohnraum.
• Rackmount: Besser für Serverraum, professioneller, kühler oft laut.
• Mindestens Platz für 2-4 GPUs.
• Guter Luftstrom.
• Stabile HDD-Schächte.

Mainboard

• Server- oder Workstation-Plattform.
• Mehrere x16 PCIe-Slots mit genug Abstand.
• 8 RAM-Slots oder mehr.
• IPMI nett, aber nicht zwingend.
• Unterstützung für Multi-GPU und grosse Netzteile.

CPU

• AMD EPYC, Threadripper PRO.
• Intel Xeon.
• Hohe PCIe-Lane-Zahl.
• Genug RAM-Kanäle.

GPU

• Nvidia RTX 3090, 4090, A100, H100.
• AMD mit ROCm-Support.
• Blower-Style bei mehreren GPUs empfohlen.
• Genug PCIe-Lanes und Stromanschlüsse.

RAM

• 256 GB bis 1 TB.
• ECC-RAM für Stabilität.
• DDR4 oder DDR5 je nach Plattform.

Netzteil

• 1600 W und mehr.
• 80 Plus Platinum oder Titanium.
• Genug 12VHPWR-Kabel.
• Bei mehreren GPUs redundant denken.

Kühlung

• Zugige Front, Abluft hinten oben.
• CPU-Wasserkühlung oder Tower-Kühler.
• Lüfter für GPUs.
• Kabelmanagement verbessert Luftstrom.
• Gehäuse mit Staubfiltern.

Speicher

• NVMe-SSDs für System und Modelle.
• HDDs oder SAS-Disks für Datensets.
• Backup-Strategie.

Betriebssystem

• Ubuntu Server.
• Debian.
• Proxmox, wenn virtualisiert wird.
• Rocky Linux oder AlmaLinux.

Aufbau-Schritte

1. Mainboard, CPU und RAM vormontieren.
2. CPUs und Kühler montieren.
3. RAM einsetzen.
4. Mainboard ins Gehäuse einbauen.
5. Netzteil einbauen.
6. Laufwerke und SSDs installieren.
7. GPUs in PCIe-Slots stecken.
8. Kabel verbinden.
9. POST-Test durchführen.
10. Betriebssystem installieren.
11. GPU-Treiber und Ollama installieren.
12. Lasttest und Temperaturkontrolle.

Tipps

• Kompatibilität vor dem Kauf prüfen.
• Nicht am Netzteil sparen.
• Kühllösung überdimensionieren.
• Kabel sauber verlegen.
• Zuerst minimaler Aufbau testen.
• BIOS/UEFI aktualisieren.
• Stress-Test vor Inbetriebnahme.

Typische Stolpersteine

• Netzteil zu schwach: System startet nicht unter Last.
• GPU passt nicht: Gehäuse zu klein.
• Nicht genug PCIe-Lanes: GPUs laufen langsamer.
• Thermische Drosselung: Kühlung unzureichend.
• RAM nicht erkannt: Falsch bestückt.
• BIOS-Einstellungen: Resizable BAR oder Above 4G aktivieren.
• Kabel zu dünn: Brandgefahr.

Weiterführende Links und Infos

• BotServ.de KI-Workstation
• BotServ.de GPU für KI kaufen
• BotServ.de KI-PC zusammenstellen
• BotServ.de Energieeffizienz

FAQ: KI-Server selbst bauen

Ist ein eigener Server günstiger als Cloud? Langfristig oft ja, aber Anfangsinvestition ist hoch.

Brauche ich ein Rack? Nein, ein grosser Tower-Server funktioniert auch.

Wie viel Strom verbraucht ein KI-Server? Je nach Ausstattung 300-1500 W unter Volllast.

Sind Nvidia-Karten Pflicht? Nein, aber die meiste KI-Software ist darauf optimiert.

Kann ich den Server im Wohnzimmer betreiben? Möglich, aber Lautstärke und Wärme beachten.

Quellen und weiterführende Literatur

• ServeTheHome Forum: https://forums.servethehome.com/
• AMD EPYC: https://www.amd.com/processors/epyc
• Intel Xeon: https://www.intel.com/xeon

Zusammenfassung: KI-Server selbst bauen

Ein selbst gebauter KI-Server ist die flexibelste und leistungsfähigste Option für ernsthafte KI-Workloads. Wichtig sind ein gutes Gehäuse, ein Mainboard mit vielen PCIe-Slots, eine grosse CPU, viel ECC-RAM, geeignete GPUs und ein starkes Netzteil. Kühlung, Kabelmanagement und Kompatibilität dürfen nicht unterschätzt werden. Wer planvoll vorgeht und zuerst minimal testet, vermeidet teure Fehler und baut ein System, das langfristig mitwächst.