Cluster Dual Xeon + 6 CMP 90HX für ML

Dual-Xeon-Cluster mit 6 CMP 90HX GPUs bauen: Montage und Optimierung für ML-Workloads

Entwickler setzen oft auf lokale Rechnercluster statt Cloud-Dienste, um volle Transparenz und keine externen Abhängigkeiten zu haben. Cloud-Lösungen quälen mit Netzwerklatenz, API-Änderungen und unvorhersehbaren Preisen, die den Workflow stören. Ein lokaler Cluster mit Dual-Xeon-CPUs und sechs RTX-3080-ähnlichen GPUs löst das: Alle Metriken sind direkt einsehbar, Fehlerbehebung ist einfach, keine Warteschlangen oder Limits.

Diese Konfiguration glänzt bei latenzkritischen, ressourcenintensiven Aufgaben wie Log-Verarbeitung, Computer Vision, Video-Upscaling, Physiksimulationen, Rendering und On-Premise-Automatisierungen.

Hardware-Plattformauswahl

Die Basis ist das Jingsha X99 Dual Plus Mainboard mit dualen LGA-2011-3-Sockeln, sechs PCIe-Steckplätzen (4x16, 2x8) und Unterstützung für 8 DDR4-Slots. Als CPUs kommen Xeon-Prozessoren mit insgesamt 48 Kernen zum Einsatz, die hohe Parallelität für CPU-lastige Workloads bieten.

Der Star ist die GPU. Einstiegsoption: NVIDIA P104-100 auf Pascal-Architektur (GP104, ~6,5 TFLOPS FP32, 8 GB GDDR5). Diese Karten sind gebraucht nach dem Mining-Boom günstig und taugen für einfache CUDA-Aufgaben.

Für modernes ML reicht Pascal aber nicht:

• Keine Tensor-Cores: Matrix-Operationen laufen auf normalen CUDA-Cores.
• Schwache FP16/INT8-Unterstützung: Keine Hardware-Beschleunigung.
• Speicherengpass bei großen Modellen.

Der Sweet Spot: CMP 90HX auf Ampere (G102-100, ~RTX 3080-Äquivalent, 10 GB GDDR6X). Tensor-Cores beschleunigen Matrix-Multiplikationen mit Mixed Precision enorm. Verbesserte Caches und Speicherbandbreite machen es perfekt. Bei ~50 € pro Karte liegt der Preis wie bei P104, aber die Leistung für neuronale Netze ist um Größenordnungen besser.

| Architektur | TFLOPS FP32 | Speicher | Tensor-Cores | Preis (ca.) |

|-----------------|-------------|--------------|--------------------|---------------|

| Pascal (P104) | 6,5 | 8 GB GDDR5 | Nein | Günstig |

| Ampere (CMP 90HX) | Höher | 10 GB GDDR6X | Ja (FP16/INT8) | Vergleichbar |

Montageherausforderungen und Lösungen

Speicher und POST-Codes

Standard-UDIMM-DDR4 führte zu Hängen bei POST-Code 79 (Hub-Initialisierung). Serverboards verlangen ECC-UDIMM: Extra-Fehlerkorrektur-Bits sorgen für Stabilität unter Last. Xeon-Speichercontroller ignorieren Non-ECC-Module und simulieren andere Fehler.

Tipp: Immer ECC-UDIMM auf Dual-Socket-X99-Boards verwenden – spart Stunden Debuggen.

Lärm und Kühlung

Ein 1800-W-Netzteil plus 6x250-W-GPUs braucht starken Luftstrom. Serien-Mining-Kühler sind laut. Lösung: 120-mm-Leise-Gehäuseventilatoren, die Luft über die Karten ziehen. GPU-Lüfter passen RPM automatisch an.

GPU-Diagnose unter Last

Alle Karten bestanden Basics (nvidia-smi, Speicherstress), aber eine startete keine Jobs: 100 % Auslastung, statische Temps, kein Fortschritt bei LLM oder hashcat. Entfernen half – Cluster lief.

Anzeichen defekter GPU:

• Volle Metriken ohne Chip-Erwärmung.
• Kein Task-Fortschritt (LLMs, Benchmarks).
• Normale Init, scheitert bei realen Workloads.

Kein PCIe-Problem (Bandbreite reicht) – Chip-Defekt, bei dem die GPU Aktivität vortäuscht.

Leistungstests

Bei non-tensor CUDA-Tasks bringt Ampere moderate Zuwächse: Höhere Taktraten, besserer Speicher. Für ML ist es revolutionär: Tensor-Cores halbieren Inference/Training-Zeiten via FP16/INT8.

Beispiel: 10-GB-LLM in CMP-90HX-VRAM laden – kein Swapping – während P104 an 8 GB scheitert. GDDR6X-Bandbreite minimiert Datenübertragungs-Latenz.

Für Multi-GPU: Das Board verteilt Lasten gleichmäßig bei korrekter Einrichtung (nvidia-smi topo -m). Eine 750 Ti als Display-Dummy in x16-Slot nutzen.

Wichtige Erkenntnisse

• ECC-Speicher ist Pflicht auf Serverboards – verhindert Bitfehler unter Last.
• CMP 90HX zerlegt P104 im ML: Tensor-Cores + 10 GB VRAM lohnen sich.
• GPU-Diagnose braucht reale Workloads, nicht nur Synthetics.
• Kühlung ist entscheidend bei 1800+ W – leise Gehäuseventilatoren bändigen den Lärm.
• Lokal bauen eliminiert Netzwerklatenz in CV/Video/Simulationen.

Cluster einsatzbereit: Von lokalen LLMs bis Schaltungs-Sims. (~3200 Zeichen)

— Editorial Team