Cluster dual Xeon + 6 CMP 90HX pour ML

Construction d'un cluster dual Xeon avec 6 GPU CMP 90HX : Assemblage et optimisation pour charges ML

Les ingénieurs privilégient souvent les nœuds de calcul locaux aux services cloud pour une transparence totale et l'absence de dépendances externes. Les configurations cloud souffrent de latence réseau, de changements d'API et de tarification imprévisible qui perturbent les flux de travail continus. Un cluster local avec dual Xeon et six GPU de classe RTX 3080 élimine ces problèmes : toutes les métriques sont directement accessibles, le dépannage est simple, et il n'y a ni files d'attente ni limites.

Cette configuration excelle pour les tâches sensibles à la latence et gourmandes en ressources, comme le traitement de logs, la vision par ordinateur, le suréchantillonnage vidéo, les simulations physiques, le rendu et les services d'automatisation sur site.

Sélection de la plateforme matérielle

La base est la carte mère Jingsha X99 Dual Plus avec dual LGA 2011-3, six slots PCIe (4x16, 2x8) et support pour 8 slots DDR4. Les CPU sont des Xeon totalisant 48 cœurs, offrant un haut parallélisme pour les charges CPU-intensives.

La star est le GPU. Option d'entrée de gamme : NVIDIA P104-100 sur architecture Pascal (GP104, ~6,5 TFLOPS FP32, 8 Go GDDR5). Ces cartes sont abordables d'occasion après le minage et gèrent les tâches CUDA basiques.

Mais pour l'IA moderne, Pascal est limité :

• Pas de cœurs tensoriels : les ops matricielles reposent sur les cœurs CUDA généraux.
• Support FP16/INT8 faible : pas d'accélération matérielle.
• Goulot d'étranglement mémoire pour les gros modèles.

Le choix optimal est le CMP 90HX sur Ampere (G102-100, ~équivalent RTX 3080, 10 Go GDDR6X). Les cœurs tensoriels boostent les multiplications matricielles en précision mixte. Les caches améliorés et la bande passante mémoire scellent l'affaire. À ~50 $ par carte, c'est au même prix que le P104 mais avec des performances en réseaux de neurones des ordres de grandeur supérieures.

| Architecture | TFLOPS FP32 | Mémoire | Cœurs tensoriels | Prix (approx) |

|------------------|-------------|---------------|------------------|---------------|

| Pascal (P104) | 6,5 | 8 Go GDDR5 | Non | Bas |

| Ampere (CMP 90HX)| Plus élevé | 10 Go GDDR6X | Oui (FP16/INT8) | Comparable |

Défis d'assemblage et solutions

Mémoire et codes POST

L'installation de barrettes UDIMM DDR4 standard causait des blocages au code POST 79 (initialisation hub). Les cartes serveur exigent des ECC UDIMM : les bits de correction d'erreurs assurent la stabilité sous charge. Les contrôleurs mémoire Xeon ignorent les modules non-ECC, simulant d'autres pannes.

Astuce : Toujours utiliser des ECC UDIMM sur les cartes X99 dual-socket — ça évite des heures de débogage.

Bruit et refroidissement

Une alimentation 1800 W + 6x250 W GPU demande un flux d'air sérieux. Les ventilos mining d'origine sont bruyants. Solution : ventilos boîtier 120 mm silencieux aspirant l'air sur les cartes. Les ventilos GPU ajustent automatiquement les tours/min.

Diagnostic GPU sous charge

Toutes les cartes passaient les bases (nvidia-smi, stress mémoire), mais une refusait les jobs : utilisation 100 %, températures statiques, pas d'avancée LLM ou hashcat. L'enlever a résolu le problème du cluster.

Signes d'un GPU défectueux :

• Charge métriques pleine sans chauffe du chip.
• Pas de progression des tâches (LLM, benchmarks).
• Init normale mais échec sous charges réelles.

Pas un problème PCIe (bande passante suffisante) — c'est un défaut de puce où le GPU simule l'activité.

Tests de performance

Dans les tâches CUDA non-tensorielles, Ampere offre des gains modestes : fréquences plus élevées, mémoire meilleure. Pour l'IA, c'est révolutionnaire : les cœurs tensoriels divisent les temps d'inférence/entrainement via FP16/INT8.

Exemple : Chargement d'un LLM 10 Go en VRAM CMP 90HX — sans swapping — tandis que P104 bute sur ses 8 Go. La bande passante GDDR6X réduit la latence de transfert.

Pour multi-GPU : La carte équilibre les charges avec une config correcte (nvidia-smi topo -m). Utilisez une 750 Ti comme leurre affichage dans un slot x16.

Points clés

• Mémoire ECC indispensable sur cartes serveur — évite les flips de bits sous charge.
• CMP 90HX écrase le P104 en IA : cœurs tensoriels + 10 Go VRAM en font un must.
• Diagnostic GPU avec charges réelles, pas juste synthétiques.
• Refroidissement critique à 1800+ W — ventilos boîtier silencieux domptent le bruit.
• Local élimine les délais réseau en vision/vidéo/simulations.

Le cluster est prêt : des LLM locaux aux simus circuits. (~3200 caractères)

— Editorial Team