Les centres de données à haute densité : la solution pour l’IA et l’HPC

Les applications modernes d’Intelligence Artificielle et le Calcul Haute Performance (HPC) imposent aujourd’hui des exigences nettement plus élevées aux centres de données qu’il y a quelques années. Les environnements à haute densité, c’est-à-dire les racks informatiques à très forte consommation d’énergie, deviennent de plus en plus la norme. Cependant, de nombreux centres de données existants ont été initialement conçus pour des densités de puissance nettement inférieures.

Mais que se passe-t-il si votre infrastructure est encore conçue pour une faible densité et qu’un client a soudainement besoin de densités nettement plus élevées ?

Dans cet article, nous expliquons ce que signifie « haute densité » en pratique, quelles sont les exigences qui en découlent en matière de refroidissement, d’alimentation électrique et d’infrastructure, ainsi des façons dont les sites existants peuvent être modernisés de manière efficace et pragmatique sans nécessiter de reconstruction complète. Pour finir, nous montrons, à l’aide d’un exemple concret tiré de notre site de Bâle, comment une telle modernisation peut être mise en œuvre avec succès.

Qu’entendons-nous par centre de données à haute densité ?

Dans les centres de données classiques, la consommation électrique typique par rack se situe généralement entre 3 et 12 kW. Cependant, les clusters IA et HPC modernes dépassent largement cette fourchette : des puissances allant jusqu’à 100 kW par rack ne sont pas rares aujourd’hui, souvent avec des charges élevées en permanence et des pics d’entraînement à court terme qui sollicitent davantage le système.

Ces quantités massives d’énergie et de chaleur modifient fondamentalement les exigences imposées à un centre de données : la distribution électrique, le concept de refroidissement et le fonctionnement opérationnel doivent être conçus pour des charges nettement plus élevées.

En résumé :

• Évolution de la densité de puissance :
  De 3 à 12 kW par rack dans les environnements traditionnels, à jusqu’à 100 kW par rack pour les applications IA et HPC.

• Chaleur résiduelle plus importante et plus constante :
  Charges thermiques continues plus élevées et pics dynamiques pendant l’entraînement.

• Conséquence :
  Dans de nombreux cas, le simple refroidissement à l’air ne suffit plus – des méthodes de refroidissement alternatives ou hybrides sont nécessaires.

Pourquoi l’IA et le HPC changent l’équation du refroidissement

Avec la taille croissante des modèles et des ensembles de données modernes, les exigences envers le matériel sous-jacent augmentent également. Les accélérateurs tels que les GPU ou les TPU consomment aujourd’hui beaucoup plus d’électricité et génèrent en permanence des charges thermiques élevées, souvent pendant plusieurs heures, voire plusieurs jours. Cette dynamique thermique modifie fondamentalement la stratégie de refroidissement classique.

Dans de nombreux cas, le refroidissement par air seul ne suffit plus pour garantir la fiabilité du matériel et éviter les pertes de performances dues au throttling thermique. De plus en plus d’entreprises misent donc sur des méthodes de refroidissement assistées par liquide, telles que les échangeurs de chaleur à porte arrière ou les solutions directement au niveau des puces.

Les principales raisons :

• Charges thermiques plus élevées :
  Les racks IA et HPC génèrent beaucoup plus de chaleur que les serveurs traditionnels et nécessitent un système de refroidissement plus stable.

• Consommation d’énergie croissante :
  Les systèmes équipés de nombreux accélérateurs font considérablement augmenter la consommation d’énergie totale du centre de données.

• Pics de charge prolongés :
  Les cycles d’entraînement et les simulations ne provoquent pas de pics de courte durée, mais des phases de consommation d’énergie extrêmement élevée pouvant durer plusieurs heures, voire plusieurs jours.

Une solution pratique pour atteindre une densité élevée

L’installation d’échangeurs thermiques de porte arrière (RDHx) constitue une approche simple et efficace pour moderniser les centres de données existants. Un échangeur thermique est fixé à l’arrière du rack afin de capter l’air chaud produit par les serveurs et de le refroidir à l’aide d’eau avant de le renvoyer dans la pièce.

L’eau pouvant absorber environ 3 000 fois plus de chaleur que l’air, cela permet d’obtenir des gains d’efficacité considérables, sans avoir à réaménager toute la salle du centre de données.

De plus, lorsque la densité augmente, le RDHx peut être combiné à un refroidissement direct par liquide afin de refroidir de manière ciblée et efficace les composants particulièrement chauds tels que les GPU ou les CPU.

Préparation pour une densité élevée : alimentation électrique, exploitation, conformité

La transition vers des environnements à haute densité ne concerne pas uniquement le refroidissement. L’alimentation électrique, les processus d’exploitation et les exigences réglementaires doivent également évoluer en conséquence.

• Alimentation électrique :
  Prévoyez des charges élevées permanentes et d’éventuels pics de puissance. Cela implique une distribution électrique soigneusement conçue, des redondances suffisantes et des mécanismes de protection adaptés à des densités de puissance plus élevées.
• Exploitation :
  Le refroidissement par liquide modifie les processus habituels dans l’exploitation informatique. L’ancienne règle de base selon laquelle « l’eau n’a pas sa place dans la salle des serveurs » n’est plus valable. C’est pourquoi des processus clairs, des formations et des normes de sécurité sont essentiels pour garantir un fonctionnement sans faille.
• Conformité et résidence des données :
  Les modernisations et les mises à niveau doivent continuer à respecter toutes les exigences nationales et européennes, des directives de sécurité aux exigences en matière de protection des données. Dans le même temps, les charges de travail liées à l’IA nécessitent une faible latence, c’est pourquoi l’infrastructure doit être prévue à proximité du site et doit être performante.