Vers une IA durable avec les serveurs GPU conçus pour l’immersion

Si vous êtes familiers avec l’industrie des centres de données, vous savez que startups, entreprises, multinationales et gouvernements investissent massivement dans des infrastructures conçues pour l’IA et autres charges de travail exigeantes. Résultat : la demande pour une capacité sans précédent explose. La croissance est fulgurante : le volume des colocalisations a doublé en quatre ans, et les analystes prévoient une capacité hyperscale trois fois plus grande d’ici six ans.

Mais cette croissance s’accompagne de défis… ou plutôt de plusieurs défis.

Comprendre ces défis

Évidemment, l’industrie cherche à tirer parti de cette demande croissante, mais elle n’a pas encore trouvé de solution pour assurer une croissance durable. Même les hyperscalers les plus avancés ont récemment rennoncé à leurs engagements nets zéro, incapables de construire et d’exploiter des centres de données véritablement écologiques.

Qu’il s’agisse de l’apprentissage automatique, de l’inférence ou du calcul haute performance (HPC), les centres de données actuels posent un problème central. La réalité est la suivante : les centres de données traditionnels pour l’IA ne sont mauvais pour l’environnement. Ceux qui les construisent ou les exploitent font face à plusieurs défis :

• Consommation d’énergie élevée : les charges de travail d’IA et HPC consomment énormément d’énergie, augmentant les coûts d’exploitation. Les nouvelles constructions atteignent souvent une consommation de 100 MW, une échelle inimaginable il y a 10  ans.

• Utilisation d’eau : les besoins croissants en refroidissement augmentent la consommation d’eau, exerçant une pression sur des ressources déjà rares.

• Empreinte carbone : la consommation d’énergie et d’eau liée aux méthodes de refroidissement traditionnelles contribue fortement à l’empreinte carbone des centres de données. Les émissions des centres de données pourraient bientôt dépasser celles de l’industrie aérienne.

Nous sommes un peu pris au piège. Nous devons construire plus de centres de données pour répondre aux besoins en calcul, mais ces infrastructures nécessitent énormément d’énergie, consomment trop d’eau et alourdissent leur empreinte carbone. Heureusement, nous sommes à un tournant qui pourrait transformer la façon dont nous concevons et exploitons les centres de données.

Résoudre le casse-tête du refroidissement

Bien que le refroidissement par air ait été une solution fiable pendant des décennies, il n’est plus adapté aux infrastructures denses et intensives en chaleur utilisées pour l’IA et le HPC. L’air, en tant que moyen de transfert thermique est inefficace et est sujet à des problèmes tels des obstructions et des mélanges d’air chaud/froid, qui aggravent la situation.

Avec des densités de rack dépassant désormais 100 kW ( les systèmes de refroidissement par air ont été conçus pour 15-20 kW) les problèmes s’accumulent : dégradation des performances, baisse de la fiabilité du matériel et hausse des coûts de maintenance. Le refroidissement par air ne peut plus répondre aux dernières conceptions de processeurs et de serveurs.

En moyenne, le refroidissement par air représente 40 % de la consommation énergétique totale d’un centre de données. Ajouter des charges de travail IA ne fait qu’aggraver cette situation.

La solution ? Abandonner l’air.

L’avantage de l’immersion

La réponse réside dans le refroidissement par immersion. Cette méthode immerge le matériel dans un fluide diélectrique non conducteur, permettant une dissipation thermique directe et efficace. Voici ses princpaux avantages :

• Réduction de la consommation énergétique de 50 %

• Élimination de l’utilisation d’eau

• Capacité à gérer des charges thermiques élevées

• Suppression des ventilateurs

• Longévité accrue des composants

• Protection contre les dommages physiques

Avec une efficacité énergétique (PUE) pouvant atteindre 1,02, le refroidissement par immersion peut réduire considérablement l’empreinte carbone des centres de données.

Choisir les serveurs GPU conçus pour l’immersion

Tous les serveurs ne sont pas optimisés pour l’IA, encore moins pour le refroidissement par immersion. Les serveurs doivent être conçus avec les bons matériaux et  pensée pour maximiser l’efficacité en immersion.

C’est là qu’Hypertec offre une valeur ajoutée.

Notre gamme Trident iG de serveurs GPU conçus pour l’immersion, répond exigences les plus complexes comme la formation de modèles linguistiques, l’apprentissage profond, l’inférence, et d’autres applications comme la modélisation financière ou climatique. Dotés de doubles sockets CPU et jusqu’à six GPU, ces serveurs exploitent pleinement l’environnement d’immersion grâce à une gestion thermique avancée.

Une conception thermique innovante

Contrairement aux serveurs conventionnels optimisés pour le flux d’air, nos serveurs utilisent une structure thermique à plusieurs niveaux adaptée à l’immersion :

• Niveau 1 : les composants les plus chauds (GPU) sont placés en bas du serveur, où le fluide est le plus efficace.

• Niveau 2 : les composants modérément chauds (CPU) se trouvent au milieu.

• Niveau 3 : les composants à faible dégagement thermique, comme les cartes NIC, se trouvent en haut.

Cette approche garantit des températures constantes et des performances optimales.

Encourager un avenir plus vert

En tant que leader du marché, Hypertec aide depuis des années les opérateurs à concevoir des centres de données plus durables. Au-delà de la durabilité, nos solutions offrent des avantages compétitifs : réduction des coûts, fiabilité accrue, densité et performances supérieures.

Comme le résume Darcy Letemplier, notre VP ingénierie : « Nos systèmes GPU conçus pour l’immersion combinent refroidissement efficace, redondance énergétique et évolutivité, offrant les meilleures performances pour toute charge de travail .»

‍