Vloeistofkoeling: de volgende optische module in het AI-tijdperk

Oct 04, 2024

Laat een bericht achter

I. Vloeistofkoeling is verschoven van ‘optioneel’ naar ‘essentieel’

 

1. De stijgende vraag naar computerkracht en optische modules

In het snel evoluerende landschap van kunstmatige intelligentie (AI) heeft de vraag naar rekenkracht ongekende hoogten bereikt. De opkomst van grote modellen, zoals die worden gebruikt in OpenAI's ChatGPT, heeft een aanzienlijk gat in de benodigde rekenkracht gecreëerd. OpenAI meldt dat de groeisnelheid van de rekenkracht van modellen de vooruitgang op het gebied van AI-hardware maar liefst tien keer overtreft. Nu grote modellen zich uitbreiden naar biljoenen parameters, is de behoefte aan verbeterde prestaties van AI-trainingschips van cruciaal belang geworden, waardoor de verwachtingen voor snellere gegevensoverdracht toenemen.

 

Door deze exponentiële groei op het gebied van computergebruik is de interconnectiviteit binnen datacenters een centraal probleem geworden. Naarmate de AI-training vordert, worden de beperkingen van computergebruik met één kaart/server duidelijk. Chip-naar-chip-interconnectiviteit is een prioriteit geworden, waardoor efficiënte en snelle optische modules nodig zijn om snelle gegevensuitwisseling mogelijk te maken. Bijgevolg is de inzet van snelle optische modules essentieel om de efficiëntie van de interconnectiviteit te verbeteren, vooral omdat datacenters hun rekenkrachtarchitectuur upgraden.

 

Optical modules facilitating high-speed data transmission in data centers

▲ Optische modules die snelle datatransmissie in datacenters mogelijk maken

2. Het keerpunt voor vloeistofkoeling

Vloeistofkoeling staat op het punt het volgende cruciale element in de AI-infrastructuur te worden, parallel aan de evolutie van optische modules. Naarmate elektronische producten zich blijven ontwikkelen, wordt de noodzaak van efficiënte koelsystemen onmiskenbaar. Net zoals het traject van optische modules veranderde van een luxe naar een noodzaak, volgt de vloeistofkoelingstechnologie dit voorbeeld.

 

Historisch gezien evolueerden koeloplossingen van passieve methoden zoals natuurlijke luchtkoeling en koellichamen naar meer geavanceerde technologieën, waaronder airconditioning en tenslotte vloeistofkoeling. Deze transitie weerspiegelt een bredere trend in de elektronicasector, waarbij thermisch beheer van cruciaal belang is om optimale prestaties en een lange levensduur van componenten te garanderen.

 

3. Waarom vloeistofkoeling nu essentieel is

Friet

De impact van de omgevingstemperatuur op halfgeleiderchips is van cruciaal belang. Hoge temperaturen kunnen de prestaties en levensduur van elektronische componenten aanzienlijk verminderen. Hoge thermische omgevingen leiden tot thermische uitzetting in materialen zoals condensatoren en weerstanden, wat mechanische storingen kan veroorzaken en de normale werking kan belemmeren. Volgens rapporten van ANJIE kan traditionele luchtkoeling de warmteafvoer slechts tot 800 W beheren, een drempel die door verschillende NVIDIA-producten wordt overschreden.

 

Datacentra

Luchtgekoelde datacenters ondersteunen doorgaans een dichtheid van 8-10 kW per kast. Maar aangezien de rekenkracht van AI-clusters in 2025 naar verwachting 20-50 kW per kast zal bereiken, worden de beperkingen van luchtkoeling duidelijk duidelijk. De toenemende vermogensdichtheid vereist efficiëntere koelmethoden, waarbij vloeistofkoeling het superieure alternatief is.

 

An AI data center designed for high-density computing, utilizing advanced liquid cooling systems

▲ AI-datacenter met hoge dichtheid dat gebruik maakt van vloeistofkoelingtechnologieën

 

 

II. Beleid inzake vloeistofkoeling injecteert een ‘stimulans’ in de markt

 

PUE (Power Usage Effectiveness) dient als een belangrijke maatstaf voor het evalueren van de energie-efficiëntie van datacenters. Een lagere PUE duidt op een groener, efficiënter datacenter, omdat het de verhouding weerspiegelt tussen het totale energieverbruik van een faciliteit en het energieverbruik dat alleen door IT-belastingen wordt verbruikt. In typische datacenters is IT-apparatuur verantwoordelijk voor ongeveer 50% van het energieverbruik, terwijl koelsystemen ongeveer 35% voor hun rekening nemen.

 

Vloeistofkoelingstechnologieën vertonen doorgaans aanzienlijk lagere PUE-waarden vergeleken met traditionele luchtkoeling. Terwijl traditionele luchtkoeling bijvoorbeeld een PUE van ongeveer 1,3 handhaaft, kunnen vloeistofkoelingsmethoden deze terugbrengen tot tussen 1,05 en 1,2, afhankelijk van de specifieke gebruikte technologie.

 

Graph comparing PUE values of air cooling and various liquid cooling technologies in data centers

▲ PUE-vergelijking tussen luchtkoeling- en vloeistofkoelingtechnologieën

 

 

III. De strategische groei van Vertiv door middel van vloeistofkoeling

 

Vertiv heeft met de overname van CoolTera aanzienlijke vooruitgang geboekt bij het verbeteren van zijn capaciteiten voor vloeistofkoeling. Dit in het Verenigd Koninkrijk gevestigde bedrijf is gespecialiseerd in infrastructuur voor vloeistofkoeling en werkt al enkele jaren samen met Vertiv aan meerdere datacenter- en supercomputerprojecten. Verwacht wordt dat deze overname de positie van Vertiv op de markt voor thermisch beheer zal versterken, waardoor het bedrijf robuustere oplossingen kan bieden die zijn afgestemd op de veranderende behoeften van datacenters.

 

 

IV. De kernwaardeketen van vloeistofkoeling

1. Vloeistofkoeling begrijpen

Vloeistofkoeling verwijst naar methoden die worden gebruikt om optimale bedrijfstemperaturen voor computersystemen te handhaven. Door gebruik te maken van de hoge specifieke warmtecapaciteit van vloeistoffen, draagt ​​deze technologie de door interne componenten gegenereerde warmte effectief over naar de buitenomgeving. Vloeistofkoelsystemen kunnen worden onderverdeeld in directe en indirecte koeltechnieken. Indirecte koeling, zoals koudeplaatsystemen, zorgt ervoor dat de koelvloeistof niet rechtstreeks in contact komt met verwarmde componenten, terwijl directe koelmethoden onder meer dompelkoeling omvatten, waarbij het koelmedium rechtstreeks in wisselwerking staat met verwarmde componenten.

 

2. Ecosysteem voor de vloeistofkoelingindustrie: Cold Plate-systemen

De vloeistofkoelingindustrie omvat verschillende componenten en systemen, waaronder:

  • RCM-eenheden (koudemiddeltoevoer en -retour):Deze units beheren de distributie en opvang van koelmiddel in vloeistofkoelkasten.
  • Koeldistributie-eenheden (CDU's):CDU's vergemakkelijken de scheiding van koelmiddelen die koudeplaatcomponenten binnenkomen en koelwater aan de koudebronzijde.
  • LCM's (vloeistofcirculatiemodules):Deze modules beheren het transport en de retour van koudemiddelen door het hele koelsysteem.

 

De gebruikte koelmiddelen kunnen variëren, met opties als gedeïoniseerd water en op glycol gebaseerde oplossingen, die beide bijdragen aan een effectieve warmteoverdracht.

 

 Diagram depicting the various components of a liquid cooling ecosystem in data centers

▲ Overzicht van het vloeistofkoeling-ecosysteem in datacenters

 

 

V. Identificatie van begunstigde bedrijven in de toeleveringsketen voor vloeistofkoeling

1. Begunstigde bedrijven: interne servercomponenten

De toeleveringsketen voor vloeistofkoeling kan worden onderverdeeld in drie hoofdcategorieën: interne servercomponenten, vloeistofkoelingconstructies en leveranciers van vloeistofkoelinginfrastructuur. Interne componenten omvatten koude plaatsystemen en snelkoppelingen, die essentieel zijn voor het verbeteren van de prestaties van krachtige AI-chips. Bedrijven als Huawei en NVIDIA zijn belangrijke spelers in deze sector.

 

2. Constructie van vloeistofkoeling

De constructie van vloeistofkoeling omvat leveranciers van volledige ketenoplossingen en serverfabrikanten. Full-chain providers, zoals Vertiv, leveren uitgebreide oplossingen, maar leveren mogelijk niet rechtstreeks servers, waardoor samenwerking met chipfabrikanten noodzakelijk is.

 

3. IDC-constructie

IDC-fabrikanten zijn verantwoordelijk voor het bouwen van datacenters en het ontwikkelen van vloeistofkoelingsoplossingen die zijn afgestemd op de behoeften van de klant. Deze fabrikanten zullen steeds vaker vloeistofkoelingstechnologieën in hun ontwerpen integreren om de prestaties te optimaliseren.

 

4. Infrastructuuraanbieders

Infrastructuuraanbieders bieden specifieke vloeistofkoelingcomponenten zoals CDU's en LCM's. Naarmate de vraag naar deze technologieën stijgt, wordt verwacht dat zowel het volume als de prijs van deze producten zullen stijgen, wat het groeiende belang van vloeistofkoeling in het ontwerp van datacenters weerspiegelt.

 

 

Conclusie

 

De verschuiving van luchtkoeling naar vloeistofkoeling in AI-infrastructuren is niet alleen een trend, maar een essentiële evolutie die wordt aangedreven door de stijgende computervraag. Met de proliferatie van grote modellen en de noodzaak van efficiënt thermisch beheer zullen vloeistofkoelingtechnologieën een cruciale rol gaan spelen in de toekomst van datacenters. Nu bedrijven als Vertiv hun capaciteiten vergroten door strategische overnames en partnerschappen, is de markt voor vloeistofkoeling klaar voor aanzienlijke groei. Deze transitie zal uiteindelijk bijdragen aan efficiëntere, duurzamere en krachtigere computeromgevingen.

 

 

 

 

Aanvraag sturen