Vloeistofkoeling: de volgende optische module in het AI-tijdperk
Oct 04, 2024
Laat een bericht achter
I. Vloeistofkoeling is verschoven van ‘optioneel’ naar ‘essentieel’
1. De stijgende vraag naar computerkracht en optische modules
In het snel evoluerende landschap van kunstmatige intelligentie (AI) heeft de vraag naar rekenkracht ongekende hoogten bereikt. De opkomst van grote modellen, zoals die worden gebruikt in OpenAI's ChatGPT, heeft een aanzienlijk gat in de benodigde rekenkracht gecreëerd. OpenAI meldt dat de groeisnelheid van de rekenkracht van modellen de vooruitgang op het gebied van AI-hardware maar liefst tien keer overtreft. Nu grote modellen zich uitbreiden naar biljoenen parameters, is de behoefte aan verbeterde prestaties van AI-trainingschips van cruciaal belang geworden, waardoor de verwachtingen voor snellere gegevensoverdracht toenemen.
Door deze exponentiële groei op het gebied van computergebruik is de interconnectiviteit binnen datacenters een centraal probleem geworden. Naarmate de AI-training vordert, worden de beperkingen van computergebruik met één kaart/server duidelijk. Chip-naar-chip-interconnectiviteit is een prioriteit geworden, waardoor efficiënte en snelle optische modules nodig zijn om snelle gegevensuitwisseling mogelijk te maken. Bijgevolg is de inzet van snelle optische modules essentieel om de efficiëntie van de interconnectiviteit te verbeteren, vooral omdat datacenters hun rekenkrachtarchitectuur upgraden.

▲ Optische modules die snelle datatransmissie in datacenters mogelijk maken
2. Het keerpunt voor vloeistofkoeling
Vloeistofkoeling staat op het punt het volgende cruciale element in de AI-infrastructuur te worden, parallel aan de evolutie van optische modules. Naarmate elektronische producten zich blijven ontwikkelen, wordt de noodzaak van efficiënte koelsystemen onmiskenbaar. Net zoals het traject van optische modules veranderde van een luxe naar een noodzaak, volgt de vloeistofkoelingstechnologie dit voorbeeld.
Historisch gezien evolueerden koeloplossingen van passieve methoden zoals natuurlijke luchtkoeling en koellichamen naar meer geavanceerde technologieën, waaronder airconditioning en tenslotte vloeistofkoeling. Deze transitie weerspiegelt een bredere trend in de elektronicasector, waarbij thermisch beheer van cruciaal belang is om optimale prestaties en een lange levensduur van componenten te garanderen.
3. Waarom vloeistofkoeling nu essentieel is
Friet
De impact van de omgevingstemperatuur op halfgeleiderchips is van cruciaal belang. Hoge temperaturen kunnen de prestaties en levensduur van elektronische componenten aanzienlijk verminderen. Hoge thermische omgevingen leiden tot thermische uitzetting in materialen zoals condensatoren en weerstanden, wat mechanische storingen kan veroorzaken en de normale werking kan belemmeren. Volgens rapporten van ANJIE kan traditionele luchtkoeling de warmteafvoer slechts tot 800 W beheren, een drempel die door verschillende NVIDIA-producten wordt overschreden.
Datacentra
Luchtgekoelde datacenters ondersteunen doorgaans een dichtheid van 8-10 kW per kast. Maar aangezien de rekenkracht van AI-clusters in 2025 naar verwachting 20-50 kW per kast zal bereiken, worden de beperkingen van luchtkoeling duidelijk duidelijk. De toenemende vermogensdichtheid vereist efficiëntere koelmethoden, waarbij vloeistofkoeling het superieure alternatief is.

▲ AI-datacenter met hoge dichtheid dat gebruik maakt van vloeistofkoelingtechnologieën
II. Beleid inzake vloeistofkoeling injecteert een ‘stimulans’ in de markt
PUE (Power Usage Effectiveness) dient als een belangrijke maatstaf voor het evalueren van de energie-efficiëntie van datacenters. Een lagere PUE duidt op een groener, efficiënter datacenter, omdat het de verhouding weerspiegelt tussen het totale energieverbruik van een faciliteit en het energieverbruik dat alleen door IT-belastingen wordt verbruikt. In typische datacenters is IT-apparatuur verantwoordelijk voor ongeveer 50% van het energieverbruik, terwijl koelsystemen ongeveer 35% voor hun rekening nemen.
Vloeistofkoelingstechnologieën vertonen doorgaans aanzienlijk lagere PUE-waarden vergeleken met traditionele luchtkoeling. Terwijl traditionele luchtkoeling bijvoorbeeld een PUE van ongeveer 1,3 handhaaft, kunnen vloeistofkoelingsmethoden deze terugbrengen tot tussen 1,05 en 1,2, afhankelijk van de specifieke gebruikte technologie.

▲ PUE-vergelijking tussen luchtkoeling- en vloeistofkoelingtechnologieën
III. De strategische groei van Vertiv door middel van vloeistofkoeling
Vertiv heeft met de overname van CoolTera aanzienlijke vooruitgang geboekt bij het verbeteren van zijn capaciteiten voor vloeistofkoeling. Dit in het Verenigd Koninkrijk gevestigde bedrijf is gespecialiseerd in infrastructuur voor vloeistofkoeling en werkt al enkele jaren samen met Vertiv aan meerdere datacenter- en supercomputerprojecten. Verwacht wordt dat deze overname de positie van Vertiv op de markt voor thermisch beheer zal versterken, waardoor het bedrijf robuustere oplossingen kan bieden die zijn afgestemd op de veranderende behoeften van datacenters.
IV. De kernwaardeketen van vloeistofkoeling
1. Vloeistofkoeling begrijpen
Vloeistofkoeling verwijst naar methoden die worden gebruikt om optimale bedrijfstemperaturen voor computersystemen te handhaven. Door gebruik te maken van de hoge specifieke warmtecapaciteit van vloeistoffen, draagt deze technologie de door interne componenten gegenereerde warmte effectief over naar de buitenomgeving. Vloeistofkoelsystemen kunnen worden onderverdeeld in directe en indirecte koeltechnieken. Indirecte koeling, zoals koudeplaatsystemen, zorgt ervoor dat de koelvloeistof niet rechtstreeks in contact komt met verwarmde componenten, terwijl directe koelmethoden onder meer dompelkoeling omvatten, waarbij het koelmedium rechtstreeks in wisselwerking staat met verwarmde componenten.
2. Ecosysteem voor de vloeistofkoelingindustrie: Cold Plate-systemen
De vloeistofkoelingindustrie omvat verschillende componenten en systemen, waaronder:
- RCM-eenheden (koudemiddeltoevoer en -retour):Deze units beheren de distributie en opvang van koelmiddel in vloeistofkoelkasten.
- Koeldistributie-eenheden (CDU's):CDU's vergemakkelijken de scheiding van koelmiddelen die koudeplaatcomponenten binnenkomen en koelwater aan de koudebronzijde.
- LCM's (vloeistofcirculatiemodules):Deze modules beheren het transport en de retour van koudemiddelen door het hele koelsysteem.
De gebruikte koelmiddelen kunnen variëren, met opties als gedeïoniseerd water en op glycol gebaseerde oplossingen, die beide bijdragen aan een effectieve warmteoverdracht.

▲ Overzicht van het vloeistofkoeling-ecosysteem in datacenters
V. Identificatie van begunstigde bedrijven in de toeleveringsketen voor vloeistofkoeling
1. Begunstigde bedrijven: interne servercomponenten
De toeleveringsketen voor vloeistofkoeling kan worden onderverdeeld in drie hoofdcategorieën: interne servercomponenten, vloeistofkoelingconstructies en leveranciers van vloeistofkoelinginfrastructuur. Interne componenten omvatten koude plaatsystemen en snelkoppelingen, die essentieel zijn voor het verbeteren van de prestaties van krachtige AI-chips. Bedrijven als Huawei en NVIDIA zijn belangrijke spelers in deze sector.
2. Constructie van vloeistofkoeling
De constructie van vloeistofkoeling omvat leveranciers van volledige ketenoplossingen en serverfabrikanten. Full-chain providers, zoals Vertiv, leveren uitgebreide oplossingen, maar leveren mogelijk niet rechtstreeks servers, waardoor samenwerking met chipfabrikanten noodzakelijk is.
3. IDC-constructie
IDC-fabrikanten zijn verantwoordelijk voor het bouwen van datacenters en het ontwikkelen van vloeistofkoelingsoplossingen die zijn afgestemd op de behoeften van de klant. Deze fabrikanten zullen steeds vaker vloeistofkoelingstechnologieën in hun ontwerpen integreren om de prestaties te optimaliseren.
4. Infrastructuuraanbieders
Infrastructuuraanbieders bieden specifieke vloeistofkoelingcomponenten zoals CDU's en LCM's. Naarmate de vraag naar deze technologieën stijgt, wordt verwacht dat zowel het volume als de prijs van deze producten zullen stijgen, wat het groeiende belang van vloeistofkoeling in het ontwerp van datacenters weerspiegelt.
Conclusie
De verschuiving van luchtkoeling naar vloeistofkoeling in AI-infrastructuren is niet alleen een trend, maar een essentiële evolutie die wordt aangedreven door de stijgende computervraag. Met de proliferatie van grote modellen en de noodzaak van efficiënt thermisch beheer zullen vloeistofkoelingtechnologieën een cruciale rol gaan spelen in de toekomst van datacenters. Nu bedrijven als Vertiv hun capaciteiten vergroten door strategische overnames en partnerschappen, is de markt voor vloeistofkoeling klaar voor aanzienlijke groei. Deze transitie zal uiteindelijk bijdragen aan efficiëntere, duurzamere en krachtigere computeromgevingen.
