De toenemende vraag zorgt voor een revolutie in computerkracht. Vloeistofkoeling zal de groei van de sector sterk stimuleren!

 

Sinds 2023 heeft het AI-chatbotmodel van OpenAI, ChatGPT, brede bijval gekregen. Het gebruikt grote hoeveelheden trainingsdata om menselijk taalgedrag te simuleren, genereert tekst via semantische analyse en kan op een natuurlijke en realistische manier met gebruikers communiceren, vaak niet te onderscheiden van menselijke interactie.

 

Op veel gebieden, zoals het creëren van poëzie en het schrijven van scripts, overtreft het zelfs de menselijke capaciteiten. De ontwikkeling van kunstmatige intelligentie vereist echter extreem krachtige computerkracht, wat leidt tot een verhoogd serverstroomverbruik, een hogere vermogensdichtheid per eenheid in datacenters en een stijgend energieverbruik. Traditionele luchtkoelingstechnologie kan niet langer voldoen aan de koelbehoeften, waardoor vloeistofkoeling een noodzaak wordt die ongetwijfeld de groei van de industrie zal stimuleren!

 

▲ OpenAI's AI-chatbotmodel, ChatGPT

 

 

Ⅰ Het explosieve succes van ChatGPT: hoeveel rekenkracht is hiervoor nodig?

 

Data, algoritmen en rekenkracht zijn de drie kernelementen van kunstmatige intelligentie, waarbij rekenkracht de "motor" van AI wordt genoemd. Zowel data als algoritmen zijn afhankelijk van rekenkracht. Volgens schattingen van OpenAI is de rekenkracht die nodig is om 's werelds beste AI-modellen te trainen sinds 2012 ongeveer elke 3-4 maanden verdubbeld, met een jaarlijkse toename van de rekenkracht die nodig is voor de beste trainingsmodellen die wel tien keer zo groot is. Tijdens de trainingsfase verbruikte ChatGPT in totaal ongeveer 3640 PF-dagen (wat betekent dat het 3640 dagen lang op 1 PetaFLOP/s efficiëntie draait). Dit benadrukt dat sterke rekenkracht de sleutel is tot het ondersteunen van de verdere toepassing en popularisering van door AI gegenereerde content (AIGC) in de toekomst.

 

Neem ChatGPT als voorbeeld: het wordt ondersteund door het GPT-3.5-model, dat drie iteraties heeft doorgemaakt (GPT-1, GPT-2, GPT-3), waarbij het aantal parameters is toegenomen van 117 miljoen naar 175 miljard, en de hoeveelheid pre-trainingsdata is toegenomen van 5 GB naar 45 TB (equivalent aan 160 keer de volledige Engelse versie van Wikipedia). Deze enorme hoeveelheid data en berekeningen vereist een hogere computerkracht om de werking ervan te ondersteunen. Volgens gegevens van Similarweb had ChatGPT in januari 2023 ongeveer 13 miljoen dagelijkse actieve gebruikers, die elk gemiddeld vragen stelden van ongeveer 1,000 woorden.

 

Dit genereerde een totaal van ongeveer 13 miljard woorden (17,33 miljard tokens). Ervan uitgaande dat de taken gelijkmatig over 24 uur verdeeld zijn, zou het aantal vereiste A100 GPU's 17,33 miljard * 2 * 300 miljard / (20% * 24 uur * 3600 seconden)=601.75 PetaFLOP/S zijn. Aangezien er verkeerspieken bestaan, ervan uitgaande dat het piekverkeer vijf keer het dagelijkse gemiddelde is, zouden er in totaal 602 DGX A100-servers nodig zijn om aan de huidige verkeersvraag te voldoen, waardoor de vereisten voor rekenkracht extreem streng zijn.

 

Dit illustreert dat om nog betere AI-modellen te trainen en AI-modellen echt toe te passen in verschillende industrieën, efficiëntere rekenkracht en overvloedigere rekenbronnen nodig zijn. Rekenkracht is een kritische factor geworden die de industrialisatie van AI beperkt, en het zal ongetwijfeld een nieuwe rekenkrachtrevolutie teweegbrengen! Met de snelle toename van de vraag naar AI-rekenkracht, versnelt de kracht van gerelateerde CPU's/GPU's, waardoor sterkere en effectievere koeloplossingen nodig zijn om de apparatuur soepel te laten werken.

 

 

Ⅱ Uitgebreide toepassingen van computerkracht

 

In het tijdperk van de digitale economie is computerkracht niet alleen een belangrijke productiviteitsfactor, maar ook een universeel toegepaste factor. Naarmate de constructie van computerkrachtinfrastructuur vordert, ontstaan ​​er snel nieuwe modellen en bedrijfsvormen van computerkrachttoepassingen, die computerkracht diepgaand integreren in meer industrieën, zoals productie, transport, onderwijs, lucht- en ruimtevaart, financiën en media. Tegelijkertijd worden planning, beheer en handel van computerkracht brandpunten van industriële verkenning. Computerkracht evolueert van een "bron" naar een "factor" en wordt een essentieel onderdeel van de productie en het leven van mensen.

 

De ontwikkeling van verschillende industrieën heeft een explosie in de vraag naar computerkracht veroorzaakt. Om de processorprestaties te maximaliseren, is een hogere koelefficiëntie vereist en traditionele luchtkoelingstechnologie kan niet langer voldoen aan de stijgende vraag naar computerkracht. Vloeistofgekoelde servers, met hun voordelen, zullen naar verwachting een aanzienlijk marktaandeel verwerven en de ontwikkeling van de industrie sterk stimuleren!

 

 

Ⅲ Aanzienlijke toename van de vraag naar vloeistofkoeling

 

In 2022 zagen de vierde generatie serverprocessors van Intel het stroomverbruik van één CPU boven de 350 watt uitkomen, en het stroomverbruik van één GPU-chip van NVIDIA overschreed de 700 watt. De rekenkrachtdichtheid van AI-clusters bereikte over het algemeen 50 kW per kast, en traditionele luchtkoeltechnologie kan dat niet meer aan! Hogere koelefficiëntie is nodig om de processorprestaties te maximaliseren.

 

Ondertussen hebben de start van China's "Eastern Data, Western Computing"-project en de dubbele koolstofdoelen ervoor gezorgd dat de industrie meer aandacht besteedt aan energiebesparing, emissiereductie en hoogwaardige ontwikkeling. Er zijn strengere technische vereisten gesteld aan de Power Usage Effectiveness (PUE) van datacenters, waarbij de gemiddelde PUE van nieuw gebouwde grote en supergrote datacenters in het hele land moet worden verlaagd tot onder de 1,3, en verder verlaagd tot onder de 1,25 bij nationale hubknooppunten.

 

Vloeistofkoeling voldoet aan de behoeften van marktkosteneffectiviteit en beleidsrichtlijnen op veel vlakken, waaronder economische efficiëntie en koelprestaties, waardoor het zowel zeer waardevol als economisch voordelig is. Volgens CCID Consulting zal de Chinese markt voor vloeistofgekoelde IDC's naar verwachting 120 miljard yuan overschrijden in 2025, met een groeipercentage van meer dan 30% en een penetratiegraad van momenteel ongeveer 20%. De vraag naar vloeistofkoeling neemt aanzienlijk toe en de marktvooruitzichten zijn veelbelovend.

 

 

Ⅳ De keten van de vloeistofkoelserverindustrie

 

1. Het panorama van de vloeistofkoelindustrie

De sector voor vloeistofgekoelde servers omvat veel meer dan alleen vloeistofgekoelde servers. De hele keten van de sector is lang, met brede deelgebieden en veel deelnemende spelers. Hierdoor is het een kapitaalintensieve sector.De technologie voor vloeistofkoeling bevindt zich momenteel in een snel ontwikkelingsstadium. Als de relevante spelers een voorsprong hebben op het gebied van financiering of klantenwerving, kunnen ze bepaalde toetredingsdrempels opwerpen.

 

Bedrijven in verschillende subvelden infiltreren geleidelijk aan gerelateerde velden op basis van hun kernvoordelen, en bouwen hun eigen ecosystemen. Volgens de indeling van infrastructuur naar toepassingen kan de vloeistofgekoelde datacenterindustrie worden onderverdeeld in drie grote subvelden: vloeistofkoelingsinfrastructuur, midstreamindustrie en industriële toepassingen.

 

De Liquid Cooling Infrastructure Sector levert de essentiële apparatuur en faciliteiten voor de bouw van vloeistofgekoelde datacenters. Het is onderverdeeld in subvelden zoals vloeistofkoelkasten, koelvloeistof, koelsystemen, energiesystemen, netwerksystemen en datacenterinfrastructuurbeheersystemen. Deze subvelden leveren voornamelijk apparatuur, softwaresystemen en koelmiddelen voor serverbediening. Daarnaast omvat de infrastructuursector bouwbedrijven, netwerkbeheerders en energieleveranciers. Bouwbedrijven zijn verantwoordelijk voor de bouw en installatie van de eerder genoemde apparatuur en faciliteiten, netwerkbeheerders bieden basisnetwerktoegang en energieleveranciers leveren de elektriciteit die nodig is voor de bediening van de apparatuur. Deze gebieden bieden een relatief eenvoudige perifere omgeving voor datacenters.

 

De midstream-industrie omvat serverfabrikanten, datacenterhostingproviders en enkele nieuwkomers. Serverfabrikanten onderzoeken, ontwerpen en produceren servers die geschikt zijn voor vloeistofgekoelde omgevingen of produceren direct vloeistofgekoelde cold plate-servers. Datacenterhostingproviders bouwen en exploiteren datacenters, waarbij ze hun eigen voordelen benutten om bronnen uit de infrastructuursector te integreren en serverhostingservices aan applicatiegebruikers aan te bieden. Naarmate datacenters zich snel ontwikkelen, betreden nieuwe bedrijven het veld van vloeistofgekoelde datacenters.

 

Gebruikers van datacentertoepassingen worden voornamelijk onderverdeeld in drie subvelden: cloud computing en cloud computing power, internet en blockchain, en andere gebruikers. Zij zijn de primaire gebruikers van datacenters. Cloud computing en cloud computing power providers genereren inkomsten door klanten flexibele toewijzing en planning van computing power te bieden via virtualisatie. Sommige grote internet- en blockchainbedrijven bouwen datacenters vaak rechtstreeks in samenwerking met datacenteroperators, terwijl andere gebruikers doorgaans server- of computing power resources rechtstreeks hosten of leasen van datacenteroperators.

 

2. Overzicht van de vloeistofkoelindustrie

Vergeleken met luchtkoeling biedt vloeistofkoelingstechnologie voordelen van hoge stabiliteit en hoge koelefficiëntie. Vanuit een uitgebreid toepassingsperspectief onthult vloeistofkoeling geleidelijk zijn economische voordelen wanneer vermogensdichtheden 15 kW per kast overschrijden. Volgens deUPS-applicatietijdschrift, de CPU-kerntemperatuur van vloeistofgekoelde servers kan 20-30 graden lager zijn dan de maximumtemperatuur in luchtgekoelde systemen, wat de betrouwbaarheid aanzienlijk verbetert.

 

Whitepaper van Intel,Groene innovatiepraktijken voor datacenters - Referentie voor het ontwerp van koudeplaatvloeistofkoelsystemen, geeft aan dat luchtgekoelde datacenters doorgaans koeling kunnen beheren voor kasten met vermogensniveaus tot 12 kW. Voor kasten die 15 kW overschrijden, hebben de bestaande luchtgekoelde datacenters het plafond van hun luchtconvectiekoelcapaciteiten bereikt. Vloeistofkoeltechnologie, die sterkere koelcapaciteiten biedt, kan hogere vermogensdichtheden ondersteunen.

 

Vergeleken met luchtkoelingsoplossingen zal de trend richting vloeistofkoeling, aangestuurd door AIGC en de initiatieven "Eastern Data, Western Computing", onvermijdelijk leiden tot een stijging van zowel het volume als de prijs van de markt voor temperatuurregeling in datacenters. De vloeistofgekoelde serverindustrie volgt drie technologische routes: cold plate, immersion en spray cooling.Bij koudeplaatvloeistofkoeling komt het koelmiddel niet rechtstreeks in contact met de warmtegenererende componenten van de server.

 

▲ Koelplaatkoeling

 

▲ Spray vloeistofkoelsysteem

 

▲ Enkelfasige vloeistofonderdompelingskoeling

 

▲ Twee-fase koeling

 

In plaats daarvan worden de belangrijkste warmtegenererende componenten bevestigd aan een koude plaat, waarbij het koelmiddel circuleert in het interne vloeistofkoelsysteem van de koude plaat om warmte te verwijderen. Om de warmtewisselingsmogelijkheden te verbeteren, moet het warmtewisselingsgebied worden gemaximaliseerd, waarbij de koude plaat zo dicht mogelijk bij het oppervlak van de warmtegenererende componenten van de server moet worden bevestigd. Onregelmatig gevormde warmtegenererende componenten zijn moeilijk te koelen met deze methode. Alleen relatief regelmatig gevormde chips zijn geschikt voor koude plaatkoeling.

 

Dit vormt een belangrijk probleem voor cold plate vloeistofkoeloplossingen: ongeveer 30% van de warmte van de server, gegenereerd door andere componenten zoals opslag, geheugen en voedingen, vereist nog steeds traditionele luchtkoeling. Dit resulteert in de noodzaak om twee koelsystemen tegelijkertijd te gebruiken in cold plate vloeistofkoeloplossingen, wat zowel de kosten als de daadwerkelijke systeem-PUE verhoogt. De huidige cold plate oplossing is relatief volwassen, met een solide commerciële basis, en heeft al talloze commerciële toepassingen gezien.

 

▲ Oplossingen voor vloeistofkoeling met koude platen

 

Immersion Liquid Cooling verwijst naar de volledige onderdompeling van serverapparatuur in koelmiddel, waarbij koeling wordt bereikt door direct contact tussen het koelmiddel en de warmtegenererende componenten. Bij deze methode worden de warmtegenererende componenten van de server volledig ondergedompeld in het koelmiddel, waardoor er voldoende contact is met het koelmiddel, dat de gegenereerde warmte continu afvoert en zo de server koelt. Immersion cooling biedt een hogere koelefficiëntie, met het potentieel om de vermogensdichtheid per kast met meer dan drie keer te verhogen. Naar verwachting zal het in 2025 meer dan 40% van de markt uitmaken, waarbij volledig ondergedompelde vloeistofgekoelde servers waarschijnlijk een toekomstige technologische trend zullen worden.

 

▲ Onderdompeling vloeistofkoeling

 

Spray Cooling Liquid Cooling System is een vloeistofkoeltechnologie met direct contact die is ontworpen om koelmiddel nauwkeurig op de warmtegenererende componenten van servers te spuiten. Het koelmiddel wordt rechtstreeks op de warmtegenererende apparaten of de vaste warmtegeleidende materialen die ermee zijn verbonden aangebracht, hetzij door zwaartekracht of systeemdruk. Dit proces zorgt voor warmtewisseling om de server te koelen. Tijdens de warmtewisseling wordt het koelmiddelniveau in de server onder de warmtegenererende componenten of de vaste warmtegeleidende materialen die ermee zijn verbonden gehouden. Het systeem gebruikt externe warmtewisselaars om het koelmiddel te koelen en te recyclen.

 

 

3. Marktlandschap voor vloeistofkoeling

Vloeistofkoeling is een geavanceerde technologie die meerdere disciplines en vakgebieden omvat, met hoge technische barrières.

Momenteel is de adoptie van vloeistofkoelingstechnologie onder binnenlandse en internationale fabrikanten van datacenterinfrastructuur nog relatief laag. Er zijn maar weinig bedrijven die deze technologie beheersen.

 

Verschillende bedrijven, zowel nationaal als internationaal, zijn echter begonnen met het aanbieden van aangepaste vloeistofkoelingsoplossingen aan hun klanten, en sommige technologiebedrijven bouwen en implementeren geleidelijk hun eigen vloeistofgekoelde datacenters. Desondanks blijft de adoptiegraad van vloeistofkoelingstechnologie onder fabrikanten van datacenterinfrastructuur laag, en de markt moet nog de opkomst van dominante leiders zien, waardoor het concurrentielandschap nog steeds onzeker is.

 

Op de Chinese markt hebben sommige bedrijven door jarenlange technologische accumulatie en ervaring aanzienlijke technische en marktvoordelen laten zien. Naar verwachting zullen in de toekomst toonaangevende bedrijven de markt domineren en een concurrerend landschap creëren waarin grote spelers een aanzienlijk marktaandeel hebben.

 

4. Vloeistofkoeling op chipniveau

Het verkleinen van de afstand tussen vloeistofkoelapparatuur en kernwarmtebronnen zoals chips is een belangrijke trend. In de toekomst zal koeling naar verwachting evolueren van kamerniveau, kastniveau en serverniveau naar chipniveau, waarbij betere chipkoeling wordt bereikt door direct contact tussen koelcomponenten en het chipoppervlak. Vloeistofkoelers voeren warmte af door grote hoeveelheden warmte weg te voeren via de wrijving tussen de vloeistofstroom en het interne oppervlak van de radiator. Vergeleken met conventionele luchtkoelsystemen kan vloeistofkoeling de koelefficiëntie aanzienlijk verbeteren. Momenteel wordt vloeistofkoeltechnologie voornamelijk onderverdeeld in indirecte en directe typen.

 

Volgens de laatsteHalfjaarlijkse markt voor vloeistofgekoelde servers in China (tweede helft van 2022)rapport gepubliceerd door de International Data Corporation (IDC), bereikte de Chinese markt voor vloeistofkoelservers $ 1,01 miljard in 2022, wat een jaar-op-jaar groei van 189,9% vertegenwoordigt. IDC voorspelt dat van 2022 tot 2027 de samengestelde jaarlijkse groei van de Chinese markt voor vloeistofkoelservers 56,6% zal bereiken, waarbij de markt naar verwachting $ 9,5 miljard zal bedragen in 2027, wat wijst op een mooie toekomst voor de vloeistofkoelindustrie!

 

 

▲ De prognose voor de markt voor vloeistofgekoelde servers in China van 2023 tot 2027