De strijd om elektriciteit

De kunstmatige intelligentie-industrie groeit razendsnel, maar na het gebrek aan geheugenchips dreigt een nieuwe bottleneck. Het gaat niet om snellere chips of slimmere algoritmes, maar om iets veel simpelers: hoe krijg je de elektriciteit efficiënt van het stopcontact naar de chip? Het volledige pad dat elektriciteit aflegt, van het stroomnet tot aan de kleinste schakelaar op een chip, heet het Power Delivery Network. Dat netwerk wordt in hoog tempo het grootste knelpunt in de AI-infrastructuur.

Chips met een onverzadigbare energiehonger

Oudere modellen hadden genoeg aan een gewoon stopcontact. De nieuwste AI-chips zijn eerder industriële machines die een eigen stroomaansluiting nodig hebben. NVIDIA’s H100-chip verbruikte zo’n 700 watt, de opvolger Blackwell Ultra verdubbelt dat naar 1.400 watt en de aankomende Rubin Ultra moet meer dan 3.600 watt per chip aankunnen. Eén serverrack, vergelijkbaar met een grote ijskast vol computers, is in één generatie gesprongen van 30 kilowatt naar meer dan 120 kilowatt. De volgende generatie mikt op megawatt-schaal, genoeg om een klein dorp van stroom te voorzien.

Stel elektriciteit voor als water in een tuinslang. Volt is de waterdruk, hoe hard het water door de slang wordt geduwd. Ampère is de hoeveelheid water die er per seconde doorheen stroomt, dat wordt bepaald door de dikte van de slang. En watt is het vermogen dat je ermee kunt leveren: druk × hoeveelheid, oftewel volt × ampère. Een hoog voltage met weinig ampère (zoals een statische schok) doet weinig, net zoals hoge druk door een piepklein slangetje nauwelijks water geeft. Pas als er zowel voldoende spanning (volt) als voldoende stroom (ampère) hebt, krijg je echt vermogen (watt), genoeg om een lamp te laten branden of een motor te laten draaien.

Moderne chips werken op een extreem lage spanning van minder dan één volt. Om toch meer vermogen te leveren, moet er dus veel meer stroom doorheen. Dan moet je dus een dikkere slang nemen om meer water te verplaatsen. Maar dikkere kabels nemen meer ruimte in, worden warmer en verspillen meer energie. Bovendien schakelen AI-toepassingen razendsnel tussen rustig en vol vermogen, alsof iemand de kraan steeds helemaal open en dicht draait. Het stroomsysteem moet die schommelingen direct kunnen opvangen.

Chips zijn goed voor zo’n 40 procent van het totale energieverbruik in een AI-datacenter en stroom kan meer dan de helft van de totale kosten uitmaken. Iedere kleine verbetering in de stroomlevering levert daardoor grote besparingen op.

Stap 1: hogere spanning tussen stroomnet en serverrack

De eerste verbetering vindt plaats op het traject van het stroomnet naar het serverrack. Huidige racks werken op 48 tot 54 volt, maar bij de enorme vermogens van AI-chips is dat te laag. Om 120 kilowatt bij 48 volt te leveren heb je stroomsterktes nodig van meer dan 2.500 ampère. Dat leidt tot fors energieverlies in de vorm van warmte en vereist onpraktisch dikke koperen kabels.

De oplossing is simpel in concept: verhoog de spanning. Net zoals hoogspanningsmasten stroom over lange afstanden transporteren bij hoge spanning om verlies te beperken, verschuift het datacenter naar hogere spanningen binnen het gebouw. NVIDIA presenteerde onlangs een architectuur die werkt op 800 volt gelijkstroom. Door de stroom al aan de rand van het datacenter om te zetten naar 800 volt, vervallen meerdere tussenstappen. Het resultaat: 85 procent meer vermogen door dezelfde kabeldikte, tot 45 procent minder kopergebruik en meer ruimte voor koeling.

De traditionele transformatoren worden daarbij vervangen door compactere elektronische omvormers, zogeheten Solid-State Transformers, die op basis van siliciumcarbide werken en slechts half zo groot zijn.

Stap 2: de spanningsregelaar dichter bij de chip

Zodra de stroom bij het rack is, moet deze worden teruggebracht naar minder dan één volt voor de chip. Traditioneel zit de spanningsregelaar op het moederbord, enkele centimeters van de chip. Dat klinkt als een kleine afstand, maar voor een AI-chip die in microseconden van stilstand naar vol vermogen gaat, is het te ver. De stroom komt dan net te laat aan, waardoor de spanning even wegzakt op het moment dat de chip het hardst nodig heeft.

De nieuwe aanpak heet Integrated Voltage Regulator. In plaats van de spanningsregelaar naast de chip op het moederbord te plaatsen, wordt deze direct in of onder de chipverpakking gebouwd. De stroom hoeft dan nog maar een paar millimeter te reizen in plaats van centimeters. Dat scheelt niet alleen in snelheid, maar maakt ook ruimte vrij op het moederbord voor geheugen of extra rekenkracht. Het nadeel is dat de warmte zich concentreert op een kleinere plek, waardoor geavanceerde koeling des te belangrijker wordt.

Stap 3: stroomdraden aan de onderkant van de chip

De derde verbetering speelt zich af binnen de chip zelf. Stel je een chip voor als een flatgebouw. De bewoners, de miljarden transistoren, wonen op de begane grond. Boven hen lopen alle leidingen: zowel de datakabels als de stroomkabels, samen door dezelfde smalle schachten. Die drukte leidt tot energieverlies, want de stroom moet door meer dan vijftien verdiepingen omlaag voordat hij bij de transistoren aankomt.

De oplossing, Backside Power Delivery, verhuist de stroomleidingen naar de kelder. De bovenkant van het gebouw wordt dan vrijgemaakt voor datatransport, terwijl de stroom via een korte, brede route van onderen komt. Het resultaat is 15 tot 20 procent minder energieverlies.

Intel loopt hierin voorop met zijn PowerVia-technologie, die al in massaproductie is. TSMC volgt en is door NVIDIA geselecteerd voor de Feynman-chip, de beoogde opvolger van Rubin Ultra. Samsung mikt op 2027 voor een eigen variant.

Wat betekent dit voor beleggers?

De vernieuwing van de stroomlevering raakt de hele keten. Bij de netinfrastructuur profiteren bedrijven als Hitachi Energy, GE Vernova en Siemens Energy van de vraag naar nieuwe omvormers. Platformleveranciers voor datacenters zoals Vertiv, Eaton, Schneider Electric en ABB zijn opgenomen in NVIDIA’s 800 volt-ecosysteem.

Bij de halfgeleiders bieden nieuwe materialen zoals siliciumcarbide en galliumnitride efficiëntere stroomconversie bij hogere spanningen. Fabrikanten als Infineon, STMicroelectronics en onsemi (voorheen ON Semiconductor) zijn goed gepositioneerd, net als gespecialiseerde chipbedrijven zoals Texas Instruments en Analog Devices.

Op het gebied van chipfabricage spelen TSMC en Intel een steeds grotere rol in de verpakking van chips, wat druk legt op de traditionele toeleveranciers in dat segment. Apparatuurfabrikanten als Applied Materials, Lam Research, Besi en DISCO Corporation profiteren juist van de toegenomen complexiteit.

De rode draad

Op alle drie de niveaus, van stroomnet tot serverrack, van moederbord tot chip en binnen de chip zelf, gebeurt hetzelfde: stroominfrastructuur wordt verplaatst en gecomprimeerd om ruimte vrij te maken voor meer rekenkracht. De technologieën bestaan vaak al jaren, maar worden nu pas op grote schaal ingezet omdat het kantelpunt is bereikt. De kosten van de oude noodoplossingen, zoals extra veiligheidsmarges en condensatorbanken, zijn inmiddels hoger dan de kosten van een fundamenteel herontwerp. Zonder verbetering van deze stroominfrastructuur blijft de energievraag van AI niet alleen een kwestie van meer opwekking, maar ook van verouderde technologie binnen het datacenter zelf.

Han Dieperink, Chief Investment Officer

Disclaimer

Abonneer op deze nieuwsbrief via

www.aureus.eu/nieuwsbrief