De AI-economie kantelt

De afgelopen drie jaar draaide het debat over kunstmatige intelligentie om één vraag: wie bouwt het slimste model? Die fase is voorbij. De AI-industrie maakt een fundamentele verschuiving van het trainen van modellen naar het grootschalig inzetten ervan. De jaarlijkse GPU Technology Conference (GTC) maakte dit onmiskenbaar duidelijk. Het tijdperk van inferentie is aangebroken, en de gevolgen voor beleggers, bedrijven en de bredere economie zijn groot.

Wat is inferentie eigenlijk?

In de breedste zin is inferentie het proces van het trekken van een logische conclusie op basis van bewijs, redenering en reeds bekende informatie, het afleiden van iets dat niet expliciet wordt verteld of getoond. In de context van kunstmatige intelligentie is inferentie het moment waarop een getraind model zijn opgedane kennis toepast op nieuwe, ongeziene data om voorspellingen te doen of beslissingen te nemen.

Het onderscheid met training is essentieel. Training is de leerfase: het model wordt gevoed met enorme hoeveelheden data en leert patronen en relaties te herkennen. Dat is vergelijkbaar met studeren voor een examen, hoe meer je studeert, hoe beter je presteert. Inferentie is het examen zelf: het moment waarop het model laat zien wat het heeft geleerd door die kennis toe te passen op situaties die het nog nooit eerder heeft gezien.Inferentie is het uiteindelijke doel van het bouwen van een AI-model. Training is een tussenstap, het project is pas voltooid wanneer het model betrouwbare voorspellingen kan doen over nieuwe data. Training is het bouwen van de fabriek, inferentie is het moment waarop die fabriek begint te produceren.

Inferentie zie je niet, maar je ervaart het, bijvoorbeeld de aanbevelingen op je streamingdienst, de routebepaling van een zelfrijdende auto, de fraudedetectie bij een creditcardtransactie, of het antwoord van een chatbot. Het model ontvangt invoerdata, analyseert die op basis van de patronen die het tijdens training heeft geleerd, en genereert een voorspelling, classificatie of beslissing, vaak in fracties van een seconde.

De explosie van inferentievraag

Nvidia onthulde op GTC dat de vraag naar inferentie-rekenkracht in twee jaar tijd met een factor van ruwweg een miljoen (!) is gegroeid. Die explosie wordt gedreven door de opkomst van zogenaamde agentic AI-systemen: dat zijn autonome digitale medewerkers die niet alleen reageren op een vraag, maar zelfstandig meerdere taken uitvoeren, bestanden beheren, code schrijven en continu op de achtergrond werken. Het zijn geen chatbots, maar digitale medewerkers die taken overnemen die voorheen soms door hele teams werden uitgevoerd.

Deze verschuiving heeft ingrijpende gevolgen voor de eisen die aan hardware worden gesteld. Training draait om brute rekenkracht, maar inferentie is extreem gevoelig voor vertraging, doorvoersnelheid en de efficiëntie waarmee data door het systeem beweegt. Veel AI-toepassingen vereisen realtime-inferentie, waarbij het model data moet verwerken en ogenblikkelijk voorspellingen moet genereren. Denk aan zelfrijdende auto’s die sensordata in fracties van een seconde moeten verwerken, aan fraudedetectiesystemen die transacties op het moment zelf moeten beoordelen, of aan financiële handelssystemen waar milliseconden het verschil maken. Vertragingen bij inferentie kunnen levensgevaarlijk of ruïneus zijn.

De hardware achter inferentie

De uitdaging bij inferentie is om data snel genoeg bij de rekenchips te krijgen om ze bezig te houden, wat betekent dat rekenkracht dichter bij het geheugen moet komen. Nvidia onthulde op GTC een reeks innovaties die hierop inspelen. De Vera CPU is speciaal ontworpen voor agentic AI- werk. Een CPU (processor) is een snelle generalist die taken één voor één afhandelt. Een GPU heeft duizenden eenvoudige rekeneenheden die enorme hoeveelheden berekeningen tegelijk uitvoeren, wat hem ideaal maakt voor AI. Agentic AI volgt een werkproces dat coördinatie vereist tussen planning, redenering, het ophalen van context en het aanroepen van externe diensten. In die setting neemt de CPU de rol van dirigent op zich, die het orkest van data, geheugen en output coördineert om de krachtige versnellers aan het werk te houden. Als de CPU die rol niet snel genoeg vervult, zitten de dure GPU’s werkeloos te wachten.

Nvidia heeft een deal gesloten met Groq, een chipbedrijf met een fundamenteel andere aanpak dan de standaard AI-chips. Waar gewone chips constant data heen en weer sturen naar extern geheugen, verwerkt de Groq-chip alles ter plekke op de chip zelf. Dat maakt hem drastisch sneller en energiezuiniger voor toepassingen waarbij snelheid cruciaal is, zoals AI die direct op een vraag moet reageren. Jensen Huang verwacht dat ongeveer een kwart van alle AI-rekencapaciteit voor dit soort snelle, tijdgevoelige taken wordt gebruikt.

Tegelijk kondigde Micron begin 2026 een nieuwe generatie geheugenmodules aan (HBM4) die meer dan twee keer zo snel zijn als hun voorganger, bij een vijfde minder stroomverbruik.. Voor het trainen van grote AI-modellen blijft traditioneel extern geheugen onmisbaar, en ook bij het uitvoeren van die modellen geldt: hoe langer het “geheugen” van een AI-systeem moet zijn, hoe meer opslagcapaciteit er nodig is. De Groq-chip lost wel het snelheidsprobleem op, niet het capaciteitsprobleem. Beide technologieën vullen elkaar dus aan.

De agent als besturingssysteem

Jensen Huang noemde het een nieuw Windows-moment: het OpenClaw-platform fungeert als een soort besturingssysteem voor AI-agenten. In tegenstelling tot traditionele taalmodellen die passief reageren op vragen, maakt OpenClaw het mogelijk om autonome agenten te bouwen die zelfstandig complexe werkprocessen uitvoeren. De vrijheid van dergelijke agenten vormt echter wel een beveiligingsrisico voor bedrijfsomgevingen. Daarom introduceerde Nvidia NemoClaw, een zakelijke variant die agenten laat draaien in geïsoleerde, beleidsgestuurde omgevingen met strikte controle over netwerktoegang en datastromen. Dit lost een belangrijk adoptieknelpunt op en verbetert Nvidia’s positie in de keten.

Huang verklaarde dat elk industrieel bedrijf uiteindelijk een roboticabedrijf zal worden. Nvidia heeft een compleet systeem gebouwd (van software tot chip) speciaal voor robots die op mensen lijken (humanoïde robots). Het hart daarvan is een AI-model dat de robot leert bewegen, waarnemen en beslissingen nemen, vergelijkbaar met hoe een groot taalmodel zoals ChatGPT heeft geleerd om tekst te begrijpen. Grote industriële spelers als ABB, KUKA, Fanuc en Yaskawa hebben zich aangesloten, evenals pioniers op het gebied van humanoïde robotica. Parallel hieraan behandelt Nvidia de markt voor autonome voertuigen als een volgende grootschalige toepassing. Nvidia breidde zijn strategische alliantie met Uber uit, gericht op de uitrol van honderdduizend robotaxi’s in achtentwintig steden tegen 2028.

Effect op productiviteit

Toen elektriciteit in de negentiende eeuw werd gecommercialiseerd, gebruikten fabrikanten het eerst alleen om de werktijden te verlengen. De werkelijk productiviteitswinsten kwamen pas later, toen de lopende band werd uitgevonden als een fundamenteel nieuw productieproces gebouwd rond de nieuwe technologie. Agentic AI voor bedrijven bevindt zich in een vergelijkbare fase. De output per gewerkt uur stijgt.  Voor het eerst in de geschiedenis wijkt de omzet van S&P 500-bedrijven significant af van het aantal openstaande vacatures. Bedrijven produceren meer met minder mensen. Deze productiviteitswinst zorgt voor structureel hogere welvaart en lagere kosten.

De verschuiving van training naar inferentie heeft directe gevolgen voor beleggen in AI. De fase van speculatieve investeringen in wie het slimste model bouwt, maakt plaats voor een fase waarin terugkerende inkomsten bepalend worden. Bedrijven die de hardware leveren waarmee inferentie op grote schaal mogelijk wordt (chips, geheugen, optische netwerken) bevinden zich in een structureel groeiende markt. De inkomsten per gigawatt nemen met elke nieuwe generatie hardware toe, wat betekent dat de investeringen in infrastructuur niet alleen meer capaciteit opleveren, maar ook hogere marges. De softwarelaag, verankerd in platforms als NemoClaw en het bredere CUDA-ecosysteem, verdiept de concurrentievoordelen van gevestigde spelers en maakt het voor nieuwkomers bijzonder lastig om terrein te winnen. En de opkomst van fysieke AI (humanoids en robotaxi’s) vergroot de totale markt.De fabriek is gebouwd. Nu begint de productie.

Han Dieperink, Chief Investment Officer

Disclaimer

Abonneer op deze nieuwsbrief via

www.aureus.eu/nieuwsbrief