NVIDIA Blackwell verplettert financiële AI-benchmark met 3,2x snelheidswinst

Iris Coleman 05 mrt 2026 18:17

NVIDIA's GB200 NVL72 zet nieuw STAC-AI-record voor LLM-inferentie in financiële handel, met tot 3,2x betere prestaties dan de Hopper-architectuur.

NVIDIA's Blackwell-architectuur heeft zojuist de snelste resultaten ooit behaald op de STAC-AI-benchmark voor financiële LLM-inferentie, waarbij de GB200 NVL72 tot 3,2x prestatieverbetering per GPU levert ten opzichte van de vorige generatie Hopper. De resultaten van 5 maart 2026 zijn van belang voor handelsbedrijven die strijden om alpha te halen uit ongestructureerde data-analyse.

Het Strategic Technology Analysis Center, dat al meer dan 15 jaar financiële technologie-workloads benchmark, testte Blackwell tegen realistische scenario's met behulp van EDGAR 10-K-indienings—de compacte jaarverslagen die quantfondsen analyseren voor beleggingssignalen. Met Meta's Llama 3.1-modellen behaalde de GB200 NVL72 37.480 woorden per seconde bij middelgrote financiële prompts, vergeleken met 8.237 WPS voor dubbele GH200-systemen.

Ruwe cijfers vertellen het verhaal

Op het Llama 3.1 8B-model met EDGAR4-data verwerkte Blackwell 224 verzoeken per seconde versus 51,5 RPS voor Hopper—een 4,3x verbetering op systeemniveau. De kloof werd groter bij rekenintensievere taken: het 70B-parametermodel op langere EDGAR5-indienings zag de doorvoer stijgen van 41,4 WPS naar 150 WPS.

Wat maakt deze verbeteringen mogelijk? NVIDIA's nieuwe NVFP4-kwantisatieformaat, exclusief voor Blackwell, perst modellen in kleinere geheugenvoetafdrukken zonder nauwkeurigheid op te offeren. Hopper draaide FP8-kwantisatie; de architecturale sprong naar vier-bit precisie op Blackwell ontgrendelt het doorvoerverschil.

Interactieve prestaties zijn belangrijk voor handel

Batchverwerking is één ding. Realtime handelsbeslissingen vereisen snelle reacties. Hier hield Blackwell lagere reactietijden aan (vergelijkbaar met time-to-first-token) en betere latentie tussen woorden, zelfs bij maximale doorvoer. Bij vergelijkbare benuttingsniveaus versloeg de GB200 NVL72 consequent de GH200 op responsiviteitscijfers in de meeste testscenario's.

Voor handelstafels die sentimentanalyse uitvoeren op winstgesprekken of actueel nieuws verwerken, vertaalt dat latentievoordeel zich direct in snellere besluitvorming. De benchmark testte expliciet de volledige inferentiepijplijn inclusief tokenisatie—werk dat echte implementaties niet kunnen overslaan.

Marktcontext

NVIDIA-aandelen werden verhandeld op $181,41 op 5 maart, met een stijging van 1,1% op de dag, met een marktkapitalisatie van het bedrijf van $4,42 biljoen. De Blackwell-architectuur, aangekondigd op GTC 2024, werd specifiek ontworpen voor generatieve AI-workloads. CEO Jensen Huang positioneerde het als aandrijving van "een nieuwe industriële revolutie", en deze benchmarkresultaten leveren concreet bewijs voor die bewering in de financiële sector.

De GB200 Grace Blackwell-superchip combineert twee B200 GPU's met een Grace CPU, met opnieuw ontworpen AI Tensor Cores en vijfde generatie NVLink voor schaling tot 576 GPU's. Eerdere MLPerf-resultaten toonden 2,2x trainingswinst op Llama 3.1 405B; deze STAC-AI-cijfers bevestigen dat vergelijkbare voordelen zich uitstrekken tot inferentie.

Hopper nog steeds relevant

Het vermelden waard: de drie jaar oude Hopper-architectuur boekte respectabele cijfers. Handelsbedrijven met bestaande GH200-implementaties zijn niet van de ene op de andere dag verouderd. Maar voor nieuwe builds of bedrijven waar inferentiesnelheid direct het rendement beïnvloedt, ziet Blackwell's economie er aantrekkelijk uit—NVIDIA claimt tot 25x vermindering van LLM-inferentie-operationele kosten versus eerdere generaties.

De volledige STAC-rapporten, inclusief gedetailleerde interactieve modus-statistieken voor verschillende aankomstpercentages, zijn beschikbaar via de officiële kanalen van STAC. Financiële instellingen die AI-infrastructuurupgrades evalueren, hebben nu gecontroleerde data van derden om inkoopbeslissingen te onderbouwen.

• nvidia
• blackwell
• ai-inferentie
• financiële handel
• llm