top of page

Test av NVIDIA RTX 6000 PRO! Er et grafikkort til 200000kr verdt det?

31. okt.
14 min lesing

I august delte NVIDIA sitt øverste Blackwell-tilbud for stasjonære maskiner i to spor for profesjonelle: Workstation og Server. RTX PRO 6000 Workstation er laget for innholdsskapere, ingeniører og AI-utviklere som trenger mest mulig regnekraft og VRAM i et tårn- eller skrivebordskabinett. RTX PRO 6000 Blackwell Server Edition er laget for rackservere og hodeløse noder for inferens eller rendering i datasenteret. Nå som vi har arbeidsstasjonskortet på testbenken, konsentrerer vi oss om det i denne testen.

Til 190 000kr gir RTX PRO 6000 deg en fullverdig GB202-brikke på skrivebordet, med 24 064 CUDA-kjerner, 752 Tensor-kjerner av femte generasjon, 188 RT-kjerner av fjerde generasjon og 96 GB GDDR7 med ECC. Fordelene er tydelige med en gang. Du får en minnekapasitet som forbrukerkort ikke kan matche, profesjonelle drivere og et formfaktor på to spor som passer i vanlige arbeidsstasjoner uten spesielle krav til strøm eller luftstrøm.

NVIDIA posisjonerer dette skjermkortet for blandede arbeidsflyter. Det omfatter lokal LLM-inferens med lang kontekst, rendering av store scener, komplekse simuleringer og forskningsrigger med flere GPU-er. Praktiske detaljer betyr mye her. Kortet bruker et standard PCIe 5.0 x16-grensesnitt, har fire DisplayPort 2.1b-utganger for visualisering med høy oppløsning og høy oppdateringsfrekvens, og har en konfigurerbar TDP på 600 W, slik at systembyggere kan justere for best mulig temperatur, støynivå eller tetthet.

Målet vårt er å vurdere hvordan arbeidsstasjonsversjonen yter i laben innen AI, rendering og generell databehandling, og å tallfeste hva 96 GB minne betyr for hva én enkelt stasjonær node kan klare.


NVIDIA RTX PRO 6000 Workstation vs. Server Edition

Begge variantene av RTX PRO 6000 bygger på den samme Blackwell GB202-brikken, så den rå regnekraften ser lik ut på papiret. Forskjellen ligger i hvordan og hvor de er ment å brukes. Arbeidsstasjonskortet vi tester, er et selvstendig, aktivt kjølt kort på to spor med fire DisplayPort 2.1b-utganger og drivere i studioklasse. Det står i et tårn eller en arbeidsstasjon ved skrivebordet, driver lokale skjermer og kjører ISV-sertifiserte DCC- og CAD-programmer side om side med CUDA, TensorRT og cuDNN. Hvis arbeidet blander interaktivt viewport-arbeid, lokal visualisering og AI på selve maskinen, er dette veien som holder alt i ett kabinett med forutsigbart støynivå og forutsigbare temperaturer.

RTX PRO 6000 Blackwell Server Edition er laget for et helt annet formål. Det er en hodeløs konfigurasjon beregnet på rackservere, med luftstrøm forfra og bakover og mulighet for fjernadministrasjon. Kortet har ingen aktive skjermutganger, fordi jobbene planlegges over nettverket og resultatene brukes eksternt. Fastvare, strøm- og temperaturprofiler er tilpasset drift døgnet rundt under en jobbplanlegger, vanligvis sammen med NVIDIA AI Enterprise, containerorkestrering og hypervisor-passthrough. Kort sagt er arbeidsstasjonsmodellen riktig valg når innholdsskapere og ingeniører må se og bearbeide arbeidet lokalt og samtidig kjøre store inferens- eller simuleringsjobber. Serverutgaven gir mer mening når man skalerer ut identiske noder bak en kø i et datasenter, der hver watt, hver kabel og hver luftvei må passe inn i en serviceplan fra produsenten.


Spesifikasjoner for NVIDIA RTX PRO 6000

Tabellen under viser spesifikasjonene til NVIDIA RTX PRO 6000 sammenlignet med RTX 5090 og RTX 4090 fra den forrige Ada Lovelace-generasjonen.

GPU-sammenligning

NVIDIA RTX PRO 6000

NVIDIA RTX 5090

NVIDIA RTX 4090

GPU-navn

GB202

GB202

AD102

Arkitektur

Blackwell 2.0

Blackwell 2.0

Ada Lovelace

Prosess

5 nm

5 nm

5 nm

Transistorer

92 200 millioner

92 200 millioner

76 300 millioner

Tetthet

122,9M / mm²

122,9M / mm²

125,3M / mm²

Brikkestørrelse

750 mm²

750 mm²

609 mm²

Sporbredde

To spor

To spor

Tre spor

Mål

304 × 137 × 40 mm

304 × 137 × 48 mm

304 × 137 × 61 mm

TDP

600 W

575 W

450 W

Utganger

4x DisplayPort 2.1b

1x HDMI 2.1b, 3x DisplayPort 2.1b

1x HDMI 2.1, 3x DisplayPort 1.4a

Strømkontakter

1x 16-pin

1x 16-pin

1x 16-pin

Busgrensesnitt

PCIe 5.0 x16

PCIe 5.0 x16

PCIe 4.0 x16

Grunnklokke

1590 MHz

2017 MHz

2235 MHz

Boost-klokke

2617 MHz

2407 MHz

2520 MHz

Minneklokke

1750 MHz (28 Gbps effektivt)

2209 MHz (28 Gbps effektivt)

1313 MHz (21 Gbps effektivt)

Minnestørrelse

96 GB

32 GB

24 GB

Minnetype

GDDR7 ECC

GDDR7

GDDR6X

Minnebuss

512 bit

512 bit

384 bit

Minnebåndbredde

1,79 TB/s

1,79 TB/s

1,01 TB/s

CUDA-kjerner

24 064

21 760

16 384

Tensor-kjerner

752

680

512

ROP-er

192

192

176

Antall SM

188

170

128

RT-kjerner

188

170

128

L1-cache

128 KB (per SM)

128 KB (per SM)

128 KB (per SM)

L2-cache

128 MB

88 MB

72 MB

Pikselrate

502,5 GPixel/s

462,1 GPixel/s

443,5 GPixel/s

Teksturrate

1 968,0 GTexel/s

1 637 GTexel/s

1 290 GTexel/s

FP16 (halv)

126,0 TFLOPS (1:1)

104,8 TFLOPS (1:1)

82,58 TFLOPS (1:1)

FP32 (float)

126,0 TFLOPS

104,8 TFLOPS

82,58 TFLOPS

FP64 (dobbel)

1,968 TFLOPS (1:64)

1,637 TFLOPS (1:64)

1 290 GFLOPS (1:64)

Lanseringspris (USD)

8 500 $

1 999 $

1 599 $


Konstruksjon og design

RTX PRO 6000 Workstation viderefører NVIDIAs rene og funksjonelle design fra RTX 5090 FE, med en industriell matt svart finish og to aksialvifter optimalisert for arbeidsstasjoner. Hver vifte er konstruert for å presse luft gjennom det fullengdes 3D-dampkammeret, noe som bidrar til å holde temperaturen stabil under langvarig belastning. Med mål på 304 × 137 × 40 mm får kortet godt plass innenfor to spor, noe som gir eksepsjonell ytelsestetthet tatt i betraktning TDP-en på 600 W.

Langs toppkanten har PRO 6000 én 16-pins strømkontakt som leverer strømmen som trengs for 96 GB GDDR7-minne og den fulle Blackwell 2.0-arkitekturen. Byggekvaliteten føles eksklusiv og solid, med et aluminiumsdeksel som leder luften effektivt gjennom kjøleribbene. NVIDIAs diskrete merking passer den profesjonelle stilen, uten RGB eller gamingpynt, og legger vekt på pålitelighet og ytelse i arbeidsstasjonskabinetter med krevende varmeforhold.

På I/O-siden har NVIDIA fire DisplayPort 2.1b-utganger, som sikrer kompatibilitet med oppsett med flere 8K-skjermer, fargenøyaktige HDR-arbeidsflyter og avanserte renderingsmiljøer. At kortet bruker DisplayPort 2.1b i stedet for HDMI, gjenspeiler den profesjonelle profilen, med økt båndbredde for skjermer med høy oppdateringsfrekvens og høy oppløsning.


Ytelsestesting

For å vurdere ytelsen til vårt eksemplar av NVIDIA RTX PRO 6000 sammenlignet vi det direkte med NVIDIAs flaggskip for forbrukermarkedet, RTX 5090 Founders Edition og RTX 4090 Founders Edition. Testingen ble gjort med en blanding av profesjonelle og AI-drevne arbeidslaster for å vise både rå regnekraft og ytelse i reelle programmer. Testene omfattet UL Procyon AI Text Generation, UL Procyon AI Image Generation, LuxMark, Geekbench 6 og V-Ray, som til sammen gir et balansert bilde av ytelse innen rendering, inferens og produktivitet.

I tillegg til disse standardtestene kjørte vi også målrettede tester for å vise frem de 96 GB GDDR7-minnet i RTX PRO 6000, og fordelene det gir ved håndtering av store modeller, datasett med høy oppløsning og profesjonell visualisering der kapasitet og vedvarende gjennomstrømning er avgjørende.

Testede kort:

  • RTX PRO 6000

  • GeForce RTX 5090 FE

  • GeForce RTX 4090 FE

  • RTX 6000 Ada


For å utnytte den nye NVIDIA RTX PRO 6000 fullt ut brukte vi vår AMD Threadripper-plattform. Systemet, slik det er konfigurert, har en prosessor med 64 kjerner og vannkjøling. Det har mer enn nok prosessorkraft til at skjermkortet kan jobbe uten å bli holdt tilbake. Hele systemkonfigurasjonen er listet under.

Vår testplattform med AMD Threadripper

  • Hovedkort: ASUS Pro WS TRX50-SAGE WIFI

  • Prosessor: AMD Ryzen Threadripper 7980X, 64 kjerner

  • RAM: 32 GB DDR5 4800 MT/s

  • Lagring: 2 TB Samsung 980 Pro

  • Operativsystem: Windows 11 Pro for Workstations


UL Procyon: AI Text Generation

Procyon AI Text Generation Benchmark forenkler ytelsestesting av AI-språkmodeller ved å tilby en kortfattet og konsistent evalueringsmetode. Den gjør det mulig å teste gjentatte ganger på tvers av flere LLM-modeller, samtidig som kompleksiteten ved store modellstørrelser og variable faktorer holdes nede. Testen er utviklet sammen med ledende aktører innen AI-maskinvare og utnytter lokale AI-akseleratorer optimalt for mer pålitelige og effektive ytelsesmålinger. Resultatene under ble målt med TensorRT.

På tvers av alle fire modelltestene lå NVIDIA RTX PRO 6000 konsekvent i tet. I Phi oppnådde PRO 6000 en totalscore på 6 775, foran RTX 5090 med 5 749, RTX 4090 med 4 958 og RTX 6000 Ada med 4 508. Den raskere tokengenereringen (325,9 tokens/s) og lavere forsinkelse (0,182 s til første token) understreker hvor responsivt kortet er i sanntids tekstgenerering og chatbaserte AI-oppgaver.

Trenden fortsatte med Mistral, der PRO 6000 fikk 7 346 og holdt en solid margin til 5090 (6 267), 4090 (5 094) og 6000 Ada (4 255). En gjennomstrømning på 271,8 tokens/s viser fordelen med det større minnet på 96 GB og den optimaliserte arbeidsstasjonstilpasningen for inferens med mye kontekst.

I Llama3 lå PRO 6000 fortsatt foran med 6 501 poeng, mot 6 104 for RTX 5090, 4 849 for 4090 og 4 026 for 6000 Ada. Dette viser hvor konsistent NVIDIAs Blackwell-arkitektur er, der PRO 6000 beholder ytelsesfordelen etter hvert som transformer-arbeidslastene øker i kompleksitet og kontekstlengde.

Til slutt, i Llama2, som legger vekt på inferens med lang kontekst og vedvarende ytelse, oppnådde PRO 6000 8 008 poeng, mens 5090, 4090 og 6000 Ada fulgte med henholdsvis 6 591, 5 013 og 3 957. Selv når sekvenslengdene og inferenstidene økte, beholdt PRO 6000 en klar dominans i både hastighet og stabilitet, og fullførte kjøringene raskere og med jevnere gjennomstrømning enn noen av de andre testede skjermkortene.

UL Procyon: AI Text Generation

RTX PRO 6000

RTX 5090

RTX 4090

RTX 6000 Ada

Phi totalscore

6 775

5 749

4 958

4 508

Phi tid til første token

0,182 s

0,244 s

0,255 s

0,288 s

Phi tokens per sekund

325,855 tok/s

314,435 tok/s

244,343 tok/s

228,359 tok/s

Phi total varighet

9,498 s

10,280 s

12,872 s

13,869 s

Mistral totalscore

7 346

6 267

5 094

4 255

Mistral tid til første token

0,229 s

0,297 s

0,322 s

0,419 s

Mistral tokens per sekund

271,779 tok/s

255,945 tok/s

183,266 tok/s

166,633 tok/s

Mistral total varighet

11,493 s

12,593 s

17,010 s

19,092 s

Llama3 totalscore

6 501

6 104

4 849

4 026

Llama3 tid til første token

0,218 s

0,234 s

0,259 s

0,348 s

Llama3 tokens per sekund

226,407 tok/s

214,285 tok/s

150,039 tok/s

138,620 tok/s

Llama3 total varighet

13,554 s

14,304 s

19,991 s

22,062 s

Llama2 totalscore

8 008

6 591

5 013

3 957

Llama2 tid til første token

0,307 s

0,419 s

0,500 s

0,679 s

Llama2 tokens per sekund

145,595 tok/s

134,502 tok/s

92,853 tok/s

78,532 tok/s

Llama2 total varighet

20,712 s

23,018 s

32,448 s

38,923 s


UL Procyon: AI Image Generation

Procyon AI Image Generation Benchmark gir en konsistent og nøyaktig metode for å måle AI-inferensytelse på tvers av ulik maskinvare, fra strømgjerrige NPU-er til kraftige skjermkort. Den består av tre tester: Stable Diffusion XL (FP16) for kraftige skjermkort, Stable Diffusion 1.5 (FP16) for middels kraftige skjermkort og Stable Diffusion 1.5 (INT8) for enheter med lavt strømforbruk. Testen bruker den optimale inferensmotoren for hvert system, noe som sikrer rettferdige og sammenlignbare resultater.

I Stable Diffusion 1.5 (FP16) leverte NVIDIA RTX PRO 6000 en overlegen totalscore på 8 869, foran RTX 5090 med 8 193, RTX 4090 med 5 260 og RTX 6000 Ada med 4 230. PRO 6000 fullførte bildegenereringen på 11,27 sekunder, med et snitt på 0,705 sekunder per bilde, og var dermed raskest i denne testen. Dette viser hvordan den arbeidsstasjonsoptimaliserte tilpasningen og 96 GB GDDR7-minne gir vedvarende utdata med høy presisjon uten å gå på bekostning av effektiviteten.

I Stable Diffusion 1.5 (INT8), som måler ytelse ved lett, kvantisert inferens, lå alle skjermkortene tett. PRO 6000 fikk 79 064 poeng, nesten identisk med RTX 5090s 79 272, og foran RTX 4090 (62 160) og RTX 6000 Ada (55 901). Siden INT8-arbeidslaster er mindre avhengige av minnebåndbredde og kapasitet, var forskjellene minimale, men PRO 6000 leverte jevne resultater med en gjennomsnittlig genereringstid på 0,395 sekunder per bilde.

Stable Diffusion XL (FP16) presser skjermkortene med lengre og mer krevende inferenskjøringer som belaster både minnet og den vedvarende regnekraften. Her oppnådde PRO 6000 en totalscore på 6 991, rett bak RTX 5090 med 7 179, men godt foran RTX 4090 med 5 025 og RTX 6000 Ada med 3 043. Den totale renderingstiden var 85,8 sekunder, eller 5,36 sekunder per bilde, noe som viser at PRO 6000 håndterer langvarige genereringsoppgaver effektivt og uten å bremse ned.

UL Procyon: AI Image Generation

RTX PRO 6000

RTX 5090

RTX 4090

RTX 6000 Ada

SD 1.5 (FP16) totalscore

8 869

8 193

5 260

4 230

SD 1.5 (FP16) total tid

11,274 s

12,204 s

19,011 s

23,639 s

SD 1.5 (FP16) genereringshastighet

0,705 s/bilde

0,763 s/bilde

1,188 s/bilde

1,477 s/bilde

SD 1.5 (INT8) totalscore

79 064

79 272

62 160

55 901

SD 1.5 (INT8) total tid

3,162 s

3,154 s

4,022 s

4,472 s

SD 1.5 (INT8) genereringshastighet

0,395 s/bilde

0,394 s/bilde

0,503 s/bilde

0,559 s/bilde

SD XL (FP16) totalscore

6 991

7 179

5 025

3 043

SD XL (FP16) total tid

85,819 s

83,573 s

119,379 s

197,172 s

SD XL (FP16) genereringshastighet

5,364 s/bilde

5,223 s/bilde

7,461 s/bilde

12,323 s/bilde

Blender 4.4

Blender er et 3D-modelleringsprogram med åpen kildekode. Denne testen ble kjørt med verktøyet Blender Benchmark. Resultatet måles i samples per minutt, og høyere verdier betyr bedre ytelse.

I alle tre scenene tok NVIDIA RTX PRO 6000 førsteplassen, noe som viser fordelene med Blackwell-arkitekturen og den utvidede minnekapasiteten. I Monster-scenen fikk PRO 6000 7 870,17 samples per minutt, foran RTX 5090 med 7 421,50, mens RTX 4090 og RTX 6000 Ada fulgte med henholdsvis 5 733,97 og 5 632,60.

I Junkshop-scenen beholdt PRO 6000 ledelsen med 4 158,91 samples per minutt, mot 3 980,15 for RTX 5090, 2 827,83 for RTX 4090 og 2 663,77 for RTX 6000 Ada. Til slutt, i Classroom-scenen, som gjerne belaster både skyggelegging og minneeffektivitet, nådde PRO 6000 4 041,11 samples per minutt, igjen foran RTX 5090 med 3 732,63, og klart bedre enn RTX 4090 og RTX 6000 Ada med henholdsvis 2 909,35 og 2 818,83.

Blender 4.4 (høyere er bedre)

RTX PRO 6000

RTX 5090

RTX 4090

RTX 6000 Ada

Monster

7 870,17

7 421,50

5 733,97

5 632,60

Junkshop

4 158,91

3 980,15

2 827,83

2 663,77

Classroom

4 041,11

3 732,63

2 909,35

2 818,83

Luxmark

Luxmark er en GPU-test som bruker LuxRender, en strålesporingsrenderer med åpen kildekode, for å vurdere hvordan et system håndterer svært detaljerte 3D-scener. Testen er særlig relevant for å vurdere renderingsevnen til servere og arbeidsstasjoner, spesielt innen visuelle effekter og arkitekturvisualisering, der nøyaktig lyssimulering er avgjørende.

I Food-scenen ledet NVIDIA RTX PRO 6000 med 24 287 poeng, knepent foran RTX 5090 med 23 141, mens RTX 4090 og RTX 6000 Ada fulgte med henholdsvis 17 171 og 14 873. Dette viser at PRO 6000 opprettholder jevn strålesporingsytelse med svært detaljert geometri og belysning, uten tap av stabilitet eller termisk struping.

I den mer krevende Hall-scenen, som belaster storskala geometri og kompleks global belysning, tok PRO 6000 igjen toppresultatet med 52 588, knepent foran RTX 5090 med 51 725, og godt over RTX 4090 (38 887) og RTX 6000 Ada (32 132).

Luxmark (høyere er bedre)

RTX PRO 6000

RTX 5090

RTX 4090

RTX 6000 Ada

Food-score

24 287

23 141

17 171

14 873

Hall-score

52 588

51 725

38 887

32 132

Geekbench 6

Geekbench 6 er en plattformuavhengig test som måler den samlede systemytelsen. Med Geekbench Browser kan du sammenligne ethvert system med det.

I denne testen oppnådde NVIDIA RTX PRO 6000 en GPU OpenCL-score på 384 158, foran RTX 5090 (374 807), RTX 4090 (333 384) og RTX 6000 Ada (336 882). Den høyere scoren gjenspeiler det optimaliserte arbeidsstasjonsdesignet, den økte minnebåndbredden og den profesjonelle driverpakken, som sammen gir jevn ytelse i et bredt spekter av regnetunge arbeidslaster.

Geekbench (høyere er bedre)

RTX PRO 6000

RTX 5090

RTX 4090

RTX 6000 Ada

GPU OpenCL-score

384 158

374 807

333 384

336 882

V-Ray

V-Ray Benchmark måler renderingsytelse for prosessorer, NVIDIA-skjermkort eller begge deler, med avanserte V-Ray 6-motorer. Den bruker raske tester og et enkelt poengsystem slik at brukere kan vurdere og sammenligne renderingsevnen til systemene sine. Det er et viktig verktøy for profesjonelle som ønsker effektiv innsikt i ytelsen.

I vår testing fikk NVIDIA RTX PRO 6000 12 128 vpaths, noe som plasserer kortet mellom RTX 5090, som ledet med 14 764, og RTX 4090, som fikk 10 847. RTX 6000 Ada lå litt bak med 10 766. Selv om RTX 5090 hadde en liten ledelse i denne GPU-intensive renderingstesten, viste PRO 6000 sterk og jevn ytelse, noe som bekrefter den arbeidsstasjonsrettede tilpasningen og vedvarende effektiviteten under full renderingsbelastning.

V-Ray (høyere er bedre)

RTX PRO 6000

RTX 5090

RTX 4090

RTX 6000 Ada

vpaths

12 128

14 764

10 847

10 766

LM Studio: inferenstest med flere modeller

I denne testrunden brukte vi LM Studio for å vurdere hvordan NVIDIA RTX PRO 6000 yter med en rekke populære store språkmodeller, blant annet GPT-OSS 120B, Gemma 3 (4B, 12B og 27B), Llama 3.1 (8B og 70B) og Llama 3.3 70B. Hver modell fikk den samme instruksjonen:

«Skriv en akademisk artikkel på 500 ord om dovendyrenes historie.»

Hovedfokuset i denne testen er tokens per sekund (gjennomstrømning) og total tid (hvor lang tid fullføringen tar), som til sammen viser hvor effektivt RTX PRO 6000 håndterer ulike modellstørrelser og kompleksitet under like genereringsforhold.

I LM Studio-testene viste NVIDIA RTX PRO 6000 utmerket ytelse og skalerbarhet over et bredt spekter av modellstørrelser, fra mindre modeller med 4B parametere til enorme konfigurasjoner i 120B-klassen.

Høydepunktet i testen var OpenAI GPT-OSS 120B, der RTX PRO 6000 leverte 163,1 tokens per sekund og fullførte teksten på 500 ord på 9,54 sekunder. Dette resultatet skiller seg ut fordi kort som RTX 5090 ikke kan laste eller kjøre en 120B-modell, og ofte ikke engang klarer 70B-modeller på grunn av begrenset VRAM. De 96 GB GDDR7-minnet i PRO 6000 gjør det mulig å kjøre disse enorme modellene lokalt, noe som gjør kortet unikt blant skjermkort for arbeidsstasjoner.

Blant de mindre modellene oppnådde Gemma 3 4B høyest gjennomstrømning og fullførte oppgaven med 226,7 tokens per sekund på 3,51 sekunder. Llama 3.1 8B Instruct fulgte tett med 197,1 tokens per sekund og en total tid på 4,17 sekunder. Disse kjøringene viser at PRO 6000 er svært effektiv og svarer raskt på mellomstore inferensoppgaver.

I den øvre enden lå Llama 3.1 70B Instruct og Llama 3.3 70B på rundt 31,8 tokens per sekund i snitt, med total genereringstid på 27,2 og 25,3 sekunder, noe som viser jevn ytelse til tross for den store størrelsen.

Samlet sett leverer RTX PRO 6000 enestående stabilitet, gjennomstrømning og kapasitet ved kjøring av store modeller. Minnekapasiteten på 96 GB gjør at kortet kan håndtere arbeidslaster som overgår grensene for forbrukerkort, og gjør det til et utmerket valg for utviklere, forskere og profesjonelle som trenger pålitelig lokal ytelse for avansert AI og utvikling av generative modeller.

LM Studio (inferensresultater)

Tokens/s

Tid til første token (s)

Total tid (s)

Prompt-tokens

Predikerte tokens

Totalt antall tokens

OpenAI GPT-OSS 120B

163,15

0,193

9,543

81

1 557

1 638

Gemma 3 4B

226,73

0,113

3,51

25

796

821

Gemma 3 12B

117,15

0,068

8,06

25

944

969

Gemma 3 27B

68,06

0,221

12,048

25

820

845

Meta Llama 3.1 8B Instruct

197,07

0,062

4,171

49

822

871

Meta Llama 3.1 70B Instruct

31,84

0,159

27,227

49

867

916

Meta Llama 3.3 70B

31,74

0,323

25,329

49

804

853

Strømforbruk for NVIDIA RTX PRO 6000

For å vurdere den reelle effektiviteten ved AI-arbeidslaster brukte vi UL Procyon AI Image Generation, nærmere bestemt Stable Diffusion XL FP16-testen. Denne testen ser på intervallet mellom det andre og det siste genererte bildet, og måler tiden intervallet tar, maksimalt og vedvarende strømforbruk, og systemets tomgangsforbruk etter at jobben er ferdig.

Under testingen hadde RTX PRO 6000 et gjennomsnittlig systemforbruk på 918,5 W under vedvarende belastning, med en topp på 1 036,3 W, og tomgangsforbruket stabiliserte seg på 152,3 W etter at jobben var ferdig. Hele testintervallet varte i 5,3 sekunder og brukte totalt 1,35 Wh energi. Resultatene viser svært god ytelse per watt for et skjermkort i arbeidsstasjonsklassen, med godt kontrollert strømforbruk og høy ytelse under langvarige inferensjobber.

Sammenlignet med andre skjermkort ligger RTX PRO 6000 svært nær RTX 4090 i totalt energiforbruk, men blir ferdig raskere, og det er klart bedre enn RTX 6000 Ada både i energieffektivitet og hastighet. Interessant nok viser de nye Blackwell-kortene, som deler GB202-brikken, svært like effektivitetsegenskaper i denne arbeidslasten, med bare små forskjeller i totalt energiforbruk, trolig på grunn av den høyere TDP-en til PRO 6000. Dette tyder på at NVIDIAs nyeste generasjon fortsetter å finjustere ytelsen per watt, heller enn å endre den drastisk.

Stable Diffusion XL FP16, strømforbruk (lavere er bedre)

RTX PRO 6000

RTX 5090

RTX 4090

RTX 6000 Ada

Energiforbruk

1,35 Wh

1,16 Wh

1,35 Wh

1,76 Wh

Testvarighet

5,3 s

5,1 s

7,3 s

12,6 s

Konklusjon

NVIDIA RTX PRO 6000 er, samlet sett, det mest kapable skjermkortet for arbeidsstasjoner som finnes for profesjonelle arbeidsflyter, og leverer ytelse i datasenterklassen i et format som står ved skrivebordet. Med en utsalgspris på rundt 8 500 dollar på testtidspunktet retter det seg mot team som trenger pålitelighet, høy regnetetthet og en enorm mengde ECC-minne til produksjonsarbeid. Med 24 064 CUDA-kjerner, 752 Tensor-kjerner, 96 GB GDDR7 med ECC og Blackwell-arkitektur håndterer kortet arbeidslaster som overgår de praktiske grensene for forbrukerkort som GeForce RTX 5090 eller 4090. Enkelte tester kan vise at et forbrukerkort er litt raskere i rå hastighet, men når man ser på helheten, med kapasitet, stabilitet, drivere og ISV-støtte, passer RTX PRO 6000 best til profesjonell bruk.

For AI og maskinlæring er de 96 GB minne hovedsaken. Det muliggjør inferens med lang kontekst og svært store modellsjekkpunkter lokalt, noe vi demonstrerte ved å kjøre modeller i 70B- til 120B-klassen med høy hastighet i tokens per sekund. Rendering og simulering drar også nytte av den større L2-cachen og minnebåndbredden, som gir forutsigbar og vedvarende ytelse i Blender, V-Ray og LuxMark under langvarig belastning.

Kortet passer i vanlige arbeidsstasjoner. Det har et ekte design på to spor med PCIe 5.0 x16-grensesnitt, fire DisplayPort 2.1b-utganger og én 16-pins strøminngang. Sørg for en strømforsyning av god kvalitet og god luftstrøm i kabinettet for å håndtere kortets effekt på 600 W. Oppsett med flere skjermkort er også enkelt, med støtte fra produsenter og programvareleverandører for 2 til 8 GPU-er innen AI, rendering og databehandling.

Hvis arbeidet ditt omfatter språkmodeller med lang kontekst, svært store scener eller simuleringer med høy presisjon på én enkelt node, forsvarer RTX PRO 6000 den høye prisen med en kapasitet og konsistens som andre kort ikke kan matche.

Toppliste: RTX PRO 6000 Blackwell Server Edition har plassen som beste GPU for inferens i bedrifter på StorageReviews toppliste over de beste bedrifts-GPU-ene, der dataene fra dette Workstation-kortet brukes i stedet for serverversjonen.


Kommentarer


bottom of page