• TWEAK
• Hardware
• Processor

Første NVIDIA DGX H200 til OpenAI

Nvidia DGX H200, der efterfølger den meget eftertragtede H100, praler med 1,4 gange mere hukommelsesbåndbredde og 1,8 gange mere hukommelseskapacitet. Nvidia CEO, Jensen Huang, leverede personligt den første NVIDIA DGX H200 til OpenAI. I et indlæg delt af Greg Brockman, præsident for OpenAI, ser man Huang posere sammen med Brockman og chef Sam Altman, med DGX H200 i midten. 

"Den første DGX H200 i verden, leveret til OpenAI og dedikeret af Jensen "til at fremme AI, computing og menneskeheden", skrev Brockman på Twitter. Huang, der leverer den første GPU til OpenAI, ser ud til at være blevet en ny tradition. 

Tilbage i 2016 donerede Huang den første DGX-1 AI-supercomputer til OpenAI, til støtte for demokratiseringen af AI-teknologi. Dengang var det Elon Musk, der modtog den. Den nye GPU kan være en meget værdsat tilføjelse til OpenAI's arsenal, da organisationen i øjeblikket arbejder på GPT-5 og planlægger at gøre Sora offentligt tilgængelig i år. 

Nvidia introducerede DGX H200 sidste år. Den opgraderede GPU, der efterfølger den meget efterspurgte H100, har 1,4 gange mere hukommelsesbåndbredde og 1,8 gange mere hukommelseskapacitet. Disse forbedringer forbedrer markant dens evne til at håndtere krævende generative AI-opgaver. Desuden har H200 en hurtigere hukommelsesspecifikation kaldet HBM3e, der hæver dens hukommelsesbåndbredde til 4,8 terabyte per sekund fra H100's 3,35 terabyte per sekund. 

Dens samlede hukommelseskapacitet stiger også til 141 GB, op fra sin forgængers 80 GB. "For at skabe intelligens med generative AI- og HPC-applikationer, skal enorme mængder data effektivt behandles i høj hastighed ved hjælp af stor, hurtig GPU-hukommelse," sagde Ian Buck, vicepræsident for hyperscale og HPC hos NVIDIA. "Med NVIDIA H200 er branchens førende AI-supercomputing platform netop blevet hurtigere til at løse nogle af verdens vigtigste udfordringer." 

Nvidia har også lanceret en ny AI-supercomputer med H200. Nvidia DGX H200 bruger NVLink interconnect-teknologi sammen med NVLink Switch System, der fusionerer 256 H200 superchips i en enkelt GPU-enhed. 

Denne opsætning opnår en imponerende ydeevne på 1 exaflop og tilbyder 144 terabyte delt hukommelse, hvilket markerer et betydeligt spring fra den forrige generation Nvidia DGX A100, der blev introduceret i 2020, der havde betydeligt mindre hukommelse."