Nvidia har avtäckt DGX-2, en superdator med 16 stycken Volta-baserade grafikkort som kopplats samman med NVSwitch som resulterat i 82 000 CUDA-kärnor och 2 PetaFLOPS beräkningskraft.
Nvidias beräkningsdator DGX-1 är inte en pjäs som går av för hackor. Nu ungefär sex månader efter att systemet först avtäcktes så har Nvidia visat upp DGX-2 som tar allting ett stort steg längre.
I korta drag kan DGX-2 beskrivas som två Intel Xeon Platinum-processorer tillsammans med 16 stycken Tesla V100 beräkningskort som har staplats på varandra och kopplats ihop med hjälp av NVSwitch.
Detta har resulterat i ett system med totalt 81 920 CUDA-kärnor, 10 240 Tensor-kärnor, 512 gigabyte (GB) HBM2-minne, en bandbredd på 14,4 terabyte i sekunden (TB/s), en bandbredd mellan grafikprocessorerna på 300 gigabyte i sekunden (GB/s) och en strömförbrukning på 10 000 watt.
“DGX-2 provides 10X the processing power of DGX-1 of six months ago, unveiled in September 2017.
The exploration space of AI, the number of layers, the training rates sweeping through different fraemworks, with bigger networks, more experimentation, DGX-2 couldn’t come at a better time.
How much should we charge is the question? It tooks hundreds of millions of dollars of engineering to create this.
It’s $399K for the world’s most powerful computer. This replaces $3M of 300 dual-CPU servers consuming 180 kilowatts. This is 1/8th the cost, 1/60th of the space, 18th the power. The more you buy, the more you save,” – NVIDIA
DGX-2 kommer även utrustad med 1,5 terabyte (TB) RAM-minne och 30 TB NVMe lagringsutrymme, ett stort kliv framåt jämfört med DGX-1 som utrustats med 0,5 TB RAM och 8 TB NVMe-lagring. Sett till anslutningar är det åtta stycken EDR 100 Gigabit ethernet-anslutningar.
När det kommer till prestanda så kan DGX-2 skryta med en beräkningskraft på 1 920 TFLOPS när systemets Tensor-kärnor arbetar för fullt, samt 480 TFLOPS i FP16, 240 TFLOPS i FP32 och 120 TFLOPS i FP64.
DGX-2 är det första systemet med vad Nvidia kallar NVSwitch, det är detta som tillåter kommunikation mellan grafikprocessorerna med en hastighet 12 gånger snabbare än PCI-express.
NVSwitch tillsammans med företagets NVLink2 som tillåter samtliga grafikkort att kopplas ihop har resulterat i en total bandbredd på över 14 TB/s i ett enda system.
“DGX-2 is the first system to debut NVSwitch, which enables all 16 GPUs in the system to share a unified memory space. Developers now have the deep learning training power to tackle the largest datasets and most complex deep learning models.
Combined with a fully optimized, updated suite of NVIDIA deep learning software, DGX-2 is purpose-built for data scientists pushing the outer limits of deep learning research and computing. DGX-2 can train FAIRSeq, a state-of-the-art neural machine translation model, in less than two days – a 10x improvement in performance from the DGX-1 with Volta, introduced in September.”
DGX-2 kommer att finnas tillgänglig för 399 000 dollar, cirka 3,3 miljoner kronor. Nvidias Jensen Huang som höll i presskonferensen gjorde jämförelsen att DGX-2 är 500 gånger snabbare än två stycken GTX 580-grafikkort, men kostar “bara” 399 gånger så mycket.
16 grafikkort är inte 1 grafikkort.
Det är det inte! Men Nvidia propsade på att använda det uttrycket för DGX-2. Förvisso ser NVLink och NVSwitch till att grafikkorten har en redig bandbredd för kommunikation mellan varje grafikprocessor, men det är fortfarande inte riktigt som ett enda grafikkort som är 16 gånger mer kraftfullt än ett Tesla V100.
Tänkte precis som du först. Men då jag fick tid över på en flygresa så läste jag på lite om NVSwitch och blev förvånad. Vi har tidigare haft ett grafikkort med två GPUs och ska vi kalla det för ett grafikkort? Saken är nämligen att egentligen är det bara ett grafikkort som du kan stapla multipla GPUs på. Till exempel sitter allt minne på master kortet som delas av alla GPUs. Kommer denna teknik även för oss privat konsumenter så kommer jag hoppa på tåget direkt. Det skulle betyda att du endast har ett master kort och en GPU och… Läs hela »
Vad är det GTX-580? Det gamla GTX 580? Varför jämför man med det?
Ja det är gamla goda GTX 580, det Jensen ville få fram med jämförelsen var hur långt utvecklingen har gått under de senaste fem åren.
Stora frågan är fortfarande, “Does it run Crysis?”
486dx2