NVIDIA paziņoja par jaunu superdatoru klasi ar lielu atmiņas apjomu - superdatoru NVIDIA DGX, kas balstīts uz superčipiem NVIDIA GH200 Grace Hopper un slēdžu sistēmas NVIDIA NVLink. Tas ir paredzēts, lai izstrādātu nākamās paaudzes modeļus ģeneratīvām lietojumprogrammām AI, ieteikumu sistēmas un datu analīzes darba slodzes.
Milzīga atmiņas vieta NVIDIA DGX GH200 izmanto NVLink savienojamības tehnoloģiju ar NVLink slēdžu sistēmu, lai apvienotu 256 GH200 superčipus, kā rezultātā tiek izveidots viens GPU. Tas nodrošina 1 eksaflopu veiktspēju un 144 TB koplietojamo atmiņu, kas ir gandrīz 500 reizes vairāk nekā iepriekšējā paaudze. NVIDIA DGX A100, kas tika ieviests 2020. gadā.
"Ģeneratīvs AI, lielie valodu modeļi un ieteikumu sistēmas ir mūsdienu ekonomikas digitālie dzinēji, sacīja dibinātājs un izpilddirektors NVIDIA Jensens Huangs. – DGX GH200 AI superdatoros ir integrētas vismodernākās paātrinātās skaitļošanas un tīkla tehnoloģijas NVIDIApaplašināt AI robežas”.
Kā ziņots preses relīzē uzņēmuma tīmekļa vietnē, GH200 supershēmas novērš nepieciešamību pēc tradicionālā CPU-GPU PCIe savienojuma. Viņi apvieno procesoru NVIDIA Uz rokām balstīta Grace un GPU NVIDIA H100 Tensor Core vienā korpusā. Tas 7 reizes palielina joslas platumu starp GPU un CPU, ievērojami samazina enerģijas patēriņu un nodrošina 600 GB GPU Hopper arhitektūras jauniem superdatoriem. DGX GH200 arhitektūra nodrošina 48 reizes lielāku NVLink joslas platumu nekā iepriekšējā paaudze.
Paredzams, ka Google Cloud meta ka Microsoft būs viens no pirmajiem, kas iegūs piekļuvi DGX GH200 un izpētīs tā iespējas AI darba slodzes ģenerēšanā. Ražotājs arī plāno nodrošināt DGX GH200 dizainu kā paraugu mākoņpakalpojumu sniedzējiem, lai tie varētu to pielāgot savai infrastruktūrai.
"Lai izveidotu progresīvus ģeneratīvos modeļus, ir vajadzīgas inovatīvas pieejas mākslīgā intelekta infrastruktūrai," sacīja skaitļošanas nodaļas viceprezidents. Google mākonis Marks Lohmeijers. "NVLink jaunais mērogs un Grace Hopper superčipa atmiņa novērš galvenās vājās vietas liela mēroga AI, un mēs ceram izpētīt tās potenciālu Google Cloud un mūsu ģeneratīvajās AI iniciatīvās."
Korporatīvais viceprezidents par Azure infrastruktūru Microsoft Girish Bablani atzīmēja DGX GH200 potenciālu darbam ar terabaitu datu kopām, kas ļaus izstrādātājiem veikt pētījumus lielākā mērogā un paātrinātā ātrumā.
Uzņēmums arī izveido superdatoru NVIDIA Uz DGX GH200 balstīta Helios pētniekiem un izstrādes komandām. Tas būs aprīkots ar četrām DGX GH200 sistēmām, un katra būs savstarpēji savienota ar Quantum-2 InfiniBand tīklu, lai palielinātu datu caurlaidspēju lielu AI modeļu apmācībai. Helios ietvers 1024 Grace Hopper superčipus, un ir paredzēts, ka tā sāks darboties līdz gada beigām.
Programmatūra NVIDIA Base Command nodrošina AI darbplūsmas pārvaldību, uzņēmuma līmeņa klasteru pārvaldību, bibliotēkas, kas paātrina aprēķinus, krātuvi un tīkla infrastruktūru, un sistēmas programmatūru, kas optimizēta AI darba slodzēm. Iekļauta arī AI Enterprise programmatūra, kas nodrošina vairāk nekā 100 ietvarus, iepriekš apmācītus modeļus un izstrādes rīkus, lai vienkāršotu ražošanas AI, tostarp ģeneratīvā AI, izstrādi un izvietošanu. AI, datorredze, runas AI un daudz kas cits.
Superdatori NVIDIA DGX GH200 būs pieejams līdz gada beigām.
Lasi arī: