NVIDIA napovedal nov razred superračunalnikov z veliko količino pomnilnika - superračunalnik NVIDIA DGX na osnovi superčipov NVIDIA GH200 Grace Hopper in sistemi stikal NVIDIA NVLink. Zasnovan je za razvoj modelov naslednje generacije za generativne aplikacije AI, sistemi priporočil in delovne obremenitve analize podatkov.
Ogromen pomnilniški prostor NVIDIA DGX GH200 uporablja tehnologijo povezljivosti NVLink s sistemom stikala NVLink za združevanje 256 superčipov GH200, kar ima za posledico en sam GPE. To zagotavlja 1 exaflop zmogljivosti in 144 TB skupnega pomnilnika, skoraj 500-krat več kot prejšnja generacija NVIDIA DGX A100, ki je bil predstavljen leta 2020.
"Generativno AI, veliki jezikovni modeli in sistemi priporočil so digitalni motorji sodobnega gospodarstva, je dejal ustanovitelj in izvršni direktor NVIDIA Jensen Huang. – Superračunalniki DGX GH200 AI združujejo najsodobnejše pospešene računalniške in omrežne tehnologije NVIDIArazširiti meje AI«.
Kot je navedeno v sporočilu za javnost na spletni strani podjetja, superčipi GH200 odpravljajo potrebo po tradicionalni povezavi CPU-GPU PCIe. Združujejo procesor NVIDIA Grace na osnovi roke in GPU NVIDIA H100 Tensor Core v enem ohišju. To poveča pasovno širino med GPE in CPE za 7-krat, znatno zmanjša porabo energije in zagotavlja 600 GB GPU Hopper arhitekture za nove superračunalnike. Arhitektura DGX GH200 zagotavlja 48-krat večjo pasovno širino NVLink kot prejšnja generacija.
Google Cloud naj bi Meta da Microsoft bo med prvimi, ki bodo dobili dostop do DGX GH200 in raziskali njegove zmogljivosti pri ustvarjanju delovnih obremenitev z umetno inteligenco. Proizvajalec namerava tudi ponuditi zasnovo DGX GH200 kot vzorec ponudnikom storitev v oblaku, da jo lahko prilagodijo svoji infrastrukturi.
"Ustvarjanje naprednih generativnih modelov zahteva inovativne pristope k infrastrukturi umetne inteligence," je dejal podpredsednik računalništva pri Google Cloud Mark Lohmeyer. "Nova lestvica NVLink in pomnilnik superčipa Grace Hopper odpravljata ključna ozka grla v obsežnem umetni inteligenci in veselimo se raziskovanja njegovega potenciala za Google Cloud in naše generativne pobude umetne inteligence."
Korporacijski podpredsednik za infrastrukturo Azure v Microsoft Girish Bablani je opozoril na potencial DGX GH200 za delo s terabajtnimi nabori podatkov, kar bo razvijalcem omogočilo izvajanje raziskav v večjem obsegu in s pospešenimi hitrostmi.
Podjetje ustvarja tudi superračunalnik NVIDIA Helios s sedežem v DGX GH200 za svoje raziskovalce in razvojne ekipe. Opremljen bo s štirimi sistemi DGX GH200 in vsak bo medsebojno povezan z omrežjem Quantum-2 InfiniBand za povečanje pretoka podatkov za usposabljanje velikih modelov AI. Helios bo vključeval 1024 superčipov Grace Hopper in naj bi začel delovati do konca leta.
Programska oprema NVIDIA Base Command zagotavlja upravljanje poteka dela z umetno inteligenco, upravljanje gruče na ravni podjetja, knjižnice, ki pospešujejo računalništvo, shranjevanje in omrežno infrastrukturo ter sistemsko programsko opremo, optimizirano za delovne obremenitve z umetno inteligenco. Vključena je tudi programska oprema AI Enterprise, ki ponuja več kot 100 ogrodij, vnaprej usposobljenih modelov in razvojnih orodij za poenostavitev razvoja in uvajanja proizvodne umetne inteligence, vključno z generativno umetno inteligenco. AI, računalniški vid, govorna umetna inteligenca in še veliko več.
Superračunalniki NVIDIA DGX GH200 bo na voljo do konca leta.
Preberite tudi: