Root NationČlankiPodjetjaOd CUDA do AI: Skrivnosti uspeha NVIDIA

Od CUDA do AI: Skrivnosti uspeha NVIDIA

-

NVIDIA - prvo podjetje v zgodovini industrije čipov, katerega kapitalizacija je presegla bilijon dolarjev. Kaj je skrivnost uspeha?

Prepričan sem, da ste mnogi že slišali za podjetje NVIDIA in večina vas ga povezuje ravno z grafičnimi procesorji, ker besedna zveza "NVIDIA GeForce" so slišali skoraj vsi.

NVIDIA

NVIDIA nedavno zapisal finančno zgodovino v industriji IT. Je prvo podjetje za integrirana vezja, katerega tržna vrednost je presegla bilijon dolarjev. Je tudi peto tehnološko povezano podjetje v zgodovini, ki je doseglo tako velik (po tržni kapitalizaciji) uspeh. Prej so se s tako visoko oceno lahko pohvalili le ljudje Apple, Microsoft, Alphabet (lastnik Googla) in Amazon. Zato so ga finančniki včasih imenovali "Klub štirih", ki se je zdaj razširil NVIDIA.

Poleg tega je po tržni kapitalizaciji daleč za AMD, Intel, Qualcomm in drugimi tehnološkimi podjetji. To ne bi bilo mogoče brez vizionarske politike podjetja, uvedene pred desetletjem.

Preberite tudi: Ali obstaja prihodnost za TruthGPT Elona Muska?

Neverjetno povpraševanje po NVIDIA Tenzorsko jedro H100

V čem je skrivnost takšne dokapitalizacije? Najprej je to odziv borze na uspeh čipa NVIDIA H100 Tensor Core, po katerem je veliko povpraševanje med vodilnimi ponudniki infrastrukture v oblaku in spletnih storitev. Te čipe kupujejo Amazon, Meta in Microsoft (za lastne potrebe in potrebe partnerja - podjetja OpenAI). So še posebej energetsko učinkoviti pri pospeševanju izračunov, značilnih za generativno umetno inteligenco, kot sta ChatGPT ali Dall-E. To je neverjeten preskok velikosti za pospešeno računalništvo. Dobimo zmogljivost brez primere, razširljivost in varnost za vsako delovno obremenitev NVIDIA GPE H100 Tensor Core.

NVIDIA-H100-Tenzorsko jedro

Uporaba preklopnega sistema NVIDIA NVLink je mogoče povezati z do 256 grafičnimi procesorji H100 za pospešitev delovnih obremenitev v merilu exa. GPU vključuje tudi namenski Transformer Engine za reševanje jezikovnih modelov z bilijoni parametrov. Kombinirane tehnološke inovacije H100 lahko pospešijo velike jezikovne modele (LLM) za neverjetnih 30-krat v primerjavi s prejšnjo generacijo in zagotavljajo vodilno pogovorno umetno inteligenco v industriji. Razvijalci menijo, da je skoraj idealen za strojno učenje.

- Oglas -

Vendar se H100 ni pojavil od nikoder. In resnici na ljubo ni posebej revolucionaren. NVIDIA, kot nobeno drugo podjetje, že vrsto let vlaga ogromna sredstva v umetno inteligenco. Posledično lahko podjetje, ki je primarno povezano z blagovno znamko grafičnih kartic GeForce, potrošniški trg obravnava skoraj kot hobi. To navsezadnje gradi resnično moč na trgu IT velikanov NVIDIA se lahko z njimi že pogovarja kot z enakimi.

Zanimivo tudi: Kaj so omrežja 6G in zakaj so potrebna?

Je umetna inteligenca prihodnost?

Danes so o tem prepričani skoraj vsi, tudi skeptični strokovnjaki s tega področja. Zdaj je to skoraj aksiom, resnica. čeprav NViDIA vedel za to pred 20 leti. Sem te presenetila?

Tehnično gledano prvi tesen stik NVIDIA z umetno inteligenco zgodila leta 1999, ko se je na trgu pojavil procesor GeForce 256, ki je sposoben pospešiti strojno učenje izračunov. Vendar NVIDIA začelo resno vlagati v umetno inteligenco šele leta 2006, ko je predstavilo arhitekturo CUDA, ki je omogočala uporabo zmogljivosti vzporednega procesiranja grafičnih procesorjev za usposabljanje in raziskave.

NVIDIA-CUDA

Kaj je CUDA? Najbolje ga je definirati kot vzporedno računalniško platformo in vmesnik za programiranje aplikacij (API), ki programski opremi omogoča uporabo grafičnih procesnih enot za splošne namene (GPGPU). Ta pristop se imenuje splošnonamensko računalništvo na grafičnih procesorjih. Poleg tega je CUDA programska plast, ki omogoča neposreden dostop do navideznega nabora ukazov in vzporednih računalniških elementov grafičnega procesorja. Zasnovan je za delo s programskimi jeziki, kot so C, C++ in Fortran.

Prav ta dostopnost olajša vzporednim razvijalcem, da izkoristijo vire GPE, za razliko od prejšnjih API-jev, kot sta Direct3D in OpenGL, ki so zahtevali napredne veščine grafičnega programiranja.

NVIDIA-CUDA

Pomemben preboj je bila ponudba družbe NVIDIA računalniško moč za prelomno nevronsko mrežo AlexNet. Gre za konvolucijsko nevronsko mrežo (CNN), ki jo je razvil Ukrajinec Alex Kryzhevskyi v sodelovanju z Ilyo Sutzkeverjem in Jeffreyjem Gintonom.

Konvolucijske nevronske mreže (CNN) so bile vedno glavni model za prepoznavanje objektov – so zmogljivi modeli, ki jih je enostavno nadzorovati in še lažje trenirati. Pri uporabi na milijonih slik ne pride do zaskrbljujočega prevelikega opremljanja. Njihovo delovanje je skoraj enako kot pri standardnih nevronskih mrežah enake velikosti. Edina težava je, da jih je težko uporabiti za slike visoke ločljivosti. Obseg ImageNet je zahteval inovacije, ki bi bile optimizirane za GPU in skrajšale čas usposabljanja ter hkrati izboljšale zmogljivost.

AlexNet

30. septembra 2012 je AlexNet sodeloval na tekmovanju ImageNet Large Scale Visual Recognition Challenge. Omrežje je doseglo rezultat 15,3 % pri testu prvih petih napak, kar je več kot 10,8 % nižje od rezultata na drugem mestu.

Glavni zaključek izvirnega dela je bil, da je kompleksnost modela posledica njegove visoke zmogljivosti, ki je bila tudi računsko zelo draga, vendar omogočena z uporabo grafičnih procesnih enot (GPU) med procesom usposabljanja.

Sama konvolucijska nevronska mreža AlexNet je sestavljena iz osmih plasti; prvih pet je konvolucijskih plasti, pred nekaterimi so maksimalno sklopljene plasti, zadnje tri pa so popolnoma povezane plasti. Omrežje, razen zadnje plasti, je razdeljeno na dve kopiji, od katerih vsaka deluje na enem GPE.

- Oglas -

Se pravi, zahvaljujoč NVIDIA in še vedno večina strokovnjakov in znanstvenikov meni, da je AlexNet neverjetno zmogljiv model, ki je sposoben doseči visoko natančnost na zelo kompleksnih zbirkah podatkov. AlexNet je vodilna arhitektura za vsako nalogo zaznavanja predmetov in ima lahko zelo široke aplikacije v sektorju računalniškega vida za težave z umetno inteligenco. V prihodnosti bo AlexNet morda bolj uporaben kot CNN na področju slikanja.

Zanimivo tudi: Fenomen Bluesky: kakšna storitev in ali je to za dolgo časa?

Umetna inteligenca ni le v laboratorijih in podatkovnih centrih

В NVIDIA videl velike možnosti za AI tudi v tehnologijah potrošniških naprav in interneta stvari. Medtem ko konkurenti šele začenjajo razmišljati o širšem vlaganju v novo vrsto integriranega vezja, NVIDIA že dela na njihovi miniaturizaciji. Verjetno je še posebej pomemben čip Tegra K1, razvit v sodelovanju s Teslo in drugimi avtomobilskimi podjetji.

NVIDIA-Tegra-K1

Procesor Tegra K1 je eden prvih procesorjev NVIDIA, zasnovano posebej za aplikacije AI v mobilnih in vgrajenih napravah. Tegra K1 uporablja isto arhitekturo GPU kot serija grafičnih kartic in sistemov NVIDIA GeForce, Quadro in Tesla, ki zagotavlja visoko zmogljivost in združljivost z grafičnimi in računalniškimi standardi, kot so OpenGL 4.4, DirectX 11.2, CUDA 6.5 in OpenCL 1.2. Zahvaljujoč temu lahko procesor Tegra K1 podpira napredne algoritme umetne inteligence, kot so globoke nevronske mreže, učenje z okrepitvijo, prepoznavanje slike in govora ter analiza podatkov. Tegra K1 ima 192 jeder CUDA.

Leta 2016 NVIDIA izdal serijo procesorjev Pascal, optimiziranih za podporo globokih nevronskih mrež in drugih modelov umetne inteligence. V enem letu se je na trgu pojavila serija procesorjev Volta za aplikacije, povezane z umetno inteligenco, ki so še bolj učinkoviti in energetsko varčni. Leta 2019 NVIDIA kupi Mellanox Technologies, proizvajalca visoko zmogljivih računalniških omrežij za podatkovne centre in superračunalnike.

NVIDIA

Posledično vsi uporabljajo procesorje NVIDIA. Na potrošniškem trgu na primer igralci uporabljajo revolucionarni algoritem za rekonstrukcijo slike DLSS, ki jim omogoča, da uživajo v ostrejši grafiki v igrah, ne da bi porabili veliko denarja za grafično kartico. Na poslovnem trgu je priznano, da čipi NVIDIA v mnogih pogledih presega tisto, kar ponujajo konkurenti. Čeprav ne gre za to, da sta Intel in AMD popolnoma prespala intelektualno revolucijo.

Zanimivo tudi: Najboljša orodja, ki temeljijo na umetni inteligenci

Intel in AMD na področju umetne inteligence

Govorimo o neposrednih konkurentih NVIDIA v tem segmentu trga. Intel in AMD delata tukaj vedno bolj aktivno, vendar z veliko zamudo.

Intel je pridobil več podjetij za umetno inteligenco, kot so Nervana Systems, Movidius, Mobileye in Habana Labs, da bi okrepil svoj portfelj tehnologij in rešitev za umetno inteligenco. Intel ponuja tudi strojne in programske platforme za umetno inteligenco, kot so procesorji Xeon, FPGA, čipi NNP in knjižnice za optimizacijo. Intel prav tako sodeluje s partnerji iz javnega in zasebnega sektorja pri pospeševanju inovacij in izobraževanja na področju umetne inteligence.

Intel in AMD

AMD je razvil serijo procesorjev Epyc in grafičnih kartic Radeon Instinct, ki so optimizirane za aplikacije umetne inteligence in globokega učenja. AMD sodeluje tudi s podjetji, kot so Google, Microsoft, IBM in Amazon, ki zagotavljajo rešitve v oblaku za AI. AMD si prav tako prizadeva sodelovati pri raziskavah in razvoju umetne inteligence prek partnerstev z akademskimi institucijami in industrijskimi organizacijami. Vendar je vse zelo dobro NVIDIA že daleč pred njimi, njen uspeh na področju razvoja in podpore algoritmov AI pa je neprimerljivo večji.

Zanimivo tudi: Povzetek dogodka Google I/O 2023: Android 14, Pixel in veliko AI

NVIDIA je že desetletja povezana z video igrami

Tudi tega ne smemo pozabiti. NVIDIA ne podaja natančnega razčlenitve svojih prihodkov na potrošniški in poslovni trg, jih je pa mogoče oceniti na podlagi segmentov poslovanja, ki jih družba razkriva v računovodskih izkazih. NVIDIA ločuje štiri operativne segmente: Gaming, Professional Visualization, Data Centers in Automotive.

NVIDIA

Predvidevamo lahko, da je segment iger osredotočen predvsem na potrošniški trg, saj vključuje prodajo video kartic GeForce in čipov Tegra za igralne konzole. Segment profesionalne vizualizacije je usmerjen predvsem na poslovni trg, saj vključuje prodajo video kartic Quadro in RTX čipov za delovne postaje in profesionalne aplikacije. Tudi segment podatkovnih centrov je usmerjen predvsem v poslovni trg, saj vključuje prodajo GPU-jev in NPU-jev (torej čipov naslednje generacije – ne več GPU-jev, temveč namenjenih izključno AI) za strežnike in storitve v oblaku. Avtomobilski segment je namenjen tako potrošniškim kot poslovnim trgom, saj vključuje prodajo sistemov Tegra in Drive za infotainment in avtonomno vožnjo.

NVIDIA

Na podlagi teh predpostavk je možno oceniti delež prihodkov s potrošniških in poslovnih trgov v skupnih prihodkih. NVIDIA. Po zadnjem finančnem poročilu za leto 2022 so prihodki družbe NVIDIA po poslovnih segmentih so bili naslednji:

  • Igre: 12,9 milijarde dolarjev
  • Profesionalna vizualizacija: 1,3 milijarde dolarjev
  • Podatkovni centri: 9,7 milijarde dolarjev
  • Avtomobili: 0,8 milijarde dolarjev
  • Vsi drugi segmenti: 8,7 milijarde dolarjev

Skupni dohodek NVIDIA znašal 33,4 milijarde $ Če predpostavimo, da je avtomobilski segment približno enakomerno razdeljen med potrošniške in poslovne trge, lahko izračunamo naslednja razmerja:

  • Dohodek na potrošniškem trgu: (12,9 + 0,4) / 33,4 = 0,4 (40 %)
  • Dohodek s poslovnega trga: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60 %)

To pomeni, da približno 40% prihodkov NVIDIA prihaja s potrošniškega trga, približno 60 % pa s poslovnega trga. To pomeni, da je glavna usmeritev poslovni segment. Toda industrija iger prinaša tudi precej dober zaslužek. Najpomembneje je, da rastejo vsako leto.

Zanimivo tudi: Dnevnik čemernega starega štreberja: Bing proti Googlu

Kaj nam bo prinesla prihodnost?

Očitno je, da NVIDIA že obstaja načrt za sodelovanje pri razvoju algoritmov umetne inteligence. In je veliko širši in obetavnejši od katerega koli njegovega neposrednega konkurenta.

Samo v zadnjem mesecu NVIDIA napovedal številne nove naložbe v umetno inteligenco. Eden od njih je mehanizem GET3D, ki je sposoben generirati kompleksne tridimenzionalne modele različnih predmetov in likov, ki zvesto odražajo resničnost. GET3D lahko ustvari približno 20 objektov na sekundo z uporabo enega samega grafičnega čipa.

Omeniti velja še en zanimiv projekt. O Izraelu-1 je superračunalnik za programe umetne inteligence, ki NVIDIA nastaja v sodelovanju z Ministrstvom za znanost in tehnologijo Izraela in podjetjem Mellanox. Stroj naj bi imel več kot 7 petaflopov računalniške moči in uporabljal več kot 1000 grafičnih procesorjev. NVIDIA Tenzorsko jedro A100. Izrael-1 se bo uporabljal za raziskave in razvoj na področjih, kot so medicina, biologija, kemija, fizika in kibernetska varnost. In to so glede na dolgoročne obete že zelo obetavne kapitalske naložbe.

NVIDIA

Obstaja tudi že en projekt - NVIDIA ACE. Gre za novo tehnologijo, ki naj bi spremenila igralniško industrijo, tako da bo igralcu omogočila interakcijo z neigralskim likom (NPC) na naraven in realističen način. Ti liki bodo lahko vodili odprt dialog z igralcem, se odzivali na njegova čustva in kretnje ter celo izražali svoja čustva in misli. NVIDIA ACE uporablja napredne jezikovne modele in generatorje slik na osnovi AI.

Prvi bilijon dolarjev v NVIDIA. Kot kaže, jih bo kmalu več. Zagotovo bomo spremljali napredek podjetja in vas obveščali.

Preberite tudi:

Yuri Svitlyk
Yuri Svitlyk
Sin Karpatov, nepriznani genij matematike, "odvetnik"Microsoft, praktični altruist, levo-desno
- Oglas -
Prijavite se
Obvesti o
gost

0 Komentarji
Vdelana mnenja
Prikaži vse komentarje