OpenAI-jev pogovorni bot z umetno inteligenco ChatGPT je bil lansiran lani in je postal izjemno priljubljen z rekordno hitrostjo zaradi svoje sposobnosti pisanja zgodb, sestavljanja e-poštnih sporočil in celo ustvarjanja koda (včasih na žalost celo škodljivo). Vendar pa novo poročilo nakazuje, da OpenAI stane celo premoženje, da vzdržuje vsakodnevno delovanje.
Po raziskavi SemiAnalysis OpenAI porabi skoraj 695 $ na dan za vzdrževanje klepetalni bot v delovnem stanju. Po ocenah podjetja sistem vključuje približno več kot 3,6 tisoč strežnikov HGX A100 in skoraj 29 tisoč grafičnih procesorjev, strošek na zahtevo pa je približno 0,36 ¢.
Dylan Patel, glavni analitik pri SemiAnalysis, je za Business Insider povedal, da bi lahko bili trenutni stroški izvajanja programske opreme še višji, saj bo različica GPT-4 verjetno dražja za izvajanje kot njen predhodnik GPT-3. Svoje ocene je zasnoval na prejšnjem modelu GPT-3, vendar je OpenAI že izdal različico GPT-4 za plačljive naročnike. Podjetje trdi, da novi model ponuja natančnejše informacije in bolje ščiti pred napačnimi odgovori, ki so bili težava prejšnjih različic.
Eden glavnih razlogov za pretirane stroške so energetsko intenzivni specializirani čipi, potrebni za delovanje sistema. Da bi rešili to težavo, Microsoft dela na lastnem čipu umetne inteligence, imenovanem Athena, ki bi lahko nadomestil GPU NVIDIA in zmanjšajte operativne stroške ChatGPT.
Medtem lahko ChatGPT že ustvari funkcionalno kodo iz nič in vzbuja celo bojazen, da bi lahko sčasoma nadomestil programerje. Vendar pa nedavna študija skupine znanstvenikov kaže, da koda, ki jo ustvari chatbot, morda ni zelo varna. Študija pravi, da ChatGPT ustvarja kodo, ki je "znatno pod minimalnimi varnostnimi standardi, ki veljajo v večini situacij." Najbolj zanimivo je, da chatbot to prizna, ko ga vprašajo, kako varna je koda, ki jo ustvari.
Za preverjanje kakovosti kodiranja ChatGPT, so ga raziskovalci prosili, naj ustvari 21 programov in skriptov z uporabo štirih programskih jezikov: C, C++, Python in Java. Ob prvem poskusu je klepetalnemu robotu uspelo napisati samo 5 varnih programov, a po nekaj pozivih raziskovalcev je ustvaril še 7 varnejših delov kode. Rezultati študije kažejo, da je uporaba ChatGPT za pisanje aplikacij morda neučinkovita ali celo nevarna zdaj, vendar se lahko to v prihodnosti spremeni.
Preberite tudi:
Vau številke za brezplačen nevron!
V življenju si ne bi mislil, da je tako drago...
Tudi jaz sem bil presenečen. Malo mi je celo neprijetno zdaj Odpri ChatGPT - še vedno ga bom obremenjeval s svojimi zahtevami)