Skrivnostno Projekt Q* iz OpenAI povzroča zaskrbljenost med strokovnjaki. Je res lahko nevaren za človeštvo? Kaj je znanega o njem? Potem ko so Sama Altmana prejšnji teden prvotno odpustili in se je z ekipo skoraj preselil v Microsoft, nato pa se je vrnil nazaj na svoje delovno mesto (o tem smo pisali tukaj), OpenAI je spet v novicah. Tokrat zaradi tega, kar nekateri raziskovalci imenujejo možna grožnja človeštvu. Da, prav ste prebrali, grožnja človeštvu.
Pravi pretres v svetu tehnologije je povzročil projekt Q* - nerazkriti projekt splošne umetne inteligence (AGI) - poimenovan Q-Star. Čeprav je ta projekt v zgodnji fazi, velja za resnično prelomnega v razvoju AGI. Nekateri pa v tem vidijo nevarnost za človeštvo.
Tajni projekt umetne inteligence, ki ga je razvil slavni laboratorij za umetno inteligenco OpenAI, ima potencial, da revolucionira tehnologijo in družbo nasploh. Toda sproža tudi nekaj etičnih vprašanj o tveganjih. Medtem ko se pojavljajo podrobnosti o osupljivih zmožnostih projekta Q*, se pojavlja vse več ugibanj o tem, kaj bi to lahko pomenilo za prihodnost človeštva.
Zanimivo tudi: Zgodovina OpenAI: kaj je bilo in kaj je pred podjetjem
Kaj je umetna splošna inteligenca (AGI)?
Da bi razumeli navdušenje okoli projekta Q* (Q-Star), poskusimo najprej razumeti, kaj sploh je koncept umetne splošne inteligence (AGI). Medtem ko se trenutni sistemi umetne inteligence odlikujejo pri ozkih, specifičnih nalogah, kot je igranje šaha ali ustvarjanje slik, se splošna umetna inteligenca nanaša na stroje, ki se lahko učijo in razmišljajo na človeški ravni na številnih področjih. To pomeni, da se lahko učijo kot majhni otroci v šoli, na primer osnove matematike, kemije, biologije itd.
Splošna umetna inteligenca (AGI) je vrsta strojne inteligence, ki lahko hipotetično posnema človeško inteligenco ali vedenje, z zmožnostjo učenja in uporabe tega potenciala za reševanje različnih problemov. AGI se imenuje tudi močna umetna inteligenca, popolna umetna inteligenca ali umetna inteligenca na ravni človeka. Splošna umetna inteligenca se razlikuje od šibke ali ozke umetne inteligence, ki je sposobna izvajati samo specifične ali specializirane naloge znotraj danih parametrov. ZHI bo sposoben samostojno reševati različne kompleksne probleme z različnih področij znanja.
Ustvarjanje umetne inteligence je glavni poudarek raziskav umetne inteligence podjetij, kot sta DeepMind in Anthropic. CSI je zelo priljubljena tema v literaturi znanstvene fantastike in lahko vpliva na prihodnje raziskave. Nekateri trdijo, da je UCI mogoče ustvariti v letih ali desetletjih, medtem ko drugi trdijo, da bi lahko trajalo stoletje ali več. So pa tudi tisti, ki menijo, da tega nikoli ne bo mogoče doseči. Nekateri so videli zametke URI-ja v GPT-3, vendar se zdi, da je še vedno daleč od izpolnjevanja osnovnih meril.
Raziskovalci menijo, da je ustvarjanje umetne splošne inteligence (AGI) sveti gral umetne inteligence, kar je teoretična možnost, ki že dolgo buri njihovo domišljijo. Zato je pojav takšnega projekta, kot je OpenAI Project Q*, povzročil velik odmev v svetu raziskav algoritmov umetne inteligence. Čeprav vsi razumejo, da so to le prvi koraki, skoraj na slepo, v svet, kjer bo umetna inteligenca imela enake zmožnosti kot ljudje ali celo višje.
Zanimivo tudi: Vse o Microsoft Kopilot: prihodnost ali napačna pot?
Kaj je Project Q*?
Projekt Q* ni tipičen algoritem, ker gre za model umetne inteligence, ki se vse bolj približuje modelu umetne splošne inteligence (AGI). To pomeni, da Project Q* za razliko od ChatGPT kaže boljše razmišljanje in kognitivne sposobnosti v primerjavi z drugimi algoritmi. ChatGPT trenutno odgovarja na poizvedbe, ki temeljijo na ogromni količini dejanskega materiala, toda z AGI se bo model AI naučil sklepanja in sposobnosti razmišljanja in razumevanja sam. Znano je že, da je Project Q* sposoben reševati preproste matematične probleme, ki niso bili del njegovega učnega gradiva. V tem nekateri raziskovalci vidijo pomemben korak k ustvarjanju splošne umetne inteligence (AGI). OpenAI definira AGI kot sisteme umetne inteligence, ki so pametnejši od ljudi.
Razvoj projekta Q* vodi glavni znanstvenik OpenAI Ilya Sutzkever, njegovo osnovo pa sta utemeljila raziskovalca Jakub Pakhotsky in Shimon Sidor.
Sposobnost algoritma, da sam rešuje matematične probleme, tudi če ti problemi niso bili del nabora podatkov za usposabljanje, velja za preboj na področju umetne inteligence. Nesoglasja v ekipi glede tega projekta so povezana z začasno odstranitvijo izvršnega direktorja OpenAI Sama Altmana. Znano je, da je skupina raziskovalcev podjetja, preden je bil Altman odpuščen, poslala pismo upravnemu odboru, v katerem je opozorila na odkritje umetne inteligence, ki bi lahko predstavljala grožnjo človeštvu. To pismo, ki naj bi obravnavalo algoritem Project Q*, je bilo navedeno kot eden od dejavnikov, ki so pripeljali do Altmanove odpustitve. Vendar zmogljivosti projekta Q* in morebitna tveganja, ki jih lahko predstavlja, niso popolnoma razumljeni, ker podrobnosti niso znane. Nič ni bilo objavljeno širši javnosti.
V svojem bistvu je Project Q* metoda za krepitveno učenje brez modelov, ki odstopa od tradicionalnih modelov, saj ne zahteva predhodnega poznavanja okolja. Namesto tega se uči skozi izkušnje in prilagaja dejanja na podlagi nagrad in kazni. Tehnični strokovnjaki menijo, da bo projekt Q* lahko pridobil izjemne zmogljivosti s pridobivanjem sposobnosti, podobnih človeškim kognitivnim sposobnostim.
Vendar pa je prav ta lastnost najbolj impresivna v novem modelu umetne inteligence, ki skrbi raziskovalce in kritike ter vzbuja njihove strahove glede resničnih aplikacij tehnologije in povezanih tveganj. Česa se znanstveniki in raziskovalci tako bojijo? Ugotovimo.
Zanimivo tudi: Kako posodobiti domače naprave za podporo Wi-Fi 6
Strah jih je neznanega
Ljudje smo se vedno bali neznanega, nespoznavnega. To je človeško bistvo, značilnost našega značaja in načina življenja.
Svet tehnologije je za projekt Q* izvedel novembra 2023 po Reutersu poročali o internem pismu, ki so ga napisali zaskrbljeni raziskovalci OpenAI. Vsebina pisma je bila nejasna, vendar naj bi resno analizirala zmogljivosti projekta Q*. Kot sem omenil zgoraj, se celo špekulira, da je prav to pismo sprožilo odstop Sama Altmana.
To eksplozivno odkritje je sprožilo različne hipoteze o naravi projekta Q*. Znanstveniki so predlagali, da bi to lahko bil revolucionarni model naravnega jezika za AI. Nekakšen izumitelj novih algoritmov, ki jih bo ustvaril za druge oblike umetne inteligence ali nekaj povsem drugega na tem področju.
Altmanovi provokativni komentarji o splošni umetni inteligenci kot "povprečnem zaposlenem" so že sprožili zaskrbljenost glede varnosti zaposlitve in neustavljivega širjenja vpliva umetne inteligence. Ta skrivnostni algoritem je opredeljen kot mejnik v razvoju umetne splošne inteligence (AGI). Vendar pa vsi razumejo, da je ta mejnik drag. In zdaj ne gre za denar. Raven kognitivnih veščin, ki jih obljublja novi model AI, s seboj nosi negotovost. Znanstveniki OpenAI obljubljajo, da bo AI razmišljal na človeški ravni. In to pomeni, da marsičesa ne moremo vedeti in predvideti posledic. In bolj kot je neznano, težje se je pripraviti na to, da jo obvladamo ali popravimo. To pomeni, da je novi algoritem sposoben samoizboljševanja in razvoja. To smo že nekje videli...
Zanimivo tudi: Windows 12: Kaj bo novi OS
Osupljive podrobnosti o zmogljivostih Project Q*
Ko se je začelo pojavljati več informacij, je šokiralo številne raziskovalce. Zgodnji znaki so bili, da ima Project Q* neverjeten smisel za matematiko. Za razliko od kalkulatorja, ki izvaja mehanske izračune, lahko Project Q* domnevno uporablja logiko in sklepanje za reševanje zapletenih matematičnih problemov. Ta matematična sposobnost posploševanja namiguje na razvoj široke inteligence.
Velik korak naprej bo tudi avtonomno usposabljanje projekta Q* brez posebnih naborov podatkov, ki se uporabljajo za usposabljanje tipičnih umetne inteligence. Ni znano, ali je Project Q* obvladal še kakšne druge veščine. Toda njegove matematične sposobnosti so same po sebi tako neverjetne, da zmedejo celo izkušene raziskovalce.
Preberite tudi: Projekt človeških možganov: Poskus posnemanja človeških možganov
Pot projekta Q* do prevlade?
V tej zadevi obstajajo tako optimistični kot pesimistični scenariji. Optimisti bodo rekli, da bi projekt Q* lahko bil tista iskra, ki vodi do tehnološkega preboja. Ko se sistem rekurzivno samoizboljšuje, lahko njegova nadnaravna inteligenca pomaga rešiti nekatere najbolj pereče probleme človeštva, od podnebnih sprememb do nadzora bolezni. Project Q* lahko avtomatizira dolgočasno delo in sprosti naš prosti čas za druge dejavnosti.
Čeprav je veliko bolj pesimističnih možnosti. Včasih so povsem razumni in imajo določen pomen.
Izguba služb
Hitri premiki v razvoju tehnologije lahko prehitevajo individualno prilagajanje ljudi. To bo povzročilo izgubo ene ali več generacij, ki ne bodo mogle pridobiti potrebnih veščin ali znanja za prilagajanje novim realnostim. Se pravi, to posledično pomeni, da bo manj ljudi lahko obdržalo službo. Namesto tega ga bodo izvajali stroji, avtomatizirani sistemi in roboti. Vendar pa odgovor ni tako jasen, ko gre za kvalificirane strokovnjake. Poleg tega se lahko pojavijo novi poklici, povezani posebej z razvojem algoritmov umetne inteligence. Toda tveganja še vedno obstajajo in človeštvo jih nima pravice prezreti.
Nevarnost nenadzorovane moči
Če tako zmogljiva umetna inteligenca, kot je projekt Q*, pade v roke tistim z nečednimi nameni, tvega katastrofalne posledice za človeštvo. Tudi brez morebitnih zlonamernih namenov lahko raven odločanja projekta Q* vodi do škodljivih rezultatov, kar poudarja ključno pomembnost skrbnega ocenjevanja njegove uporabe.
Če je projekt Q* slabo optimiziran za človeške potrebe, lahko povzroči škodo s svojo zmožnostjo povečanja nekaterih poljubnih meritev. Ali pa ima lahko politično razsežnost, kot je uporaba za državni nadzor ali represijo. Odprta razprava o analizi vpliva projekta Q* bo pomagala opredeliti možne scenarije za razvoj ZHI.
Ali nas čaka obračun "Človek proti stroju"?
Hollywood je v svojih filmih ustvaril že veliko scenarijev takšnega obračuna. Vsi se spomnimo slavnega SkyNeta in posledic takega odkritja. Mogoče bi morali raziskovalci OpenAI ponovno pogledati ta film?
Človeštvo mora sprejeti signale in izzive ter biti pripravljeno na to, kar se lahko zgodi. Model umetne inteligence, ki je sposoben razmišljati kot človek, lahko nekega dne postane naš sovražnik. Mnogi bi trdili, da bodo znanstveniki v prihodnosti točno vedeli, kako obdržati situacijo pod nadzorom. Toda ko gre za stroje, ne morete popolnoma izključiti možnosti, da bodo poskušali prevzeti ljudi.
Zanimivo tudi: Ni vse, kar imenujemo AI, dejansko umetna inteligenca. Tukaj je tisto, kar morate vedeti
Zakaj je OpenAI tiho?
Kljub blaznemu zanimanju javnosti za projekt Q* vodstvo OpenAI molči o posebnostih algoritma. Toda notranje uhajanje kaže na naraščajoče napetosti v laboratoriju glede prednostnih nalog in odprtosti razvoja. Medtem ko številni poznavalci OpenAI podpirajo ustvarjanje projekta Q*, kritiki trdijo, da je preglednost za vsako ceno pospešila znanstveni napredek na drugi strani. Nekateri raziskovalci so zaskrbljeni, da imajo sistemi, katerih cilji ne sovpadajo nujno s človeškimi vrednotami in etiko, neverjetno moč. Ti raziskovalci menijo, da so razprave o nadzoru in odgovornosti postale nevarno utišane. Potrebujejo več javnosti in podrobnosti.
Kot ustvarjalci projekta Q* morajo OpenAI razumeti, da imajo tehnologijo, ki lahko močno razširi možnosti razvoja družbe ali pa jo neusmiljeno uniči. Tako pomembne novosti si zaslužijo veliko večjo preglednost, da se pridobi zaupanje javnosti. Vsi napovedovalci strojne dobe morajo skrbno pretehtati tveganja in koristi. In razvijalci projekta Q* morajo pokazati dovolj modrosti in skrbi, da družbo varno popeljejo v novo dobo splošne umetne inteligence, ki bo morda prišla prej, kot smo si kadarkoli predstavljali.
Da bi bila splošna umetna inteligenca uporabna in varna za človeštvo, je treba zagotoviti, da deluje varno, etično ter v skladu z vrednotami in cilji človeštva. To zahteva razvoj in izvajanje ustreznih regulativnih aktov, standardov, pravil in protokolov, ki bodo nadzorovali in omejevali dejanja in obnašanje CSI. Poleg tega je treba odpraviti morebitne grožnje in tveganja, povezana z zlorabami, nesrečami, nekompatibilnostmi, manipulacijami in konflikti, ki bi lahko vodili v uničenje človeštva. Medtem so vlagatelji in Microsoft nestrpno čakajo na tržni izdelek, ki bi lahko ustvaril dobiček, kar je nedvomno v nasprotju s potrebo po odgovornem ravnanju. Upajmo, da bo prevladal razum.
Preberite tudi: