Tehnološki voditelji in ugledni raziskovalci AI so podpisali odprto pismo, ki laboratorije in podjetja za umetno inteligenco poziva, naj "nemudoma prekinejo" svoje delo.
Podpisniki, vključno s Stevom Wozniakom in Elonom Muskom, se strinjajo, da tveganja zahtevajo vsaj šestmesečno prekinitev proizvodnje tehnologij, ki presegajo obseg GPT-4. To je, da bi dobili veselje in zadovoljstvo iz sistemov umetne inteligence, ki obstajajo zdaj, in ljudem omogočili, da se jim prilagodijo in vidijo, da so uporabni.
Pismo dodaja, da sta za zagotovitev varnosti sistemov umetne inteligence potrebna previdnost in premišljenost, vendar ju ignorirajo. Sklicevanje na GPT-4, nov model OpenAI, ki se lahko odzove z besedilom na pisna ali vizualna sporočila, prihaja v času, ko podjetja tekmujejo pri izdelavi sofisticiranih sistemov za klepet z uporabo te tehnologije. primer, Microsoft je nedavno potrdil, da njegov posodobljen iskalnik Bing že več kot 4 tednov deluje na modelu GPT-7, Google pa je pred kratkim uradno predstavil Bard – lasten sistem generativne umetne inteligence, ki temelji na LaMDA.
Zaskrbljenost glede umetne inteligence obstaja že dolgo, vendar je tekma za sprejetje najnaprednejše tehnologije očitna umetna inteligenca prva je že alarmantna. "V zadnjih mesecih so bili laboratoriji AI zapleteni v nenadzorovano tekmo za razvoj in implementacijo vedno močnejših digitalnih umov, ki jih nihče - niti njihovi avtorji - ne morejo razumeti, napovedati ali zanesljivo nadzorovati," je zapisano v pismu.
Pismo je objavila neprofitna organizacija Future of Life Institute (FLI), ki si prizadeva zmanjšati globalna katastrofalna in eksistencialna tveganja ter zlorabo novih tehnologij, zlasti umetne inteligence. Pred tem je Musk FLI doniral 10 milijonov dolarjev za varnostne raziskave AI. Poleg njega in Wozniaka so podpisniki še številni svetovni voditelji na področju umetne inteligence, kot so predsednik Centra za umetno inteligenco in digitalno politiko Mark Rothenberg, fizik MIT in predsednik FLI Max Tegmark ter avtor Yuval Noah Harari.
Harari je bil prejšnji teden tudi soavtor uvodne objave v New York Timesu, v kateri je opozoril na tveganja, povezana z umetna inteligenca, na katerem sta z njim sodelovala ustanovitelja Centra za humane tehnologije in ostala podpisnika odprtega pisma Tristan Harris in Aza Raskin.
Razpis je sledil lanskoletni raziskavi več kot 700 raziskovalcev strojnega učenja, v kateri je skoraj polovica dejala, da obstaja približno 10-odstotna možnost "izjemno slabih posledic" umetne inteligence, vključno z izumrtjem ljudi. Na vprašanje o varnosti v raziskavah umetne inteligence je 68 % vprašanih odgovorilo, da je treba storiti več ali veliko več.
Preberite tudi: