O ideji, da bi umetna inteligenca strmoglavila človeštvo, se razpravlja desetletja, januarja 2021 pa so znanstveniki razsodili, ali lahko nadzorujemo računalniško superinteligenco na visoki ravni. Odgovoriti? Skoraj zagotovo ne.
Težava je v tem, da bi nadzor nad umom, ki daleč presega človeško razumevanje, zahteval simulacijo tega super uma, ki bi jo lahko analizirali. A če tega nismo sposobni razumeti, je nemogoče ustvariti takšno simulacijo.
Pravil, kot je "ne škoduj ljudem", ni mogoče vzpostaviti, če ne razumemo, kakšne scenarije bo pripravila umetna inteligenca (AI), so prepričani avtorji dokumenta iz leta 2021. Takoj, ko bo računalniški sistem deloval na ravni, ki presega zmožnosti naših programerjev, ne bomo mogli več postavljati omejitev.
"Superinteligenca je bistveno drugačen problem od tistih, ki se običajno preučujejo pod zastavo" robotske etike "," pišejo raziskovalci. "To je zato, ker je superum večplasten in zato potencialno sposoben mobilizirati različne vire za doseganje ciljev, ki so ljudem potencialno nedoumljivi, kaj šele nadzorovani."
Del razmišljanja ekipe izhaja iz težave z ustavitvijo, ki ga je leta 1936 predlagal Alan Turing. Izziv je ugotoviti, ali bo računalniški program prišel do zaključka in odgovoril (in se ustavil) ali pa bo večno obležal in poskušal najti odgovor.
Kot je dokazal Turing s pomočjo inteligentna matematika, medtem ko to morda vemo za nekatere posebne programe, je logično nemogoče najti način, ki bi nam omogočil, da to vemo za vsak potencialni program, ki bi ga lahko kdaj napisali. To nas pripelje nazaj k AI, ki bi lahko v superinteligentnem stanju v svoj pomnilnik hkrati shranil vse možne računalniške programe.
Zanimivo tudi:
- OpenAI je naučil umetno inteligenco pretvoriti ukaze v programsko kodo
- Umetna inteligenca bo iskala gravitacijske valove
Vsak program, napisan na primer za preprečevanje, da bi AI škodoval ljudem in uničeval svet, lahko ali pa tudi ne doseže zaključka (in se ustavi) – matematično je nemogoče biti popolnoma prepričan tako ali tako, kar pomeni, da ga ni mogoče zadržati. "To v bistvu naredi algoritem odvračanja neuporaben," je januarja dejal računalniški znanstvenik Iyad Rahwan z inštituta Max Planck za človekov razvoj v Nemčiji.
Alternativa poučevanju etike umetne inteligence in prepovedi uničevanja sveta, o kateri noben algoritem ne more biti popolnoma prepričan, pravijo raziskovalci, je omejevanje zmožnosti superuma. Lahko je na primer odrezan od dela interneta ali določenih omrežij.
Avtorji nedavne študije zavračajo tudi to idejo, saj menijo, da bo omejila domet umetne inteligence – češ, če z njo ne bomo reševali problemov, ki presegajo človeške zmožnosti, zakaj jo potem sploh ustvarjati?
Če želimo napredovati z umetno inteligenco, morda niti ne vemo, kdaj se bo pojavila superinteligenca, na katero nimamo vpliva, tako nedoumljivo je. To pomeni, da se moramo začeti resno spraševati o tem, kam smo namenjeni.
"Superinteligentni stroj, ki poganja svet, zveni kot znanstvena fantastika," pravi računalniški znanstvenik Manuel Kebrian z Inštituta Max Planck za človeški razvoj. Toda že obstajajo stroji, ki samostojno opravljajo nekatere pomembne naloge, medtem ko programerji ne razumejo popolnoma, kako so se tega naučili.
Zato se postavlja vprašanje, ali lahko na neki točki postane neobvladljiva in nevarna za človeštvo ...
Preberite tudi:
- Umetni inteligenci je uspelo reproducirati naslikano Picassovo sliko
- Umetna inteligenca bo pomagala napovedati prometne nesreče, preden se zgodijo