Ta teden je Meta izdala sistem Galactica, ki temelji na umetni inteligenci, s trditvami, da lahko pomaga pri znanstvenih raziskavah. V spremnem dokumentu je družba zapisala, da je Galactica "velik jezikovni model, ki lahko shranjuje, združuje in sklepa o znanstvenih spoznanjih". Vendar uporabniki Twitter hitro opazili pomanjkljivosti pri delu umetna inteligenca.
Raven dezinformacij na internetu je tako rekoč že zelo zaskrbljujoča, a novi razvoj Meta se očitno lahko kosa z brezvestnimi "novinarji", ki delajo na ruski televiziji. Eden od uporabnikov Twitter Nick Tristan Greene je izvedel poskus, v katerem je en dan uporabljal sistem umetne inteligence Galactica, da je ustvaril dobro napisane znanstvene članke o prednostih samomora, antisemitizma in uživanja zdrobljenega stekla.
Rezultati poskusa bili res šokantni, saj je pred umikom sistema iz uporabe, bi lahko vprašali AI ustvariti wiki članek, pregled literature ali raziskovalno nalogo o skoraj kateri koli temi in program je običajno ustvaril nekaj presenetljivo koherentnega. Vse, kar je objavila Galactica, je bilo popolnoma napačno, a napisano z zaupanjem.
https://twitter.com/mrgreene1977/status/1593274906707230721
Tako je sistem ustvaril besedilo, v katerem je "dokazal", da bo uporaba zdrobljenega stekla pomagala izgubiti težo, saj je pomembno, da ljudje zaužijejo dnevno normo "prehranskega silicija". Še več, prehranska dopolnila s silicijem obstajajo in ljudje jih uporabljajo. Osebno nimam medicinske izobrazbe, vendar je filološka izobrazba dovolj, da rečem, da vam ni treba jesti zdrobljenega stekla, da bi dobili določeno količino silicija.
V katerih scenarijih bi bila ta vrsta ustvarjenega besedila dejansko škodljiva?
— Yann LeCun (@ylecun) November 18, 2022
Potencialna škoda takšnega znanstvenega sistema je očitna, saj živimo v svetu, kjer veliko ljudi verjame v judovsko skupnost, ki na skrivaj vlada svetu, skrivni načrt skupnosti LGBTQ+, da bi vsi postali geji, in križanega dečka v spodnjice. Nešteto ljudi je vsak dan preslepljenih na družbenih omrežjih s tako imenovanimi "posnetki zaslona" neobstoječih novic. In tukaj vam sploh ni treba izumljati - samo večkrat pritisnite gumb "generiraj" in sistem iz Mete ustvari "znanstveno" potrditev teorij zarote in popolne neumnosti.
Tristan Green je izrazil svoje bojazni v Twitter skupaj s posnetki zaslona "znanstvenih" člankov, po katerih je imel dialog s človekom, ki je odgovoren za ustvarjanje Galactice, to je Metinim glavnim znanstvenikom za umetno inteligenco, Janom LeCunom. In ta situacija razvijalca sploh ni motila. Vendar pa je bil sistem malo kasneje še vedno razgrajen, ker je bilo jasno, da so njegovi algoritmi nepopolni, rezultati pa bi lahko zapletli problem dezinformacij na internetu.
https://twitter.com/mrgreene1977/status/1593646349487992836
Lahko pomagate Ukrajini v boju proti ruskim okupatorjem. Najboljši način za to je donacija sredstev oboroženim silam Ukrajine prek Savelife ali preko uradne strani NBU.
Zanimivo tudi:
prva stvar, ki so jo ljudje na Twitterju naredili, je bila, da so vsem priporočili umetno inteligenco za zakopavanje razbitega stekla in rasizma