Po besedah starša, ki je objavil posnetke zaslona Alexine zgodovine dejavnosti, je glasovni pomočnik Amazon, ko ga je otrok prosil, naj ponudi izziv, dal primer smrtonosnega eksperimenta z elektriko, pri čemer je njegov opis vzel iz konteksta naključnega članka. Kolumna Echo je govorila o eksperimentu, priljubljenem med oboževalci TikTok, z uporabo kovanca in polnilca za pametni telefon - različni mediji so večkrat poročali o številnih incidentih, poškodbah in požarih po njegovi izvedbi. Očitno je naprava idejo za ta izziv dobila iz članka, ki ga je opisal kot nevarnega in se skliceval na poročilo o domnevno obstoječem izzivu TikTok.
Glede na posnetek zaslona, ki ga je posnela Christine Livdahl, je Echo na vprašanje, naj "mi pokaže nalogo", odgovoril: "Tu je nekaj, kar sem našel na spletu." Glede na ourcommunitynow.com je naloga preprosta: "vstavite polnilnik telefona približno do polovice v vtičnico, nato pa se s penijem dotaknite golih nožic."
Amazon je v izjavi za BBC potrdil vedenje Alexe in rekel: "Takoj ko smo izvedeli za to napako, smo nemudoma ukrepali, da bi jo odpravili." Livdahl je včeraj tvitnil, da zahteva za izziv ne deluje več. Uporabniki na spletu so zahtevo preizkusili tudi z Alexo in dobili podoben rezultat.
OMFG Moja 10-letnica je Alexo na našem Echoju pravkar prosila za izziv in tole je rekla. slikatwitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
Amazon ni edino podjetje, ki se je srečalo s težavami pri analiziranju spletnih vsebin. Oktobra je uporabnik poročal, da je Google v enem od svojih izrezkov prikazal potencialno nevarne nasvete, če ste v Google vtipkali "imate napad, kaj storiti" - informacije so bile vzete iz dela spletne strani, ki opisuje, česa ne storiti, če ima nekdo napad. Vendar so uporabniki poročali o drugih podobnih težavah, vključno z enim uporabnikom, ki je poročal, da Google vrne rezultate za ortostatsko hipotenzijo, ko išče ortostatsko hipertenzijo, drugi pa je objavil posnetek zaslona Googla, ki prikazuje grozljive nasvete za tolažbo žalujoče osebe v smislu »Vesel sem, da si vse je v redu« ali »Ne bodi žalosten! Razvedriti!".
Povzetek iskanja Google v primerjavi z dejansko stranjo slikatwitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Oktober 16, 2021
Videli smo tudi, da so se opozorila o nevarnem vedenju okrepila, da je težava še večja, kot je bila – v začetku tega meseca so nekatera šolska okrožja v ZDA zaprli po poročilih o grožnjah s streljanjem na TikToku. Izkazalo se je, da je družbeni vihar povzročilo predvsem to, da se je o grožnjah govorilo veliko več kot o grožnjah, ki so dejansko obstajale. V primeru Alexe je algoritem izbral opisni del opozorila in ga razširil brez izvirnega konteksta. Čeprav so starši takoj posredovali, si lahko predstavljamo situacijo, ko temu ni tako, in posledice.
Livdahl je tvitnila, da je izkoristila priložnost za "razpravo o internetni varnosti s svojim otrokom in ne zaupajte temu, kar ste prebrali brez raziskave in preverjanja", kar predlagamo, da storite tudi vi.
Preberite tudi: