Državno podprti hekerji iz Rusije, Kitajske in Irana so uporabili orodja OpenAI za izpopolnjevanje svojih veščin in hekerskih napadov. Kot poroča Microsoft, so strokovnjaki podjetja sledili hekerskim skupinam, povezanim z rusko vojaško obveščevalno službo, Korpusom islamske revolucionarne garde ter vladama Kitajske in Severne Koreje, ki so poskušale izboljšati svoje hekerske kampanje s pomočjo velikih jezikovnih modelov.
Podjetje je objavilo najdbo, ko je uvedlo splošno prepoved hekerskim skupinam, ki jih podpira država, uporabe njegovih izdelkov AI. "Ne želimo, da imajo subjekti, ki smo jih identificirali - ki jih spremljamo in vemo, da predstavljajo grožnjo različnih vrst - dostop do te tehnologije," je dejal podpredsednik. Microsoft varnosti strank Tom Burt. Poročilo omenja hekerske skupine, kot so Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon in Salmon Typhoon.
Trditve, da so bili hekerji ujeti pri uporabi orodij AI za izboljšanje svojih vohunskih zmogljivosti, poudarja zaskrbljenost glede hitrega širjenja tehnologije in njene možnosti zlorabe. Zahodni strokovnjaki za kibernetsko varnost so lani opozorili, da kriminalci zlorabljajo tovrstna orodja, čeprav do zdaj o tem ni bilo konkretnih podatkov.
"To je eden prvih, če ne prvi, primerov, ko je podjetje z umetno inteligenco javno razpravljalo o tem, kako napadalci uporabljajo tehnologije umetne inteligence," je dejal Bob Rothstead, vodja oddelka za obveščanje o kibernetskih grožnjah pri OpenAI.
OpenAI da Microsoft uporabo orodij AI s strani hekerjev opisal kot "zgodnjo fazo" in "postopno". Po Burtovih besedah nobeno podjetje ni videlo, da bi kibernetski vohuni naredili kakršen koli preboj: "Videli smo, da samo uporabljajo tehnologijo kot vsi drugi uporabniki."
Poročilo opisuje hekerske skupine, ki na različne načine uporabljajo velike jezikovne vzorce. Hekerji, ki naj bi delovali v imenu ruske igre, so uporabili modele za preiskavo "različnih satelitskih in radarskih tehnologij, ki bi lahko bile pomembne za vojaške operacije v Ukrajini," je sporočila agencija. Microsoft. In severnokorejski hekerji so uporabili modele za ustvarjanje vsebine, "ki bo verjetno uporabljena v lažnih kampanjah."
Iranski hekerji so se prav tako zanašali na modele, da so napisali bolj prepričljiva elektronska sporočila. Pa kitajski hekerji, ki naj bi jih podpirala država Microsoft, eksperimentirajo z velikimi jezikovnimi modeli, da bi postavili vprašanja o konkurenčnih obveščevalnih službah, vprašanjih kibernetske varnosti in "uglednih osebnostih".
Preberite tudi: