A kiberbűnözők között nincs egység a nagy nyelvi modellekben, a csalók inkább szkeptikusak, sőt sokan egyenesen félnek a mesterséges intelligenciától
A Sophos nemrégiben két jelentést is közzétett a mesterséges intelligencia (AI) kiberbűnözésben való használatáról.
Az első riport az AI sötét oldaláról szól, azokról a kiterjedt csalókampányokról, amelyeket a generatív AI tett lehetővé. Ez azt demonstrálja, hogy a bűnözők a jövőben miként használhatják fel a ChatGPT-hez hasonló technológiát, hogy minimális technikai tudással hajtsanak végre tömeges csalásokat.
A második azt taglalja, hogy a kiberbűnözők mennyire nem tudnak megegyezni a GPT-kről. Így aztán az AI lehetőségei ellenére a ChatGPT-hez hasonló nagy nyelvi modellek (LLM) elfogadása és felhasználása kapcsán egyes kiberbűnözők inkább szkeptikusak, sőt aggódnak az AI felhasználása miatt.
Az AI sötét oldala
Egy egyszerű e-kereskedelmi sablon és LLM-eszközök (például GPT-4) segítségével a Sophos képes volt egy teljesen működőképes webhelyet felépíteni az AI által generált képekkel, hanganyagokkal és termékleírásokkal.
Létre tudott hozni egy hamis Facebook oldalt bejelentkezési szekcióval és hamis fizetési oldallal, amellyel el lehet lopni a felhasználók bejelentkezési adatait és hitelkártyaadatait.
A weboldal létrehozásához és működtetéséhez minimális technikai tudásra volt szükség, ráadásul ugyanazzal az eszközzel a Sophos több száz hasonló webhelyet tudott létrehozni percek alatt egyetlen gombnyomással.
“Természetes – és várható –, hogy a bűnözők az automatizálás új technológiájához fordulnak. Annak idejében a spam emailek létrehozása kritikus lépés volt a csalástechnológiában, mert megváltoztatta a játékteret.
Az új AI-k kapcsán ugyanez várható; ha létezik olyan AI- technológia, amely teljes körű, automatizált fenyegetéseket tud létrehozni, az emberek végül használni fogják. Már láthattuk a generatív AI elemek integrálását a klasszikus csalásokba, például az AI által generált szövegeket vagy fényképeket, amelyek az áldozatok csapdába csalásához készültek.
Az általunk végzett kutatás egyik célja az volt, hogy megelőzzük a bűnözőket. Azzal, hogy a bűnözők által jelenleg használt eszközöknél fejlettebb rendszert hozunk létre a csaló weboldalak tömeges generálására, egyedülálló lehetőségünk nyílik arra, hogy elemezzük a fenyegetést és felkészüljünk rá, mielőtt az elterjedne” – mondja Ben Gelman, a Sophos senior adattudósa.
A kiberbűnözők nem tudnak megegyezni a GPT-kről
A támadók hozzáállásának kutatása során a Sophos több jelentős darkwebes fórumot vizsgált meg az LLM-mel kapcsolatos vélekedésekről. Míg úgy tűnik, hogy a kiberbűnözők AI használata a kezdeti szakaszban jár, a fenyegetések mögött álló “threat actorok” a darkweben vitákat folytatnak a benne rejlő social engineering lehetőségek kapcsán. A Sophos már tanúja volt annak, hogy románc-alapú kriptocsalásokban használták az AI-t.
Noha a ChatGPT a megjelenése óta jelentős aggodalomra ad okot, a kiberbűnözők általi – az AI-vel és az LLM-ekkel való visszaélés miatt – a cég kutatása szerint a fenyegetések mögött állók eddig inkább szkeptikusak, mint lelkesek.
Az általuk vizsgált darkwebes fórumok közül négyből kettőn csak 100 AI-val kapcsolatos bejegyzést találtak, szemben a kriptovalutával, ahol ezer posztot is találtak ugyanebben az időszakban.
“Láttunk néhány kiberbűnözőt, akik LLM-ek segítségével malwareket (kártékony programokat) vagy támadóeszközöket próbáltak létrehozni, de az eredmények kezdetlegesek voltak és gyakran ütköztek szkepticizmusba a többi felhasználó részéről.
Egy esetben az egyik threat actor, aki buzgón be akarta mutatni a ChatGPT-ben rejlő lehetőségeket, akaratlanul is jelentős információkat árult el valódi személyazonosságáról. Még számos gondolatfuttatást is találtunk az AI társadalomra gyakorolt potenciális negatív hatásairól és használatának etikai vonatkozásáról. Más szóval, egyelőre úgy tűnik, a kiberbűnözők ugyanazokat a vitákat folytatják az LLM-ekről, mint a társadalom legális része” – emeli ki Christopher Budd, a Sophos X-Ops kutatási igazgatója.
