Nové možnosti generativní umělé inteligence nenechali bez povšimnutí ani kybernetičtí zločinci a začínají ji zneužívat ke svým útokům. Jedním z nich je útok typu BEC (Business Email Compromise), což jsou phishingové e-maily. Generativní umělá inteligence, jakou reprezentuje například ChatGPT od OpenAI, kyberzločincům umožňuje automatizovat přípravu vysoce přesvědčivých falešných e-mailů a jejich obsah přizpůsobit příjemci, na kterého cílí. To u podvodných kampaní zvyšuje šanci na úspěch.
Někteří kyberškůdci také vyvíjejí modifikační "Jailbreaky" pro rozhraní AI, tedy kód, který umožňuje zneužití. Jde například o odhalování určitých informací, nebo spouštění škodlivého kódu. Aktéři útoků také vytvářejí vlastní moduly, které jsou podobné ChatGPT, ale lze je snadněji zneužít ke škodlivým účelům.
K přípravě přesvědčivých phishingových e-mailů kyberzločinci zneužívají WormGPT
Generativní umělá inteligence WormGPT se už nabízí na mnoha hackerských fórech. Analytici ze SlashNext upozornili na jeho škodlivost. | Zdroj: Slashnext.com
Server SlashNext upozorňuje na skutečnost, že nástroj WormGPT se stále častěji objevuje na fórech kybernetických zločinců. Jde o modul umělé inteligence, který je založený na jazykovém modelu GPTJ, který poskytuje celou řadu funkcí. Testy ukázaly, že WormGPT je schopen vytvářet přesvědčivé e-maily, které jsou specificky zaměřeny na útoky typu BEC.
Pro tyto typy útoků generativní umělá inteligence nabízí výhody. Dokáže psát s dokonalou gramatikou, čímž velmi snižuje vstupní práh detekce podezřelého či škodlivého obsahu. Pro organizace, ale i koncové uživatele, to bude znamenat mnohem vyšší ostražitost při rozhodování o důvěře k příchozí poště.
Jedním z důležitých faktorů bude ověřování skutečného odesílatele zprávy (hlavičky e-mailů lze upravit a adresy odesílatelů lze nahradit) a přiložených příloh včetně aktivních odkazů uvnitř zprávy. A to zvlášť u e-mailů, které budou přicházet z prostředí mimo organizaci.
Vzhledem k metodám útoků typu BEC také může pomoci automatické vyhledávání klíčových slov, spojených s těmito typy útoků, ke kterým patří především "urgentní", "citlivé", nebo "bankovní převod". Taková korespondence už může být předem označena jako potenciálně škodlivá.
Zdroj: SlashNext
video
