Odborníci již dlouho varovali, že umělá inteligence může výrazně zvýšit účinnost phishingových podvodů. Nová vědecká studie nyní přináší znepokojivé potvrzení těchto obav: phishingové e-maily vytvořené pomocí AI dokážou oklamat více než polovinu příjemců.
AI si vytvoří profil
Vědci pro tento výzkum vyvinuli automatizovaný nástroj využívající pokročilé jazykové modely GPT-4o a Claude 3.5 Sonnet. Tento systém nejprve prohledal internet a shromáždil veřejně dostupné informace o potenciální oběti. Na základě těchto dat pak vytvořil vysoce personalizovaný podvodný e-mail, který cílil na konkrétní zájmy a aktivity dané osoby.
Mohlo by vás zajímat
„Výsledky jsou alarmující,“ říká vedoucí výzkumného týmu. „Zatímco běžné phishingové e-maily přimějí ke kliknutí asi 12 % příjemců, u zpráv personalizovaných pomocí AI tento podíl stoupá na 54 %. To znamená, že více než polovina lidí klikne na podvodný odkaz.“
Studie rovněž ukázala, že automatizované AI nástroje jsou stejně účinné jako e-maily vytvořené lidskými experty na phishing. Zásadní rozdíl je však v nákladech - vytvoření podvodného e-mailu pomocí AI je třicetkrát levnější než práce lidského experta.
Přesnost a efektivita útoku
Klíčem k úspěchu je precizní personalizace. AI systém dokázal v 88 % případů shromáždit přesné a užitečné informace o cílových osobách. Pouze ve 4 % případů byly vytvořené profily nepřesné. Podvodníci tak mohou velmi efektivně oslovit potenciální oběti s nabídkami, které odpovídají jejich skutečným zájmům a aktivitám.
Mohlo by vás zajímat
„Znepokojující je také zjištění, že bezpečnostní mechanismy, které mají bránit zneužití AI k trestné činnosti, nepředstavují pro vytváření phishingových e-mailů významnou překážku,“ upozorňuje expert na kybernetickou bezpečnost.
Existuje i pozitivní zjištění
Studie však přináší i pozitivní zprávy. Moderní jazykové modely se zlepšují také v rozpoznávání podvodných e-mailů. Například Claude 3.5 Sonnet dokázal odhalit phishingové zprávy s úspěšností přes 90 % a rozpoznal i některé podvody, které prošly lidskou kontrolou.
Jak se bránit? Experti doporučují několik základních pravidel:
- Nikdy neklikat na odkazy v nevyžádaných e-mailech
- Ověřovat si identitu odesílatele přes jiné komunikační kanály
- Být obzvláště opatrní u zpráv, které působí příliš osobně nebo se týkají našich specifických zájmů
- Používat moderní antivirový software s funkcemi pro detekci phishingu
- Pravidelně se vzdělávat v oblasti kybernetické bezpečnosti
Zdroj: Arxiv, Malwarebytes
