Microsoft tvrdí, že zločinci zneužívají umělou inteligenci – podle experta je to důkaz, že tak činí firma sama

Redmondská firma zveřejnila zprávu, v níž odhaluje, že v několika případech přistihla kyberzločince při zneužívání služeb umělé inteligence.

Známý americký odborník v oblasti kybernetické bezpečnosti, Bruce Schneier, to ale vidí jinak. Celou věc považuje za důkaz, že Microsoft a OpenAI špehují své uživatele.

Podle informací Microsoftu byly identifikovány různé zločinecké týmy, které zneužívaly jeho služeb a funkcí umělé inteligence od OpenAI. Údajně šlo o skupiny z Číny, Íránu, Ruska a Severní Koreje, z nichž některé mají přímé napojení na vlády příslušných zemí.

Zločinecké aktivity měly zahrnovat vyhledávání špionážních cílů, analýzu satelitů a radarových technologií, a celkové zlepšování hackerských dovedností.

Zpráva Microsoftu informuje: kyberzločinci zneužívají AI pro špionáž a hacking

Informace zveřejněné společností Microsoft jsou zcela konkrétní. Podle Bruce Schneiera mohl Microsoft tyto informace získat pouze špehováním relací chatbotů. Podle bezpečnostního experta to není překvapivé a pravděpodobně to umožňují i podmínky používání nástroje.

Tím, že je uživatelský obsah ve službách umělé inteligence  kontrolován, a to i lidmi, se Microsoft nijak netají. Například v případě svého Azure OpenAI společnost hovoří o "monitorování zneužití". K rozpoznání škodlivého obsahu a potenciálního zneužití se zpočátku používají algoritmy a heuristické analýzy, které jej posléze klasifikují podle závažnosti.

Pokud systémy označí určitá prohlášení uživatelů jako závadná či nežádoucí, mohli by je kontrolovat i oprávnění zaměstnanci společnosti Microsoft. V případech, které se objeví v rámci Evropského hospodářského prostoru, se tito zaměstnanci podle společnosti musí nacházet také v EHP.

V případě porušení pravidel by měli být zákazníci informováni e-mailem. Uživatelé Azure, kteří v rámci služeb pracují s citlivými údaji, mohou rovněž vznést námitku proti sledování zneužití. Dá se udělat prostřednictvím online formuláře.

Zdroj: Microsoft Security Insider, Schneier