Pro společnost OpenAI je to nezvyklá situace. Od vydání ChatGPT byli zvyklí být vždy o krok před konkurencí. Když se objeví jiní hráči, OpenAI je zpravidla lepší; když konkurence přijde s novou funkcí, ChatGPT má nové dvě. Ale najednou se ocitli v úplně jiné roli.
Svět AI náhle postavila na hlavu čínská společnost DeepSeek. V krátké době, s malým rozpočtem a navzdory americkým vývozním omezením ohledně hardwaru, vytvořili působivou službu. Komunita AI má novou hračku a není divu, že jsou obchody s aplikacemi náhle zaneprázdněné. Přihlašovací mechanismus byl dokonce napaden hackery. Mnoho uživatelů chce novou AI vyzkoušet.
Informace nelze ověřit
Experti však vyjadřují obavy. Například všechna tvrzení DeepSeek nelze ověřit. Byli při vývoji AI skutečně tak rychlí, jak tvrdí? Neutratili ve skutečnosti více peněz, nebo nenašli způsob, jak získat rychlý hardware?
Zdroj: Screenshot Android, redakce
Kritika DeepSeek přichází od expertů také z jiného směru. Jde o bezpečnost a ochranu dat. DeepSeek sice používá open-source model, kde je zdrojový kód veřejně dostupný. Data jsou však ukládána na serverech v Číně. Informace, které čínská vláda neschvaluje, například o masakru na náměstí Nebeského klidu v roce 1989, chatbot zamlčuje.
DeepSeek: experti vyjadřují obavy o ochranu dat
Adrianus Warmenhoven, expert na kybernetickou bezpečnost v NordVPN, varuje vzhledem k čínským zákonům o ochraně dat před službami jako DeepSeek:
„DeepSeek je čínský AI startup a působí v regulovaném prostředí, kde je státní dohled nad daty přísný. To přináší potenciální rizika ohledně shromažďování, ukládání a využívání dat.“
U kritických témat se čínská AI tváří nevědomě. Jiné AI modely sice také nejsou dokonalé, ale existuje podezření, že zde jsou určité oblasti otázek a odpovědí záměrně vynechávány. Druhým bodem kritiky tedy je, že máme co do činění s předpojatou AI.
Mohlo by vás zajímat
Podle Warmenhovena existují obavy, že „uživatelská data, včetně konverzací a generovaných odpovědí, jsou ukládána na serverech v Číně. Uživatelé si musí být vědomi toho, že všechna data sdílená s platformou mohou být na vyžádání přístupná vládě.“
I když je DeepSeek open-source, přesně nevíme, jak jsou AI modely poskytovatele trénovány. Jisté však je, že vše, co zadáte, může být použito k tréninku AI.
DeepSeek: rizika i v oblasti bezpečnosti
Vedle obav o ochranu dat existují i další bezpečnostní rizika: na jedné straně mohou vzniknout využitím sdílených dat. Osobní údaje nebo fotografie by mohly být například použity pro deepfakes.
Mohlo by vás zajímat
DeepSeek hlásí napadení hackery: nedokáže držet krok s návalem registrací – uživatelé jsou blokováni
Bezpečnost
Pro bezpečnostní experty v Kaspersky existují především dva kritické body - jednak nevýhody open-source a jednak to, že kyberzločinci využívají současnou vlnu popularity ke krádeži přihlašovacích údajů. Leonid Bezvershenko, bezpečnostní výzkumník v Global Research & Analysis Team (GReAT) v Kaspersky to komentuje:
„Open-source charakter DeepSeek je dvojsečná zbraň. Sice open-source frameworky podporují transparentnost, spolupráci a inovace, ale zároveň s sebou nesou významná bezpečnostní a etická rizika. Kyberzločinci provádějí stále složitější kampaně, aby do systémů propašovali malware.“
Existuje tedy reálné nebezpečí, že oblíbený projekt bude infiltrován kyberzločinci. „Jen v loňském roce objevil open-source skener Kaspersky více než 12 000 škodlivých balíčků ve veřejných repozitářích. Bez centrální kontroly mají útočníci možnost vytvářet kompromitované verze softwaru nebo implementovat zadní vrátka, které se maskují jako neškodné nástroje pro využití API DeepSeek. To v současnosti představuje vážné riziko pro uživatele a organizace.“
Mohlo by vás zajímat
Toto nikdo nechceme: umělá inteligence klidně prozradí osobní data – stačil k tomu jediný příkaz
Bezpečnost
Zdroj: screenshot webu deepseek, redakce
Olga Svistunova, senior analytička webového obsahu v Kaspersky, dodává: „Nový AI asistent DeepSeek přitáhl hodně pozornosti - jak pozitivní, tak negativní. Již nyní bylo identifikováno několik případů podvodů. Vzhledem k vysokému počtu nových uživatelů a údajnému kybernetickému útoku na DeepSeek dochází k poruchám v registračním procesu aplikace a webu DeepSeek, kvůli čemuž mnoho registrací nelze dokončit.“
Možná nepočítali s tak velkým náporem, kyberzločinci dnes jednají velmi pohotově a na tento typ náhle populární služby reagují.
„Tato situace poskytuje příležitost pro kyberzločince vytvářet falešné webové stránky DeepSeek s cílem krást přihlašovací údaje uživatelů. Tyto ukradené údaje by pak mohly být použity nejen pro přístup k účtům DeepSeek, ale také k účtům u jiných služeb, pokud je stejné heslo používáno vícekrát.“
Zdroj: Deepseek, redakce
5 foto
