Znáte tyhle „experty“? Umělá inteligence si podmanila světová média

AI „odborníci“ zaplavují internet

Ve svém článku Waugh uvedl, že když používáte mediální služby pro získání odborných komentářů, pravděpodobně předpokládáte, že mluvíte se skutečnou živou osobou. Bohužel, nyní je tu velká šance, že komunikujete s falešným expertem.

Typickým příkladem je psycholožka „Barbara Santini“. Ta byla citována ve článcích The Guardian, BBC, Newsweek, Marie Claire a mnoha dalších renomovaných médiích. Poskytovala odborné komentáře k široké škále témat. Psala například o psychologických výhodách spaní se psem či o astrologii. Když se ji však Waugh pokusil kontaktovat, odmítla potvrdit svou kvalifikaci. A také odmítla mluvit do telefonu. Jediný způsob komunikace byl přes WhatsApp.

Fiktivní experti s falešnými fotografiemi

Dalším příkladem je „Rebecca Leigh“ z firmy Academized. Ta se prezentovala jako biochemička a pedagožka s 12letou praxí. Nabízela odborné komentáře k tématům od uhlíkové stopy avokáda po streamování hudby. Společnost Academized nakonec přiznala, že Rebecca Leigh je fiktivní osoba. Má falešné jméno a fotografii. Stejná fotografie je použita také u jiného profilu. Když Waugh požádal o důkaz její identity, komunikace byla přerušena.

Motivace? SEO a obchodní zájmy

Za tímto jevem stojí rozmach umělé inteligence a především chatbotů jako ChatGPT, které dokážou generovat přesvědčivě vypadající „odborné komentáře“ prakticky na jakékoliv téma a to během několika sekund. Společnosti využívají těchto falešných expertů k získání dobrých odkazů pro své webové stránky, což zlepšuje jejich SEO (optimalizace pro vyhledávače).

Podle Davida Wilsona, PR ředitele společnosti NetEase Games, se jedná o znepokojující až děsivý trend, který mimo jiné hraje do karet konspiračním teoriím o nedůvěryhodnosti mainstreamových médií.

Opatření proti falešným odborníkům

Problém se týká především online služeb, které propojují novináře s odborníky. Společnosti jako Qwoted a ResponseSource proto začaly zavádět nástroje pro detekci umělé inteligence. A přísněji ověřují identitu expertů. Qwoted nabízí funkci „Check for AI“ založenou na GPTZero, která dokáže rozpoznat text generovaný populárními AI chatboty.

Andy Smith, zakladatel služby Sourcee, plánuje ověřovat všechny odpovědi pomocí kamery. Všechny odpovědi by měly být nahrávány živě. To v budoucnu ochrání platformu před nevyhnutelným nárůstem deepfake videí s odpověďmi vytvořenými pomocí AI.

Dalším varovným signálem, že jde o komentář generovaný AI, je také neobvykle rychlá reakce. Redaktorka The Sun Laura Purkess uvádí, že pravidelně dostává texty, které vypadají jako generované umělou inteligencí. Jde o texty od konkrétního PR pracovníka z platformy Responsesource. Často poskytuje tři nebo více komentářů prakticky na jakékoli téma. A to za méně než hodinu od zveřejnění žádosti.

Služba Qwoted nyní automaticky označuje podezřele rychlé odpovědi varovným upozorněním: „Wow, to bylo rychlé! Tato nabídka přišla do 15 minut od vaší žádosti. Někdy může taková super rychlá odpověď znamenat, že byla použita umělá inteligence.“ Systém následně doporučuje využít nástroj pro detekci AI generovaného obsahu.
 

Co nás ještě čeká?

Futuristka Tracey Follows předpovídá, že „falešné osoby“ píšící texty budou následovány zvukovými a video falzifikáty. Pravděpodobně se dostaneme do online světa, kde bude každý muset mít mnohem silnější digitální identifikaci, nějaké ověření, že nejste jen osoba, ale konkrétní osoba.

Jak varuje Waugh, s nástupem ChatGPT, který snížil náklady na „odborné“ komentáře prakticky na nulu, budou mediální služby muset vynaložit mnohem větší úsilí na potírání „falešných lidí“.

Zdroj: Press Gazette, Cybernews, LeadDev, AMS