Nebezpečné výsledky ve vyhledávání Google: na toto si dejte obzvlášť pozor – umělá inteligence řádí

Na letošní vývojářské konferenci Google I/O internetová firma představila zásadní inovace svého vyhledávače. Jednou z nových funkcí jsou takzvané "AI Overviews", přehledy generované umělou inteligencí. Tato shrnutí mají za cíl poskytnout rychlý přehled o různých tématech a uživatele u vyhledávání udržet déle.

Místo toho, aby uživatelů pomáhala, se nová funkce spíš dostává na titulky médií. A ne zrovna v lichotivém vyznění. Jakou to má příčinu?

Přehledy, generované umělou inteligencí, přinášejí problémy

Na pováženou byly například některé zdravotní rady od AI, které byly nejen zavádějící, ale dokonce i nebezpečné. Uživatelům například doporučovala jíst kameny nebo pít moč. Mezi dalšími příklady se objevovala doporučení jíst pizzu s netoxickým lepidlem, jíst lepidlo nebo nechávat psy v rozpálených autech.

Problém je, že tyto příklady výsledků pocházejí ze satirických zdrojů, případně jistě ne vážně myšlených "rad" a doporučení ze sociálních sítí a diskuzních fór, jako například Redditu.

Zavádějící je skutečnost, že přehledy tvořené AI spojují satirický obsah a příspěvky ze sociálních sítí s ověřenými informacemi. To poté vede ke směsici faktů a nesmyslů, což může představovat velké riziko, zvlášť pokud se jedná o problematiku zdraví.

Výsledky vyhledávání s podporou AI zobrazují nesprávné informace

Zavedení funkce vyhledávání pomocí umělé inteligence v USA ukázalo další příklady trapných, až znepokojivých chyb. Vyhledávač například tvrdil, že v NBA a NFL hráli psi, a že Barack Obama byl prvním muslimským prezidentem USA.

Dalším alarmujícím příkladem byla rada o extrémních sexuálních praktikách, které mají posilovat imunitní systém, nebo tvrzení, že přítomnost švábů v genitáliích je neškodná. Stejně šokující byla informace, že lékaři doporučují těhotným ženám dvě až tři cigarety denně.

Znepokojivá byla i rada umělé inteligence, zobrazená jako odpověď na dotaz, týkající se řešení zvládání hněvu. Umělá inteligence zde navrhla "vraždu". A dokonce i doporučila vybrat si oběť, kterou nikdo nebude zvlášť postrádat – například bezdomovce.

Google chce reagovat

Všechny uvedené chyby poukazují na skutečnost, že zavedení vyhledávací funkce s podporou AI bylo zjevně předčasné. Google nyní musí zajistit, aby se výsledky vyhledávání pomocí umělé inteligence zlepšily, a především aby byly založeny na přesných a ověřených informacích.

Do té doby se používání "AI Overviews" pro důležité dotazy, zvlášť týkající se zdraví, důrazně nedoporučuje.

Google je i nadále přesvědčen, že umělá inteligence poskytuje uživatelům "vysoce kvalitní informace". Nicméně podle informací serveru Winfuture společnost nyní na vznesenou kritiku reagovala a vysvětlila, že chyby jsou způsobeny velmi neobvyklými požadavky v dotazech.

Vývojáři také deaktivovali odpovědi umělé inteligence u některých vyhledávacích dotazů a snaží se systémy zlepšit. Zahrnuje to ale i ruční kontrolu a editaci odpovědí.

Nová funkce "AI Overview" má doplnit klasické vyhledávání Google a zpočátku je k dispozici pouze v USA. Vzhledem k současným problémům není jisté, zda se Google podaří realizovat záměr zavést novinku i v dalších zemích.

Zdroj: Winfuture, X / @YoungbloodJoe