Na letošní vývojářské konferenci Google I/O internetová firma představila zásadní inovace svého vyhledávače. Jednou z nových funkcí jsou takzvané "AI Overviews", přehledy generované umělou inteligencí. Tato shrnutí mají za cíl poskytnout rychlý přehled o různých tématech a uživatele u vyhledávání udržet déle.
Místo toho, aby uživatelů pomáhala, se nová funkce spíš dostává na titulky médií. A ne zrovna v lichotivém vyznění. Jakou to má příčinu?
Přehledy, generované umělou inteligencí, přinášejí problémy
Na pováženou byly například některé zdravotní rady od AI, které byly nejen zavádějící, ale dokonce i nebezpečné. Uživatelům například doporučovala jíst kameny nebo pít moč. Mezi dalšími příklady se objevovala doporučení jíst pizzu s netoxickým lepidlem, jíst lepidlo nebo nechávat psy v rozpálených autech.
Problém je, že tyto příklady výsledků pocházejí ze satirických zdrojů, případně jistě ne vážně myšlených "rad" a doporučení ze sociálních sítí a diskuzních fór, jako například Redditu.
Zavádějící je skutečnost, že přehledy tvořené AI spojují satirický obsah a příspěvky ze sociálních sítí s ověřenými informacemi. To poté vede ke směsici faktů a nesmyslů, což může představovat velké riziko, zvlášť pokud se jedná o problematiku zdraví.
Výsledky vyhledávání s podporou AI zobrazují nesprávné informace
Zavedení funkce vyhledávání pomocí umělé inteligence v USA ukázalo další příklady trapných, až znepokojivých chyb. Vyhledávač například tvrdil, že v NBA a NFL hráli psi, a že Barack Obama byl prvním muslimským prezidentem USA.
Dalším alarmujícím příkladem byla rada o extrémních sexuálních praktikách, které mají posilovat imunitní systém, nebo tvrzení, že přítomnost švábů v genitáliích je neškodná. Stejně šokující byla informace, že lékaři doporučují těhotným ženám dvě až tři cigarety denně.
Znepokojivá byla i rada umělé inteligence, zobrazená jako odpověď na dotaz, týkající se řešení zvládání hněvu. Umělá inteligence zde navrhla "vraždu". A dokonce i doporučila vybrat si oběť, kterou nikdo nebude zvlášť postrádat – například bezdomovce.
Google chce reagovat
Zdroj: X / @YoungbloodJoeHere's another disturbing health claim that seems to come from a comedy/satire website (edit: or is that from a real website??). pic.twitter.com/GuOj0cnllb
— Joe Youngblood (@YoungbloodJoe) May 23, 2024
Všechny uvedené chyby poukazují na skutečnost, že zavedení vyhledávací funkce s podporou AI bylo zjevně předčasné. Google nyní musí zajistit, aby se výsledky vyhledávání pomocí umělé inteligence zlepšily, a především aby byly založeny na přesných a ověřených informacích.
Do té doby se používání "AI Overviews" pro důležité dotazy, zvlášť týkající se zdraví, důrazně nedoporučuje.
Google je i nadále přesvědčen, že umělá inteligence poskytuje uživatelům "vysoce kvalitní informace". Nicméně podle informací serveru Winfuture společnost nyní na vznesenou kritiku reagovala a vysvětlila, že chyby jsou způsobeny velmi neobvyklými požadavky v dotazech.
Mohlo by vás zajímat
Vývojáři také deaktivovali odpovědi umělé inteligence u některých vyhledávacích dotazů a snaží se systémy zlepšit. Zahrnuje to ale i ruční kontrolu a editaci odpovědí.
Nová funkce "AI Overview" má doplnit klasické vyhledávání Google a zpočátku je k dispozici pouze v USA. Vzhledem k současným problémům není jisté, zda se Google podaří realizovat záměr zavést novinku i v dalších zemích.
Zdroj: Winfuture, X / @YoungbloodJoe
video
