Kraví vejce ke snídani: Francouzi vypnuli AI nástroj, který generoval šílené halucinace

AI Lucie odstavena

Společnost Linagora Group se sídlem na pařížském předměstí Issy-les-Moulineaux představila a uvedla do provozu svůj jazykový model Lucie minulý týden. Podle tvůrců jde o open-source webový chatovací nástroj vyznačující se „spolehlivostí a transparentním přístupem“.

Hned o víkendu byl však provoz pozastaven. Vývojáři přiznali, že start byl uspěchaný a že „se nechali unést vlastním nadšením“. V tuto chvíli není Lucie dostupná, na webu se můžete sice zaregistrovat, ale přístup k chatovacímu robotovi nemá nikdo kromě samotných vývojářů.

Ukončení, respektive pozastavení provozu doslova po pár dnech má však dobrý důvod. Krátce po spuštění se totiž na Lucii snesla vlna kritiky za obrovské halucinace, kterých se při generování odpovědí na otázky dopouští.

Recept na pervitin, kraví vejce ke snídani

Lucie chybovala v základních výpočtech na úrovni prvního stupně základní školy, na požádání vypsala recept i postup vaření metamfetaminu nebo doporučovala kravská vejce jako zdravou a nutričně hodnotnou surovinu.

Linagora teď žádá trpělivost a podporu vývojářů, kteří pracují na dost možná nejambicióznějším podobném projektu velkých jazykových modelů (LLM) v Evropské unii (EU). V kontextu toho, co se ale děje v USA a v Číně, to moc dobré světlo na podobné evropské projekty nehází.

Zatímco Lucie je kvůli halucinacím odstavena, Evropu i Ameriku „plení“ čínský chatovací robot DeepSeek, který se jeví jako skvělá a hlavně bezplatná alternativa k Gemini, Claude nebo již zmíněnému ChatGPT. Před možnými riziky DeepSeek jsme však varovali v samostatném článku.

Zdroj: Linagora, The Register