Kdo je vlastně zodpovědný za to, když chatbot s umělou inteligencí mluví nesmysly? Touto otázkou se nedávno musel zabývat arbitrážní soud v Kanadě poté, co zákazník společnosti Air Canada musel kvůli chybě chatbota zaplatit zvýšené náklady. Umělá inteligence v rozporu se směrnicemi společnosti údajně slíbila vrácení peněz, jak informoval deník Edmonton Journal.
Rozhodčí soud v Britské Kolumbii dospěl k závěru, že společnost Air Canada musí zákazníkovi vrátit část peněz ve výši 812 kanadských dolarů (cca 14 000 korun). Zákazník se u chatbota s umělou inteligencí letecké společnosti dotazoval na slevu při rezervaci na poslední chvíli z důvodu úmrtí v rodině.
Air Canada skutečně nabízí takovéto zlevněné tarify pro pozůstalé, pokud zemřel jejich přímý člen rodiny. Letecká společnost však stanoví, že taková letenka musí být zarezervována s těmito podmínkami už před odletem. Místo toho chatbot zákazníkovi doporučil, aby si nejprve zakoupil letenku za běžnou cenu a do 90 dnů kontaktoval leteckou společnost s žádostí o vrácení peněz.
Letecká společnost chce přenést odpovědnost na chatbota
Zdroj: Artturi Jalli / Unsplash
Zákazník se tímto pokynem řídil a rezervoval si zpáteční let za 1630 kanadských dolarů (29 000 korun), ale Air Canada odmítla slíbenou platbu provést. Letecká společnost se dokonce snažila přenést odpovědnost na chatbota.
V rozsudku se uvádí, že Air Canada tvrdila, že „nemůže být činěna odpovědnou za informace poskytnuté jakýmkoli jejím agentem, zaměstnancem nebo zástupcem – včetně chatbota“. Letecká společnost přitom naznačila, že chatbot je samostatnou právnickou osobou odpovědnou za své vlastní jednání.
Mohlo by vás zajímat
S bizarní argumentací soud nesouhlasil
Tento bizarní argument se však u soudu nesetkal s pochopením. Rozhodčí soud ve svém odůvodnění zdůraznil, že společnost Air Canada je odpovědná za všechny informace na svých webových stránkách bez ohledu na to, zda pocházejí ze statické stránky nebo od chatbota.
Rozsudek vyvolává otázky ohledně odpovědnosti v souvislosti s používáním umělé inteligence, zejména pokud jde o nesprávná rozhodnutí. Popisované soudní rozhodnutí by dokonce mohlo vést k vytvoření precedentu. Právní situace v Evropě totiž zatím není jednoznačná.
Návrh zákona o umělé inteligenci, na němž se Rada a Parlament Evropské unie dohodly v prosinci 2023, se původně týká pouze základních práv občanů EU. Cílem je zajistit, aby „systémy AI uváděné na trh EU a používané v Unii byly bezpečné a respektovaly základní práva a hodnoty EU“, píše Rada EU.
Zdroj: Edmonton Journal
5 foto
