Umělá inteligence a algoritmy, na kterých je založena, nejsou ani zdaleka dokonalé. Přesvědčí nás o tom mnoho případů jejich selhání. V novém článku Chipu se dočtete o problematických algoritmech, které Amazon využíval při procesu náboru nových zaměstnanců, o chybách v třídění fotografií ve službě Fotky Google nebo na portálu Flickr, či o mnohem závažnějších problémech, které umělá inteligence způsobila v programu hodnocení rizik a pravděpodobnosti recidivy u pachatelů trestných činů v USA.
S umělou inteligencí bychom měli zkrátka zacházet opatrně. Jedná se sice o slibný směr, který by nám měl uspořit mnoho práce, ale není možné mu svěřit kompletní rozhodování. Algoritmy objevují v analyzovaných datových záplavách souvislosti a vzájemné vztahy, kterých by si člověk pozorovatel pravděpodobně nikdy nevšiml. V tomto ohledu se totiž analytické procesy, zvláště v samoučících se programech, po krátké době stávají černou skříňkou i pro samotné jejich vývojáře.
Chcete si o této problematice přečíst více? Zkuste nový březnový Chip, v prodeji již od 22. února.
Programátor Jack Alciné zjistil, že aplikace Fotky Google měla jeho snímky a snímky jeho přítelkyně zařazené do skupiny s názvem „Gorillas“.
4 foto
