Umělá inteligence nás vyhladí: čerstvý nobelista Hinton se obává nejhoršího

Kmotr umělé inteligence dostal Nobelovu cenu

Geoffrey Hinton je někdy také přezdíván „kmotr umělé inteligence“. Samotný koncept sice sám nevymyslel, přispěl ale k masivnímu pokroku v tomto odvětví, ze kterého těžíme dodnes. Hinton je známý především díky svému průlomovému výzkumu v oblasti hlubokého a strojového učení v 80. letech minulého století.

Spolu s Davidem Rumelhartem a Ronaldem J. Williamsem v roce 1986 publikovali klíčový článek o algoritmu zpětného šíření chyb (backpropagation), který se stal základním stavebním kamenem pro trénování hlubokých neuronových sítí. Tento přístup se stal základem mnoha současných AI systémů.

Hinton: AI nás přežije, my ji ne

Jeho ocenění Nobelovou cenou je však vnímáno trochu rozporuplně. K tomuto odvětví informačních technologií výrazně přispěl, v posledních letech je však velkým kritikem a před AI spíše varuje, než že by její současné využití oslavoval.

V květnu v rozhovoru pro Massachusettský technologický institut (MIT) například prohlásil, že umělá inteligence se postupně stane chytřejší než lidé; zároveň naznačil, že to lidstvo nemusí přežít.

„Najednou jsem změnil názor na to, jestli tyhle věci budou inteligentnější než my. Myslím si, že teď k tomu mají velmi blízko a v budoucnu budou mnohem inteligentnější než my. Jak to přežijeme?“ uvedl.

Umělou inteligenci ve válce nechcete

Připomněl dokonce, jak se celá tato situace může stát ještě horší. „Podívejte, tohle je jedna z možností, jak se to může pokazit. Víme, že spousta lidí chce tyto nástroje používat ke špatným účelům,“ řekl a zmínil třeba ruského prezidenta Putina nebo amerického prezidentského kandidáta DeSantise.

Podle něj může být umělá inteligence využita ve válce nebo pro ovlivňování voleb. „Nemyslete si ani na okamžik, že by Putin nevyrobil hyperinteligentní roboty s cílem zabíjet Ukrajince. Neváhal by.“

Ne všichni experti na téma umělé inteligence však mají tak negativní myšlenky jako nobelista. Šéf vývoje AI ve firmě Meta, Yann LeCun, si také myslí, že umělá inteligence předčí lidstvo. Jenže: „Naprosto nesouhlasím s myšlenkou, že stroje ovládnou lidi jen proto, že jsou chytřejší, natož aby lidi zničily.“

Zdroj: MIT, Nobelova cena