Chip 06/2024: Přes všechny zázraky má nová technologie AI i jednu málo zmiňovanou stinnou stránku: jazykové schopnosti modelů jsou založeny na umělých neuronových sítích s miliardami parametrů a jejich trénink spotřebovává obrovské množství elektrické energie. Počet uživatelů chatbotů přitom rychle roste, což způsobuje, že nezadržitelně roste i spotřeba energie.
Abychom mohli tuto spotřebu účinně snížit, je třeba ji nejprve podrobně znát. Často se však děje, že ani tvůrci těchto modelů sami nevědí, k čemu přesně energii využívají. Navíc velké firmy o spotřebě své AI raději mlčí. Marketingově mnohem výhodnější je ukazovat, co vše umělá inteligence zvládne, než propírat, jak moc energie u toho spotřebuje.
Proto vznikají projekty, které by měly spotřebu současných modelů zmapovat a hledat cesty, jak ji podstatně snížit. Například efektivnějším využíváním fotovoltaické elektřiny, škálovatelností modelů AI nebo přesunem výpočtů do zařízení koncových uživatelů.
Pokud se o tomto velmi aktuálním tématu chcete dozvědět víc, nalistujte si článek „Umělá inteligence jako žrout elektřiny“ v červnovém vydání Chipu. Je v podeji od 22. 5.
video
8 foto
