Chip 09/2024: Po tom, co koncem roku 2022 spatřil světlo světa model ChatGPT od společnosti Open AI, mnoho velkých koncernů znervóznělo. V důsledku toho více či méně úspěšně spustily vlastní velké jazykové modely (LLM) a generativní AI. Patřila mezi ně i mateřská společnost Facebooku Meta, jejíž LLM se jmenuje Llama, což je zkratka pro Large Language Model Meta AI. Llama je k dispozici v několika variantách, dokonce s až 70 miliardami parametrů. Na rozdíl od většiny ostatních modelů je Llama k dispozici pod open source licencí.
Menší varianty LLM od Meta i další malé LLM lze provozovat i na minipočítačích, jako je Raspberry Pi. Běží totiž lokálně a nevyžadují připojení k internetu. Získáte tak svého osobního chatbota. Náročnost na zdroje je redukována díky vynalézavým projektům na GitHubu.
Jak zprovoznit vlastní AI na Raspberry Pi vám ukážeme v Chipu 09/24, který je v prodeji od 21. srpna.
