Co nesmí umělá inteligence v EU?
Nejdůležitější body podle aktu o umělé inteligenci představuje ve své tiskové zprávě Česká asociace umělé inteligence (ČAUI):
- AI nesmí manipulovat podprahovými technikami – Reklamy nebo chatboty nesmí ovlivňovat lidi skrytými signály, které obcházejí jejich vědomé rozhodování. Konec neuromarketingu, který „láme vůli“ bez vašeho vědomí.
- Žádná AI nesmí zneužívat slabiny lidí – AI nesmí cílit na děti, seniory, osoby s postižením nebo lidi v tíživé finanční situaci a ovlivňovat jejich chování ve svůj prospěch.
- Sociální skórování – Pokud někdo chtěl zavést systém „hodnocení občanů“ podle jejich chování (jako v Číně), má smůlu. Sociální skórování s dopadem na přístup k běžným službám je v EU zcela zakázané.
- AI nesmí předpovídat zločince jen na základě osobnosti – Představte si AI, která by určovala, zda někdo spáchá zločin, jen podle jeho chování na sociálních sítích nebo psychologického profilu. Takové prediktivní AI systémy jsou nyní zakázané.
- Automatický sběr obličejů z internetu – Firmy nesmí hromadně sbírat a analyzovat fotky obličejů z webu nebo bezpečnostních kamer k vytvoření databází pro rozpoznávání tváří.
- Rozpoznávání emocí (s výjimkou lékařských účelů) – AI nesmí analyzovat emoce zaměstnanců v práci nebo studentů ve školách – s výjimkou zdravotních a bezpečnostních důvodů.
- Biometrická kategorizace je omezená – AI nesmí analyzovat biometrické údaje a zařazovat lidi podle rasy, politických názorů, víry nebo sexuální orientace.
- Policie nemůže sledovat lidi pomocí AI v reálném čase (až na výjimky) – Systémy pro biometrickou identifikaci na veřejných místech v reálném čase jsou zakázané, s výjimkou hledání pohřešovaných osob, teroristických hrozeb nebo pátrání po nebezpečných pachatelích.
Mohlo by vás zajímat
Řešit se budou i pokuty
Hlavním bodem dokumentu Evropské komise jsou i případně sankce proti soukromým subjektům, které budou využívat vlastní či externí AI v rozporu s pravidly.
Komise informuje o tom, že firmy mohou v takovém případě čelit pokutě až ve výši 7 % svého ročního obratu, nebo až 35 milionů eur. Dohled na dodržování pravidel započne již v srpnu 2025 a starat se o něj má v Česku ministerstvo práce a sociálních věcí.
Zdroj: Evropská komise, ČAUI
video
