Evropská komise opět reguluje: co bude znamenat první zákon o umělé inteligenci pro její další vývoj?

Technologie umělé inteligence nabraly v posledních měsících obrovské tempo rozvoje a s ním se otevírají i četné diskuse, do jaké míry může změnit náš svět: v dobrém i špatném. Evropský parlament učinil významný krok v regulaci AI a odhlasoval celosvětově první zákon o umělé inteligenci. Systémy AI rozděluje do různých rizikových skupin.

V závislosti na potenciálním riziku stanovuje přísnější požadavky na vývoj a používání technologií umělé inteligence. Do budoucna by to mělo zajistit, aby obzvlášť rizikové aplikace podléhaly přísnějším předpisům. Jedná se především o nasazení AI v oblastech kritické infrastruktury, ve vzdělávání a zdravotnictví.

Zákon zakazuje některé aplikace umělé inteligence, které jsou v rozporu s celospolečenskými hodnotami Evropské unie. Jde například o "sociální škálování", které na základě získaného skóre lidi rozděluje pode chování do různých kategorií. Zakázáno je také rozpoznávání emocí na pracovišti a ve vzdělávacích institucích.

Obecně také není povoleno rozpoznávání obličejů na veřejných místech. Bude to možné pouze s výjimkou použití policií a bezpečnostními orgány při důvodném podezření na páchání trestné činnosti, anebo stíhání pachatelů trestné činnosti – například obchodování s lidmi nebo terorismu.

Novému zákonu o umělé inteligenci se musejí dotčené společnosti podřídit

Rozhodnutí Evropského parlamentu různé strany přivítaly. Předsedkyně Evropské komise, Ursula von der Leyenová, označila zákon za "průlomový rámec pro inovativní umělou inteligenci", díky kterému se Evropa stane průkopníkem ve vývoji důvěryhodných technologií umělé inteligence.

Spotřebitelské organizace v návaznosti na nový zákon vyzývají k vytvoření účinných kotrolních struktur a silné ochraně zákazníků.
 

Po schválení Evropským parlamentem nyní nová nařízení vstupují v platnost a členské státy jsou povinny je aplikovat. Společnosti, které nařízení poruší, mohou být pokutovány.

Očekává se, že členské státy budou v nadcházejících letech zakázané systémy umělé inteligence postupně vyřazovat a plně implementovat nová nařízení.

Zdroj: Evropský parlament