AI Act: Nová pravidla pro umělou inteligenci. Koho se týkají a jaké povinnosti přinášejí?

AI Act, tedy nařízení o umělé inteligenci, představuje významnou součást evropské legislativy. Přestože vstoupil v platnost už 1. srpna 2024, jeho pravidla se nezačala uplatňovat najednou. Nařízení počítá s postupným náběhem, aby měly firmy, instituce i dozorové orgány dostatek času na přípravu.

Nová pravidla se přitom netýkají pouze velkých technologických společností. Dopadají na široký okruh subjektů, které systémy umělé inteligence vyvíjejí, dovážejí, distribuují, uvádějí na trh nebo používají při své činnosti.

Kdy začínají jednotlivé povinnosti platit?

Jednotlivé části AI Actu nabývají účinnosti postupně.

Nejdůležitější termíny jsou:

• 2. února 2025 – začínají platit pravidla týkající se zakázaných praktik a povinnost zajistit AI gramotnost osob pracujících s umělou inteligencí.
• 2. srpna 2025 – začínají se používat pravidla pro GPAI, tedy obecné modely umělé inteligence.
• 2. srpna 2026 – začnou se používat pravidla pro vysoce rizikové systémy podle přílohy III a pravidla transparentnosti.
• 2. srpna 2027 – u některých vysoce rizikových systémů zabudovaných do regulovaných výrobků podle přílohy I skončí delší přechodné období.

Základním principem je míra rizika

Jedním ze základních principů AI Actu je, že čím větší riziko systém umělé inteligence představuje, tím přísnější pravidla pro něj platí. Nařízení proto rozlišuje jednotlivé systémy podle jejich možného dopadu na člověka a společnost.

Právě od míry rizika se odvíjejí povinnosti jednotlivých subjektů i rozsah požadavků, které musí splnit.

Koho se AI Act týká?

Nařízení o umělé inteligenci nedopadá pouze na vývojáře softwaru. Týká se také zaměstnavatelů, škol, bank, zdravotnických zařízení, orgánů veřejné správy, e-shopů nebo marketingových agentur.

Nařízení rozlišuje několik rolí jednotlivých subjektů.

Poskytovatelem je zpravidla ten, kdo systém umělé inteligence vyvíjí nebo si jej nechává vyvinout a následně jej uvádí na trh nebo do provozu pod svým jménem.

Zavádějícím subjektem je ten, kdo systém umělé inteligence používá při své profesní nebo podnikatelské činnosti.

Vedle těchto subjektů pracuje AI Act také s dovozci a distributory, kteří se podílejí na uvedení systémů umělé inteligence na trh Evropské unie nebo na jejich zpřístupnění dalším osobám.

🤖 Obecné modely umělé inteligence mají vlastní pravidla

Zvláštní pozornost věnuje AI Act také GPAI, tedy obecným modelům umělé inteligence. Jde o modely trénované na velkém množství dat, které jsou schopné plnit široké spektrum úkolů a mohou být integrovány do dalších systémů nebo aplikací.

Typickým příkladem jsou velké jazykové modely, na nichž stojí moderní chatboti a generativní AI nástroje.

U těchto modelů se regulace neodvíjí pouze od konkrétního použití, ale také od jejich obecnosti a možného dopadu. Poskytovatelé musí vést technickou dokumentaci, poskytovat informace navazujícím poskytovatelům, zavést politiku dodržování autorského práva a zveřejnit dostatečně podrobné shrnutí obsahu použitého pro trénování modelu.

U modelů se systémovým rizikem jsou požadavky ještě přísnější. Patří mezi ně hodnocení AI, testování modelů, zmírňování systémových rizik, hlášení závažných incidentů i zajištění odpovídající úrovně kybernetické bezpečnosti.

Evropská komise v této souvislosti zveřejnila dobrovolný kodex správné praxe pro obecné modely umělé inteligence, který má poskytovatelům usnadnit plnění povinností podle AI Actu.

🎓 AI gramotnost je jednou z prvních praktických povinností

Jednou z povinností, která se může dotknout velkého množství organizací, je zajištění AI gramotnosti. Poskytovatelé i uživatelé systémů umělé inteligence musí zajistit, aby osoby, které s umělou inteligencí pracují, měly znalosti a dovednosti odpovídající jejich roli, používanému systému i souvisejícím rizikům.

Nemusí přitom jít o hluboké technické vzdělání. V praxi může jít například o:

• školení,
• interní pravidla pro používání umělé inteligence,
• zásady práce s daty,
• postup schvalování nových nástrojů.

Pro řadu organizací tak může být zajištění AI gramotnosti prvním krokem k systematickému a bezpečnějšímu řízení využívání umělé inteligence.

Regulatorní sandbox podpoří inovace

AI Act neobsahuje pouze zákazy a povinnosti. Součástí nařízení jsou také nástroje na podporu inovací.

Jedním z nich je regulatorní sandbox, tedy kontrolované prostředí, ve kterém mohou firmy a další subjekty testovat inovativní systémy umělé inteligence pod dohledem příslušných orgánů.

Cílem je zvýšit právní jistotu a usnadnit bezpečné uvedení inovativních řešení na trh. Každý členský stát má zajistit alespoň jeden takový sandbox, který má být funkční do 2. srpna 2026.

💡 Praktický tip

Pokud vaše organizace vyvíjí nebo využívá systémy umělé inteligence, vyplatí se sledovat jednotlivé termíny účinnosti AI Actu a včas ověřit, jaké povinnosti se na vás vztahují. Stejně důležité je zajistit odpovídající AI gramotnost osob pracujících s umělou inteligencí a průběžně se připravovat na požadavky, které se budou postupně uplatňovat.

Doporučení

Povinnosti související s umělou inteligencí se navíc často prolínají s oblastí kybernetické bezpečnosti a řízení rizik. Praktické zkušenosti z této oblasti mohou organizacím pomoci lépe se připravit na nové regulatorní požadavky i jejich zavádění do praxe.