Připravuje se český zákon o umělé inteligenci: Víte, co přináší?

Používáte ve firmě umělou inteligenci? Víte, kdo bude kontrolovat, jestli ji používáte podle pravidel, a na který úřad se případně obrátit? Co když AI pomáhá vybírat zaměstnance, hodnotit klienty nebo zpracovávat osobní údaje – kdo za její používání odpovídá? A kolik vás může stát, když pravidla porušíte? Pokuty mohou dosáhnout až 35 milionů eur nebo 7 % celosvětového ročního obratu.

Nový zákon má dát evropským pravidlům konkrétní podobu

Základní pravidla pro vývoj a používání umělé inteligence již stanovuje evropské nařízení o umělé inteligenci, známé jako AI Akt. To rozlišuje jednotlivé systémy podle míry rizika, některé způsoby využívání AI přímo zakazuje a pro vysoce rizikové systémy stanovuje přísnější požadavky.

Evropské nařízení je přímo použitelné, takže jeho povinnosti platí i v České republice bez ohledu na přijetí národního zákona. Některé otázky však ponechává na jednotlivých členských státech. Právě ty má vyřešit připravovaný český zákon o umělé inteligenci.

Ministerstvo průmyslu a obchodu představilo první návrh již v září 2025. Nejnovější verze z 27. října 2026 zohledňuje také změny evropské regulace přijaté v rámci tzv. AI Omnibusu. Návrh nyní prochází vládní fází legislativního procesu a jeho konečná podoba se ještě může změnit.

Kdo bude kontrolovat používání umělé inteligence?

Česká republika nepočítá se vznikem zcela nového úřadu pro umělou inteligenci. Dohled nad dodržováním evropských pravidel má být rozdělen mezi již existující instituce.

Hlavní roli má získat Český telekomunikační úřad (ČTÚ), který bude vykonávat obecný dozor nad dodržováním AI Aktu a současně působit jako jednotné kontaktní místo pro evropské instituce a ostatní členské státy.

Vedle něj budou mít své kompetence také:

• Česká národní banka (ČNB) – v oblastech spadajících do její působnosti, například u vybraných finančních služeb.
• Úřad pro ochranu osobních údajů (ÚOOÚ) – u vybraných systémů souvisejících se zpracováním osobních údajů.

Jeden AI systém přitom může zasahovat do několika oblastí současně. Bude proto důležité, aby jednotlivé úřady dokázaly své kompetence koordinovat a nedocházelo k překrývání kontrol.

Kontroly ve firmách: Co budou úřady prověřovat?

Dozorové orgány budou moci prověřovat, zda organizace dodržují požadavky evropského nařízení. U vysoce rizikových AI systémů může jít například o kontrolu:

• technické dokumentace,
• řízení a vyhodnocování rizik,
• zajištění lidského dohledu,
• posuzování shody systému s požadavky regulace.

Důležité je rozlišovat mezi poskytovatelem AI systému a organizací, která jej pouze používá. Vývojář systému pro automatizované hodnocení uchazečů o zaměstnání má jiné povinnosti než zaměstnavatel, který si takový nástroj pořídí a využívá ho při náboru.

Český návrh přitom nezavádí povinnost nechat si každý AI nástroj předem schválit. Vytváří však rámec pro kontrolu plnění evropských požadavků a řešení jejich případného porušení.

Pokuty až 35 milionů eur. A to není všechno!

Evropský AI Akt počítá s vysokými sankcemi. Za porušení nejzávažnějších zákazů mohou pokuty dosáhnout až 35 milionů eur nebo 7 % celosvětového ročního obratu podniku, podle toho, která částka je vyšší.

Český návrh na evropský sankční systém navazuje a upravuje také přestupky a pravidla jejich projednávání. Za nesplnění některých vnitrostátních registračních a aktualizačních povinností počítá s pokutou až 10 milionů korun.

Nejde samozřejmě o automatické pokuty za každé pochybení. Při jejich ukládání se mají zohledňovat okolnosti konkrétního případu, zejména povaha a závažnost porušení nebo jeho důsledky.

Návrh počítá také se zvláštní pětiletou promlčecí dobou, přičemž při jejím přerušení má odpovědnost zaniknout nejpozději po osmi letech od spáchání přestupku.

Pro firmy tak bude zásadní nejen nastavit odpovídající pravidla pro používání AI, ale také umět prokázat, že je skutečně dodržují. Důležitou roli bude hrát dokumentace, jasné rozdělení odpovědností a průběžné vyhodnocování rizik.

Prostor pro inovace: Vznikne regulační sandbox

Návrh nemyslí pouze na kontroly a sankce. Počítá také se zřízením tzv. regulačního sandboxu – kontrolovaného prostředí, ve kterém budou moci vývojáři testovat inovativní systémy umělé inteligence za stanovených podmínek.

Smyslem je umožnit technologickým společnostem spolupracovat s příslušnými orgány, lépe porozumět regulatorním požadavkům a ověřovat jejich splnění ještě před uvedením systému na trh.

Sandbox ovšem neznamená výjimku z právních předpisů ani možnost experimentovat bez odpovědnosti. Jeho zřizovatelem má být Úřad pro technickou normalizaci, metrologii a státní zkušebnictví (ÚNMZ), provoz zajistí Česká agentura pro standardizaci.

Pozor také na AI v kritické infrastruktuře

Další novinkou má být portál umělé inteligence v kritické infrastruktuře, který bude sloužit k evidenci vybraných AI systémů v případech stanovených evropským nařízením.

Nepůjde o plošný registr všech AI nástrojů používaných v České republice. Dotčené organizace však budou muset správně vyhodnotit, zda jejich systém do příslušné kategorie spadá a zda jim vzniká registrační nebo oznamovací povinnost.

Současně bude nutné zohlednit také další právní předpisy, například pravidla kybernetické bezpečnosti, ochrany osobních údajů nebo sektorovou regulaci.

Na český zákon nečekejte. Některé povinnosti platí už nyní!

Přestože český zákon zatím není schválený, neznamená to, že firmy a veřejné instituce mohou s přípravou čekat. Některé povinnosti vyplývající přímo z AI Aktu se již uplatňují. Patří mezi ně například zákaz vybraných praktik umělé inteligence nebo povinnost přijímat opatření na podporu AI gramotnosti.

Další požadavky, zejména ty týkající se vysoce rizikových AI systémů, se budou uplatňovat v následujících letech podle pravidel evropského nařízení a jeho změn.

Připravovaný český zákon tedy nepředstavuje začátek regulace umělé inteligence. Má především určit, kdo bude dodržování pravidel kontrolovat, jak budou kontroly probíhat a jaké sankce mohou za jejich porušení následovat. Firmy by proto měly řešit nejen to, jaké AI nástroje používají, ale také kdo za jejich používání odpovídá a zda dokážou soulad s právními požadavky doložit.