AI Akt poprvé v akci od 2. 2. 2025

Od srpna 2024 je v platnosti AI Akt – nařízení, které stanovuje jednotná pravidla pro využívání umělé inteligence v Evropské unii. Nyní přichází první fáze jeho účinnosti a od 2. února 2025 se zavádí zákaz používání některých AI systémů, které jsou považovány za nepřijatelné riziko pro společnost.

Tento zákaz se vztahuje na technologie, jež mohou být zneužity k manipulaci, diskriminaci či narušování soukromí a které představují hrozbu pro základní práva chráněná evropskou legislativou. Cílem je zamezit jejich využívání na území EU a tím vytvořit bezpečnější a transparentnější prostředí pro rozvoj a používání umělé inteligence.

Firmy, které AI vyvíjejí nebo využívají, měly posledních šest měsíců na to, aby analyzovaly své systémy a posoudily, zda se jich zákaz týká. Pokud ano, musí neprodleně zajistit jejich úpravu nebo ukončit jejich používání. Neplnění této povinnosti může vést k vysokým pokutám, dosahujícím až 35 milionů eur nebo 7 % celosvětového ročního obratu společnosti.

Zakázané AI systémy

Konkrétně se zákaz týká následujících AI systémů:

  • Manipulativní a podprahové technologie – AI systémy, které ovlivňují uživatele bez jejich vědomí pomocí klamavých či podprahových technik, stejně jako technologie využívající zranitelnosti dětí, seniorů nebo jiných citlivých skupin s cílem ovlivnit jejich chování.
  • Systémy sociálního skórování – AI využívající sociální chování, osobnostní rysy nebo jiné charakteristiky k hodnocení jednotlivců či skupin, kde výsledné skóre vede k nepřiměřenému či diskriminačnímu zacházení.
  • Prediktivní policejní systémy – Technologie určující pravděpodobnost spáchání trestného činu na základě osobnostních znaků, místo konkrétního chování, což je v rozporu s presumpcí neviny.
  • Neoprávněné rozpoznávání obličejů – AI systémy, které shromažďují a využívají databáze obličejových snímků získané necíleným sběrem z internetu nebo kamerových záznamů, což ohrožuje soukromí občanů.
  • Sledování emocí na pracovišti a ve školách – Technologie analyzující biometrické údaje zaměstnanců nebo studentů za účelem rozpoznání jejich emocí, s výjimkou lékařských a bezpečnostních aplikací.
  • Biometrická kategorizace – Systémy třídící jednotlivce podle biometrických údajů s cílem určit jejich rasu, politické názory nebo náboženské přesvědčení, pokud neslouží ke specifickým právním účelům.
  • Dálková biometrická identifikace na veřejných místech – S výjimkou přesně vymezených situací, jako je pátrání po pohřešovaných osobách nebo prevence závažných trestných činů.

Co musí firmy udělat?

Pokud vaše společnost využívá AI systémy, je nejvyšší čas prověřit jejich funkčnost a zjistit, zda nepatří mezi zakázané technologie. Doporučuje se provést podrobný audit, identifikovat, zda jste pouze uživateli AI nebo ji sami vyvíjíte, a vyhodnotit rizikovou kategorii jednotlivých systémů podle AI Aktu.

Pokud se ukáže, že některý ze systémů spadá mezi zakázané, je nutné jej co nejrychleji upravit, přestat jej používat nebo zastavit jeho uvádění na evropský trh. Nedodržení těchto pravidel může vést k vážným právním i finančním důsledkům.

AI Akt představuje první zásadní krok k regulaci umělé inteligence v EU. Jeho cílem je zajistit odpovědné a etické využívání těchto technologií a předejít jejich potenciálnímu zneužití na úkor společnosti.

Další články

Rozdělení konstrukcí podle norem a nová evropská norma pro požární klapky

Stávající systém norem pro požární bezpečnost staveb často naráží na své limity. Rostoucí technické i environmentální požadavky vyvolávají potřebu nových...

Nový postup atestace eSSL

15. 9. 2025 vydala Česká agentura pro standardizaci nové testovací scénáře pro atestaci eSSL. Celý proces atestací letos funguje podle...

Ministerstvo vnitra aktualizovalo metodiky k ochraně měkkých cílů

Ochrana veřejně přístupných míst není jednorázový úkol, ale proces, který vyžaduje spolupráci státu, samospráv i samotných provozovatelů. Ministerstvo vnitra ČR...

Revoluce v účetnictví: povinná digitalizace a zákaz faktur v PDF?

Do pár let čeká všechny firmy v EU povinná elektronická fakturace a digitální reporting. Změny slibují jednodušší administrativu i lepší...

Legislativní noviny právě vyšly

Dovolujeme si vás upozornit, že právě teď startují desítky obřích legislativních změn pro firmy, veřejnou správu i školy, které mění...

Nový zákon o kybernetické bezpečnosti: Tisíce českých firem čeká nový režim

Hned dvě bouřlivé novely školského zákona poznamenají nadcházející školní rok. Zásadní změny pro školy budou účinné již od 1. září...