AI Akt poprvé v akci od 2. 2. 2025

Od srpna 2024 je v platnosti AI Akt – nařízení, které stanovuje jednotná pravidla pro využívání umělé inteligence v Evropské unii. Nyní přichází první fáze jeho účinnosti a od 2. února 2025 se zavádí zákaz používání některých AI systémů, které jsou považovány za nepřijatelné riziko pro společnost.

Tento zákaz se vztahuje na technologie, jež mohou být zneužity k manipulaci, diskriminaci či narušování soukromí a které představují hrozbu pro základní práva chráněná evropskou legislativou. Cílem je zamezit jejich využívání na území EU a tím vytvořit bezpečnější a transparentnější prostředí pro rozvoj a používání umělé inteligence.

Firmy, které AI vyvíjejí nebo využívají, měly posledních šest měsíců na to, aby analyzovaly své systémy a posoudily, zda se jich zákaz týká. Pokud ano, musí neprodleně zajistit jejich úpravu nebo ukončit jejich používání. Neplnění této povinnosti může vést k vysokým pokutám, dosahujícím až 35 milionů eur nebo 7 % celosvětového ročního obratu společnosti.

Zakázané AI systémy

Konkrétně se zákaz týká následujících AI systémů:

• Manipulativní a podprahové technologie – AI systémy, které ovlivňují uživatele bez jejich vědomí pomocí klamavých či podprahových technik, stejně jako technologie využívající zranitelnosti dětí, seniorů nebo jiných citlivých skupin s cílem ovlivnit jejich chování.
• Systémy sociálního skórování – AI využívající sociální chování, osobnostní rysy nebo jiné charakteristiky k hodnocení jednotlivců či skupin, kde výsledné skóre vede k nepřiměřenému či diskriminačnímu zacházení.
• Prediktivní policejní systémy – Technologie určující pravděpodobnost spáchání trestného činu na základě osobnostních znaků, místo konkrétního chování, což je v rozporu s presumpcí neviny.
• Neoprávněné rozpoznávání obličejů – AI systémy, které shromažďují a využívají databáze obličejových snímků získané necíleným sběrem z internetu nebo kamerových záznamů, což ohrožuje soukromí občanů.
• Sledování emocí na pracovišti a ve školách – Technologie analyzující biometrické údaje zaměstnanců nebo studentů za účelem rozpoznání jejich emocí, s výjimkou lékařských a bezpečnostních aplikací.
• Biometrická kategorizace – Systémy třídící jednotlivce podle biometrických údajů s cílem určit jejich rasu, politické názory nebo náboženské přesvědčení, pokud neslouží ke specifickým právním účelům.
• Dálková biometrická identifikace na veřejných místech – S výjimkou přesně vymezených situací, jako je pátrání po pohřešovaných osobách nebo prevence závažných trestných činů.

Co musí firmy udělat?

Pokud vaše společnost využívá AI systémy, je nejvyšší čas prověřit jejich funkčnost a zjistit, zda nepatří mezi zakázané technologie. Doporučuje se provést podrobný audit, identifikovat, zda jste pouze uživateli AI nebo ji sami vyvíjíte, a vyhodnotit rizikovou kategorii jednotlivých systémů podle AI Aktu.

Pokud se ukáže, že některý ze systémů spadá mezi zakázané, je nutné jej co nejrychleji upravit, přestat jej používat nebo zastavit jeho uvádění na evropský trh. Nedodržení těchto pravidel může vést k vážným právním i finančním důsledkům.

AI Akt představuje první zásadní krok k regulaci umělé inteligence v EU. Jeho cílem je zajistit odpovědné a etické využívání těchto technologií a předejít jejich potenciálnímu zneužití na úkor společnosti.