Nové nařízení Evropské unie o AI schváleno

Evropský parlament schválil 13. 4. 2024 nařízení označované jako Akt o umělé inteligenci (AI Act). Jde o je první komplexní zákon o umělé inteligenci na světě. Jeho cílem je regulovat používání a nasazení systémů umělé inteligence v členských státech, aby tyto systémy byly bezpečné, řídily se právními předpisy a byly v souladu se základními hodnotami EU.

Systémy umělé inteligence jsou v nařízení rozděleny do kategorií a posuzovány podle úrovně rizika. Například nepřijatelné riziko představují systémy, které jsou považovány za hrozbu a budou zakázány. Patří sem například kognitivní manipulace s chováním lidí nebo specifických zranitelných skupin (věk, handicap), přidělování sociálního kreditu nebo biometrické identifikační systémy v reálném čase a na dálku.

Za vysoce rizikové jsou považovány systémy s negativním dopadem na bezpečnost nebo základní práva, například bankovní a pojišťovací systémy, zdravotnické systémy využívající AI k určení diagnózy či autonomní vozidla. Takové systémy budou muset splňovat řadu požadavků.