Odpovědnost firmy za AI: Jak na bezpečné využití umělé inteligence zaměstnanci?

Umělá inteligence (AI) se stává nezbytným pracovním nástrojem, který zvyšuje efektivitu a kvalitu práce. Pokud ji někdo dnes nepoužívá, bývá často vnímán jako zpátečník. S novými technologiemi však přicházejí i právní, bezpečnostní a reputační rizika. V tomto článku odpovíme na klíčovou otázku: Kdo odpovídá za způsob využití umělé inteligence na pracovišti?

Kdo nese odpovědnost za rozhodnutí a chyby AI?

Současné české ani evropské právo zatím neobsahuje specifickou úpravu odpovědnosti za rozhodnutí AI (původní záměr samostatné směrnice byl na úrovni EU opuštěn). Právní rámec se proto opírá o obecnou úpravu odpovědnosti za škodu:

• Občanský zákoník: ustanovení § 2909 a násl.
• Zákoník práce: ustanovení § 250 a násl.

Protože AI postrádá právní osobnost, nemůže nést odpovědnost za svá rozhodnutí sama. Tuto odpovědnost je nutné přičítat fyzickým nebo právnickým osobám.

Odpovědnost zaměstnavatele v pracovněprávních vztazích

V praxi ponese odpovědnost za rozhodnutí AI vůči třetím osobám primárně zaměstnavatel, který nástroj implementoval. Zaměstnavatel odpovídá za systémy AI stejně jako za jednání svých zaměstnanců. Pokud zaměstnanec udělá chybu, právně není rozdíl v tom, zda ji udělal sám, nebo s pomocí pracovního nástroje.

Kdy odpovídá poskytovatel AI systému?

Pokud je nesprávné rozhodnutí AI způsobeno vadou samotného systému, může za něj odpovídat poskytovatel. Zaměstnavateli by v takovém případě mohlo vzniknout právo na regres. Podmínkou je však to, aby zaměstnavatel implementoval AI pečlivě, zajistil testování a lidskou kontrolu.

Jak nastavit vnitřní pravidla? Interní směrnice pro AI

Správně nastavená pravidla pro používání AI při práci minimalizují rizika a pomáhají plnit požadavky GDPR i nového evropského AI Aktu. Ideálním řešením je interní směrnice, která je pro zaměstnance závazná.

Co musí obsahovat vzorová směrnice pro používání AI na pracovišti?

1. Účel a rozsah: Na koho se pravidla vztahují (zaměstnanci, externisté, dodavatelé).
2. Identifikace rizik: Rozlišení dle AI Aktu (zakázaná AI, vysokoryziková AI, nízkoriziková AI). Zvláštní pozornost vyžaduje lokálně provozovaná AI (on-premise), která nabízí lepší kontrolu dat.
3. Seznam schválených nástrojů: Prevence používání neověřených aplikací, které zvyšují bezpečnostní a reputační rizika.
4. Pravidla pro vkládání dat a GDPR: Zákaz vkládání důvěrných informací a osobních údajů klientů bez anonymizace či pseudonymizace.
5. Povinnost lidské kontroly: Zaměstnanci musí vždy kontrolovat přesnost výstupů z více zdrojů (AI může generovat chybné či zaujaté výsledky).
6. Kontrola a revize: Pravidelná aktualizace pravidel na základě technologických a legislativních změn.
7. Sankce: Opatření při porušení směrnice (doškolení, omezení přístupu, postihy u hrubých porušení).
8. Autorská práva k výstupům AI: Vyjasnění, že výstup AI nebývá autorským dílem, a stanovení postupu, jak s ním nakládat.
9. Implementace a školení: Srozumitelné seznámení týmu s pravidly a postupem hlášení incidentů.

Tip pro firmy: Úplný zákaz AI ve firmě není dobrý nápad. Vede k tomu, že zaměstnanci začnou AI používat skrytě („Shadow AI“), čímž firma ztrácí kontrolu nad firemními daty.

AI Akt a jeho dopad na HR a řízení zaměstnanců

Při implementaci nesmíte opomenout AI Akt, který zavádí přísnější povinnosti pro vysoce rizikové systémy AI. Mezi ty patří zejména nástroje používané v personalistice:

• Nábor a výběr kandidátů (cílení nabídek, třídění žádostí).
• Hodnocení uchazečů a zaměstnanců.
• Přidělování úkolů na základě individuálního chování či charakteristik.

U těchto systémů je povinný lidský dohled, transparentnost algoritmů a důkladné vyhodnocení rizik, aby se předešlo diskriminaci a nerovnému zacházení.

Shrnutí a doporučení

Systémy AI jsou velkým pomocníkem, ale za jejich chybná rozhodnutí odpovídá ve většině případů zaměstnavatel. Klíčem k úspěchu je prevence: jasná pravidla, schválené nástroje a důsledná lidská kontrola výstupů. Tím zajistíte nejen efektivitu, ale i soulad s GDPR a AI Aktem.

---

Potřebujete pomoci s bezpečným zavedením AI ve vaší firmě?

Nastavení interních pravidel, směrnic a souladu s AI Aktem může být pro management i HR oddělení náročné. Pokud hledáte partnera, který vám pomůže propojit moderní technologie s bezpečným pracovněprávním rámcem a efektivním řízením lidí, doporučujeme využít odborné služby HR Byznys Partner.

Zjistěte, jak vám HR Byznys Partner může pomoci s implementací AI a modernizací vašich procesů! ↘️