AI nástroje v práci: Rizika, data a pravidla pro zaměstnance

Umělá inteligence se během posledních let stala běžnou součástí kancelářské práce. Zaměstnanci ji používají při tvorbě textů, analýze dat, přípravě prezentací, komunikaci se zákazníky nebo vyhledávání informací. AI tak může zvýšit produktivitu a zkrátit čas potřebný pro rutinní činnosti.

S jejím používáním ale vznikají také právní, bezpečnostní a personální rizika AI. Problematická může být především situace, kdy zaměstnanci začnou veřejně dostupné nástroje používat z vlastní iniciativy, aniž by je zaměstnavatel schválil nebo o jejich používání věděl. Přínosy AI pro firmy je proto potřeba spojit s jasnými pravidly pro zaměstnance.

Co je shadow AI a proč představuje problém?

Pojem shadow AI neboli stínová AI označuje situaci, kdy zaměstnanec používá AI nástroje mimo systémy schválené zaměstnavatelem.

Typickým příkladem je zaměstnanec, který vloží interní dokument do veřejně dostupného AI chatbotu, aby získal shrnutí textu, připravil odpověď klientovi nebo zpracoval analýzu. AI může být využívána také při tvorbě textů, přípravě AI prezentací nebo při AI komunikaci se zákazníky.

Motivací zaměstnance může být snaha zvýšit efektivitu práce. Současně ale může neúmyslně porušit interní pravidla, povinnost mlčenlivosti nebo pravidla ochrany osobních údajů.

Pro zaměstnavatele přitom není podstatné, zda pracovník používá ChatGPT nebo jiný nástroj. Rozhodující je především to, zda je daný nástroj schválený a jaká data do něj zaměstnanec zadává. Právě zde získává význam také odpovídající kontrola AI ve firmě.

🔐 Generativní AI a ochrana firemních dat

Používání AI přináší významné otázky také v oblasti, kterou představuje ochrana osobních údajů. Veřejně dostupná generativní AI často funguje na principu zaslání dat externímu poskytovateli služby.

Zvláštní pozornost je proto potřeba věnovat tomu, zda zaměstnanci do těchto systémů vkládají osobní údaje zaměstnanců, klientů nebo obchodních partnerů.

Rizikové mohou být například informace týkající se:

• mezd a odměňování,
• zdravotního stavu,
• hodnocení zaměstnanců,
• personálních spisů,
• obchodních tajemství,
• neveřejných smluvních informací.

Potenciálně rizikový však může být v zásadě jakýkoli interní dokument, který není určený pro veřejnost.

Zaměstnavatel nemusí vědět, jaké AI nástroje zaměstnanec používá, která data do nich zadává, jak jsou ukládána, zda nástroj data využije k dalšímu trénování modelu ani jak spolehlivé jsou jeho výstupy.

Právě práce s interními a citlivými informacemi proto propojuje používání AI s oblastmi, jako jsou únik dat nebo kybernetická bezpečnost.

AI může chybovat. Zaměstnanci musí umět její výstupy posoudit

Bezpečné používání AI není jen otázkou ochrany dat. Zaměstnanci by měli rozumět alespoň základním principům fungování těchto nástrojů a znát jejich omezení.

AI může generovat nepřesné, nebo dokonce zcela smyšlené informace. Její výstupy proto nelze automaticky považovat za správné.

Zaměstnanci by měli vědět, že:

• AI může vytvářet nepřesné nebo smyšlené informace,
• její výstupy je potřeba kontrolovat,
• kvalita odpovědi závisí na kvalitě zadání,
• některé modely mohou vykazovat zkreslení,
• použití AI nenahrazuje odborný úsudek zaměstnance.

Stále důležitější proto bude AI gramotnost. Stejně jako zaměstnavatelé školí zaměstnance v oblasti ochrany osobních údajů nebo kybernetické bezpečnosti, své místo má také školení AI.

Jeho cílem nemá být zaměstnance od používání AI odrazovat. Zaměstnavatel by měl naopak vytvořit prostředí, ve kterém budou zaměstnanci AI využívat bezpečně a odpovědně.

Jaká pravidla pro AI musí firma nastavit?

Zaměstnanci potřebují jasně vědět, jaké AI nástroje při práci používat mohou a jak s nimi mají zacházet. Základem je proto vnitřní předpis, který stanoví:

• jaké AI nástroje jsou schválené,
• jaká data do nich mohou zaměstnanci zadávat,
• jaké typy úkolů může AI řešit,
• kdo odpovídá za správnost výsledků,
• zda musí být u výstupu uvedeno, že byl zpracován pomocí AI.

Taková pravidla umožňují využívat výhody AI a zároveň zaměstnancům jasně určují hranice jejího používání při práci.

💡 Praktický tip: Propojte pravidla pro AI se školením kybernetické bezpečnosti

Samotné stanovení pravidel nestačí. Zaměstnanci by měli rozumět tomu, proč je důležité chránit interní a osobní údaje, proč nemají neveřejné dokumenty zadávat do neschválených nástrojů a proč musí výsledky AI kontrolovat.

Doporučení

Pravidla pro používání AI proto přirozeně doplňuje vzdělávání v oblasti ochrany dat a kybernetické bezpečnosti. Pokud tuto oblast ve firmě nastavujete nebo potřebujete prohloubit znalosti odpovědných pracovníků, vyplatí se na téma navázat také praktickým vzděláváním v oblasti kybernetické bezpečnosti.