18/02/2026
AI ve firmách už dávno není jen hračka pro nadšence. V roce 2025/2026 se začíná řešit hlavně tohle: kdo u vás AI používá, z čeho bere podklady, jak kontrolujete výstupy a kdo za ně ručí.
EU na to reaguje pravidly zvanými AI Act. Neříká „AI zakázat“. Říká: záleží na tom, k čemu AI používáte — a podle rizika vám přibývají povinnosti.
Jaké jsou úrovně rizika (zjednodušeně):
🟡 Minimal / no risk – většina běžných použití, bez speciálních povinností (ale interní pravidla se vyplatí).
🟠 Limited risk – hlavně transparentnost: ať je jasné, že jde o AI, a u syntetického obsahu/deepfake aby nebyl uživatel klamán.
⚠️ High-risk – použití s dopadem na bezpečnost nebo práva (např. zaměstnání, vzdělávání, přístup ke službám, infrastruktura). Tady už musíte mít řízení rizik: dokumentaci, kvalitu dat, testování, logy, lidský dohled a procesy.
🚫 Unacceptable risk – použití, které může zásadně škodit (např. manipulace, zneužití zranitelnosti, sociální scoring; u biometriky velmi přísné limity).
Pojmy, které firmy často nemají pod kontrolou:
🔹 AI literacy = lidé, co AI používají, musí vědět kdy kontrolovat, co je riziko a kdo odpovídá. Ne „prompty“, ale práce s chybami a odpovědností.
🔹 Governance (kontrolní rámec) = nastavení odpovědností, procesů a dohledu, aby použití AI bylo prokazatelné, kontrolované a bezpečné.
🔹 GPAI (General-Purpose AI)
To jsou obecné AI modely použitelné na spoustu věcí (texty, shrnutí, asistence). U nich část povinností míří hlavně na poskytovatele, ale firmám to připomíná: vědět jaký model používáte, od koho, kde běží a jaké má limity — protože výstupy dopadají na vaši značku.
👮 Kdo to hlídá a kdo trestá?
Dohlíží národní dozorové orgány; u GPAI hraje klíčovou roli i EU AI Office. Sankce mohou být až 35 mil. € / 7 % obratu (podle typu porušení).
Co si odnést teď (rychle a prakticky):
✅ sepsat, kde všude AI používáte (i přes dodavatele),
✅ určit rizikovost,
✅ nastavit kontrolu výstupů + odpovědnost.
👉 Anketa: Co je u vás ve firmě nejslabší?
A) zdroje/datové podklady B) kontrola výstupů C) odpovědnost
Napište A/B/C a rozebereme to v komentáři!