Klasifikácia systémov AI podľa rizika

Nariadenie EÚ o umelej inteligencii (EU AI Act) zavádza prístup založený na riziku. Každý AI systém sa zaraďuje do jednej zo štyroch kategórií podľa toho, akú mieru rizika predstavuje pre bezpečnosť, základné práva a živobytie ľudí. Od tejto kategórie sa následne odvíjajú regulačné povinnosti.

Nižšie nájdete prehľad všetkých štyroch úrovní rizika spolu s príkladmi a povinnosťami.

---

🚫 Neprijateľné riziko (zakázané)

AI systémy, ktoré predstavujú jasnú hrozbu pre bezpečnosť, živobytie a práva ľudí. V Európskej únii sú úplne zakázané.

Príklady:

• Sociálne skórovanie občanov
• Manipulatívne techniky zneužívajúce zraniteľnosť ľudí
• Biometrická kategorizácia citlivých údajov
• Hromadné rozpoznávanie tváre vo verejnom priestore

Regulačné povinnosti: Úplný zákaz používania a uvádzania na trh.

Právny základ: Čl. 5 EU AI Act (zakázané praktiky)

---

🔴 Vysoké riziko

AI systémy s významným vplyvom na zdravie, bezpečnosť, základné práva alebo prístup k službám – prípadne fungujúce ako bezpečnostný komponent produktu.

Príklady:

• Výber a hodnotenie zamestnancov (HR / nábor)
• Hodnotenie kreditného rizika zákazníkov
• AI v riadení kritickej infraštruktúry (rozvody plynu a energií)
• Systémy rozhodujúce o prístupe k základným službám

Regulačné povinnosti: Manažment rizík, ľudský dohľad, technická dokumentácia, kvalita dát, logovanie, transparentnosť, registrácia a posúdenie vplyvu.

Právny základ: Čl. 6 + Príloha III (požiadavky Čl. 8–15)

---

🟡 Obmedzené riziko

AI systémy, ktoré komunikujú s ľuďmi alebo generujú obsah. Vyžadujú transparentnosť – používateľ musí jasne vedieť, že ide o AI.

Príklady:

• Četboti a virtuálni asistenti pre zákazníkov
• Generovanie textu a obrázkov
• Deepfake obsah
• AI-generovaný verejný obsah

Regulačné povinnosti: Povinnosť transparentnosti – jasné označenie, že používateľ komunikuje s AI alebo že obsah vytvorila AI.

Právny základ: Čl. 50 EU AI Act (transparentnosť)

---

🟢 Minimálne riziko

AI systémy bez osobitných povinností podľa EU AI Act. Odporúčajú sa dobrovoľné opatrenia a kódexy správania.

Príklady:

• Spamové filtre
• Prognózovanie zásob a spotreby
• Optimalizácia bežných procesov
• AI vo filtrovaní e-mailov a v interných analýzach

Regulačné povinnosti: Bez osobitných povinností; odporúčané dobrovoľné dodržiavanie dobrých praktík a budovanie AI gramotnosti.

Právny základ: Bez osobitnej úpravy (dobrovoľné kódexy – Čl. 95)

---

Zhrnutie

Kategória rizika	Miera regulácie	Kľúčová povinnosť
🚫 Neprijateľné	Zákaz	Nesmie sa nasadzovať
🔴 Vysoké	Prísna	Komplexné posúdenie a dohľad
🟡 Obmedzené	Stredná	Transparentnosť voči používateľovi
🟢 Minimálne	Žiadna	Dobrovoľné dobré praktiky

Správne zaradenie AI systému do kategórie rizika je prvým krokom v procese AI Governance a rozhoduje o tom, aké povinnosti sa na daný systém vzťahujú.