Právo a umelá inteligencia: slovenská učebnica, ktorá berie AI vážne aj právne

Keď na školeniach padne otázka „a čo na to zákon?", zvyčajne nasleduje pár minút, počas ktorých vysvetľujem, že AI Akt existuje, je to nariadenie EÚ a áno, týka sa aj vás. Tých, ktorí chcú vedieť viac však môžem smerovať ku kvalitnému odbornému textu. Táto učebnica totiž robí presne to, čo väčšina populárnych kníh o AI nerobí: berie technológiu a systematicky ju prechádza cez jednotlivé právne odvetvia — od regulácie a zodpovednosti cez duševné vlastníctvo až po etiku.

Autorský kolektív vedú Matúš Mesarčík a Zoltán Gyurász z Ústavu práva informačných technológií a práva duševného vlastníctva, spolu so šesticou ďalších autorov. Vydala ju samotná Právnická fakulta UK v roku 2024 a — čo oceňujem — je dostupná zadarmo ako elektronická kniha pod licenciou Creative Commons. Nemusíte teda nič kupovať, stačí si ju stiahnuť a prečítať.

Technický úvod, ktorý sa nebojí matematiky

Prvé, čo ma pri učebnici prekvapilo, je, že sa nezačína paragrafmi, ale neurónovými sieťami. Celá úvodná kapitola je poctivý technologický úvod — strojové učenie, hlboké učenie, spracovanie prirodzeného jazyka, generatívna AI, veľké jazykové modely. Autori sa neboja ukázať aj rovnicu lineárnej regresie či vysvetliť, čo je stratová funkcia alebo gradientový zostup.

Je to logické rozhodnutie: bez pochopenia toho, ako model funguje, sa nedá zmysluplne diskutovať o tom, kto zodpovedá za jeho chybu alebo či môže byť autorom diela. Ako píšu sami autori, model je „len" matematická rovnica, ktorá sa pomocou trénovacích údajov snaží nájsť vzťah medzi vstupom a výstupom.

Keď dnes spoločnosti zavádzajú programy s umelou inteligenciou, s najväčšou pravdepodobnosťou používajú strojové učenie.

Táto veta by mala visieť v každej firme, ktorá si myslí, že „robí AI". Odčaruje totiž veľa mystiky — a učebnica ju systematicky odčarúva ďalej, keď vysvetľuje halucinácie LLM, problematiku skreslenia (bias) a spravodlivosti či otázku vysvetliteľnosti modelov.

Jadro je regulácia — a tu je kniha výborná

Ťažisko učebnice tvorí právna regulácia AI, a to je časť, kde autori hrajú na domácej pôde. Prechádzajú tri roviny regulácie: cez „tvrdé" právo, cez „mäkké" právo (odporúčania, etické kódexy) a cez technické normy a štandardy. Potom sa pustia do AI Aktu — základnej filozofie, pôsobnosti, zakázaných praktík a požiadaviek na vysokorizikové systémy.

Práve prehľad zakázaných praktík a vysokorizikových oblastí je niečo, čo by si mal prečítať každý HR manažér a každý, kto vo firme rieši nábor alebo hodnotenie zamestnancov. Systémy AI na filtrovanie žiadostí o zamestnanie, hodnotenie uchádzačov na pohovoroch či monitorovanie výkonnosti pracovníkov spadajú medzi vysokorizikové — a to prináša konkrétne povinnosti.

Kauzy, ktoré urobia z paragrafov príbeh

Čo sa mi na knihe veľmi páčilo, sú konkrétne prípady, ktoré autori používajú na ilustráciu abstraktných otázok. Zoberme právnu subjektivitu. Namiesto suchej teórie dostanete príbeh robota Sophia, ktorému Saudská Arábia v roku 2017 udelila štátne občianstvo, a robota Shibuya Mirai, ktorý získal „pobyt" v Tokiu. Autori potom chladnokrvne ukážu, že z pohľadu práva boli oba kroky skôr PR aktivitou než právnym aktom — ani jeden z robotov totiž nespĺňal hmotnoprávne podmienky na získanie občianstva.

Podobne v kapitole o duševnom vlastníctve dostanete kauzu systému DABUS Dr. Stephena Thalera, ktorý sa pokúsil zapísať AI ako vynálezcu patentu. Patentové úrady v USA, Európe aj Británii žiadosti zamietli s tým, že vynálezca musí byť fyzická osoba — a britský Najvyšší súd to v decembri 2023 definitívne potvrdil. Spomína sa aj slávna „opičia selfie" (kauza Naruto), ktorá otvorila otázku, kto vlastní autorské práva k dielu, ktoré nevytvoril človek.

Tieto príbehy sú presne to, čo z učebnice robí čitateľný text a nie zbierku poznámok pod čiarou.

Na čo si dať pozor

Je to učebnica, a tak sa aj číta. Ak čakáte pútavé rozprávanie v štýle populárno-náučných bestsellerov, budete sklamaní. Text je hutný, právnicky presný a miestami náročný — najmä kapitoly o zodpovednosti za škodu či o technických normách vyžadujú sústredenie. Netechnický čitateľ sa navyše v úvodnej kapitole o strojovom učení možno miestami zapotí, hoci autori sa snažia vysvetľovať zrozumiteľne.

Druhá vec: keďže ide o rýchlo sa meniacu oblasť, časť o AI Akte odráža stav v čase písania. AI Akt medzičasom postupuje do účinnosti po fázach a niektoré detaily sa dolaďujú vo vykonávacích predpisoch a usmerneniach. Kniha je výborný základ na pochopenie logiky a filozofie regulácie, ale pri konkrétnych termínoch a povinnostiach si vždy overte aktuálny stav.

A do tretice — nečakajte návod „ako na to vo firme". Toto nie je príručka compliance ani manuál nasadenia AI. Je to právno-teoretický rámec. Praktické kroky si z neho odvodíte, ale niekto vám ich naservírovať nechce a ani to nie je cieľom učebnice.

Komu knihu odporúčam

Predovšetkým študentom práva a právnikom, ktorí sa chcú v téme zorientovať — pre nich je to jasná voľba a na Slovensku vlastne bezkonkurenčná. Ale odporúčam ju aj širšie: manažérom, ľuďom z compliance a governance, HR špecialistom a všetkým, ktorí vo firmách rozhodujú o nasadzovaní AI a chcú rozumieť tomu, čo za pár rokov bude tvrdá regulačná realita. Ak ste na niektorom z mojich školeníchceli vedieť „a čo na to právo" — toto je vaša ďalšia zastávka.

Vzhľadom na to, že kniha je zadarmo a dostupná online, nemáte čo stratiť.

---

O knihe v skratke

• Autori: Matúš Mesarčík, Zoltán Gyurász a kolektív (Michal Rampášek, Ladislav Rampášek, Jana Cihanová, Dominika Pintérová, Sandra Žatková)
• Celý názov: Právo a umelá inteligencia (učebnica, 1. vydanie)
• Vydavateľ: Právnická fakulta Univerzity Komenského v Bratislave
• Rok vydania: 2024
• Jazyk: slovenčina
• Formát: e-kniha (PDF), voľne dostupná pod licenciou Creative Commons 4.0 (BY-NC-ND); ISBN 978-80-7160-715-1
• Pre koho: študenti práva, právnici, manažéri a odborníci z oblasti compliance/governance a HR, ktorí chcú rozumieť právnemu rámcu regulácie AI