Na regulácii používania umelej inteligencie sa inštitúcie EÚ zhodli a jej schválenie sa blíži do „finále“. Čo to bude v praxi znamenať pre podnikateľov na Slovensku?
Aktualizácia k 5.8.2024: Akt o AI nadobudol účinnosť 1. augusta 2024. A hoci sa bude plne uplatňovať o dva roky neskôr, niektoré časti začnú platiť skôr - napr. zákaz systémov s neprijateľným rizikom začne platiť po šiestich mesiacoch od nadobudnutia účinnosti nariadenia, teda od februára 2025.
V decembri 2023 sa Európsky parlament dohodol s Radou na znení kompromisného textu nariadenia o umelej inteligencii. Hoci sa formálne schválenie očakáva až v apríli, podnikatelia by mali začať s prípravou na dodržiavanie podmienok nového nariadenia už teraz.
Už na začiatku musel Akt o umelej inteligencii prejsť zmenami
Vzhľadom na rýchly technologický rozvoj umelej inteligencie a jej použitie aj s presahom do politiky (napríklad, keď je AI využívaná na deepfake videá alebo nasadzovaná na sociálne bodovanie obyvateľstva), sa EÚ rozhodla pri riešení výziev súvisiacich s umelou inteligenciou konať jednotne. Preto v apríli 2021 prišla Európska Komisia s tzv. Aktom o umelej inteligencii. Komisia tvrdí, že je v záujme EÚ, aby bola svetovým lídrom vo vývoji udržateľnej, bezpečnej, etickej a dôveryhodnej umelej inteligencie, ktorá bude ľuďom slúžiť, nie ich ohrozovať.
Pre rýchly vývoj AI sa ale musel návrh regulácie v decembri 2022 narýchlo meniť. Dôvodom bol masívny nástup nástroja ChatGPT, ktorý začala používať široká verejnosť. Avšak, až na konci roka 2023 sa zástupcovia Európskeho parlamentu (EP) dohodli s členskými štátmi na kompromisnom znení. V júni 2023 sa k návrhu Komisie vyjadril EP a koncom minulého roka sa zástupcovia EP dohodli s členskými štátmi (teda s Radou) na kompromisnom znení textu. Definitívne schválenie regulácie AI sa očakáva na konci apríla 2024. S určitosťou však vieme povedať, že návrh bude schválený a zverejnený v úradnom vestníku EÚ (zbierka zákonov EÚ) pred voľbami do Európskeho parlamentu v júni 2024. Čo obsahuje vôbec prvá regulácia umelej inteligencie na svete?
Čo je umelá inteligencia – legislatívna definícia
Akt o umelej inteligencii definuje systém umelej inteligencie ako „strojový systém navrhnutý na fungovanie s rôznou úrovňou autonómie, ktorý môže po nasadení vykazovať adaptabilitu a ktorý pre explicitné alebo implicitné ciele odvodzuje zo vstupných údajov, ktoré dostáva, ako generovať výstupy, ako sú predpovede, obsah, odporúčania alebo rozhodnutia, ktoré môžu ovplyvniť fyzické alebo virtuálne prostredie." Táto definícia, ktorú využíva Komisia vo svojom právnom akte zodpovedá aj najnovšej definícií OECD.
Kľúčovými sú slová "odvodzuje" a "autonómia", ktoré jasne odlišujú systém umelej inteligencie od akéhokoľvek iného softvéru, ktorého výstup je vopred určený (ak platí „x“, potom sa stane „y“) prísnym algoritmom. Táto definícia je zámerne široká, aby sa zabezpečilo, že zákon o umelej inteligencii v blízkej budúcnosti nezastará.
Znenie dohody
Berúc do úvahy vyššie uvedenú definíciu umelej inteligencie, návrh zavádza tri kategórie umelej inteligencie, ktoré sú orientované na koncepciu rizika:
- neprijateľné riziko,
- vysoké riziko,
- minimálne riziko.
Neprijateľné riziko
Do tejto kategórie spadajú všetky systémy umelej inteligencie s neprijateľnou úrovňou rizika pre bezpečnosť ľudí. Využívanie takýchto systémov AI bude zakázané. Medzi ne napríklad patrí:
- kognitívna manipulácia správania ľudí alebo špecifických zraniteľných skupín s cieľom obísť slobodnú vôľu používateľa (napr. hračky s hlasovým asistentom, ktoré nabádajú neplnoletých k nebezpečnému správaniu);
- sociálne bodovanie - klasifikácia ľudí na základe správania, sociálno-ekonomického postavenia alebo osobných charakteristík;
- systémy biometrickej identifikácie v reálnom čase a na diaľku, ako napríklad rozpoznávanie tváre;
- systémy rozpoznávania emócií používané na pracoviskách.
Zákaz biometrickej identifikácie v reálnom čase na účely presadzovania práva bol predmetom mnohých diskusií v európskych inštitúciách. Ide napríklad o situácie, kedy by niekto vedel zoskenovaním tváre človeka na ulici identifikovať pomocou AI o koho ide. Zákaz sa ale nevzťahuje na prípady, keď sa tieto systémy používajú na špecifické účely ako napríklad vyhľadávanie obetí obchodovania s ľuďmi či sexuálneho vykorisťovania, alebo na prevenciu teroristických útokov. Verejnosť sa však nemusí obávať, že by si v dôsledku regulácie nemohla odblokovať svoj mobilný telefón alebo overiť identitu v aplikácii pomocou tvárovej biometrie, pretože na tieto úkony sa zákaz nevzťahuje.
Pokiaľ ide o sankcie, zapojenie sa do zakázaných postupov v oblasti umelej inteligencie by mohlo viesť k pokutám až do výšky 40 miliónov eur alebo do 7 % celosvetového ročného obratu spoločnosti, v závislosti od toho, ktorá suma je vyššia. Pokuty by však podľa návrhu boli „primerané" a zohľadňovali by postavenie malých poskytovateľov na trhu, čo naznačuje, že pre začínajúce firmy by mohli existovať flexibilnejšie pravidlá.
Vysoké riziko
Najväčšia časť legislatívy sa venuje tejto kategórii. Tu zaradené systémy budú podliehať prísnej regulácii. Legislatíva rozlišuje dva typy vysoko rizikových systémov umelej inteligencie:
- Umelá inteligencia určená na použitie ako výrobok (alebo bezpečnostná zložka výrobku), na ktorý sa vzťahujú osobitné právne predpisy EÚ, ako napríklad civilné letectvo, bezpečnosť vozidiel, námorné zariadenia, hračky, výťahy, tlakové zariadenia a osobné ochranné prostriedky.
- Systémy umelej inteligencie patriace do ôsmich oblastí, ktoré musia byť zaregistrované v databáze EÚ:
- Biometrická identifikácia a kategorizácia fyzických osôb,
- Riadenie a prevádzka kritickej infraštruktúry,
- Vzdelávanie a odborná príprava,
- Zamestnanosť, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti,
- Prístup k základným súkromným službám a verejným službám a dávkam a ich využívanie,
- Vymáhanie práva,
- Migrácia, azyl a riadenie hraničných kontrol,
- Pomoc pri právnom výklade a uplatňovaní práva.
Poskytovatelia vysokorizikových systémov umelej inteligencie budú musieť spĺňať prísne požiadavky na zabezpečenie ich dôveryhodnosti, transparentnosti a zodpovednosti. Okrem iných povinností musia:
- vykonávať hodnotenia rizík,
- používať dôveryhodné/overené dáta,
- dokumentovať svoje technické a etické rozhodnutia,
- viesť záznamy o výkonnosti svojich systémov,
- informovať používateľov o povahe a účele svojich systémov,
- umožniť ľudský dohľad a zásah a
- zabezpečiť presnosť, robustnosť a kybernetickú bezpečnosť.
Musia tiež otestovať súlad svojich systémov s pravidlami pred ich uvedením na trh alebo do prevádzky a zaregistrovať svoje systémy v databáze EÚ, ktorá bude prístupná verejnosti.
Minimálne riziko
Do tejto kategórie spadá väčšina systémov umelej inteligencie. Napríklad chatboty, nástroje, ktoré pomocou AI vytvárajú obrázky, zvuky či videá, alebo spamové filtre budú podliehať minimálnym regulačným povinnostiam. Ich povinnosťou bude informovať používateľov o tom, že komunikujú so systémom AI, a umožniť im rozhodnúť sa, či ho chcú ďalej používať. Generatívne modely AI, ako napríklad ChatGPT, musia byť tiež navrhnuté a vyškolené tak, aby sa zabránilo generovaniu nezákonného obsahu a ich tvorcovia musia zverejňovať súhrny údajov chránených autorskými právami, ktoré sa použili na školenie. Okrem týchto základných pravidiel sa budú môcť spoločnosti zaviazať dodržiavať dobrovoľné dodatočné kódexy správania pri týchto aplikáciách.
Nové pravidlá si vyžiadali nový úrad na ich dohliadanie a vymáhanie
V súvislosti s riadením nových pravidiel na vnútroštátnej úrovni bude dohliadať na ich dodržiavanie vnútroštátny orgán dohľadu nad trhom. Európska koordinácia bude zabezpečená novým úradom pre umelú inteligenciu v rámci Európskej komisie, ktorý bude dohliadať aj na vykonávanie a presadzovanie nových pravidiel pre modely umelej inteligencie na široké použitie. Tento úrad bude prvým na svete, ktorý bude presadzovať záväzné pravidlá pre umelú inteligenciu.
Koho sa nové povinnosti dotknú?
Na prvý pohľad sa zdá, že nariadenie zasiahne len poskytovateľov vysoko rizikových systémov AI, avšak nové povinnosti si v legislatíve sa dotknú aj nasadzovateľov takýchto systémov či ich dovozcov, alebo distribútorov. (Príklad pre upresnenie pojmov - firma X ako poskytovateľ ponúka služby AI robota na zametanie ulíc. Magistrát mesta Y ako nasadzovateľ si ho prenajme od firmy X na 10 rokov.)
Povinnosti dovozcu a distribútora sa týkajú najmä overovania, či je vysokorizikový systém AI, ktorý dovážajú alebo distribuujú (môže ísť o prípad, kedy je systém vyvinutý v Číne, no „donesie“ a začne ho používať slovenská firma v našej krajine), v súlade s predpismi. Všeobecne povedané, dovozca musí overiť zhodu systému prostredníctvom overenia rôznych dokumentov, zatiaľ čo distribútor je povinný overiť zhodu CE (conformité européenne).
Najbližší vývoj
Tak ako už bolo spomenuté, tak akt o umelej inteligencii čakajú už len formálne kroky. Po dosiahnutí kompromisu v tzv. trialógoch na konci roka 2023 musí kompromisný návrh odobriť na plenárnom zasadnutí Európsky parlament. Ak sa nič zásadne nestane, tak tento krok by sa mal udiať na plenárnom zasadnutí 10-11 apríl 2024. Následne to isté musí urobiť aj Rada. To sa očakáva bezprostredne po schválení Európskym parlamentom.
Implementačné lehoty
Akt o umelej inteligencii nadobudne účinnosť 20 dní po jeho uverejnení v Úradnom vestníku EÚ. Po nadobudnutí účinnosti sa budú uplatňovať tieto lehoty na dosiahnutie súladu:
- 6 mesiacov - začne sa presadzovanie zakázaných praktík v oblasti umelej inteligencie.
- 12 mesiacov - pre systémy spadajúce do kategórie s minimálnym rizikom.
- 24 mesiacov - pre vysoko rizikové systémy patriace do ôsmich oblastí, ktoré sú vymenované vyššie.
- 36 mesiacov - pre vysoko rizikové systémy, na ktoré sa vzťahujú osobitné právne predpisy EÚ, ako napríklad civilné letectvo, bezpečnosť vozidiel, námorné zariadenia, hračky, výťahy, tlakové zariadenia a osobné ochranné prostriedky.
Na čo sa majú podnikatelia pripraviť?
Zatiaľ čo sa čaká na formálne prijatie zákona o umelej inteligencii (a jeho plnú platnosť), firmy, ktoré používajú alebo plánujú používať systémy umelej inteligencie, by mali začať riešiť vplyvy mapovaním svojich procesov a posudzovaním úrovne súladu svojich systémov umelej inteligencie s novými pravidlami.
Ak spoločnosť v EÚ používa alebo plánuje nasadiť systémy umelej inteligencie, je najvyšší čas urobiť prvé kroky na dosiahnutie súladu s takmer hotovým nariadením o umelej inteligencii:
- oboznámiť sa so zákonom a posúdiť, či sa bude týkať aj tej-ktorej spoločnosti,
- určiť kategórie rizík daných systémov umelej inteligencie,
- určiť svoju úlohu v dodávateľskom reťazci,
- vyhľadať poradenstvo, aby sa firma vyhla prekvapeniam.
Vhodné je odpovedať si včas aj na tieto otázky:
- Má firma v tíme človeka, ktorý sa bude zaoberať zákonom o umelej inteligencii?
- Kto bude zodpovedný za dodržiavanie tohto zákona?
Zaoberanie sa technologickou, dátovou a kybernetickou legislatívou v spojitosti s Aktom o umelej inteligencii si bude vyžadovať multidisciplinárny a kontinuálny prístup. Zdá sa, že na dodržiavanie týchto pravidiel nebude postačovať jednodňové školenie.
