Južná Kórea prijala prísnu reguláciu AI, generovaný obsah má byť jasne označený

Južná Kórea vstúpila do novej fázy regulácie umelej inteligencie. Vláda tento týždeň uviedla do platnosti súbor zákonov, ktoré majú komplexne upraviť vývoj a používanie AI technológií.

Podľa Soulu ide o prvý ucelený právny rámec svojho druhu na svete, ktorý má posilniť bezpečnosť a dôveru verejnosti v rýchlo sa rozvíjajúci sektor.

Kým štát hovorí o nevyhnutnom kroku smerom k zodpovednému využívaniu umelej inteligencie, časť technologickej scény reaguje s obavami. Najmä startupy upozorňujú na nejasné formulácie zákona a varujú, že dodržiavanie nových pravidiel môže byť administratívne náročné a brzdiť inovácie v krajine, ktorá sa chce zaradiť medzi globálnu AI špičku.

Základom novej legislatívy je takzvaný AI Basic Act, ktorý zavádza povinnosť ľudského dohľadu pri využívaní „vysoko-dopadovej“ umelej inteligencie, teda systémov, ktorých zlyhanie by mohlo mať vážne následky. Zákon medzi ne zaraďuje napríklad použitie AI v jadrovej bezpečnosti, zásobovaní pitnou vodou, doprave, zdravotníctve či vo finančnom sektore, kde sa algoritmy používajú na hodnotenie klientov alebo schvaľovanie úverov.

Firmy musia zároveň používateľov vopred informovať o tom, že ich produkty alebo služby využívajú generatívnu alebo vysokodopadovú AI. Ak je výstup umelej inteligencie ťažko odlíšiteľný od reality, musí byť jasne označený. Ministerstvo vedy a informačných technológií tvrdí, že cieľom nie je obmedzovať technologický rozvoj, ale nastaviť pravidlá, ktoré podporia bezpečné a dôveryhodné nasadzovanie AI v praxi.

Zákon počíta s minimálne ročným prechodným obdobím, počas ktorého štát nebude ukladať administratívne sankcie. Následné pokuty však môžu byť citeľné. Napríklad neoznačenie generatívneho obsahu môže viesť k pokute až do výšky 30 miliónov wonov, teda približne 17-tisíc eur. Pre porovnanie, európsky AI Act, ktorého uplatňovanie sa bude zavádzať postupne do roku 2027, umožňuje ukladať pokuty až do výšky siedmich percent globálneho obratu.

Fakt, že kórejské pravidlá nadobúdajú účinnosť skôr než európske, vyvoláva medzi podnikateľmi nespokojnosť. Zástupcovia startupov upozorňujú, že viaceré pojmy v zákone sú formulované nejasne, čo zvyšuje regulačné riziko. Podľa nich hrozí, že firmy sa budú správať opatrnejšie, než by bolo technologicky nevyhnutné a uprednostnia menej inovatívne riešenia.

Prezident Lee Jae-myung uznal, že tieto obavy sú oprávnené a vyzval úradníkov, aby pri implementácii zákona viac komunikovali s priemyslom. Zdôraznil potrebu inštitucionálnej podpory pre startupy a mladé technologické firmy, aby regulácia neoslabila ich konkurencieschopnosť. Ministerstvo vedy avizovalo vznik poradenskej platformy a podporného centra, ktoré majú firmám pomôcť počas prechodného obdobia a zároveň pripustilo možnosť jeho predĺženia.