EÚ pripravuje reguláciu AI, rozpoznávanie tvárí na verejnosti je spornou témou

Po dvojročných rokovaniach Európsky parlament v máji tohto roka schválil návrh pravidiel na reguláciu umelej inteligencie. Teraz musí návrh prejsť rokovaniami medzi parlamentom a členskými štátmi EÚ.

Podľa posledných informácií v priebehu tohto týždňa zákonodarcovia EÚ dospeli ku kľúčovej dohode týkajúcej sa definície „vysoko rizikových“ modelov AI.

Pôvodné informácie zo začiatku týždňa hovorili o problémoch v rokovaniach a nezhodách medzi tromi stranami zúčastnenými v trialógu, ktoré by mohli zamedziť možnosť posunúť túto legislatívu do ďalšieho kroku ešte v priebehu tohto roka. Posledné informácie agentúry Reuters však hovoria o tom, že dohodu sa im možno napokon podarí uzavrieť ešte v decembri.

Zapojené strany sa údajne zhodli na väčšine častí článku 6 návrhu zákona, ktorý definuje typy systémov AI, ktoré budú označené ako „vysoko rizikové“. Tieto modely budú podliehať prísnejšej kontrole, čo má na druhej strane zabrániť tomu, aby nová legislatíva brzdila inovácie a vývoj menších projektov.

„Umelá inteligencia má zásadný vplyv na všetko, čo robíme a preto nastal čas zaviesť určité záruky a zábrany, ako sa táto technológia bude vyvíjať v prospech našich občanov,“ povedal Dragoș Tudorache, rumunský europoslanec pre Guardian.

Jedna z častí návrhu hovorí o tom, že vývojári základných modelov AI budú povinní najprv zhodnotiť ich potenciálne riziko, počas celého procesu vývoja ich podrobovať testovaniu a následne po ich vydaní skúmať ich prípadnú neobjektívnosť.

Zvyšné body, na ktorých sa tri strany ešte v najbližších týždňoch potrebujú dohodnúť, sa týkajú najmä využitiu umelej inteligencie v oblasti rozpoznávania tvárí v reálnom čase. Zatiaľ čo poslanci považujú túto technológiu za zásah do súkromia, členské štáty ju chcú využívať napr. na zabezpečenie hraníc.

Dôležitou súčasťou návrhu zákona je aj povinné odovzdávanie zoznamu zdrojov orgánom EÚ, ktoré boli použité na trénovanie umelej inteligencie. Umelci, či už hudobníci, maliari alebo novinári a spisovatelia, tak budú môcť identifikovať, či ich diela neboli zneužité na trénovanie umelej inteligencie, čo by malo byť považované za plagiátorstvo.

Tudorache uviedol, že v navrhovanom texte majú zatiaľ zhruba 60-70 %“ zhodu a tak je vysoká šanca, že z návrhu by sa mohla stať platná legislatíva už v priebehu budúceho roka.