EÚ zverejnila dokument, ktorý nás možno raz ochráni pred vzburou AI

Európska únia zverejnila prvú verziu očakávaného Kódexu praxe pre všeobecné AI modely. Dokument stanovuje princípy, pravidlá a usmernenia pre poskytovateľov všeobecných modelov umelej inteligencie v záujme ochrany ľudí pred nástrahami AI, vrátane straty kontroly nad ňou.

Návrh dokumentu bude od budúceho týždňa pravidelne prejednávaný viac ako tisíckou zainteresovaných strán až do apríla 2025, kedy má dôjsť k jeho finalizácii tak, aby mohol poslúžiť ako usmernenie k Aktu o umelej inteligencii.

Kódex z dielne Európskej únie prichádza práve v čase najväčšieho rastu popularity umelej inteligencie. Únia sa pritom radí k jedným z prvých veľmocí, ktoré sa vôbec problematike AI v tak závažnej rovine venuje. Zverejnený dokument má zatiaľ 36 strán, no očakáva sa, že po budúcich diskusiách so zainteresovanými stranami sa ešte výrazne predĺži.

Únia podľa kódexu počíta s tým, že na trhu bude operovať len niekoľko veľkých prevádzkovateľov všeobecných modelov umelej inteligencie, za ktoré aktuálne môžeme považovať napríklad ChatGPT od spoločnosti OpenAI či Gemini od spoločnosti Google. „Ak by sa tento predpoklad ukázal ako nesprávny, budúce návrhy možno bude potrebné výrazne zmeniť, napríklad zavedením podrobnejšieho stupňovitého systému opatrení zameraných predovšetkým na modely, ktoré poskytujú najväčšie systémové riziká,“ uvádza sa priamo v súčasnom návrhu kódexu.

Kódex v prvom rade stanovuje pravidlá pre poskytovateľov všeobecných AI modelov týkajúce sa zabezpečenia transparentnosti. Autori budú musieť zverejniť dokumentáciu o vývoji a fungovaní modelov regulačným úradom, ale aj koncovým používateľom. Dokumentácia bude musieť jasne definovať, na akom obsahu bola umelá inteligencia trénovaná, čím by sa malo zabrániť aktuálne prekvapivo bežnému porušovaniu autorských práv.

Tvorcovia a prevádzkovatelia umelej inteligencie budú musieť jasne identifikovať a klasifikovať riziká jej možného zneužitia či výskytu jej neštandardného chovania. Medzi tieto riziká sa radia kybernetické útoky, zavádzanie alebo nesprávnosť odpovedí modelu, ale aj riziko, že sa umelá inteligencia úplne vymkne z pod kontroly jej autorov. Únia v akceptovaní možnosti vzniku takejto situácie nie je jediná, mnohé zainteresované strany takýto scenár rovno prirovnávajú k príbehu Terminátora.

Tieto riziká budú musieť byť vyhodnocované nielen pri vývoji, ale aj priebežne pri prevádzke modelov. Pravidelné vyhodnocovanie rizík bude zahŕňať aj zodpovednosť za ne na všetkých úrovniach organizácie, vrátane exekutívnej a správnej rady. Kódex pritom počíta s proporciálnou aplikáciou zásad. Čím väčší model, resp. prevádzkovateľ, tým prísnejšie pravidlá bude musieť dodržiavať.

Dokument na druhej strane zdôrazňuje aj potrebu podpory inovácií v oblasti umelej inteligencie s tým, že jeho zámerom nie je inovácie brzdiť, iba im nastaviť bezpečnostné mantinely. Únia má naopak v úmysle minimalizovať bariéry pre vstup na trh, najmä pre malé firmy a startupy, ktorým má pomôcť prostredníctvom podpory open-source postupov a menšou byrokratickou záťažou.

Po finalizácii v apríli 2025 môže byť Kódex praxe pre všeobecnú AI používaný ako dobrovoľný rámec na demonštráciu súladu s AI Act alebo môže byť prijatý ako právne záväzný dokument v rámci legislatívy EÚ. Jeho budúcnosť bude závisieť od rozhodnutí regulačných orgánov, odozvy zainteresovaných strán a jeho schopnosti adaptovať sa na technologické a spoločenské zmeny.