EÚ zaviedla nové pravidlá pre AI. Deepfaky musia byť jasne označené

Európska únia od 2. augusta 2026 uplatňuje ďalšiu časť AI Actu, ktorá prináša nové povinnosti pri používaní umelej inteligencie. Tentoraz sa pravidlá sústreďujú najmä na transparentnosť.

Ak komunikujete s AI systémom alebo sa stretnete s obsahom vytvoreným či výrazne upraveným umelou inteligenciou, jeho pôvod má byť v stanovených prípadoch rozpoznateľný.

Nové požiadavky zasahujú chatboty a AI agentov, generátory obrázkov, videa, zvuku aj textu, ale aj systémy na rozpoznávanie emócií či biometrickú kategorizáciu. Pravidlá zároveň rozlišujú medzi technickým označením, ktoré má byť zabudované do AI výstupov, a viditeľným upozornením pre človeka. Práve druhá skupina sa týka napríklad deepfake obsahu.

Jednou z najviditeľnejších zmien sa stanú systémy, ktoré s vami priamo komunikujú. Chatbot, AI agent alebo virtuálny avatar vás má od začiatku interakcie informovať, že na druhej strane nie je človek. Výnimkou sú situácie, v ktorých je použitie umelej inteligencie z okolností zjavné. Európska komisia zároveň uvádza, že oznam má byť jasný a rozlíšiteľný už pri prvej interakcii.

Samostatné pravidlo platí pre generatívnu AI. Poskytovatelia systémov, ktoré vytvárajú syntetický text, zvuk, obraz alebo video, ich musia navrhnúť tak, aby bol generovaný či manipulovaný obsah označený strojovo čitateľným spôsobom a dal sa technicky identifikovať. Neznamená to, že na každom obrázku vytvorenom pomocou AI musí byť veľký viditeľný nápis. Ide predovšetkým o značku, ktorú dokážu spoľahlivo prečítať a overiť ďalšie služby a nástroje.

Takéto označenie sa môže v praxi opierať o metadáta, digitálne vodoznaky alebo iné techniky spĺňajúce požiadavky na spoľahlivosť a interoperabilitu. Európska komisia pripravila aj dobrovoľný Code of Practice, ktorý firmám opisuje spôsoby, ako môžu splnenie týchto povinností preukázať. Samotné požiadavky AI Actu sú záväzné bez ohľadu na to, či sa firma ku kódexu pridá.

Prísnejšie a pre človeka viditeľnejšie pravidlá sa týkajú deepfake obsahu. AI Act za deepfake považuje umelo vytvorený alebo manipulovaný obraz, zvuk či video, ktoré napodobňuje existujúcu osobu, objekt, miesto alebo udalosť spôsobom schopným vyvolať dojem, že ide o autentický obsah. Ak firma, organizácia alebo iný profesionálny používateľ takýto materiál zverejní, musí byť jeho umelý pôvod jasne oznámený najneskôr pri prvom kontakte človeka s obsahom. Samotná skrytá strojovo čitateľná značka v tomto prípade nestačí.

Pravidlá myslia aj na text vytvorený umelou inteligenciou, no povinnosť viditeľného označenia nie je nastavená na každý e-mail, príspevok alebo text upravený AI. Týka sa AI generovaného alebo manipulovaného obsahu publikovaného s cieľom informovať verejnosť o otázkach verejného záujmu, napríklad o politike, verejnom zdraví, bezpečnosti, financiách, vede či ďalších témach verejnej diskusie.

Pre médiá a ďalších profesionálnych vydavateľov má toto pravidlo významnú podmienku. Ak text prešiel skutočnou ľudskou kontrolou alebo redakčným procesom a za jeho publikovanie nesie zodpovednosť človek či redakcia, povinnosť označiť ho ako AI generovaný sa neuplatňuje. Za dostatočnú kontrolu sa pritom nepovažuje iba oprava gramatiky alebo formálna kontrola textu. Komisia hovorí o posúdení obsahu človekom s príslušnými znalosťami alebo o reálnej redakčnej právomoci text schváliť, upraviť či odmietnuť.

Ďalšia povinnosť sa týka systémov na rozpoznávanie emócií a biometrickú kategorizáciu. Ak ste takémuto AI systému vystavení, jeho prevádzkovateľ vás musí o jeho používaní informovať. Platí to pri systémoch pracujúcich v reálnom čase aj pri dodatočnom spracovaní údajov.

AI Act pritom rozlišuje medzi poskytovateľom systému a tým, kto ho používa. Poskytovateľom môže byť napríklad firma, ktorá AI službu vyvinie a uvedie ju na európsky trh. Za nasadzujúci subjekt sa považuje firma, úrad alebo profesionál, ktorý AI využíva pri svojej činnosti. Čisto osobné a neprofesionálne používanie fyzickou osobou do tejto druhej kategórie nespadá. Ak však pomocou AI pravidelne vykonávate zárobkovú, podnikateľskú alebo freelancerskú činnosť, pravidlá vás už môžu považovať za profesionálneho používateľa systému.

Časť firiem dostala pri technickom označovaní obsahu ešte krátke prechodné obdobie. Pri generatívnych AI systémoch uvedených na trh pred 2. augustom 2026 sa povinnosť strojovo označovať a umožniť detekciu generovaného obsahu začne uplatňovať od 2. decembra 2026. Obsah vytvorený pred 2. augustom zároveň nemusí byť spätne označovaný.

Na dodržiavanie pravidiel majú dohliadať predovšetkým národné orgány dohľadu nad trhom, pri vybraných systémoch má kompetencie aj európsky AI Office. Sankcie za porušenie povinností podľa článku 50 môžu dosiahnuť 15 miliónov eur alebo pri firmách až 3 % celosvetového ročného obratu za predchádzajúci finančný rok.

Pre bežného človeka bude najviditeľnejším výsledkom viac informácií o tom, kde presne s umelou inteligenciou prichádza do kontaktu. Chatbot má priznať, že je chatbotom, deepfake má byť rozpoznateľne označený a generatívne systémy majú do svojich výstupov pridávať technické informácie umožňujúce overiť ich pôvod. Od 2. augusta už tieto požiadavky nie sú pripravovanou časťou AI Actu, ale platnými pravidlami v celej EÚ.