Nezvládne ľudstvo AI? OSN varuje, že pravidlá zaostávajú za vývojom

Umelá inteligencia už dávno nie je len nástroj na písanie odpovedí či generovanie obrázkov. Za posledné roky sa posunula do fázy, v ktorej dokáže písať kód, analyzovať veľké objemy dát, pomáhať pri vývoji liekov a čoraz častejšie konať ako samostatný digitálny agent.

Táto rýchlosť vývoja začína byť podľa niektorých expertov problémom. Pravidlá, kontrolné mechanizmy ani štátne inštitúcie sa totiž neposúvajú vpred rovnakým tempom.

Na toto nebezpečenstvo upozorňuje predbežná správa Nezávislého medzinárodného vedeckého panelu OSN pre umelú inteligenciu. Panel, ktorý tvorí 40 odborníkov z rôznych regiónov sveta, má poskytovať vedecký základ pre diskusiu štátov o tom, ako AI riadiť. Jeho prvá správa prichádza tesne pred začiatkom Globálneho dialógu OSN o správe umelej inteligencie v Ženeve, kde sa majú členské štáty od 6. júla 2026 venovať spoločným pravidlám pre túto technológiu.

Správa upozorňuje, že výsledný dopad umelej inteligencie bude závisieť od toho, kto ju bude vyvíjať, kto k nej bude mať prístup a aké pravidlá budú platiť pri jej používaní. V optimistickom scenári môže AI zrýchliť vedecký výskum, zlepšiť zdravotnú starostlivosť, pomôcť vo vzdelávaní, poľnohospodárstve či pri sprístupňovaní technológií ľuďom so zdravotným znevýhodnením. V horšom scenári môže prehĺbiť nerovnosti, uľahčiť šírenie dezinformácií, narušiť pracovný trh a sústrediť veľkú technologickú moc do rúk niekoľkých firiem a štátov.

Podľa panelu sa schopnosti AI systémov zlepšujú mimoriadne rýchlo. Kým ešte nedávno išlo najmä o modely reagujúce na zadania používateľa, dnes sa do popredia dostávajú takzvaní AI agenti. Tí už nemusia iba odpovedať na otázky, ale dokážu plánovať postup, používať digitálne nástroje, písať softvér a dokončovať komplexné úlohy s menším dohľadom človeka. Správa uvádza, že zložitosť úloh, ktoré takéto systémy zvládnu, sa podľa výskumníkov zdvojnásobuje v horizonte niekoľkých mesiacov.

OSN zároveň pripomína, že prínosy AI už nie sú len teoretickou možnosťou. Umelá inteligencia pomohla predpovedať štruktúry viac ako 200 miliónov proteínov, zrýchľuje vývoj liekov a vakcín a využíva sa aj vo výskume antibiotickej rezistencie. V zdravotníctve môže pomáhať pri skoršom odhaľovaní ochorení, napríklad rakoviny prsníka. V rozvojových krajinách zas môžu nástroje v miestnych jazykoch podporiť zdravotníkov pri komunikácii s pacientmi. AI sa využíva aj pri systémoch včasného varovania pred potravinovou neistotou, kde môže pomôcť identifikovať riziká skôr, než prerastú do krízy.

Správa však na druhej strane upozorňuje na šírenie sexuálne explicitných deepfake materiálov vrátane obsahu zneužívajúceho deti. Problémom je aj dezinformačný obsah, ktorý znižuje dôveru vo verejnú debatu a môže oslabovať demokratické procesy. AI nástroje zároveň znižujú bariéru pre kybernetické útoky, podvody a sociálne inžinierstvo.

Správa sa špecificky venuje aj systémom, ktoré sa voči používateľom správajú príliš prispôsobivo. Niektoré modely môžu posilňovať škodlivé presvedčenia alebo správanie človeka namiesto toho, aby ich bezpečne korigovali. V extrémnych prípadoch to podľa panelu môže prispieť k psychickým krízam vrátane samovražedného konania. S rastúcou autonómiou modelov sa navyše zvyšuje riziko, že ich bude ťažšie monitorovať, testovať a včas zastaviť, ak začnú konať neželaným spôsobom.

Dôležitou témou je aj energetická náročnosť. Moderné AI systémy stoja na rozsiahlych dátových centrách, ktoré potrebujú veľké množstvo elektriny, vody a infraštruktúry. Správa ich spája s rastúcimi emisiami skleníkových plynov a upozorňuje aj na dopady výstavby dátových centier na miestne komunity.

Jedným z najväčších problémov je nerovnomerný prístup k AI. Podľa správy majú Spojené štáty približne tri štvrtiny výpočtového výkonu za najvýkonnejšími AI superpočítačmi, Čína približne 15 percent. Spolu tak tieto dve krajiny ovládajú asi 90 percent dôležitej výpočtovej kapacity. Väčšina pokročilých modelov zároveň vzniká vo firmách sídliacich práve v USA a Číne. Mnohé rozvojové krajiny nemajú dostatočnú infraštruktúru, odborníkov, kapitál, kvalitné dáta ani jazykové zdroje na to, aby mohli AI systémy samy vyvíjať, kontrolovať alebo prispôsobiť vlastným potrebám.

To vytvára závislosť od technológií, ktoré štáty často nedokážu auditovať ani upraviť podľa svojho právneho, kultúrneho či sociálneho prostredia. Ak sa táto nerovnováha nezmení, AI nemusí globálne rozdiely znižovať, ale ich upevniť. Krajiny bez vlastnej digitálnej kapacity sa môžu stať len používateľmi systémov, ktorých pravidlá a limity nastavili iní.

Panel OSN pomenúva aj dôvod, prečo regulácia zaostáva. Verejné politiky zvyčajne potrebujú spoľahlivé dáta, hodnotenia a dôkazy, aby mohli pripraviť primerané pravidlá. Pri AI však vzniká takzvaná dôkazná dilema. Kým štáty nazbierajú dostatok poznatkov o jednej generácii systémov, technológia sa posunie ďalej. Výsledkom je regulačné prostredie, ktoré reaguje oneskorene a často len na problémy, ktoré už medzitým nadobudli nový tvar.

Vo svete dnes existuje viac ako 40 rámcov a etických usmernení pre správu umelej inteligencie. Podľa správy sú však roztrieštené, nejednotné a často nie je jasné, či v praxi fungujú. Problémom je aj to, že mnohé bezpečnostné hodnotenia vykonávajú samotné firmy, ktoré tieto systémy vyvíjajú. OSN preto volá po silnejšom nezávislom testovaní, medzinárodnej spolupráci a spoločných štandardoch, ktoré by umožnili porovnávať bezpečnosť, transparentnosť a zodpovednosť AI systémov naprieč krajinami.

Úloha vedeckého panelu OSN nie je regulačná. Nemá priamo navrhovať zákony ani nahrádzať rozhodovanie štátov. Má pravidelne hodnotiť najnovšie vedecké poznatky o možnostiach, rizikách a dopadoch AI a poskytovať ich vládam ako podklad pre rozhodovanie. Podrobnejšia správa by mala nasledovať v roku 2027.