Pozrite si
O umelej inteligencii sa dnes diskutuje viac než kedykoľvek predtým. Generatívne modely v nás vzbudzujú dojem, že si píšeme alebo sa už aj rozprávame s inteligentným, premýšľajúcim softvérom. Mnohým v takýchto chvíľach príde na um práve kultová filmová séria Terminátor.
Ľudstvo v súčasnosti investuje obrovské zdroje do rozvoja umelej inteligencie s vidinou jej veľkého prínosu pre naše životy. Zároveň však mnohí neskrývajú obavy, že by sa scenáre sci-fi filmov jedného dňa mohli stať realitou.
Terminátor nám v roku 1984 ukázal dystopickú budúcnosť, v ktorej sa ľudia dostávajú na pokraj vyhynutia kvôli super-inteligentnému AI systému Skynet, ktorý spustil jadrový útok na ľudstvo a nasadil armádu robotov na dokončenie jeho skazy. Keď Skynet narazí na odpor preživších pod vedením Johna Connora, pošle naspäť v čase kyborga menom Terminátor, aby zabil Connorovu matku Sarah ešte pred jeho narodením.
Obsah pokračuje pod reklamou
Terminátor bol celosvetovo natoľko vplyvným filmom (a napokon filmovou sériou), že do dnešného dňa slúži ako analógia k vyjadreniu obáv z toho, že umelá inteligencia jedného dňa môže zničiť svet. Terminátor však nebol prvým, ani jediným takýmto dielom. Umelú inteligenciu v roli záporáka nám ukázal Stanley Kubrick v roku 1968 vo filme 2001: Vesmírna odysea, nehovoriac o dielach Frankenstein od Mary Shelleyovej z roku 1818 a R.U.R. od Karla Čapka z 1921, už v ktorých sa výtvory človeka obrátili proti ich tvorcom.
Otázke využívania moderných vojenských technológií, najmä v kontexte vojny na diaľku a autonómnych zbraňových systémov sa akademicky venuej výskumný pracovník Tom F.A. Watts, pôsobiaci na Royal Holloway, Univerzity of London. Práve Watts upozorňuje, že v súčasnej diskusii o umelej inteligencii panujú dva extrémne pohľady, z ktorých ani jeden nie je pre budúcnosť ľudstva celkom prospešný.
Optimisti, investori a riaditelia technologických spoločnosti pôsobiacich v oblasti umelej inteligencie veria, že umelá inteligencia bude mať obrovský pozitívny dopad na celosvetovú ekonomiku a teda aj životnú úroveň ľudí. Už dnes má umelá inteligencia potenciál pomáhať ľuďom s každodennými úlohami vo forme textového i hlasového četbota. V budúcnosti by mohli byť tieto modely zhmotnené do robotov, ktoré budú ľuďom pomáhať vykonávať fyzicky náročné alebo nebezpečné úlohy.
Na druhej strane figurujú skeptici, ktorí volajú po spomalení alebo aj úplnom zastavení vývoja umelej inteligencie z dôvodu obáv, že by sa ľudstvu mohlo vytvorenie tejto technológie v budúcnosti vypomstiť. Odporcovia umelej inteligencie sa obávajú najmä toho, že jej ľudstvo odovzdá pomyselné kľúče aj od kritickej infraštruktúry či zbraňovým systémom a že raz AI túto moc zneužije. Práve tu do diskusie a premýšľania o budúcnosti vstupuje dnes už 40-ročný film Terminátor.
Elon Musk v priebehu rokov opakovane pripomína svoje obavy z naplnenia scenára tohto filmu. Ešte v roku 2014 dokonca uviedol, že do AI spoločnosti DeepMind, ktorú neskôr odkúpil Google, investoval práve z dôvodu, že sa obával naplnenia takejto budúcnosti. „Myslím, že (v oblasti AI) existujú potenciálne nebezpečné výsledky výskumu. Viete, boli o tom filmy ako Terminátor… Mali by sme sa snažiť uistiť sa, že výsledky sú dobré, nie zlé“, uviedol Musk v rozhovore pre americkú spravodajskú stanicu CNBC. „V skutočnosti je pre nás dôležité, aby sme sa obávali budúcnosti Terminátora, aby sme sa vyhli budúcnosti Terminátora“, uviedol Musk začiatkom tohto roka.
Spojené štáty v máji tohto roka prisľúbili, že umelej inteligencii nikdy neposkytnú možnosť ovládať jadrové zbrane a to isté žiadajú aj od Číny a Ruska. K tomuto prísľubu sa pripojilo aj Francúzsko a Spojené kráľovstvo. Watts však pripomína, že AI môže narobiť ľudstvu škody aj bez prístupu k jadrovým zbraniam, stačí ak ju začnú veľmoci integrovať do menších zbraňových systémov. Nebezpečenstvo AI zbraňových systémov ukázal pútavou formou krátky hororový film „Slaugterbots“ z roku 2019.
Autonómne zbrane riadené umelou inteligenciou sú schopné vybrať a zneškodniť ciele bez priameho ľudského ovládania, čo vyvoláva etické a právne otázky, ktoré v roku 2016 generál amerického letectva Paul Selva označil za „terminátorskú dilemu“. Aj keď sa poprední vedci zasadzujú za zákaz takýchto zbraní, technologicky ich existencii už dnes nič nebráni.
Ministerstvo obrany USA začiatkom roka 2023 publikovalo smernicu s názvom „Autonómia v zbraňových systémoch“, ktorá stanovuje politiku, pravidlá a zodpovednosti pre vývoj a používanie autonómnych a poloautonómnych funkcií v zbraňových systémoch, vrátane tých, ktoré môžu byť diaľkovo ovládané alebo riadené operátormi na palube. Smernica okrem iného najmä zdôrazňuje potrebu zachovania ľudského dohľadu a úsudku pri používaní takýchto systémom. Ukazuje sa však, že takéto AI systémy identifikujúce ľudské ciele sú už v praxi využívané a vojaci im majú dôveru slepo dôverovať.
Aj keď sú politické vzťahy veľmocí v súčasnosti veľmi napäté, Watts napriek tomu argumentuje, že popri snahe o získanie výhody nad tým druhým musia nájsť spoločnú reč a minimalizovať riziká, ktoré umelá inteligencia prináša do otvorených konfliktov. Budúcnosť, ktorú nám Terminátor vykreslil, je stále vzdialená, no ako sa s týmito výzvami vysporiadame, môže podľa Wattsa rozhodnúť o tom, či sa takýto dystopický scenár niekedy stane realitou.
Zdroj