Musk a technologickí lídri chcú prerušiť vývoj AI. Varujú pred nebezpečenstvom

Osobnosti ako Elon Musk a ďalší špičkoví odborníci vyzývajú na dočasné pozastavenie vývojového systému umelej inteligencie. Podľa ich vyjadrenia sa tento vývoj vymyká spod kontroly, čo znamená, že nastal čas zhodnotiť riziká, ktoré predstavuje AI. Pokročilá umelá inteligencia by mohla spôsobiť hlbokú zmenu k lepšiemu, ale aj k horšiemu. 

Odborníci sa už roky trápia nad rizikami vytvárania super inteligentných AI, no debaty sa v posledných šiestich mesiacoch zintenzívnili, keďže sa na verejnosť dostali nové generátory obrázkov a chatboty, ktoré dokážu viesť aj strašidelné ľudské rozhovory. 

Otvorený list vyzýva na dočasné pozastavenie

“Výkonné systémy umelej inteligencie by mali byť vyvíjané iba vtedy, ak sme si istí, že ich účinky budú pozitívne a ich riziká budú zvládnuteľné.” Poukazuje na to v otvorenom liste nezisková organizácia Future of Life Institute, ktorý podpísalo už skoro dvetisíc osobností z celého sveta a odborníkov na umelú inteligenciu. Oznámili to aj na sociálnej sieti Twitter, kde uviedli, že vyzývajú laboratóriá, aby dočasne pozastavili výcvik výkonných modelov. 

Tento list prichádza len dva týždne potom, ako spoločnosť OpenAI oznámila GPT-4, ešte viac výkonnejšiu verziu technológie. Technológia GPT-4 sa osvedčila najmä tým, že dokáže napríklad z obyčajného ručne nakresleného náčrtu vybudovať webovú stránku alebo navrhovať žaloby. V liste sa tiež uvádza, že dočasné pozastavenie sa týka systémov AI, ktoré sú výkonnejšie ako GPT-4 a malo by trvať približne šesť mesiacov. Nezávislí odborníci by tak mali využiť túto pauzu na spoločný vývoj a implementáciu súboru zdieľaných protokolov pre nástroje AI, ktoré podliehajú bezpečnosti. 

Medzi vývojármi a mnohými odborníkmi vznikajú reálne obavy

K dočasnému pozastaveniu sa vyjadril aj samotný Elon Musk na prezentácii pre investorov Tesly o plánoch spoločnosti. “Potrebujeme nejaký druh regulačného orgánu alebo niečoho, čo by dohliadalo na vývoj AI. Uistite sa, že funguje vo verejnom záujme. Je to dosť nebezpečná technológia”, povedal Musk na prezentácii. Tiež potvrdil, že aj keď Tesla robí dobré veci s AI, stresuje ho. Objavilo sa video humanoidného robota Optimus vyvíjaného spoločnosťou Tesla, ktorý manipuloval s časťami iných robotov Optimus, akoby mal v úmysle zostaviť robotov jemu podobných. Vedúci predstavitelia poskytli dokonca podrobné prezentácie o tom, ako spoločnosť Tesla využíva technológiu umelej inteligencie na trénovanie vozidiel, aby mohli riadiť samé, samozrejme pod dohľadom federálnych a štátnych orgánov.

Future of Life Institute posunula tieto obavy o krok ďalej a naznačila, že podnikateľské úsilie týchto spoločností AI môže viesť k existenčnej hrozbe : “Mali by sme vyvinúť neľudské mysle, ktoré by nás mohli časom prevýšiť, prekabátiť, zastarať a nahradiť nás? Mali by sme riskovať stratu kontroly nad našou civilizáciou?” Inštitút tiež súhlasil s nedávnym vyhlásením zakladateľa OpenAI Sama Altmana, že pred školením budúcich systémov AI by sa mala vyžadovať nezávislá kontrola. Altman tiež zdôraznil potrebu pripraviť sa na roboty s umelou všeobecnou inteligenciou (AGI) a umelou superinteligenciou (ASI). 

Aj výskumníci etiky sa k téme AI vyjadrili, že zameranie sa na riziká budovania AI s inteligenciou na ľudskej úrovni alebo aj vyššou odvádza pozornosť od bezprostrednejších problémov, ktoré táto technológia vytvorila, ako je prenikanie sexistických a rasistických predsudkov do viacerých technologických produktov. Môže to mať také škodlivé účinky, že zakryje škody, ktoré už technológie spôsobujú.

Riziká umelej inteligencie 

Aj napriek tomu, že pokročilá AI by mohla predstavovať hlbokú zmenu života na zemi, mala by byť plánovaná a riadená s takou starostlivosťou, aby nás nedokázala ovládnuť. V priebehu posledných mesiacov odborníci totiž zisťujú, že to nejde tým smerom, ktorý očakávali a že by mali zakročiť, kým je čas. Aj keď AI mnohým uľahčuje prácu a čas, postupne zisťujeme, že má tak výkonnú digitálnu myseľ, ktorej ani samotní tvorcovia nerozumejú. 

Koncom minulého roka celá pozornosť okolo AI pomohla obnoviť aj preteky medzi technologickými spoločnosťami pri vývoji. S istotou môžeme povedať, že OpenAI, Microsoft a Google sú v popredí, ale aj ďalšie spoločnosti, napríklad Amazon alebo IBM pracujú na podobnej technológii. Ak sa pozrieme na riziká spojené s AI, vyvolávajú mnoho otázok. AI môže zmeniť profesie, umožniť študentom podvádzať a zmeniť náš vzťah k technológiám natoľko, že si ani neuvedomíme dôsledky, ktoré môžu nastať. Tieto nástroje tiež vyvolali otázky o tom, do akej miery dokáže AI šíriť dezinformácie a aký má vplyv na súkromie spotrebiteľov. 

Tesla dokonca minulý mesiac musela stiahnuť z obehu viac ako 362 000 amerických vozidiel na aktualizáciu softvéru z toho dôvodu, čo americké regulačné orgány uviedli, že asistenčný systém vodiča by mohol spôsobiť nehodu. ChatGPT priťahuje pozornosť amerických zákonodarcov otázkami o jeho vplyve na národnú bezpečnosť a vzdelávanie. Europol taktiež v pondelok varoval pred možným zneužitím systému pri pokusoch o phising, dezinformácie a počítačovú kriminalitu.

Regulácia ako jediná cesta 

Aj keď americkí zákonodarcovia požadovali nové nariadenia o umelej inteligencii a jej vývoji, v zákonodarnom zbore napokon neprešli žiadne podstatné návrhy. Pridala sa aj Európska únia a predstavila podrobný návrh regulácie AI v roku 2021, no stále nebol ešte prijatý do zákona. 

K reálnym obavám sa vyjadril aj generálny riaditeľ Galaxy Digital, Mike Novogratz, keď povedal investorom, že bol šokovaný, koľko regulačnej pozornosti sa venuje kryptomenám, pričom by sme mali mať reálne obavy pri vývoji AI. Zdôraznil, že vláda to celé postavila hore nohami.

Spomalí sa v takomto prípade technologický pokrok v tejto oblasti? 

Ak sa dokážeme spätne obzrieť a uvedomiť si akým tempom sa AI dostala do povedomia mnohých ľudí, ide naozaj o rapídnu rýchlosť. To, že sa vývojári a mnohí ďalší odborníci rozhodujú z pohľadu bezpečnosti pozastaviť dočasne vývoj, nie je určite na škodu. Mnohí z nás videli tie najznámejšie sci-fi filmy z tejto tematiky, kde umelá inteligencia predstavuje hrozbu pre spoločnosť. Ak má toto dočasné pozastavenie priniesť väčšiu bezpečnosť a najmä kontrolu nad AI, spomalenie tohto technologického pokroku určite nespôsobí škody a paniku. Z hľadiska bezpečnosti by mali vývojári spolu s ďalšími odborníkmi určite vyvinúť zdieľané bezpečnostné protokoly a schváliť návrhy na regulačný rámec okolo AI.