Wozniak, princ Harry, Branson a ďalší podpisujú petíciu proti superinteligencii

Znepokojenie nad zrýchľujúcim sa vývojom umelej inteligencie vyústila do novej globálnej iniciatívy, ktorá spája mená z odlišných sfér vplyvu. Ich spoločným cieľom je dosiahnuť bezprecedentný zákaz vývoja superinteligencie.

Stovky verejných činiteľov, expertov a celebrít, vrátane spoluzakladateľa Apple Steva Wozniaka, miliardára Sira Richarda Bransona, ale aj princa Harryho s manželkou Meghan, podpísali Vyhlásenie o superinteligencii. 

Vyhlásenie Statement on Superintelligence, iniciované organizáciou Future of Life Institute (FLI), je vo svojej požiadavke strohé a nekompromisné. Navrhuje, aby sa zákaz nezrušil, pokým nebudú splnené dve kľúčové podmienky: musí existovať široký vedecký konsenzus, že to bude urobené bezpečne a kontrolovateľne a zároveň musí byť preukázané silné verejné prijatie. 

Iniciatíva tak reaguje na fakt, že mnohé popredné spoločnosti v oblasti umelej inteligencie majú ako svoj stanovený cieľ vybudovať v nadchádzajúcom desaťročí práve superinteligenciu, definovanú ako formu AI, ktorá by výrazne prekonala ľudí v podstate vo všetkých kognitívnych úlohách.

Dôvody na takýto radikálny krok sú vraj hlboké a pramenia z existenčných obáv. Signatári varujú, že preteky v budovaní superinteligencie vyvolali „obavy siahajúce od ekonomickej zastaranosti a zneschopnenia človeka, straty slobody, občianskych slobôd, dôstojnosti a kontroly, až po riziká pre národnú bezpečnosť a dokonca potenciálne vyhynutie ľudstva“.

Tieto obavy zdieľajú aj samotní priekopníci odboru. Medzi signatármi sú totiž aj počítačoví vedci Geoffrey Hinton a Yoshua Bengio, ktorí sú často označovaní za „krstných otcov“ modernej AI. Pridal sa k nim aj Stuart Russell, profesor z Berkeley a spoluautor štandardnej učebnice o umelej inteligencii.

Yoshua Bengio vo svojom sprievodnom vyhlásení varoval, že „hraničné systémy AI by mohli prekonať väčšinu jednotlivcov vo väčšine kognitívnych úloh už v priebehu niekoľkých rokov“. Aj keď pripustil, že tieto pokroky by mohli odomknúť riešenia globálnych výziev, zdôraznil, že na bezpečný posun „musíme vedecky určiť, ako navrhnúť systémy AI, ktoré sú zásadne neschopné ublížiť ľuďom“. Princ Harry dodal, že „budúcnosť AI by mala slúžiť ľudstvu, nie ho nahrádzať“. 

Snaha organizátorov pritiahnuť širokú a politicky rôznorodú koalíciu je zrejmá. Ako poznamenal prezident FLI Max Tegmark, v minulosti išlo často o spor „nerdov proti nerdom“, no teraz sa kritika stáva mainstreamovou. Prítomnosť kontrovezných postáv ako Steve Bannon a Glenn Beck na jednej strane a bývalej poradkyne prezidenta Obamu pre národnú bezpečnosť Susan Rice či bývalého predsedu Zboru náčelníkov štábov Mikea Mullena na strane druhej, má demonštrovať, že obavy presahujú bežné politické delenie. Zoznam dopĺňajú umelci ako Will.i.am, Sir Stephen Fry či Joseph Gordon-Levitt.

Táto iniciatíva prichádza v čase, keď sa preteky v AI zrýchľujú a superinteligencia sa stala buzzwordom. Spoločnosti ako xAI Elona Muska a OpenAI Sama Altmana sú v priamej súťaži a Meta dokonca pomenovala svoju divíziu Meta Superintelligence Labs. Samotní lídri tohto priemyslu, ako Mark Zuckerberg, Elon Musk či Sam Altman, verejne hovorili o tom, že superinteligencia je na dohľad, pričom Altman ju očakáva najneskôr do roku 2030.

Inštitút FLI na podporu svojej výzvy cituje aj vlastný prieskum verejnej mienky. Podľa neho iba 5 % dospelých v USA podporuje status quo rýchleho, neregulovaného vývoja, zatiaľ čo 73 % si želá robustnú reguláciu. Podľa ich prieskumu až 64 % respondentov uviedlo, že nadľudská AI by sa nemala vytvárať, kým sa nepreukáže jej bezpečnosť a kontrolovateľnosť, alebo by sa nemala vytvárať vôbec.

Je však dôležité poznamenať, kto všetko na zozname signatárov chýba. Výzvu na priamy zákaz nepodpísal nikto z kľúčových lídrov firiem, ktoré sú v týchto pretekoch na čele: ani Sam Altman z OpenAI, ani Dario Amodei z Anthropic, ani Elon Musk z xAI. To je však celkom logické, išli by sami proti sebe.

Zároveň nejde o prvý pokus tohto druhu. Už v marci 2023 tá istá organizácia FLI zverejnila list vyzývajúci na šesťmesačnú prestávku vo vývoji systémov pokročilejších ako GPT-4. Vtedy vraj list podpísal aj Elon Musk, ktorý však v tom istom čase potichu zakladal vlastný AI startup xAI, aby konkuroval OpenAI. 

Aktuálne Vyhlásenie o superinteligencii tak predstavuje doteraz najradikálnejšiu požiadavku. Jeho cieľom je, slovami Maxa Tegmarka, „stigmatizovať preteky o superinteligenciu“ a preniesť debatu z uzavretých kruhov Silicon Valley do rúk širokej verejnosti, ktorá podľa neho považuje súčasné smerovanie za neprijateľné. Vyhlásenie môžete podpísať aj vy na webe Superintelligence Statement.