Umelá inteligencia nebude zabíjať! Tak sľubuje šéf Tesly, DeepMind, Skype a iní

Technologickí lídri včera v Štokholme ohlásili, že sa nebudú podieľať na vývoji smrtiacich autonómnych zbraní. Je to vôbec po prvý raz, čo sa zúčastnené strany zaviazali k tomu, že takúto technológiu nevyvinú.

Najnovší krok od neoficiálnej a medzinárodnej koalície výskumníkov a vedúcich pracovníkov, ktorá je proti využitiu umelej inteligencie na zabíjanie, určite poteší všetkých ľudí, nielen zarytých pacifistov. Vo svojom vyhlásení varujú, že zbraňové systémy, ktoré používajú AI (umelú inteligenciu), predstavujú morálne a pragmatické hrozby. Morálne v tom zmysle, že rozhodnutie zabiť by nikdy nemalo byť presunuté na stroj. Pragmatické hrozby spočívajú v tom, že šírenie takýchto zbraní bude destabilizujúce pre každého jednotlivca, či štát.

Tento sľub bol zverejnený včera na Spoločnej medzinárodnej konferencii o umelej inteligencii (IJCAI) v Štokholme. Zorganizovala ho organizácia Future od Life, ktorá sa snaží minimalizovať existenčné riziko pre ľudstvo. Tento inštitút tiež pomáhal propagovať výzvy a otvorené listy od technologických lídrov a vedúcich pracovníkov v AI, ktoré vyzývali OSN, aby zvážili nové zákony ohľadne autonómnych zbraní.

Po niekoľkých rokoch slovných vyjadrení tak prešli lídri v AI ku konkrétnym krokom. Podpísali sľub, že sa „nepodieľajú ani nepodporujú vývoj, obchod, alebo použitie smrtiacej autonómnej zbrane.“

Lídri AI prešli z diskusie do akcie.

Max Tegmark, signatár sľubu a profesor fyziky v MIT

Signatári navrhli, aby príslušné zákony podliehali obmedzeniam podobným tým, ktoré sa vzťahujú na chemické zbrane a a nášľapné míny. Ich doterajšie snahy získať podporu pre medzinárodnú reguláciu autonómnych zbraní boli neúčinné.

Lídri zdôrazňujú, že presadzovanie takýchto zákonov je veľkou výzvou, keďže táto technológia na vývoj zbrojárskeho priemyslu je už rozšírená. Okrem toho krajiny, ktoré najviac investujú do vývoja a výskumu týchto technológií nemajú skutočný dôvod, prečo by to mali urobiť. Jedná sa hlavne o USA a Čínu, ale odhaduje sa, že už 30 krajín pracuje nad zbraňami s autonómnym systémom.

Ku signatárom sľubu patri Elon Musk (Tesla, SpaceX), Mustafa Suleyman (spoluzakladateľ DeepMind), zakladateľ Skype Jaan Tallinn, Shane Legg, Demis Hassabis, Stuart Russell, Yoshua Bengio či Jürgen Schmidhuber.

Max Tegmark sa vyjadril, že lídri v AI urobili to, čoho sa politici báli. „Zbrane, ktoré sa autonómne rozhodnú zabiť ľudí, sú rovnako nechutné a destabilizujúce ako biologické zbrane a malo by sa s nimi zaobchádzať rovnakým spôsobom,“ vyhlásil Tegmark.

Vojenský analytik Paul Scharre povedal, že tento sľub pravdepodobne nebude mať veľký vplyv na medzinárodnú politiku a že tieto vyhlásenia nezohľadňujú zložitosť problému. „Zdá sa, že čo chýba, je trvalá angažovanosť výskumníkov AI,” skonštatoval Scharre. Pripomeňme, že tento analytik vydal knihu o budúcnosti vojny a AI.

Napriek tomu, že sa medzinárodné predpisy zrejme čoskoro nezmenia, aktivita odborníkov je vítaným stimulom. Ako sme už informovali, napríklad firma Google bola nútená prerušiť spoluprácu s Pentagonom na projekte Maven, keď sa zistilo, že sa podieľa na vývoji dronov, ktoré majú zabíjať ľudí.

Každý súdny človek musí uznať, že zabíjanie ľudí je hrozné, nezmyselné a zbytočné. A napriek tomu sa táto nehumánnosť ešte stále deje. Je však otázkou, kedy sa stane témou dňa, že za vraždenie ľudí je zodpovedný počítač, algoritmy strojového učenia a umelá inteligencia.