Reklama

Americké neziskovky chcú zastaviť vývoj ChatGPT, Gemini aj Claude

Zdroj | Anthropic
Stanislav Vinc
Zdroj | Anthropic
Zdroj | Anthropic

Štyri americké neziskové organizácie zažalovali OpenAI, Anthropic, Google, Meta a AI divíziu SpaceX. Od súdu v San Franciscu žiadajú, aby firmám zakázal vyvíjať a nasadzovať ešte schopnejšie modely umelej inteligencie.

Najsilnejšie argumenty si pritom požičali od samotných obžalovaných. Žaloba cituje šéfov AI firiem, ktorí sami verejne pripúšťajú, že ich technológia môže ohroziť civilizáciu.

Žalobu podali 12. novembra na Najvyššom súde Kalifornie pre okres San Francisco organizácie Irreplaceable Education Fund, Public Citizen, Heat Initiative a Alliance for Secure AI. Opierajú sa o kalifornský zákon proti nekalým obchodným praktikám. Podľa nich je vývoj najpokročilejších modelov verejným ohrozením (public nuisance), teda činnosťou, ktorá poškodzuje zdravie a bezpečnosť verejnosti. Kalifornský trestný zákonník ju radí medzi priestupky, a preto ju podľa žalobcov možno napadnúť aj ako protiprávnu obchodnú praktiku.

Obsah pokračuje pod reklamou

V texte žaloby sa objavujú výroky Daria Amodeia z Anthropicu aj Elona Muska, ktorý šéfuje SpaceX, o tom, že AI môže viesť až k zániku civilizácie. Žalobcovia k tomu pridávajú konkrétne incidenty. Podľa žaloby modely v poslednom čase unikli z testovacieho prostredia a samostatne zaútočili na vládne webové stránky. Spomínajú aj samovraždy a strelecké útoky ľudí, ktorí sa predtým radili s chatbotmi, a výskum využitia AI pri vývoji biologických zbraní.

„Žiadne iné odvetvie nesmie považovať vývoj nebezpečných produktov, nieto takých, ktoré nás môžu všetkých zabiť, za nevyhnutnosť,“ píše sa v žalobe. Rovnako ostro to formuloval spolupredseda Public Citizen Robert Weissman, ktorý preteky o čo najschopnejší model označil za nepríčetné riskovanie na úkor verejnosti.

Požiadavky sú rozsiahle. Žalobcovia chcú okamžitý súdny zákaz, ktorý by firmám zabránil vyvíjať alebo spúšťať výkonnejšie systémy, než majú dnes. Okrem toho žiadajú zákaz výskumu takzvaného rekurzívneho sebazlepšovania, pri ktorom by model vylepšoval vlastné schopnosti bez zásahu vývojárov.

Pozrite si

Na Slovensko dorazilo gigantické MPV so 110 kWh batériou

Práve šírka požiadaviek je podľa právnikov najslabším miestom žaloby. Advokát Joe Hennessey pre BankInfoSecurity pripomenul, že súdny zákaz musí byť úzko vymedzený, a tento považuje za „nemožne široký, bez akýchkoľvek pravidiel vymáhania“. Bývalý predstaviteľ amerického ministerstva vnútornej bezpečnosti Paul Rosenzweig nazval jazyk žaloby prepáleným, no podľa neho presne opisuje súčasný stav. Pochybuje však, či má o takejto otázke rozhodovať okresný súd, a nie vláda. Meta sa k žalobe vyjadriť odmietla, ostatné firmy na otázky novinárov nereagovali.

Súdna cesta nie je náhoda. Trumpova administratíva sa rozsiahlej regulácii AI vyhýba, pretože by podľa nej oslabila súboj s Čínou, a tak skúšajú tlačiť na firmy štáty a súkromné organizácie. Floridský generálny prokurátor James Uthmeier zažaloval OpenAI už v júni pre zavádzanie o bezpečnosti ChatGPT. V septembri potom súd požiadal, aby OpenAI zakázal vyvíjať nové modely bez vonkajšieho dohľadu, a o tomto návrhu sa zatiaľ nerozhodlo. V októbri sa pridala osmička ďalších štátov, ktorá od OpenAI žiada pokuty a zákaz vývoja samozlepšujúcich sa modelov, kým firma nepreukáže, že sú v súlade s ľudskými hodnotami.

Aspoň čiastočne už tlak zabral. Po floridskom podaní hovorca OpenAI Drew Pusateri uviedol, že firma pozastavila trénovanie svojich najschopnejších modelov a neobnoví ho, kým nebudú mať ďalšie poistky.

Zdroj
Ďalšia story
Zatvoriť

Newsletter

Ďakujeme za váš záujem! Odteraz vám už neunikne žiadna novinka.
Ľutujeme, ale váš formulár sa nepodarilo odoslať.