Americká vláda využíva nový AI model Claude Gov pre spravodajské účely

Spoločnosť Anthropic uviedla na trh vlastnú verziu modelov umelej inteligencie určenú výhradne pre potreby amerických bezpečnostných agentúr. Systém nesie názov Claude Gov a už dnes je nasadený v klasifikovaných prostrediach, kde asistuje pri spravodajskej analýze, strategickom plánovaní či operačnej podpore.

Od bežne dostupných modelov sa Claude Gov líšia najmä svojou schopnosťou efektívnejšie pracovať s utajovanými informáciami.

Modely boli vytvorené na základe konkrétnych požiadaviek vládnych zákazníkov, a dokážu spracúvať dokumenty z oblasti obrany a spravodajstva bez zbytočných obmedzení. V praxi to znamená, že v porovnaní s bežne komerčne dostupnými modelmi menej často odmietajú prácu so zakázaným obsahom a ponúkajú lepšie výsledky v klasifikovanom prostredí.

Medzi ich špecializácie patrí aj zvýšená schopnosť orientovať sa v dátach z oblasti kybernetickej bezpečnosti, ako aj vyššia jazyková a kultúrna znalosť v jazykoch a dialektoch, ktoré sú pre bezpečnostné operácie kľúčové. Rovnako ako ostatné modely spoločnosti, aj Claude Gov prešiel rozsiahlym bezpečnostným testovaním, ktoré má zabezpečiť jeho spoľahlivé a zodpovedné fungovanie.

Využitie AI pri práci so spravodajskými dátami však nie je bez rizika. Rovnako ako bežné modely, aj špecializované modely môžu generovať chybné, no presvedčivo znejúce informácie – jav známy ako konfabulácia. V prostredí, kde môže nesprávna interpretácia dát ovplyvniť rozhodnutia na najvyššej úrovni, ide o vážny faktor, ktorý si vyžaduje obozretnosť.

Anthropic sa týmto projektom pridáva k širšiemu trendu technologických firiem smerujúcich do oblasti vládnych a obranných kontraktov. Microsoft už v roku 2024 uviedol izolovanú verziu GPT-4 určenú výhradne pre americkú spravodajskú komunitu. Podobne postupuje aj Google s upraveným modelom Gemini, Meta s otvorenými modelmi Llama či firma Cohere v spolupráci s Palantirom.

Umelá inteligencia sa tak postupne dostáva do všetkých odvetví a verejný sektor nemôže byť výnimkou. Keďže bol tento krok z dlhodobého hľadiska prakticky nevyhnutný, je lepšou možnosťou, že budú na tento účel zamestnanci verejnej správy využívať špecializovaný model a nie niektorý z tých verejných, ktoré neponúkajú takú úroveň zabezpečenia četov, ani špeciálne trénovanie pre prácu s citlivými dátami.

Záujemcovia z verejného sektora o prístup k novému modelu môžu Anthropic na adrese pubsec@anthropic.com.