Prichytili skupiny napojené na vlády, zneužívali AI na útoky a výskum satelitov

Microsoft a OpenAI prichytili pri zneužívaní ich generatívnej umelej inteligencie na škodlivé účely známe skupiny údajne priamo podporované Čínou, Iránom, Ruskom a Severnou Kóreou.

Četbotov mali využiť na výskum kybernetických zraniteľností či priamo na prípravu škodlivých skriptov.

Spoločnosti Microsoft a OpenAI sú partnermi v oblasti umelej inteligencie, jazykový model spoločnosti OpenAI poháňajúci četbota ChatGPT, stojí aj na pozadí umelej inteligencie Copilot. Rovnako model DALL-E 3 pre generovanie obrázkov už využíva Microsoft v nástroji Bing Image Creator.

Partnermi sú ale podľa najnovšieho blogu oboch spoločností aj na úrovni výskumu bezpečnosti AI, kde sa podľa ich slov snažia zostať o krok pred útočníkmi. Spoločne skúmajú, akými. spôsobmi sa dá generatívna umelá inteligencia zneužiť a popri tom aj odhalili konkrétnych aktérov, ktorí sa takto už aj činia.

Spoločnosti celkom otvorene vo svojich článkoch menujú známe skupiny, ktoré majú byť financované alebo priamo riadené rôznymi vládami.

Skupina Charcoal Typhoon podporovaná Čínou mala využiť ChatGPT na výskum rôznych spoločnosti a kybernetických nástrojov, debugovanie kódov a generovanie skriptov, ktoré mali byť pravdepodobne použité pri phishingových útokoch. Taktiež Čínou podporovaná skupina Salmon Typhoon si mala s AI pomôcť pri preklade technických dokumentácií, prieskume rôznych bezpečnostných agentúr a programovaní.

Údajne Iránom podporovaná skupina Crimson Sanstorm využila služby OpenAI na skriptovanie spojené s vývojom aplikácií a webových stránok, generovanie obsahu pravdepodobne za účelom phishingu a prieskum spôsobov, ako by sa mohol malvér vyhnúť detekcii.

Skupina Emerald Sleet údajne napojená na Severnú Kóreu si s AI pomohla na identifikáciu expertov a organizácii, ktoré sa zameriavajú na otázku obrany Ázijsko-tichomorského regiónu, prieskum verejne známych zraniteľností a základné skriptovanie a generovanie obsahu pre phishingové útoky.

Poslednou identifikovanou skupinou je Forest Blizzard, ktorá má byť priamo napojená na Rusko a ktorá sa zo spôsobu využitia AI na potenciálne škodlivé účely vymyká. Podľa spoločnosti OpenAI mala skupina jej služby využiť najmä na prieskum satelitnej komunikácie a radarovej zobrazovacej technológie, ako aj na skriptovanie. Podľa otázok, ktoré umelej inteligencii pokladali, sa jednalo o expertov pre tieto oblasti.

Všetky používateľské účty spojené s týmito skupinami boli zablokované. Celosvetovo má skupina Microsoft Threat Intelligence, s ktorou OpenAI aktívne spolupracuje, v hľadáčiku údajne viac ako 300 jedinečných aktérov, vrátane 160 aktérov napojených na vlády a 50 skupín zameraných na ransomvérové útoky.

Je zaujímavé, že Microsoft a OpenAI na jednej strane vo svojich blogoch otvorene menujú konkrétne krajiny a skupiny, ktoré sa im podarilo spoločne odhaliť a zablokovať. Na druhej strane ale v texte ani raz nespomínajú, že by pri týchto útokoch boli použité nástroje ChatGPT či Copilot.

Prichytení aktéri samozrejme nebudú mať žiaden problém založiť si nové účty s novými údajmi a využívať tieto nástroje aj naďalej. Kľúčové pre Microsoft, OpenAI, ale aj všetky ďalšie spoločnosti vyvíjajúce generatívne umelé inteligencie, je zakomponovať do týchto nástrojov záchranné brzdy, ktoré budú vedieť včas takéto zneužitie identifikovať a odmietnuť poslušnosť.