OpenAI pripravuje nástroj na rozpoznanie obsahu vygenerovaného pomocou AI

Kvalita obrázkov, zvukových nahrávok a videí tvorených pomocou umelej inteligencie už dnes dosahuje úroveň, na ktorej si ich už možno ľahko pomýliť s realitou. S rastúcou kvalitou AI modelov sa táto šanca doslova z mesiaca na mesiac zvyšuje.

Spoločnosť OpenAI, ktorá sa sama podpisuje pod takúto umelú tvorbu digitálneho obsahu, preto sama oznámila vývoj nástroja na odhaľovanie obsahu, ktorý vytvorila AI.

Autori populárneho četbota ChatGPT, ktorý by sa mal údajne ešte tento rok dočkať prelomovej novej verzie, ako aj modelu DALL-E 3, ktorý dokáže generovať realistické obrázky, pokračujú aj v paralelných úkonoch, ako svet pred dopadom generatívnej umelej inteligencie čiastočne ochrániť.

Spoločnosť OpenAI spustila uzatvorené testovanie svojho nového nástroja na rozpoznávanie obrázkov generovaných pomocou jej modelu DALL-E 3. Nástroj analýzou obrázkov doslovne odhaduje, či mohol byť vytvorený umelou inteligenciou. Aj keď to neznie veľmi presvedčivo, OpenAI zatiaľ hlási sľubné výsledky, aspoň v prípade detekcie tvorby jeho modelu.

Interné testovanie modelu ukázalo zhruba 98 % presnosť a to aj v prípade, že bol analyzovaný obrázok skomprimovaný, orezaný či upravený zmenou saturácie. Len v približne 0,5 % prípadov nástroj označil reálny obrázok za tvorbu umelej inteligencie. Na druhej strane ale pri analýze obrázkov vytvorených pomocou konkurenčných AI modelov nástroj vykázal iba 5-10 % úspešnosť.

OpenAI súbežne popri vývoji detekčného nástroja implementovalo do tvorby svojho softvéru obrazové metadáta Koalície pôvodu obsahu a autority (C2PA), ktoré pôsobia ako vodoznak pre jednoduchšie rozpoznanie zdroja digitálneho obsahu. Spoločnosť sa tento mesiac stala súčasťou riadiaceho výboru C2PA, ktorú okrem nej tvorí aj Adobe, BBC, Google, Intel, Microsoft, Publics Groupe, Sony a Truepic, zväčša zakladajúci členovia.

Podobné metadáta OpenAI integruje aj do pripravovaného modelu Sora pre generovanie video-obsahu. Tento pomerne prelomový model, súdiac aspoň podľa doposiaľ zverejnených ukážok, by mal byť verejne sprístupnený ešte v priebehu tohto roka.

Problém rozlíšiť reálny obsah od tvorby AI modelov, majú ľudia už aj dnes. Vidieť to najmä na sociálnych sieťach, kde časť ľudí nadšene zdieľa aj celkom zjavne podvrhnutý AI obsah a druhá zas spochybňuje aj reálny obsah, ktorý by v danej podobe nedokázal vygenerovať ešte žiaden aktuálne dostupný AI model.

Spoločnosť Meta z tohto dôvodu začína postupne na svojich sociálnych sieťach Facebook, Instagram a Threads označovať AI obsah, ktorý vygenerovali modely od Adobe, Google, OpenAI, Microsoftu, Midjourney a Shutterstock. Zodpovední používatelia budú mať možnosť takýto obsah označiť nálepkou AI tvorby aj dobrovoľne, v opačnom prípade tak môže urobiť Meta aj automaticky.