Ako spoznať, či obrázok vytvorila AI? Google na to otvoril nástroj všetkým

Google od 7. októbra sprístupnil nástroj SynthID Detector všetkým používateľom na svete. Na stránke synthid.com si môžete overiť, či obrázok, video alebo zvukovú nahrávku vytvorila umelá inteligencia.

Detektor už nerozpozná iba výstupy modelov Googlu. Hľadá aj stopy po nástrojoch od OpenAI, Nvidie a juhokórejskej skupiny Kakao a podporu pre Apple Intelligence firma sľubuje „čoskoro“.

Prvú verziu Google predstavil v máji 2025 na konferencii I/O. Prístup k nej však dostali len vybraní novinári, výskumníci a ďalší mediálni profesionáli, ktorí sa prihlásili do poradovníka. Verejná verzia je bezplatná a zatiaľ funguje iba v angličtine. Pred prvou kontrolou sa musíte prihlásiť účtom Google, OpenAI alebo Apple.

Detektor neodhaduje, či obsah „vyzerá“ ako vygenerovaný. Hľadá vodoznak SynthID, ktorý kompatibilný model vloží do výstupu už pri jeho vzniku. Pri obrázkoch a videách je zakódovaný priamo v pixeloch, pri zvuku vo frekvenčných zložkách nahrávky. Oko ani ucho ho nepostrehne a na rozdiel od metadát sa nestratí pri bežnom zdieľaní či preuložení súboru.

Výsledkom kontroly je jednoduchý verdikt, či nástroj vodoznak našiel, alebo nie. Testovacia verzia z minulého roka vedela vyznačiť aj konkrétne oblasti obrázka či úseky zvuku, v ktorých sa vodoznak nachádzal. Google odporúča nahrávať súbor v čo najvyššej kvalite a výsledok brať ako jeden z viacerých podkladov pri overovaní.

Od spustenia v roku 2023 Google podľa vlastných údajov označil vodoznakom viac ako 180 miliárd obrázkov a videí a zvukový obsah s celkovou dĺžkou 240-tisíc rokov. Ešte v máji uvádzal 100 miliárd obrázkov a videí a 60-tisíc rokov zvuku. Za necelých päť mesiacov pribudlo 80 miliárd vizuálnych výstupov a objem označeného zvuku sa zoštvornásobil.

Otvorenie technológie ďalším firmám ohlásil Google na tohtoročnej I/O. OpenAI vtedy podľa uviedlo, že vodoznak SynthID vloží do všetkých obrázkov vygenerovaných v ChatGPT. Kakao ho nasadzuje do výstupov svojich modelov Kanana a Nvidia už od minulého roka označuje videá z modelov Cosmos. K partnerom sa v máji pridal aj ElevenLabs, ktorý sa špecializuje na syntetický hlas. V októbrovom zozname podporovaných firiem však zatiaľ chýba.

Pri Apple ide podľa Googlu o obrázky vytvorené alebo upravené cez Apple Intelligence, napríklad v aplikácii Image Playground. Termín firma neuviedla. Podľa Engadgetu bude SynthID Detector jedným z prvých nástrojov, ktoré dokážu výstupy umelej inteligencie od Apple rozpoznať.

Samostatná stránka dopĺňa kontroly, ktoré Google už zabudoval do svojich služieb. Aplikácia Gemini vie overovať obrázky, videá aj zvuk a do mája túto funkciu ľudia použili 50 miliónov ráz. Neskôr pribudla vo Vyhľadávaní cez Lens, režim AI a Circle to Search a tiež v Gemini v Chrome, kde stačí položiť otázku, či obsah vytvorila AI. Všetky tieto funkcie dnes podľa Googlu bežne spracúvajú viac ako milión požiadaviek denne.

Najväčšie obmedzenie Google priznáva sám a na stránke nástroja upozorňuje, že nejde o „všeobecný detektor AI“. Ak detektor vodoznak nenájde, súbor mohol pokojne vzniknúť v nástroji, ktorý SynthID nepoužíva. Microsoft a Meta majú vlastné vodoznaky a otvorené modely svoje výstupy často neoznačujú vôbec. Meta prevádzkuje aj vlastný overovací nástroj, ten však rozpozná len obrázky z jej najnovších modelov Muse Image.

Ani pozitívny výsledok nepovie všetko. Detektor nerozlišuje, či obsah celý vygenerovala AI, alebo ho ňou niekto iba upravil. Vodoznak sa podľa Engadgetu dá v niektorých prípadoch úpravou odstrániť a Google pripúšťa aj zriedkavé falošné poplachy pri súboroch, ktoré vodoznak nemajú. Text verejná verzia nekontroluje, hoci SynthID dokáže označovať aj texty z Gemini.

Okrem vodoznakov sa Google opiera o štandard C2PA Content Credentials. Ide o údaje pripojené k súboru, ktoré zaznamenávajú, akým nástrojom vznikol a ako ho upravovali. Pixel 10 bol prvým smartfónom, ktorý ich pridáva k fotografiám priamo vo fotoaparáte, a dokáže tak potvrdiť aj opak, teda že snímka je neupravený záber z reálnej kamery.

Firmám, ktoré potrebujú kontrolovať obsah vo veľkom, Google od mája ponúka AI Content Detection API na platforme Google Cloud. Podľa spoločnosti rozpozná obsah z modelov Googlu aj z ďalších populárnych modelov a zatiaľ ho testuje s vybranou skupinou partnerov.