Astronómovia prišli na to, ako odhaliť deepfake. Podobne skúmajú galaxie

Fotografie vygenerované umelou inteligenciou berú v posledných rokoch internet útokom, najmä pokiaľ ide o sociálne siete, falošný influencing a šírenie hoaxov. Vytvorenie realisticky vyzerajúcej fotografie je už dnes otázkou niekoľkých kliknutí.

Rapídne tak rastie potreba mať k dispozícii spoľahlivý nástroj na to, ako ich rozpoznať a oddeliť od reálnych záberov. So zaujímavým riešením prišli prekvapivo astronómovia.

Ak chcete rozpoznať deepfake fotografiu osoby, pozrite sa jej do očí. Také je odporúčanie astronómov, ktorí majú bohaté skúsenosti so skúmaním distribúcie svetla na fotografiách. Na stretnutí Royal Astronomical Society’s National Astronomy Meeting in Hull novú metódu odprezentovala študentka University of Hull, Adejumoke Owolabi.

Owolabi pri skúmaní deepfake fotografií odhalila drobý detail, ktorý ich delí od reálnych fotografií – odrazy svetiel v očiach ľudí. Ľudia na reálnych fotografiách zvyknú mať v oboch očiach konzistentné odrazy svetiel pred nimi, či už ide o prirodzené svetlo a priestor v exteriéri, alebo umelé svetelné zdroje v interiéri. Naopak v deepfake fotografiách sú tieto odrazy nekonzistentné, súčasné AI algoritmy si tieto odrazy nestrážia.

Na porovnanie odrazov v očiach na fotografiách výskumný tím využil metódy zvyčajne používané v astronómii na kvantifikáciu odrazov. „Na meranie tvarov galaxií analyzujeme, či sú centrálne kompaktné, či sú symetrické a aké sú hladké. Analyzujeme distribúciu svetla“, uviedol Kevin Pimbblet, profesor astrofyziky na University of Hull. „Automaticky zisťujeme odrazy a ich morfologické vlastnosti skúmame prostredníctvom indexov CAS (koncentrácia, asymetria, hladkosť) a Giniho koeficientu.“

V astronómii sa Giniho koeficient používa na meranie, ako je svetlo v odraze galaxie rozdelené medzi pixely obrázkov. Pixely, ktoré tvoria obraz galaxie, sa usporiadajú vzostupne podľa ich svetelného toku. Výsledná distribúcia sa porovnáva s ideálnou situáciu, kde by bol svetelný tok rovnomerne rozložený medzi všetky pixely. Nízka hodnota napríklad môže patriť diskovým galaxiám s rozloženým svetlom, zatiaľ čo galaxie s vysokou hodnotou môžu byť kompaktné objekty, ako sú napríklad kvazary.

Vedecký tím ale upozorňuje, že táto metóda nie je univerzálna a bezchybná, naopak. Aj na reálnych fotografiách sa môžu vyskytovať nezrovnalosti v odrazoch svetla spôsobené špecifickým osvetlením, kompozíciou alebo chybou snímania. Naopak modely pre generovanie obrázkov môžu detaily, ako sú práve odrazy svetiel, postupom času vylepšiť a prípadne ich aj dodatočne upraviť a spätne kontrolovať, aby boli výsledné výtvory čo najrealistickejšie.

Táto metóda detekcie deepfake fotografií by sa ale mohla stať súčasťou väčšieho súboru nástrojov kontroly, z ktorých každý má isté percento falošných pozitívnych výsledkov. Medzi takéto metódy sa radí napríklad skúmanie textúry vlasov, konzistentnosť pozadia či detaily pokožky a tváre, kde mala AI ešte donedávna veľké problémy s realistickým vykreslením úst, resp. pier a zubov.