Deepfake video do niekoľkých sekúnd? Aplikácia Reface valcuje internet

Výmena tvárí pomocou umelej inteligencie môže byť zábavná i nebezpečná. Tvorba tzv. deepfake videí, ktorá bola donedávna pomerne komplikovaná a trvala aj celé hodiny, vám teraz zaberie nanajvýš pár desiatok sekúnd. Internet sa tak môže zabávať na videách z aplikácie Reface, je však naozaj bezpečná?

Šestica deepfake videí, ktoré sme vám ukázali ešte v priebehu minulého roka, je dokonalou ukážkou toho, ako môžu deepfake videá zabaviť, ale ako môže byť táto technológia aj veľmi ľahko zneužitá. Proti videám s digitálnou výmenou tvárí sa aj z toho dôvodu stavajú spoločnosti ako Google alebo Facebook, ktorý dokonca zverejňovanie deepfake videí na svojich platformách zakázal.

Medzi tým však internet ovládla mobilná aplikácia Reface (predtým známa pod názvom Doublicat), ktorá vám umožní vložiť si vašu vlastnú, alebo pokojne aj cudziu tvár do videí, filmových scén či zábavných GIF animácií. Stačí si urobiť selfie alebo pridať fotku, vybrať si želaný obsah a o pár sekúnd už môžete hotové video zdieľať s priateľmi.

Vytvorenie vlastného deepfake videa tak už vďaka tejto aplikácii zvládne naozaj každý. Ak si však spomínate na aplikáciu FaceApp umožňujúcu vizuálnu zmenu veku či pohlavia, možno si spomínate aj na jej otáznu bezpečnosť. Podobné otázky sa vynárajú aj pri aplikácii Reface.

Zábavný zostrih z filmu či vtipnú GIF animáciu, do ktorej si vložíte vašu alebo cudziu tvár, zrejme nebude za legitímny záznam či dôkaz čohokoľvek považovať zrejme nikto, kto nie je na internete prvý krát. Tvorba deepfake videa sa v tomto prípade zdá byť naozaj nevinná, aspoň nateraz.

Odosielanie osobných fotografií, v rámci ktorých softvér vyslovene sníma vaše črty tváre, však už môže byť pomerne nebezpečné. Aj tvár je totiž unikátny biometrický údaj, ktorý už dnes bežne využívame na zabezpečenie našich smartfónov, počítačov aj financií v rámci mobilného internet bankingu. Zneužitie týchto údajov tak so sebou môže priniesť obrovské problémy.

Aj aplikácia Reface tieto údaje vrátane selfie fotografií zbiera, podľa používateľských podmienok však iba na účely výmeny tváre. Rovnakým spôsobom aplikácia zbiera aj údaje o dobe jej používania, lokalite podľa IP adresy, informácie o operačnom systéme, stave batérie, pripojených zariadeniach v sieti či systémovom jazyku nastavenom v danom zariadení.

Zber týchto dát je však v dnešnej dobe pre účely cielenia reklamy úplne bežné a sociálne siete, ktoré používame denne, ich zbierajú ďaleko viac. Fotografie vložené do aplikácie Reface sa zmažú do 24 hodín od vloženia, zatiaľ čo dáta o črtách tváre aplikácia uschováva po dobu 30 dní od jej posledného použitia.

Spoločnosť NeoCortext pre britský denník Independent uviedla, že na osobných údajoch v podobe fotografií používateľov alebo citlivých dát nezarába. Jej hlavným zdrojom príjmov je prémiové predplatné, ktoré používateľom umožní tvoriť deepfake videa bez obmedzení a bez vodotlače aplikácie. Zhruba 10 % príjmov spoločnosti tvoria príjmy z reklamy, ktoré sa zobrazujú priamo aplikácii používateľom využívajúcim bezplatné účty.

Ak sú teda tieto tvrdenia pravdivé, aplikácia Reface je nateraz dobrou zábavkou. Bude však zaujímavé sledovať, ako sa takéto riešenia budú vyvíjať v nasledujúcich rokoch a ako sa na ne pripravia sociálne siete, aj legislatíva. Jej cieľom však napokon zrejme nebude deepfake videá celkom zakázať, ale skôr sankcionovať tvorcov nebezpečného alebo pornografického obsahu.