Zábava na hranici etiky, aj zákona: Ako AI v roku 2023 oklamala svet

Kde sú tie časy, keď sa falošné fotky vyrábali vo Photoshope? Dnes umelá inteligencia dokáže vyrobiť presvedčivé falošné zábery, hlasové záznamy, aj ozvučené videá, ktoré začínajú vo veľkom kolovať nielen po sociálnych sieťach. Od recesie a zábavy je však len krôčik k zneužitiu takýchto kompilácií v predvolebnej kampani, za účelom diskreditácie, o propagande v súvislosti s vojnou a inými krízovými situáciami nehovoriac.

Deepfakes sú čoraz presvedčivejšie, realistickejšie a tým aj znepokojujúcejšie. Po extrémnom nástupe generatívnej umelej inteligencie koncom minulého roku v podobe textových chatbotov sociálne siete zahltili obrázky, zvuky a videá generované AI.

Deepfake je spojením pojmov deep learning (hĺbkové účenie) a fake (podvod), ktoré zvyčajne označuje falošné video, do ktorého bola vložená digitálne vytvorená napodobenina tváre a hlasu obete. Takejto napodobenine reálneho človeka je možné „do úst“ vložiť prakticky akékoľvek slová, alebo zinscenovať situáciu, ktorá sa nikdy reálne neodohrala.

Magazín Mashable vybral niekoľko „hlboko falošných“ fotografií a videí, ktoré v prvom polroku 2023 oklamali internetovú populáciu. Medzi nimi bol dokonca falošný hudobný klip s duom populárnych spevákov.

Singel s názvom „Heart on My Sleeve“, ktorý The Weeknd a Drake nikdy nenahrali

V apríli 2023 The Weeknd a Drake uviedli skladbu s názvom „Heart on My Sleeve“, ktorý sa na sociálnych sieťach stala virálnou. Lenže, chybička, interpreti túto pieseň nikdy nenaspievali. Bola vygenerovaná anonymným tvorcom menom Ghostwriter pomocou umelej inteligencie. Chytľavá pesnička pritiahla pozornosť hlavne kvôli búrlivej diskusii o problémoch s autorskými právami, ktoré generatívna AI predstavuje pre hudobný priemysel.

Hoci nie je jasné, aká technológia bola použitá na vytvorenie piesne, existuje množstvo nástrojov, ktoré umožňujú prevádzať text na hlas, vrátanie klonovania reálneho hlasu osoby. Pre porušenie autorských práv bola pieseň nakoniec odstránená zo streamovacích platforiem Spotify, Apple Music a ďalších, ale na YouTube ju môžete nájsť aj dnes, s uvedením, že ide o Drake Weeknd AI remix. Nahrávacia spoločnosť Universal Music Group uviedla, že školenie generatívnej AI pomocou hudby „jej umelcov“ vyvoláva otázku, na ktorej strane histórie zainteresované strany v hudobnom ekosystéme chcú byť. Či na strane umelcov, fanúšikov a ľudského kreatívneho prejavu, alebo na strane deepfakes, podvodov a okrádania umelcov o ich náležitú odmenu.

Falošné zatknutie Donalda Trumpa

V čase očakávania zatknutia amerického exprezidenta Donalda Trumpa, novinár a zakladateľ Bellingcat Eliot Higgins pomocou generátora obrázkov AI Midjourney vytvoril fotky Trumpa, ako vzdoruje polícii pri zatýkaní, uteká pred ňou a dokonca v oranžovej kombinéze vykonáva rôzne činnosti vo väzení. Skutočnosť je taká, že Trump sa 20. apríla vzdal orgánom činným v trestnom konaní bez akéhokoľvek incidentu a vo väzení sa neocitol.

Pápež aj Harry Potter v štýle Balenciaga

Módna značka Balenciaga sa z akýchsi dôvodov stala v predošlých mesiacoch terčom tvorcov deepfake obsahu minimálne dvakrát.

V marci sa šíril internetom záber pápeža Františka v obrovskej bielej páperovej vetrovke a populácia sociálnych sietí oceňovala kreativitu svätého otca. Falošnú fotku pápeža v páperke v štýle Balenciaga však vytvoril 31-ročný stavebný robotník Pablo Xavier z Chicaga pomocou AI Midjourney. Pritom nešlo o jediný konštrukt pápeža vo vetrovke od tohto vtipkára.

Ten istý mesiac sa generatívna AI inšpirovala módnym domom Balenciaga aj pri tvorbe videa s falošnými postavami z filmov o Harry Potterovi.  „Ty si Balenciaga, Harry,“ hovorí Hagrid Harrymu Potterovi s prepadnutými lícami.

Vo videu sú všetky hlavné postavy v nejakej forme modifikované, s ostrými lícnymi kosťami a zvädnutým vzhľadom, pripomínajúc módnu kampaň, ktorá sa berie príliš vážne. Video na YouTube, ktoré prezentuje kanál Demonflyingfox, sa volá „Harry Potter by Balenciaga“, takže zámerom jeho tvorcu nikdy nebolo vytvárať falošnú realitu.

Ale spôsob, akým upravuje tón, estetiku a stvárnenie postáv Harryho Pottera ako modelov Balenciaga, je dobrým príkladom možností nástrojov AI ako Midjourney. V kanáli Demonflyingfox nájdete aj ďalšie deepfake videá s Harrym Potterom, alebo paródie na seriál Breaking Bad.

Hoax o výbuchu v Pentagone

Na záver jeden dôkaz, že deepfake fotky, či videá môžu mať aj iné následky než iba pobavenie. Falošný záber výbuchu v Pentagone ukazuje, aká nebezpečná môže byť generatívna AI v rukách, ktoré si zaumienia škodiť. V máji sa na Twitteri šíril obrázok ohňa a oblakov dymu z falošnej explózie neďaleko Pentagonu.

Orgány činné v trestnom konaní síce rýchlo odhalili, že obrázok je falošný, ale  fotografia vyvolala krátkodobý pokles na akciovom trhu. Falzifikát pritom nebol príliš kvalitný. Na základe rozmazaného oplotenia pred budovou a nerovnomerných veľkostí stĺpov bolo jasné, že ide o podvrh.

Lenže umelá inteligencia a jej algoritmy sa stále zdokonaľujú, preto bude čoraz ťažšie odhaliť deepfakes. Východiskom je bolestivá, ale osvedčená metóda – zvýšená miera používania zdravého rozumu. Čiže nástroja, ktorý nám vďaka používaniu internetu, vyhľadávačov, smartfónov a ďalších digitálnych technológií začal atrofovať už dlho pred nástupom AI.