Deepfake videá sú naozaj mladým problémom, ktorý vznikol ruka v ruke s nárastom umelej inteligencie a výpočtovej techniky. Ako fungujú deepfake videá, kde všade sa dajú použiť i zneužiť a ako sa proti nim snažíme bojovať? O tom všetkom si dnes niečo povieme.

Ako fungujú deepfake videá?

Deepfake videá sú digitálne vytvorené videá na základe “machine learning.” Ich úlohy sa rôznia, najčastejšie je cieľom zinscenovať video, v ktorom sa zdá, že určitá osoba povedala nejaký výrok, ktorý v skutočnosti nie je pravdivý.

Mohlo by ťa zaujímať: Lucasfilm zaměstnal youtubera, který vylepšil Mandaloriana!

Umelá inteligencia dokáže vytvoriť viacmenej realistické napodobeniny skutočných ľudí na základe množstva fotografií danej osoby, ktoré stroj spracuje a následne implementuje na nový obraz. Kvalita deepfaku závisí od množstva fotografií osoby, ktorú chceme “nalepiť” na nový obraz. Je potrebné, aby bola zachytená z viacerých uhlov, pri viacerých výrazoch tváre, s rôznym nasvietením. Čím viac materiálu pre vytvorenie deepfaku máme, tým kvalitnejšie finálne video či fotografia bude.

Deefake videá ale nie sú limitované len na face to face, dokážu si vytvoriť aj vlastné modely ľudí, ktorí vôbec neexistujú na základe databáz fotografií.

deepfake obrázok

Kde všade sa používajú deepfakes?

História deep fakov je naozaj krátka. Programy snažiace sa umelo dotvoriť obraz pomocou počítačovej grafiky, videoefektov a podobne síce existujú už nejaký ten čas, no prvýkrát sa slovo “deepfakes” začalo používať až v roku 2017. Používateľ Redditu s totožným nickom postol na Reddit toľko príkladov deepfakov zobrazených na sexuálnych scénach, že sa tento pojem pomenoval po ňom.

Prečítaj si tiež: Intel plánuje postaviť najmodernejšiu sieť fabrík v Európe za 80 miliárd eur!

Za zmienku stojí niekoľko deepfakov, ktoré vynikli nad ostatnými. Jedným z prvých ľudí, ktorí upozornili na nebezpečenstvo spojené s deepfake videami, bol Jordan Peel, v ktorom deepfakol Baracka Obamu.

Záujem Facebooku o boj proti deepfakom určite vzrástol potom, čo sa stal obeťou deepfake videa jeho šéf, Mark Zuckerberg.

A na úvod do tretice, o slovenskú adaptáciu videa upozorňujúceho na deepfaky sa postaralo O2 so svojim deepfakom Zlatice Puškárovej. O tom, kde všade sa už použili alebo dajú použiť deepfaky, si však teraz povieme podrobnejšie.

Fake news

Azda najnápadnejším spôsobom, ako použiť deepfaky je tvorba fake news. Obeťou týchto deepfakov sa stávajú politici, ktorým vedia deepfake technológie vložiť do úst akékoľvek slová, aj tie, ktoré by v živote nevyslovili. Nebyť cenzúry deepfakov politických osobností na sociálnych sieťach, takéto videá by mohli v priebehu niekoľkých hodín dosiahnuť miliónové zhliadnutia a hĺbkovo ovplyvniť verejnú mienku. Ako totiž zo slovenského prostredia vieme, vyvracať fake news je pre našu spoločnosť naozaj náročné.

Fake News vytvorené na základe deepfake videí sú veľmi nebezpečné najmä v situáciách, pri ktorých je nutné podať rozhodnutie z minúty na minútu. Príkladom takýchto útokov je deepfake video ukrajinského prezidenta Volodimíra Zelenského, v ktorom deepfake podoba prezidenta vyzvala ukrajinských vojakov, aby sa vzdali Rusku.

Ako jednotlivé sociálne siete pristúpili k invázii na Ukrajinu? Prehľad konkrétnych opatrení nájdeš v našom článku!

Skutočný Zelenskyj na toto video zareagoval už o niekoľko minút a ohlásil toto video za nepravdivé. Ruský útok však poukazuje na to, ako nebezpečné môže deepfake video pre štátne inštitúcie byť.

Finančné podvody

Veľmi podobným spôsobom použitia deepfakov na nepravdivé tvrdenia rôznych osobností je stratégia, v ktorej útočník zinscenuje hlas šéfa istej spoločnosti a v telefonáte požiada obeť, aby mu poslala na účet peniaze.

Zuckerberg plánuje pridať NFT na Instagram! Ako to bude vyzerať? Dočítaš sa v článku

Či už v súkromnej alebo najmä v štátnej správe by boli tieto útoky veľmi nebezpečné, preto pri podobných kritických situáciách je vhodné dohodnúť sa s kompetentnými na istých protokoloch, ako napríklad ochrana heslom pri podobných žiadostiach.

Sexuálne scény

Veľmi častou obeťou deepfakov sú ženské celebrity, ktorých tváre sú prostredníctvom deepfake “prilepené” na rôzne herečky vo filmoch pre dospelých.

Súvisiac s vytváraním sexuálnych klipov osobností je spojený aj phishing, v ktorom sa vytvorí video, ktoré zobrazuje poškodeného v sexuálnej alebo inak zahanbujúcej pozícii a útočiaci sa vyhráža zverejnením videa v prípade nezaplatenia výkupného.

Zcukerber deepfake

Dobrá stránka deepfakov

Deepfake technológia však nemusí slúžiť za každých okolností na zlé úmysly. Nie vždy je totiž zámerom deepfakov vydávať sa za skutočné. Mnoho z nich je určených pre pobavenie publika. Internetovou komunitou v minulom roku presvišťal meme dame da ne, v ktorom rôzne osobnosti pomocou lacného a jasného deepfaku spievali práve túto pesničku.

Šokujúce: NFT v hodnote 1 milióna eur sa omylom predalo za 1 cent!

O čosi dávnejšie bol zas na mobilných zariadeniach trend Face Swap, vďaka ktorému si mohli užívatelia vyskúšať nie len ako by vyzerali v roli akejsi filmovej hviezdy, ale i to, ako by vyzerali o niekoľko rokov starší či v podobe opačného pohlavia.

Kde všade deepfake pomáha?

Deepfake je zároveň novou možnosťou pre tvorcov animovaných filmov či hier. Miesto ručne tvorenej počítačovej grafiky budú môcť tieto štúdiá používať automatizované deepfake animácie. Vývoj deepfake videí do štádia, v ktorom by bol na dostačujúcej kvalite si ale pýta ešte pár rokov.

Deepfake videá môžu pomôcť aj pri vzdelávaní či umení, pretože vedia dávať do živého obrazu a zvuku osobnosti, ktoré už nie sú medzi nami a robiť teda zážitok interaktívnejší.

FIFA deepfake
Porovnanie FIFA modelov futbalistov s deepfake modelmi

Možnosť schovať sa za deepfake postavu s umelo vytvorenou tvárou a hlasom vie pomôcť napríklad investigatívcom fungujúcim v autoritárskych režimoch účinkovať na internete anonymne. Vďaka deepfake technológií sa vedia aj správy šíriť rýchlejšie napríklad vo viacerých svetových jazykoch naraz, hoc originál bol nahraný len v jednom z nich.

Deepfake technológia vie taktiež pomôcť pri rekonštruovaní kriminálnych scén, v zdravotníctve či iných odvetviach, v ktorých je manuálne doplnenie a zladenie všetkých aktuálnych poznatkov do času a priestoru v dnešnej dobe náročné.

V módnom odvetví môžu deepfaky pomáhať predstaviť si rôzne módne kúsky na tele modela či modelky bez potreby reálne si ich obliecť. Nemusí sa to týkať len oblečenia, v 3D zobrazení sa vie vďaka deepfaku predstaviť kupujúcemu akýkoľvek produkt.

Ako bojujeme proti deepfakom?

Deepfake je technológia, ktorá, ako sme si ukázali, vie byť použitá s dobrým i zlým úmyslom. Dobrou správou je, že sociálne siete v súčasnosti bojujú proti deepfakom snažiacim sa oklamať verejnosť. Deepfaky sú ale ešte len na začiatku svojho vývoja, preto pretrváva obava, že čoskoro ich nebude možné rozpoznať od reality. Ako sa teda proti nim brániť?

Obama deepfake

Aktuálne existujú 3 spôsoby, ako odhaliť deepfake videá, a to manuálne, na základe algoritmu alebo na základe overenia pôvodu obsahu.

Manuálne odhaľovanie deepfake videí používa školených ľudí, ktorí dokážu bežným okom zachytiť odlišnosti medzi reálnymi zábermi a deepfake simuláciami. Deepfake videá v dnešnej dobe môžeme rozpoznať vďaka nerealistickému pohybu očí, absencii žmurkania, neprirodzenými výrazmi tváre, vlasov, odtiene pleti, tela, nedokonalému prišitiu nového obrázka na originál, čudnému nasvieteniu, zlému načasovaniu pier so slovom, či roboticky znejúcim audiom. Ako však doba ide ďalej, deepfake videá budú ľudskému oku čoraz náročnejšie na spozorovanie.

Umelou inteligenciou proti umelej inteligencii

Algoritmické odhaľovanie deepfakov požíva k rozpoznávaniu podvodných videí umelú inteligenciu. Snaží sa prísť na to, ako vyzerajú deepfake videá štýlom, že sami vytvoria deepfake videá, aby spoznali kľúčové podobnosti týchto videí. V minulých rokoch firmy ako Google, Microsoft či Facebook vytvorili databázu tisícok deepfake videí, aby mali programy rozpoznávajúce deepfake videá dostatočnú databázu na ich rozpoznávanie a odstraňoavnie z obehu.

Deepfake videá sú úplne alebo čiastočne zakázané aj na ostatných sociálnych sieťach ako Twitter či Tiktok. Podobným štýlom vznikol pár rokov dozadu program od Adobe, ktorý dokáže rozpoznávať Photoshop úpravy.

Mohlo by ťa zaujímať: Mal by si začať používať VPN? Na čo vlastne slúži a aké má výhody?

Algoritmické odhaľovanie deepfakov sa zdá aktuálne ako dostatočne silné, nakoľko používa umelú inteligenciu na odhaľovanie veľmi podobnej umelej inteligencie. Podobne, ako pri očkovaní, do tela sa vloží časť informácie z vírusu, aby ju telo spracovalo a vytvorilo na základe nej protilátky. Dobrou správou je, že svetové dátové korporáty sú tentokrát na dobrej strane. Vďaka svojim finančným, dátovým a technologickým kapacitám by mali technologický pokrok deepfakov na určitú dobu stíhať rozpoznávať.

blockchain deepfake

Posledná poistka v boji proti deepfakom

V prípade, že by sa deepfake videá dostali na takú úroveň, že by dokázali oklamať už aj samotný algoritmus poháňaný umelou inteligenciou, máme v rukáve ešte jednu kartu: Overovanie pôvodu obsahu.

Každá vytvorená snímka zachytená či už mobilom alebo profesionálnym fotoaparátom by v takom prípade musela mať v svojom kóde skrytý digitálny podpis, na základe ktorého by sa dala overiť pravosť snímky. Ak by sa do toho pridala aj povedzme technológia blockchainu, ktorá sa používa napríklad pri kryptomenách či NFT súboroch, daný digitálny podpis by bol prakticky nehacknuteľný.

Prečítaj si tiež: Čo je to NFT, blockchain, a čo znamenajú pre herný priemysel?

V prípade, že by aj tento spôsob zlyhal napríklad kvôli neúspešnej implementácii do praxe, neostávalo by zrejme spoločnosti nič iné, ako naučiť sa, že akýkoľvek digitálny obsah vo videoformáte bez zmienky v mainstream médiách je nedôveryhodný.

Záver

Deepfake je jednou z mnoha otázok, ktorou sa bude musieť ľudstvo v nadchádzajúcich rokoch zapodievať. Je potrebné informovať verejnosť o tom, aké dobré i zlé stránky táto technológia prináša a ako k nej pristupovať. Klamlivé deepfaky sú ale iba súčasťou problému, ktorý sa s nástupom digitálnej doby vytvára. Spoločnosť totiž v dnešnom informačnom toku nie je naučená spracovávať informácie. Koniec koncov, fake news sa dajú vytvoriť aj bez deepfaku a aj tak majú na sociálnych sieťach masívnu odozvu.

Mohlo by ťa zujímať: Vedci učia mozgové bunky hrať Pong a porážajú umelú inteligenciu!

Pozerajme sa teda na informácie kriticky a snažme sa overovať ich pravidvosť alebo rozmýšľať nad zámerom toho, kto nám informáciu podáva. Dnešné digitálne médiá vedia byť totiž veľmi dobrým sluhom, ale zlým pánom.