Deepfake diplomacia
Laura sedela v zatemnenej miestnosti Národného centra pre kybernetickú bezpečnosť (NCKB) v Bratislave. Pred ňou na stene monitorov bežalo to isté video už po stýkrát.
Na videu stál predseda vlády Slovenskej republiky. Pozadie tvorila jeho oficiálna kancelária, na stole slovenská a európska vlajka. Svetlo bolo mäkké, atmosféra vážna.
„…preto som sa po konzultácii s našimi partnermi rozhodol,“ hovoril premiér na videu, „že Slovenská republika s okamžitou platnosťou zastavuje všetku vojenskú a logistickú pomoc Ukrajine. Naším cieľom je neutralita. Nemôžeme riskovať životy našich občanov v konflikte, ktorý nie je náš.“
Laura zastavila obraz na 02:43. „Priblíž mi jeho pravé oko,“ prikázala systému.
„Je to dokonalé,“ zašepkal jej asistent Jakub. „Sledovali sme mikropohyby svalov, frekvenciu žmurkania, odrazy svetla v zreničkách. Detektor dáva skóre manipulácie 0,2 % – hlboko pod prahom detekcie. Ale premiér tvrdí, že v tom čase spal.“
„Premiér môže klamať, Jakub. Ale dáta neklamú. Problém je, že toto video uniklo pred hodinou na Telegram a odtiaľ na Facebook. Má už pol milióna videní. Ľudia v komentároch šalejú. Ak toto video nie je pravé, musíme to dokázať do večerných správ. Inak zajtra padne vláda.“
1. Honba za artefaktmi
Laura nebola politička, bola forenzná expertka na digitálne médiá. Vedela, že vo svete generatívnej AI už nestačí hľadať rozmazané okraje alebo neprirodzené pohyby úst. Moderné modely, poháňané neobmedzeným výpočtovým výkonom ruských trolích fariem, dokázali simulovať aj krvný tlak v tvári.
„Hľadaj zvukové stopy,“ povedala Laura. „Ak obraz vygenerovali cez GAN, zvuk museli syntetizovať oddelene. Hľadaj frekvenčné anomálie v pozadí.“
Jakub spustil analýzu zvuku. „Mám tam biely šum. Je to príliš čisté, Laura. Skutočná kancelária premiéra má klimatizáciu, šum z ulice, bzučanie trafostanice v stene. Toto je… sterilné.“
„Presne. Syntetické ticho. Ale to nestačí ako dôkaz pre verejnosť. Potrebujeme dymiacu zbraň. Zdrojový kód alebo aspoň metadáta, ktoré tam niekto nechal.“
2. Informačné peklo
Vonku pred budovou NCKB sa začínal zhromažďovať dav. Dezinformačné weby už šírili správu, že „skutočné video“ sa niekto snaží vymazať z internetu. Emócie boli vybičované na maximum. Slovensko bolo v otázke pomoci Ukrajine rozdelené a toto video bolo zápalkou v sude s prachom.
„Laura, máme problém,“ vbehol do miestnosti riaditeľ centra. „Maďarská a rakúska strana práve požiadali o oficiálne stanovisko. Naši spojenci v NATO sa pýtajú, či sme skutočne zmenili kurz. Ak to nepotvrdíme alebo nevyvrátime s nezvratným dôkazom, zajtra začne izolácia Slovenska.“
Laura cítila, ako sa jej potia dlane. „Potrebujem prístup k serverom, z ktorých to bolo prvýkrát nahrané. Vieme, kde to vzniklo?“
„adresa IP vedie do cloudového servera v Moldavsku. Ale je to cez sedem VPN. Sme slepí.“
3. Digitálna DNA
„Počkaj,“ zvolala zrazu Laura. „Pozri sa na ten tieň za premiérom. Na tej stene visí obraz. Je to reprodukcia Fullu.“
„No a?“
„V skutočnej kancelárii premiéra ten obraz pred týždňom zvesili, pretože ho poslali na reštaurovanie. Nahradili ho iným. Ten, kto trénoval túto AI, použil staršie dáta. Použil fotky kancelárie, ktoré sú na internete staršie ako štrnásť dní.“
Jakub rýchlo overil informáciu. „Máš pravdu! Na fotkách z včerajšieho prijatia veľvyslanca je tam iný obraz. Ale Laura, to je slabý dôkaz pre bežného človeka. Povedia, že premiér si ho tam na to video vrátil.“
„Nestačí to pre ľudí, ale stačí to pre mňa. Ak použili staré fotky, museli použiť aj konkrétny súbor údajov. Ak zistíme, ktorý súbor údajov to bol, nájdeme v ňom digitálne podpisy autora.“
Laura sa ponorila do „darknetových“ fór, kde sa obchoduje s modelmi na tvorbu deepfake videí. Hľadala model s názvom „Kancelár-V1“ alebo niečo podobné. Po hodinách zúfalého hľadania narazila na stopu.
„Mám to! Ruský výskumný inštitút v Petrohrade pred mesiacom publikoval prácu o fotorealistickom vykresľovaní interiérov. Ako ukážkové video použili… slovenský úrad vlády. Niekto zneužil ich otvorený kód a ‚našil‘ naň premiérovu tvár.“
4. Pravda v reálnom čase
O 19:55, päť minút pred hlavnými správami, Laura odoslala správu. Obsahoval matematický dôkaz o nezhode tieňov, analýzu syntetického zvuku a jasné prepojenie na ruský softvérový nástroj.
Televízia priniesla vyhlásenie NCKB spolu s analýzou Laury. Premiér vystúpil naživo – tentoraz so skutočným novým obrazom za chrbtom a s hodinami, ktoré ukazovali aktuálny čas.
Dav pred budovou sa pomaly začal rozchádzať, ale Laura vedela, že bitka neskončila.
„Vyhrali sme dnešok, Jakub,“ povedala a vypla monitor. „Ale pozri sa na tie komentáre. Polovica ľudí stále verí, že to prvé video bolo pravé a toto druhé je deepfake vytvorený ‚elitami‘, aby zakryli pravdu.“
„Čo s tým urobíme?“
„Nič. Toto je nová realita. Na digitálnom fronte nie je cieľom nepriateľa presvedčiť nás o lži. Cieľom je dosiahnuť, aby sme už nikdy neverili pravde. Aby bol každý obraz, každé slovo a každý zvuk podozrivý. A v tom svete… v tom svete už nikto nemôže vládnuť.“
Keď si balila veci, zavibroval jej mobil. Otec. Poslal jej to prvé video – to falošné – a pod ním: Vidíš, Laurika. Vravel som ti, komu robíš. Aspoň to konečne povedal na rovinu. Napísala mu: Oci, to video nie je pravé. Ja sama som dnes dokazovala, že je vyrobené. Odpoveď prišla za pár sekúnd: To tvrdia v telke. A tej predsa neveríme. Laura držala telefón v ruke, kým obrazovka nezhasla.
Laura vyšla z budovy do bratislavskej noci. Bolo ticho, ale v každom smartfóne v meste práve prebiehala vojna o vnímanie reality. A ona si prvýkrát uvedomila, že proti algoritmu, ktorý zneužíva ľudskú nedôveru, neexistuje žiadny firewall.