Myslíš si, že anonymita na internete ťa ochráni? Dvaja muži si to tiež mysleli. Jeden z nich si dal vlastnú fotku ako profilový obrázok na stránke, kde zverejňoval nelegálne AI deepfake porno. FBI ho identifikovala krížovým porovnaním s evidenciou vodičských preukazov. Skutočnosť je jednoduchá: schovať sa pri tomto type obsahu je oveľa ťažšie, ako si väčšina ľudí myslí.
V Spojených štátoch platí od tohto roka zákon Take It Down Act (TIDA), ktorý kriminalizuje zverejňovanie sexuálneho obsahu vytváraného umelou inteligenciou bez súhlasu zobrazených osôb. Minulý týždeň FBI zatkla dvoch mužov, ktorí sú obvinení z porušenia tohto zákona. Prípad ukazuje, ako ľahko dokázali vyšetrovatelia identifikovať páchateľov, a to doslova kliknutím na hashtagy ako #AI alebo #Deepfakes na pornografických stránkach.
Prvý prípad: Instagram a PayPal ho prezradili
Dvadsaťročný Arturo Hernandez z Texasu mal na svedomí 113 albumov so sexualizovanými AI zábermi a videami zhruba 50 žien. Tieto albumy si pozrelo takmer milión ľudí. Medzi obeťami boli herečky, političky a hudobníčky, ale aj ženy, ktoré Hernandez osobne poznal, napríklad spolužiačky zo strednej školy alebo priateľka z Instagramu.
Ako ho odhalili? Hernandez mal druhý účet, ktorý zverejňoval ten istý obsah. Tento účet bol prepojený s jeho PayPal účtom. IP adresa, z ktorej sa na tento účet prihlasoval, bola rovnaká, akú Apple záznamy priradili k jeho iCloud prihláseniu. Navyše, fotografia, ktorú použil na vytvorenie jedného z AI videí s viac ako 36 000 zhliadnutiami, bola uložená priamo v jeho vlastnom Instagram profile. Hernandez síce skúsil zamaskovať identitu tým, že sa na Gmaile registroval pod prezývkou Ryan, no rovnakú prezývku používal aj na Snapchate.
Druhý prípad: vlastná fotka ako profilový obrázok
Päťdesiatjedenročný Cornelius Shannon bol ešte menej opatrný. Je obvinený zo zverejnenia zhruba 360 AI albumov s viac ako 2 miliónmi zhliadnutí, v ktorých figuruje asi 90 žien. Vyšetrovatelia ho prepojili s účtom prakticky okamžite, pretože Shannon použil svoju vlastnú fotografiu ako profilový obrázok. Na snímke bol muž v drese New York Mets. Porovnanie s fotografiami z evidencie vodičských preukazov a bezpečnostnými kamerami stačilo na identifikáciu. Obaja muži čelia až dvom rokom väzenia.
FTC posiela varovania aj nudify aplikáciám
Americká Federálna obchodná komisia (FTC) minulý týždeň poslala varovné listy 12 firmám, ktoré ponúkajú takzvané nudify nástroje. Teda aplikácie, ktoré z bežnej fotografie vytvoria falošný nahý záber. Tieto firmy majú povinnosť zaviesť systém, cez ktorý môžu obete žiadať o odstránenie obsahu do 48 hodín, inak im hrozí pokuta až 53 000 dolárov za každé jedno porušenie.
FTC okrem toho oslovila aj veľké platformy vrátane Amazonu, Mety, TikToku, Snapchatu, Discordu alebo Redditu s jasným odkazom: buďte pripravení čeliť sankciám, ak nebudete v súlade so zákonom. X (predtým Twitter) zverejnil návod, ako môžu obete nahlásiť škodlivý obsah priamo cez Help Center.
Prečo je to dôležité aj pre teba
Možno si povieš, že teba sa to netýka, lebo žiješ na Slovensku. No podobné nástroje sú dostupné po celom svete a obete sú všade. Slovensko nemá zatiaľ takto konkrétne nastavený zákon, no európska legislatíva cez smernicu o boji proti sexuálnemu zneužívaniu a návrhu v rámci AI Act sa tomuto problému tiež venuje. A čo je podstatné: technológia na vytváranie deepfake obsahu je lacná, dostupná a realistická. Tvoja fotka z Instagramu môže byť zneužitá kýmkoľvek.
Prípad Hernandeza a Shannona je varovanie nielen pre páchateľov, ale aj signál pre obete: nahlasovanie funguje, stopy zostávajú a orgány začínajú brať tieto prípady vážne. Sleduj, čo sa deje s TIDA, pretože podobné zákony čoskoro prídu aj do Európy.
