Taylor Swift sa nedávno stala terčom nekalých útokov. Niekto vytvoril pomocou umelej inteligencie obrázky, na ktorých je speváčka zobrazená v sexuálne sugestívnych polohách. Následne ich zdieľali na sociálnu sieť X, kedysi známu ako Twitter.

Snímky rýchlo získali na popularite a pojem „Taylor Swift AI“ dokonca odporúčala vo vyhľadávaní. Jeden z mnohých obrázkov videlo viac než 45 miliónov používateľov, pričom zdieľalo ho až 24-tisíc z nich a získal tisíce reakcií, píše portál The Verge.

Virálne obrázky sociálna sieť stiahla až po 17 hodinách od ich zverejnenia a zároveň pozastavila profil používateľa, ktorý snímky uverejnil, keďže porušoval pravidlá. Neskôr zverejnili príspevok, v ktorom tvrdia, že „aplikujú politiku nulovej tolerancie voči takémuto obsahu“.

Ďalej uviedli: „Naše tímy aktívne mažú všetky identifikované obrázky a prijímajú vhodné opatrenia proti účtom zodpovedným za ich uverejňovanie. Situáciu dôkladne monitorujeme, aby sme zabezpečili okamžité riešenie akýchkoľvek ďalších porušení a odstránenie obsahu.“

Pretrvávajúci problém

Podobne vytvorené obrázky, či dokonca videá, však vznikali aj v minulosti. Vo februári minulého roku hernou komunitou otriasol prípad tvorkyne obsahu na platforme Twitch, ktorá vystupuje pod prezývkou Sweet Anita.

Po tom, čo sa dozvedela, že niekto vytvoril sexuálny obsah s jej podobizňou prehovorila pre portál BuzzFeed News. „Videla som sa v pozíciách, s ktorými by som nikdy nesúhlasila, a robila veci, ktoré by som nikdy nechcela robiť. A bolo to dosť desivé,“ uviedla.

Pokimane, Maya Higa či QTCinderella sú ďalšie streamerky, ktoré sa dostali do podobnej situácie. Zdroj: unsplash.com/@casparrubin

Podobné situácie môžu ohroziť nielen známe osobnosti. „Sú to bežní ľudia. Sú to zdravotné sestry, študenti umenia a práva, učitelia a novinári. Videli sme príbehy o tom, ako to ovplyvňuje študentov stredných škôl a ľudí v armáde,“ uviedla profesorka na Právnickej fakulte Virgínskej univerzity Danielle Citron pre CNN.

Portál zároveň poukazuje na prípady študentiek, ktoré sa stali terčom podobne upravených obrázkov. Odborník na počítačovú bezpečnosť David Jones preto odporúča, aby ľudia zvážili zachovanie súkromných profilov, pretože „nikdy neviete, kto sa môže pozerať na váš profil“.

Prípady budú pribúdať

Spoločnosť zaoberajúca sa kybernetickou bezpečnosťou a odhaľovaním umelých inteligencií Reality Defender určila s 90-percentnou istotou, že spomínané snímky speváčky vznikli za pomoci difúzneho modelu umelej inteligencie. Pre denník The New York Times to povedal spoluzakladateľ a výkonný riaditeľ Ben Colman.

Ďalej hovorí, že na základe tejto technológie funguje viac než sto tisíc aplikácií a modelov umelej inteligencie. K väčšine z nich má verejnosť prístup bezplatne. Medzi najznámejšie z nich patrí Stable Diffusion, Midjourney či DALL-E 2.

Niektoré modely umelej inteligencie použili pri trénovaní obrázky, ktoré zachytávajú zneužívanie detí. Zdroj: unsplash.com/@lukepennystan

Oren Etzioni, profesor informatiky na Washingtonskej univerzite pre denník povedal, že zdieľanie pornografie bez súhlasu dotknutých osôb vždy patrilo k temnej stránke internetu. Nový spôsob považuje za obzvlášť škodlivý a očakáva tsunami podobných obrázkov.

Za pomoci rôznych aplikácií môžu ktokoľvek vytvoriť aj pornografické videá, pričom tváre a hlasy osôb zamení za tie, ktoré chce. O technológií deepfake sme vás informovali v predchádzajúcom článku. Ako príklad sme ukázali video, v ktorom údajne vystupuje bývalý americký prezident Barack Obama.

Môže dôjsť ku zmene legislatívy

Ben Decker, vedúci digitálnej vyšetrovacej agentúry Memetica, pre CNN povedal, že situácia okolo Taylor Swiftovej je „najlepším príkladom toho, ako sa umelá inteligencia využíva na mnohé nekalé účely bez dostatočných zábran na ochranu verejného priestoru“.

Ďalej tvrdí, že v súčasnosti spoločnosti zastrešujúce sociálne siete nemajú účinné plány na monitorovanie obsahu. Za týmto problém stojí aj fakt, že o prácu prišlo mnoho zamestnancov týchto spoločností. Medzi nimi boli aj tí, ktorí kontrolovali obsah na sociálnych sieťach, informuje portál The Guardian.

„Záplava falošného, nenávistného a násilného obsahu na sociálnych sieťach sa v roku 2024 ešte zhorší, a to spôsobom, ktorý našu demokraciu a životy uvrhne do ďalšieho chaosu,“ uviedla pre portál Nora Benavidezová, hlavná poradkyňa spoločnosti Free Press.

Decker sa však domnieva, že tento útok na Taylor Swiftovú by mohol upozorniť na stále častejšie problémy, ktoré sa týkajú obrázkov vytvorených pomocou umelej inteligencie. CNN poukazuje na prípad z roku 2022, kedy hnev fanúšikov speváčky vyvolal legislatívne zmeny v oblasti predaja vstupeniek na podujatia, napríklad koncerty.