Hvězda Teen Marvel Xochitl Gomez je nejnovější obětí deepfake porna. Po zjištění nekonsensuálních sexuálně explicitních deepfakes kolujících na X, dříve Twitteru, byla však zmatena, když platforma nepodnikla žádné kroky a neodstranila je.
S nástupem umělé inteligence se objevilo mnoho problémů, ale jedním z nejvíce znepokojujících je deepfake porno. Zatímco deepfake existují již nějakou dobu, pokrok v technologii je učinil dostupnějšími a přesvědčivějšími. V důsledku toho mnoho jednotlivců, zejména žen, zjistilo, že jejich podoba byla pořízena nebo znovu vytvořena bez jejich souhlasu a použita v pornografickém obsahu. Stal se obrovským problémem pro ženské celebrity, ale také pro obyčejné ženy, které zažily, že jejich podobizna je používána v sexuálně explicitním obsahu k pomstě, obtěžování a šikaně. Existuje také hlavní obava z používání deepfakes k zobrazení zneužívání dětí.
Bohužel v současné době neexistují žádné federální zákony proti nekonsensuálnímu hluboce falešnému pornu a jen několik států má legislativu, která před ním občany chrání. Mnoho žen, které se staly obětí hluboce falešné pornografie, se ocitlo bez možnosti s ní bojovat kvůli nedostatku regulace a nezákonnosti internetu. Většina z nich nemá finanční prostředky na právní kroky. Dokonce i celebrity jako Scarlett Johansson prohlásily, že je zbytečné pokoušet se bojovat proti deepfakes.
Jedna malá úroveň ochrany žen pochází z platforem sociálních médií, které zakázaly deepfake a AI generované porno. Pokud by tyto stránky takové zákazy prosazovaly, ztížilo by to oběh tohoto škodlivého obsahu. Gomezova zkušenost však ukazuje, že sociální média nevynucují svá pravidla.
Xochitl Gomez vypráví o své zkušenosti s deepfake pornem
(Axelle/Bauer-Griffin/Getty)
Když se objevil v podcastu Taylora Lautnera a jeho manželky, Squeeze , Xochitl Gomez (aka America Chavez ) otevřela své zkušenosti jako oběť hluboce falešné pornografie. 17letá dívka prozradila, že našla sexuálně explicitní materiál kolující na X, dříve Twitteru, ale má extrémně těžké ho odstranit. X zakázal porno generované umělou inteligencí již v roce 2018 a má zásady proti sexuálně explicitním hluboce falešným obrázkům a videím, stejně jako zavádějícím médiím a nahotě bez souhlasu. Vzhledem k tomu, že obrázky Gomeze jasně porušují pravidla X a že tento obsah představoval nezletilého, jeden by si myslel, že platforma okamžitě zasáhne.
Gomez však byla v šoku, když zjistila, že její tým se již pokusil proti obsahu zakročit, ale neúspěšně. Zprávy NBC hlášeno že ještě 19. ledna 2024 byly fotky stále k nalezení na X, který nereagoval na žádosti o komentář. Gomez vysvětlila, že obsah ji vyvedl z míry a zoufale si přál, aby byl odstraněn, protože to pro ni nevypadalo dobře. Zeptala se: Proč je tak těžké sundat? Celá moje myšlenka na to byla: ‚Proč je to povoleno?'
Nakonec se však smířila s tím, že obsah prostě nelze stáhnout, a odhalila, že se na to jen snaží nemyslet a odkládá svůj telefon, aby problém vyřešila. Otázky, které kladla, však zůstávají velmi aktuální. Proč je tak těžké tento obsah odstranit? Je morálně zavrženíhodné a nechutné, když je hluboce falešné porno vytvořeno od jakéhokoli nesouhlasného jednotlivce. Je to přímo strašné, když se to týká nezletilého. Na X koluje skutečná dětská pornografie a platforma s tím kupodivu nic nedělá, i když by to měl být nejnaléhavější problém.
Stěží to zní jako složitá situace, pokud jednotlivec nahlásí sexuálně explicitní materiál a oznámí platformě, že s tím nedal souhlas. Materiál odporuje mnoha pravidlům na webu. Co dalšího je třeba zkontrolovat nebo určit? Pro jednotlivce je již dostatečně traumatizující najít tento druh obsahu na sociálních sítích; to nejmenší, co mohou tyto platformy udělat, je splnit jejich požadavky na odstranění. Žádný jednotlivec, zejména ne nezletilý, by neměl jen akceptovat, že obsah existuje, protože X a další platformy sociálních médií vytrvale a zmateně odmítají chránit své uživatele.
(doporučený obrázek: Axelle/Bauer-Griffin/FilmMagic / Getty)
