Deepfakes neconsensuale cu Taylor Swift cu conținut sexual explicit au devenit virale pe X, adunând peste 27 de milioane de vizualizări și peste 260.000 de like-uri în 19 ore, înainte ca contul care a postat imaginile să fie suspendat.
Deepfakes care o înfățișează pe Swift goală și în scenarii sexuale continuă să prolifereze pe X, inclusiv repostări ale imaginilor deepfake virale. Astfel de imagini pot fi generate cu ajutorul unor instrumente de inteligență artificială care dezvoltă imagini false complet noi sau pot fi create prin preluarea unei imagini reale și "dezbrăcarea" acesteia cu ajutorul instrumentelor de inteligență artificială.
Originea imaginilor nu este clară, dar un filigran de pe ele indică faptul că provin de pe un site vechi de câțiva ani, cunoscut pentru publicarea de imagini nud false cu celebrități. Site-ul are o parte a site-ului său intitulată "AI deepfake".
Reality Defender, o companie de software de detectare a inteligenței artificiale, a scanat imaginile și a declarat că există o mare probabilitate ca acestea să fi fost create cu ajutorul tehnologiei AI.
Proliferarea în masă a imaginilor timp de aproape o zi scoate în evidență răspândirea din ce în ce mai alarmantă a conținutului generat de inteligența artificială și a dezinformării online. În pofida escaladării problemei în ultimele luni, platformele tehnologice precum X, care și-au dezvoltat propriile produse de generație-AI, nu au implementat încă instrumente de detectare a conținutului generativ-AI care contravine liniilor lor directoare sau nu au discutat despre acestea.
Cele mai vizualizate și partajate deepfakes ale lui Swift o înfățișau pe aceasta goală pe un stadion de fotbal. Swift s-a confruntat luni de zile cu atacuri misogine pentru că l-a susținut pe partenerul ei, Travis Kelce, jucător la Kansas City Chiefs, participând la meciurile NFL. Swift a recunoscut reacțiile de respingere în timpul unui interviu pentru Time, spunând: "Nu sunt conștientă dacă sunt arătată prea mult și dacă enervez câțiva tați, Brads și Chads".
X a interzis mediile manipulate care ar putea provoca prejudicii împotriva anumitor persoane, dar a fost în mod repetat lent sau nu a reușit să abordeze problema deepfakes-urilor cu conținut sexual explicit pe platformă. La începutul lunii ianuarie, o vedetă Marvel în vârstă de 17 ani a vorbit despre faptul că a găsit deepfakes sexuale explicite cu ea însăși pe X și că nu a putut să le elimine. Începând de joi, NBC News a reușit să găsească un astfel de conținut pe X. Iar în iunie 2023, o analiză a NBC News a descoperit deepfakes explicit sexual neconsensuale ale vedetelor TikTok care circulau pe platformă. După ce X a fost contactat pentru comentarii, doar o parte din materiale au fost eliminate.
Potrivit unora dintre fanii lui Swift, Swift și X nu au fost cei responsabili pentru scoaterea celor mai importante imagini ale artistei - a fost rezultatul unei campanii de sesizări în masă.
După ce "Taylor Swift AI" a fost în trend pe X, fanii lui Swift au început să inunde hashtag-ul cu postări pozitive despre ea, potrivit unei analize realizate de Blackbird.AI, o firmă care lucrează pentru a proteja organizațiile de atacurile online bazate pe narațiune, folosind tehnologia AI. "Protect Taylor Swift" a început, de asemenea, să fie în trend joi.
Una dintre persoanele care și-a asumat meritul pentru campania de raportare a împărtășit cu NBC News două capturi de ecran cu notificările pe care le-a primit de la X, care arată că rapoartele sale au dus la suspendarea a două conturi care au partajat deepfakes cu Swift pentru că au încălcat regula X privind "comportamentul abuziv".
Comentariul va fi postat dupa aprobare