I fan di Taylor Swift sono furiosi con Musk per le foto porno (false) della loro star

Mercoledì, X, ovvero l’ex Twitter, si è riempito di molte fotografie create utilizzando le intelligenze artificiali che rappresentavano la cantante Taylor Swift in pose pornografiche. Questo tipo di contenuti – detti “deepfake” – non sono una novità ma il volume raggiunto da queste immagini è senza precedenti, si sono diffuse di profilo in profilo e hanno raggiunto un pubblico enorme. Chiunque abbia usato X tra mercoledì e giovedì potrebbe avere incontrato i deepfake, anche perché le parole “Taylor Swift AI” hanno dominato per molte ore i trending topics del social network. 
  

Secondo The Verge, uno di questi deepfake ha raggiunto 45 milioni di visualizzazioni, con migliaia di like (anche se il numero va preso con le pinze, visto che il concetto di “visualizzazione” ha assunto un significato piuttosto elastico sotto la gestione di Elon Musk). A rendere questo caso particolarmente grave è stato l’abbraccio tra i creatori di queste immagini e la disfunzionalità di X, in cui la moderazione dei contenuti è di fatto impossibile dopo i tagli voluti da Musk poco dopo l’acquisizione di Twitter. Insomma, non è una novità che immagini simili vengano pubblicate online, può succedere; la cosa incredibile è che il post che abbiamo appena citato, nonostante il suo grande successo, sia rimasto online per diciassette ore prima che qualcuno a X facesse qualcosa. 
  

Quanto alle immagini, non è possibile sapere chi sia stato a produrle anche se sappiamo quale intelligenza artificiale è stata usata per generarle: si chiama AI tool Designer, è di proprietà di Microsoft ed è un servizio attualmente “in beta”, cioè ancora in fase sperimentale. Nonostante questo, come ha notato il giornalista Casey Newton, Microsoft ha agito nel giro di poche ore, bandendo i termini chiave che erano stati utilizzati per produrle. Ma distinguere materiale di questo tipo – contenuti per adulti non consensuali – dal resto delle immagini e dei video generati con le IA che inondano X, i risultati di Google e ormai il web intero è difficile: non impossibile, ovviamente, ma lo diventa senza un team (umano) pronto a intervenire.
  

Il caso dei deepfake di Swift segna l’ormai consolidato ponte che collega X all’altra grande piattaforma dalla moderazione pressoché assente, ovvero l’app di messaggistica Telegram. Anche in questo caso, i deepfake sono arrivati su X proprio da un canale Telegram specializzato in contenuti simili e, secondo il sito 404 Media, i membri della chat hanno ironizzato sul successo virale della trovata. Questa linea diretta Telegram-X rischia di diventare centrale anche nelle molte elezioni che si terranno nel corso di quest’anno, con la prima che permette di organizzarsi e fare community, e il secondo che funge da palcoscenico globale.
 

Fonti vicine a Swift citate dal Daily Mail hanno criticato questi contenuti “abusivi e offensivi” e la stessa X, pur non nominandola. Pare che Swift sia pronta ad azioni legali, quindi. E chiunque segua il mondo musicale (e del pop in genere) sa quanto Taylor Swift abbia peso culturale, mediatico e politico, soprattutto grazie ai milioni di fan, molto uniti nei giorni scorsi a protestare e documentare la diffusione dei deepfake su X.
 

Il tutto avviene a una settimana di distanza dalla prima apparizione di Linda Yaccarino, la ceo di X, davanti al Congresso statunitense, dove era stata chiamata a parlare della sicurezza della piattaforma, specie per i bambini e i minori. Arrivare a Washington nel pieno di uno scandalo che mette assieme due dei temi più caldi del momento – le intelligenze artificiali e la più grande pop star del mondo – non è di certo la cornice ideale.