Deepfake su Telegram, c’è un bot che mette a nudo le donne

Problemi di deepfake su Telegram. Di cosa stiamo parlando. Falsi video virali realizzati con l’intelligenza artificiali o immagini manipolate o ritoccate che raffigurano spesso personaggi pubblici messi a nudo. Twitter lo scorso anno era già corso ai ripari sul divulgarsi del deepfake con l’introduzione di misure di sicurezza mirate a riconoscere i filmati taroccati.

E la nuova frontiera della lotta ai deepfake ora è Telegram. Repubblica ha scoperto un bot sulla piattaforma di messaggistica che è in grado di “spogliare” le donne utilizzando gli strumenti d’intelligenza artificiale. Oltre 100 mila donne virtualmente denudate. Tra cui, alcune giovani influencer italiane. Vittime inconsapevoli di uomini che hanno dato le loro foto, spesso rubate sui social, andate in pasto ad un programmino automatico che si trova sull’app di messaggistica russa ed è in grado di ritoccare le istantanee in tempo reale, svestendo le protagoniste. L’aspetto più inquietante è che i “lavori” di questo bot sono stati addirittura condivisi in alcune chat pubbliche. La scoperta è stata effettuata da Sensity e pubblicata da Repubblica.

Deepfake su Telegram, si torna a parlare di revenge porn

Con il fenomeno scovato del deepfake su telegram è tornato alla ribalta anche il prolfilarsi del revenge porn, ovvero la pratica della vendetta su ex fidanzate, compagne di classe o di lavoro. In parole povere vendette sessuali e “stupri virtuali”.  “Usare gli algoritmi per creare delle immagini false con l’obiettivo di prendere di mira ex partner o conoscenti non è mai stato così semplice”, commenta Giorgio Patrini, uno degli autori dell’analisi. Ed è proprio la facilità di utilizzo la principale novità del bot. Un’evoluzione che dimostra come i deepfake stiano evolvendo a ritmi vertiginosi. Distinguere il falso dal vero diventerà sempre più difficile tanto quanto sarà facile falsificare la realtà, perché in ogni falso si nasconderà molto di autentico

“Basta caricare l’istantanea su un apposito canale Telegram. Lo scatto viene ritoccato e rispedito al mittente in pochi minuti, se non secondi” si legge nello studio, il quale osserva che il bot è completamente gratuito, sebbene sia presente una versione a pagamento che consente di rimuovere il logo del software ed avere priorità su altri utenti.

Un salto di qualità che ha permesso di cambiare anche il bersaglio dei deepfake a sfondo sessuale. Adesso sono per lo più compagne di scuola, colleghe, madri, sorelle. Potenzialmente chiunque abbia almeno una propria foto sul web. Il rischio concreto è che queste immagini vengano usate per ricatti ed estorsioni. E nel 70% dei casi le vittime sono soggetti privati, potenzialmente anche minorenni, di diverse nazionalità.