Stop al Revenge Porn su Facebook: nuovi strumenti per il rilevamento di immagini intime

Il Revenge Porn è una di quelle pratiche spregevoli che il digitale e i social hanno portato con sé, ancora più odiosa su Facebook, il social di famiglia, dove si è in contatto con partenti e amici stretti, Facebook però ha voluto dare una svolta e bloccare in automatico questo atti meschini.

 Revenge Porn, come funziona

Quando le immagini intime di una persona vengono condivise senza il suo permesso può essere devastante. Per proteggere le vittime, per lungo tempo politica di Facebook è stata quella di rimuovere le immagini intime non consensuali (note anche come “revenge porn”) quando venivano segnalate. Inoltre, negli ultimi anni Facebook ha adottato anche la tecnologia del photo-matching per evitare che venissero condivise nuovamente. Per trovare questi contenuti più rapidamente e supportare al meglio le vittime, oggi il social network annuncia una nuova tecnologia di rilevamento e un centro di risorse online per aiutare le persone a rispondere quando subiscono questo tipo di abusi.

Rilevamento di immagini intime: i nuovi strumenti

Trovare queste immagini va oltre il rilevamento della nudità sulle piattaforme. “Grazie all’apprendimento automatico e all’intelligenza artificiale – si legge nel comunicato diffuso dall’azienda – ora siamo in grado di rilevare in modo proattivo immagini o video che vengono condivisi senza autorizzazione su Facebook e Instagram. Ciò significa che possiamo trovare questi contenuti prima che qualcuno li segnali.”

Questo è importante per due motivi: innanzitutto perché spesso le vittime hanno paura di ritorsioni, per cui sono restie a segnalare il contenuto stesso; in altri casi, invece, non sono consapevoli che il contenuto è stato condiviso. Una volta individuati dalla tecnologia, i contenuti saranno poi esaminati da persone appositamente formate del team di Community Operations.

Rilevamento di immagini intime: le conseguenze

Se un’immagine o un video viola gli Standard della Community di Facebook, verrà rimossa e nella maggior parte dei casi verranno disabilitati anche gli account che condivideranno contenuti intimi senza autorizzazione. L’azienda offre però la possibilità di fare appello.

Il programma di sostegno alle vittime di revenge porn

Questa nuova tecnologia di rilevamento si aggiunge al programma pilota che Facebook gestisce in collaborazione con le organizzazioni a sostegno delle vittime. Questo programma offre alle persone un’opzione di emergenza per inviare proattivamente e in modo sicuro a Facebook una foto che temono possa essere diffusa. Per impedire che la foto venga condivisa sulla piattaforma, viene creata un’impronta digitale di quell’immagine. Visto il riscontro positivo da parte delle vittime e delle organizzazioni di supporto, nei prossimi mesi il progetto verrà ampliato in modo che un maggior numero di persone possa beneficiare di questa opzione in caso di emergenza.

Contestualmente, l’azienda sta lanciando “Non senza il mio consenso“, un centro di supporto, in cui le vittime troveranno organizzazioni e risorse che potranno offrire loro sostegno, compresi gli strumenti da utilizzare per rimuovere il contenuto dalla piattaforma e impedirne l’ulteriore condivisione; da qui potranno inoltre accedere al programma pilota. Verrà inoltre resa più facile e intuitiva la procedura di segnalazione da parte delle vittime delle immagini intime condivise su Facebook senza consenso.

Nei prossimi mesi, infine, verrà sviluppato un kit di strumenti di supporto alle vittime per fornire maggiori informazioni con un sostegno locale e culturalmente rilevante.