Facebook vuole identificare meme offensivi, con l’AI

I meme offensivi sono una vera piaga per i social e Facebook ha elaborato un’AI, chiamata Rosetta, per identificarli ed eliminarli.

I moderatori di Facebook non possono guardare ogni singola immagine che viene pubblicata sull’enorme piattaforma, quindi Facebook ha creato un’AI per aiutarli. In un post pubblicato sul suo blog Facebook descrive un sistema che è stato creato, chiamato Rosetta .

Come funziona l’AI  che riconosce i meme offensivi

Rosetta, l’AI che riconosce i meme offensivi, utilizza il machine learning per identificare il testo presente in immagini e video e quindi trascriverlo in qualcosa che sia leggibile dalle macchine. In particolare, Facebook sta trovando questo strumento utile a trascrivere il testo dei meme.

Gli strumenti di trascrizione del testo non sono una novità, ma Facebook affronta sfide diverse a causa delle dimensioni della sua piattaforma e della varietà delle immagini che vengono caricate. Si dice che adesso Rosetta sia in funzione e che stia estraendo il testo da 1 miliardo di immagini e frame di video al giorno sia su Facebook che su Instagram per individuare i meme offensivi.

Al momento non è ancora del tutto chiaro cosa stia facendo Facebook con i dati che raccoglie con Rosetta e come intenda utilizzare le nuove funzionalità AI realizzate, ma sembra che Facebook stia anche iniziando a puntare a obiettivi molto più grandi, come capire che cosa sarebbe interessante inserire nel feed di notizie e, soprattutto, capire quali siano i meme sciocchi e quelli che in realtà stanno diffondendo l’incitamento all’odio o altri commenti offensivi.

Facebook afferma che l’estrazione del testo e il machine learning Rosetta vengono utilizzati per ”identificare automaticamente i contenuti che violano la nostra policy di incitamento all’odio” e che lo fanno in più lingue. Dati i noti problemi di moderazione dell’azienda, un sistema come Rosetta, ben funzionante e in grado di contrassegnare automaticamente le immagini potenzialmente problematiche, potrebbe essere di grande aiuto.