Facebook ha creato un’AI per individuare i meme offensivi, pubblicati sul social ed eliminarli. Il sistema che è stato creato si chiama Rosetta .
I meme offensivi sono una vera piaga per i social e Facebook ha elaborato un’AI, chiamata Rosetta, per identificarli ed eliminarli.
I moderatori di Facebook non possono guardare ogni singola immagine che viene pubblicata sull’enorme piattaforma, quindi Facebook ha creato un’AI per aiutarli. In un post pubblicato sul suo blog Facebook descrive un sistema che è stato creato, chiamato Rosetta .
Come funziona l’AI che riconosce i meme offensivi
Rosetta, l’AI che riconosce i meme offensivi, utilizza il machine learning per identificare il testo presente in immagini e video e quindi trascriverlo in qualcosa che sia leggibile dalle macchine. In particolare, Facebook sta trovando questo strumento utile a trascrivere il testo dei meme.
Gli strumenti di trascrizione del testo non sono una novità, ma Facebook affronta sfide diverse a causa delle dimensioni della sua piattaforma e della varietà delle immagini che vengono caricate. Si dice che adesso Rosetta sia in funzione e che stia estraendo il testo da 1 miliardo di immagini e frame di video al giorno sia su Facebook che su Instagram per individuare i meme offensivi.
Al momento non è ancora del tutto chiaro cosa stia facendo Facebook con i dati che raccoglie con Rosetta e come intenda utilizzare le nuove funzionalità AI realizzate, ma sembra che Facebook stia anche iniziando a puntare a obiettivi molto più grandi, come capire che cosa sarebbe interessante inserire nel feed di notizie e, soprattutto, capire quali siano i meme sciocchi e quelli che in realtà stanno diffondendo l’incitamento all’odio o altri commenti offensivi.
Facebook afferma che l’estrazione del testo e il machine learning Rosetta vengono utilizzati per ”identificare automaticamente i contenuti che violano la nostra policy di incitamento all’odio” e che lo fanno in più lingue. Dati i noti problemi di moderazione dell’azienda, un sistema come Rosetta, ben funzionante e in grado di contrassegnare automaticamente le immagini potenzialmente problematiche, potrebbe essere di grande aiuto.
Facebook ha elaborato un sistema per riconoscere i meme offensivi in automatico, si chiama Rosetta
Francesco Marino
Giornalista esperto di tecnologia, da oltre 20 anni si occupa di innovazione, mondo digitale, hardware, software e social. È stato direttore editoriale della rivista scientifica Newton e ha lavorato per 11 anni al Gruppo Sole 24 Ore. È il fondatore e direttore responsabile di Digitalic
