Il cattivo funzionamento dell’Intelligenza Artificiale di Facebook ha costretto l’azienda di Menlo Park a doversi scusare pubblicamente per un episodio razzista.
L’Intelligenza Artificiale di Facebook ha dimostrato come possano accadere episodi alquanto spiacevoli quando si lascia far tutto alla tecnologia. E in epoca di particolare sensibilità sociale, post MeToo e Black Lives Matter, certi errori non possono davvero essere lasciati al caso.
Quanto accaduto con un video postato dal tabloid britannico The Daily Mail su Facebook non poteva che terminare con le scuse da parte del social di Mark Zuckerberg.
Intelligenza Artificiale di Facebook: cos’è accaduto
L’episodio che ha portato Facebook a doversi scusare pubblicamente riguarda un video datato 27 giugno 2020, postato dal The Daily Mail, in cui compaiono persone di colore. Il problema si è verificato al termine della visione del video perché agli utenti è stato chiesto, attraverso un messaggio automatico, se volevano continuare a vedere video sui primati, nonostante nel video non ne fosse presente alcuno. Si tratta di una prassi alquanto utilizzata, i social propongono agli utenti una carrellata di video con argomenti simili a quello appena visualizzato. Ma il grave errore compiuto dall’Intelligenza Artificiale di Facebook ha gettato quest’ultimo in un calderone di polemiche.
E così, nella giornata di venerdì scorso, da Menlo Park sono arrivate le scuse ufficiali da parte dell’azienda. Un errore inaccettabile, come da loro stessi definito, che ha costretto a indagare su quanto accaduto e a disabilitare la funzione basata sull’A.I. che ha poi generato l’infelice e razzista messaggio. Un’Intelligenza Artificiale non ancora perfetta, come affermato dallo stesso portavoce di Facebook, Dani Lever, e che dovrà compiere ulteriori progressi per poterlo essere.
Gli episodi precedenti
Non è la prima volta che le grandi società tech si trovano a dover fronteggiare episodi di questo tipo. La questione razziale e i pregiudizi razzisti sono stati temi caldi anche per Google e Amazon, sempre a causa dell’utilizzo dell’Intelligenza Artificiale. Uno dei casi più eclatanti avvenne nel 2015, quando Google Foto etichettò erroneamente le immagini delle persone di colore utilizzando la parola gorilla. Successivamente la rivista Wired scoprì che Google aveva cercato di risolvere la faccenda censurando nelle ricerche parole quali gorilla, scimmia o scimpanzé.
Per Facebook, invece, i problemi si presentarono già nel 2016, quando Mark Zuckerberg aveva chiesto ai propri dipendenti di smettere di cancellare da uno spazio comune nel quartier generale di Facebook la frase Black Lives Matter e di sostituirla con All Lives Matter.
Francesco Marino
Giornalista esperto di tecnologia, da oltre 20 anni si occupa di innovazione, mondo digitale, hardware, software e social. È stato direttore editoriale della rivista scientifica Newton e ha lavorato per 11 anni al Gruppo Sole 24 Ore. È il fondatore e direttore responsabile di Digitalic
