Uno studio rileva che gli algoritmi utilizzati dai sistemi di AI dei motori di ricerca si basano e promuovono pregiudizi di genere
La ricerca pubblicata sulla rivista Proceedings of the National Academy of Sciences è solo una delle tante che mettono in luce come l’intelligenza artificiale può alterare le nostre percezioni e azioni.
L’uso dell’AI può comportare la propagazione, piuttosto che la riduzione, delle disparità esistenti, affermano gli autori dello studio che hanno cercato di determinare se il grado di disuguaglianza di una società è correlato a pregiudizi presenti nei risultati frutto degli algoritmi e, in tal caso, se l’esposizione a tale output potrebbe influenzare le persone ad agire in conformità con questi pregiudizi.
Per valutare possibili pregiudizi di genere nei risultati di ricerca hanno preso in esame parole come “persona”, “studente” o “umano” che, pur essendo di per sé neutre, sono in realtà più spesso riferite a soggetti maschili. Hanno condotto ricerche di immagini su Google per il termine “persona” in 37 Paesi. I risultati hanno mostrato che la proporzione di immagini maschili prodotta da queste ricerche era più alta nelle nazioni con una maggiore disuguaglianza di genere (così come rilevata dal Global Gender Gap Index del World Economic Forum), rivelando che il pregiudizio algoritmico di genere segue la disuguaglianza di genere nella società.
Gli algoritmi discriminano
Il passo successivo è stato quello di cercare di determinare se l’esposizione ai risultati dei motori di ricerca possa modellare le percezioni e le decisioni delle persone in modo coerente con le disuguaglianze sociali preesistenti. Per fare ciò, hanno condotto una serie di esperimenti coinvolgendo un totale di quasi 400 partecipanti statunitensi di sesso femminile e maschile.
Ai partecipanti sono stati sottoposti i risultati di una ricerca di immagini di Google relativa a quattro professioni poco conosciute che rispecchiasse i risultati di ricerca di immagini per la parola chiave “persona” sia di nazioni con punteggi di disuguaglianza di genere elevati sia di quelli dove la disuguaglianza di genere è inferiore. Prima di vedere le immagini la maggior parte dei partecipanti, sia donne che uomini, hanno dichiarato che le professioni in esame erano più probabilmente svolte da un uomo che una donna. Tuttavia, dopo aver visualizzato i risultati della ricerca di immagini, i partecipanti nelle condizioni di bassa disuguaglianza hanno spesso espresso una opinione diversa a quella di partenza; al contrario, quelli nella condizione di alta disuguaglianza hanno mantenuto le loro percezioni. Lo stesso meccanismo si è verificato anche quando ai soggetti intervistati è stato chiesto di valutare la probabilità con cui un uomo o una donna potessero essere assunti in ciascuna professione, dimostrando come il pregiudizio possa influenzare le decisioni di assunzione.
“Questi risultati suggeriscono un ciclo di propagazione del pregiudizio tra società, intelligenza artificiale e utenti”, scrivono gli autori dello studio, aggiungendo che è necessario “un modello di AI etica che combini la psicologia umana con approcci computazionali e sociologici per illuminare la formazione, il funzionamento e l’attenuazione del pregiudizio algoritmico”.
Francesco Marino
Giornalista esperto di tecnologia, da oltre 20 anni si occupa di innovazione, mondo digitale, hardware, software e social. È stato direttore editoriale della rivista scientifica Newton e ha lavorato per 11 anni al Gruppo Sole 24 Ore. È il fondatore e direttore responsabile di Digitalic
