Tech-News

Algoritmi e pregiudizi di genere

La ricerca pubblicata sulla rivista Proceedings of the National Academy of Sciences è solo una delle tante che mettono in luce come l’intelligenza artificiale può alterare le nostre percezioni e azioni.
L’uso dell’AI può comportare la propagazione, piuttosto che la riduzione, delle disparità esistenti, affermano gli autori dello studio che hanno cercato di determinare se il grado di disuguaglianza di una società è correlato a pregiudizi presenti nei risultati frutto degli algoritmi e, in tal caso, se l’esposizione a tale output potrebbe influenzare le persone ad agire in conformità con questi pregiudizi.
Per valutare possibili pregiudizi di genere nei risultati di ricerca hanno preso in esame parole come “persona”, “studente” o “umano” che, pur essendo di per sé neutre, sono in realtà più spesso riferite a soggetti maschili. Hanno condotto ricerche di immagini su Google per il termine “persona” in 37 Paesi. I risultati hanno mostrato che la proporzione di immagini maschili prodotta da queste ricerche era più alta nelle nazioni con una maggiore disuguaglianza di genere (così come rilevata dal Global Gender Gap Index del World Economic Forum), rivelando che il pregiudizio algoritmico di genere segue la disuguaglianza di genere nella società.

Gli algoritmi discriminano

Il passo successivo è stato quello di cercare di determinare se l’esposizione ai risultati dei motori di ricerca possa modellare le percezioni e le decisioni delle persone in modo coerente con le disuguaglianze sociali preesistenti. Per fare ciò, hanno condotto una serie di esperimenti coinvolgendo un totale di quasi 400 partecipanti statunitensi di sesso femminile e maschile.
Ai partecipanti sono stati sottoposti i risultati di una ricerca di immagini di Google relativa a quattro professioni poco conosciute che rispecchiasse i risultati di ricerca di immagini per la parola chiave “persona” sia di nazioni con punteggi di disuguaglianza di genere elevati sia di quelli dove la disuguaglianza di genere è inferiore. Prima di vedere le immagini la maggior parte dei partecipanti, sia donne che uomini, hanno dichiarato che le professioni in esame erano più probabilmente svolte da un uomo che una donna. Tuttavia, dopo aver visualizzato i risultati della ricerca di immagini, i partecipanti nelle condizioni di bassa disuguaglianza hanno spesso espresso una opinione diversa a quella di partenza; al contrario, quelli nella condizione di alta disuguaglianza hanno mantenuto le loro percezioni. Lo stesso meccanismo si è verificato anche quando ai soggetti intervistati è stato chiesto di valutare la probabilità con cui un uomo o una donna potessero essere assunti in ciascuna professione, dimostrando come il pregiudizio possa influenzare le decisioni di assunzione.
“Questi risultati suggeriscono un ciclo di propagazione del pregiudizio tra società, intelligenza artificiale e utenti”, scrivono gli autori dello studio, aggiungendo che è necessario “un modello di AI etica che combini la psicologia umana con approcci computazionali e sociologici per illuminare la formazione, il funzionamento e l’attenuazione del pregiudizio algoritmico”.


Algoritmi e pregiudizi di genere - Ultima modifica: 2022-09-07T09:27:16+00:00 da Francesco Marino

Giornalista esperto di tecnologia, da oltre 20 anni si occupa di innovazione, mondo digitale, hardware, software e social. È stato direttore editoriale della rivista scientifica Newton e ha lavorato per 11 anni al Gruppo Sole 24 Ore. È il fondatore e direttore responsabile di Digitalic

Recent Posts

Digital Sharing: l’evento sulla servitizzazione e il futuro delle aziende manifatturiere

Digital Sharing 15 maggio: dall’idea di aiutare le imprese, nasce l’evento per supportare le aziende…

2 giorni ago

SMB Summit Fortinet: cybersecurity e innovazione per le PMI italiane

L'SMB Summit Fortinet ha registrato oltre 300 partner, evidenziando l'interesse nel canale IT per il…

3 giorni ago

Neuralink: il primo uomo con un chip cyborg nel cervello

Neuralink ha impiantato con successo il suo chip Telepathy nel cervello di un paziente, ora…

4 giorni ago

Influencer: come sono cambiati dopo il “pandoro gate”, analisi post compliance

Negli ultimi mesi il mondo dell’influencer marketing è stato scosso da due eventi molto diversi…

4 giorni ago

Android 15, nome in codice Vanilla Ice Cream: una nuova era

La nuova era del sistema operativo di Google è in arrivo: ecco Android 15, nome…

4 giorni ago

TikTok bannato negli USA, cosa succede

La Camera USA approva un disegno di legge che potrebbe bannare TikTok entro sei mesi,…

2 settimane ago

Digitalic © MMedia Srl

Via Italia 50, 20900 Monza (MB) - C.F. e Partita IVA: 03339380135

Reg. Trib. Milano n. 409 del 21/7/2011 - ROC n. 21424 del 3/8/2011