C’è un anello della filiera AI che nessuno certifica – Joan Kinyua

Segui il podcast su SPOTIFY

Ascolta su APPLE POCAST

Siamo a Nairobi, in Kenya, fuori scorre il traffico caotico di Mombasa Road, una delle strade più congestionate della città dove si formano gli ingorghi più inestricabili. All’incrocio con Enterprise Road sorge il Sameer Business Park, un business center, come un centro commerciale ma fatto di aziende e non di negozi. Per molti è una parte privilegiata della capitale dove sorgono gli uffici più tecnologici. Entriamo nell’edificio D3, al secondo piano…

Dentro c’è una stanza, una scrivania, un computer, una connessione e c’è una donna che guarda lo schermo, ogni tanto fa clic con il mouse, ogni tanto digita sulla tastiera. Sembra il posto più innocuo, più normale del mondo in cui lavorare, un lavoro da ufficio in una zona buona della città. La donna davanti a quello schermo si chiama Joan Kinyua.

Sotto i suoi occhi scorrono delle immagini. Molte sono banali: una strada, una macchina, un volto, un oggetto da riconoscere. Un lavoro paziente, di precisione che insegna alle macchine a vedere il mondo come lo vediamo noi.

Poi, però arrivano le altre immagini, quelle che è difficile dimenticare…

Scene di violenza. Corpi. Insulti. Abusi. Il peggio che gli esseri umani possono produrre, e che altri esseri umani devono guardare perché una macchina, l’intelligenza artificiale, impari a riconoscerlo e a non mostrarlo mai quando verrà interrogata dagli utenti di tutto il mondo. Joan non può semplicemente chiudere gli occhi, deve classificare, scegliere la categoria giusta per quell’atrocità che le propone lo schermo, lei è una data labeller, deve etichettare ogni contenuto che quel computer nel Sameer Business Park, nella stanza al secondo piano dell’edificio D3 visualizza. È il prezzo che bisogna pagare per avere sistemi AI che non turbino gli utenti. Questa è la sua storia e quella di un’intera categoria di lavoratori che nei paesi più poveri del mondo insegnano all’AI progettata nei paesi più ricchi cosa può mostrare e cosa deve nascondere.

Io sono Francesco Marino e questo è DigitMondo, un podcast di Digitalic, se ti piace la puntata segui il podcast.

Leggi anche su Digitalic: L’intelligenza artificiale non capisce niente

Che cosa fa un data labeller e quale prezzo psicologico paga

Joan Kinyua ha iniziato il lavoro di Data Labeller nel 2017, come lei tanti altri sono stati reclutati in Kenya e in altre nazioni ben lontane dalla California. Lei stessa racconta il suo lavoro così: “Ho anche etichettato contenuti violenti, pornografici, legati alla droga: sangue, violenza sessuale, immagini disturbanti. Senza alcun supporto psicologico, senza nessun avvertimento, solo un’interfaccia fredda davanti agli occhi e una scadenza da rispettare. Questa è la realtà dello sviluppo dell’intelligenza artificiale in molte parti del mondo: un lavoro svolto da persone senza protezioni, sovraesposte, invisibili. Noi non ci limitiamo a insegnare alle macchine. Noi attraversiamo, ogni giorno, gli angoli più oscuri di Internet. Li guardiamo, li classifichiamo, li rendiamo leggibili perché un sistema possa imparare”.

Come lei migliaia di persone rimangono incollate per ore a uno schermo che visualizza scene che nessuno vorrebbe vedere, ma qualcuno deve farlo affinché gli strumenti AI possano essere gentili, educati, rassicuranti e lo fanno per una paga che va da 1,33 a 2 dollari l’ora tanto che Joan racconta di essere arrivata a lavorare 20 ore al giorno solo per sopravvivere.

Ma quelle immagini, una volta spento il pc non svaniscono nel nulla perseguitano molti di questi lavoratori che continuano a rivederle e non possono parlarne con nessuno, vista la riservatezza del compito; e nessuno, di solito, si preoccupa di loro perché è un lavoro che molti non sanno nemmeno esista.

“Da fuori sembrava un lavoro semplice, quasi meccanico: guardare immagini, leggere contenuti, assegnare etichette, correggere dati. Ma dietro c’era un’altra realtà, fatta di pressione costante, di obiettivi impossibili, di una precisione che doveva restare ogni giorno sopra il 95%. Bastava un errore. Bastava scendere al 94% per essere puniti: niente incentivi, nessun riconoscimento, turni obbligatori anche il sabato. Io ci ho messo tempo, energia, attenzione, con la speranza di essere considerata una pioniera dell’intelligenza artificiale. La realtà, però, era diversa: era un sistema che pretendeva la perfezione da noi, mentre ci trattava come se non valessimo nulla. Quando quella pressione è diventata insopportabile, ho deciso di andarmene. Pensavo di trovare stabilità, invece ho trovato qualcosa di peggio. Nella nuova azienda mi hanno definita Independent Contractor, collaboratrice indipendente. In pratica significava perdere ogni protezione: niente benefit, niente diritti, solo contratti mensili precari. Noi siamo il lavoro nascosto dietro l’intelligenza artificiale, ma restiamo esclusi dai suoi profitti”.

La geografia nascosta dell’AI

Quando pensiamo all’intelligenza artificiale e a come viene realizzata immaginiamo laboratori, server, data center, ingegneri. Immaginiamo la California, Seattle, San Francisco, forse Shanghai; immaginiamo sempre luoghi ricchi, puliti, luminosi. Non un business center accanto alla strada più trafficata di Nairobi.

Ma una parte enorme dell’intelligenza artificiale nasce proprio in quei luoghi. In una stanza di Nairobi, davanti allo schermo di Joan.

Perché ogni volta che un modello riconosce un’immagine, evita un insulto, filtra una scena violenta, capisce che cosa può mostrare e che cosa deve nascondere, dietro c’è stata una mano umana. Qualcuno ha guardato prima di noi, ha deciso prima di noi e soprattutto ha sopportato prima di noi.

I lavoratori kenioti che hanno reso ChatGPT meno tossico

Nel 2023 un’inchiesta di TIME ha raccontato che, per rendere ChatGPT meno tossico, OpenAI si era affidata, attraverso l’azienda Sama, anche a lavoratori kenioti pagati tra un dollaro e trentadue e due dollari l’ora. Il loro compito era leggere e classificare testi durissimi: abusi, violenze, torture, il materiale più oscuro che la rete può produrre. Alcuni hanno raccontato di aver iniziato ad avere incubi. Uno di loro ha definito quel lavoro con una parola semplice e terribile: una tortura. Una volta emersa la storia, il contratto fu chiuso frettolosamente.

Fonte esterna: L’inchiesta di TIME sui lavoratori kenioti impiegati per rendere ChatGPT meno tossico

Questa è la geografia nascosta dell’AI: il cervello economico e tecnologico resta nei Paesi ricchi, le mani spesso lavorano nei Paesi poveri. I profitti salgono verso chi possiede i modelli; il peso psicologico scende invece su chi deve guardare, classificare, ripetere, resistere.

Costruire un futuro che forse non potranno usare

Il paradosso è che molti di questi lavoratori addestrano sistemi che forse non useranno mai. Aiutano le auto autonome a vedere la strada, i robot a riconoscere una stanza, i modelli linguistici a diventare più educati, più sicuri, più presentabili; molti di quei prodotti, in Kenya, non si possono nemmeno comprare. Costruiscono un futuro che non è per loro.

Intanto il mercato dell’etichettatura dei dati cresce. Valeva circa due miliardi e mezzo di dollari nel 2024 e potrebbe superare i tredici miliardi nel giro di un decennio. Ma dentro quei numeri non si vede Joan. Non si vedono le ore davanti allo schermo, la fatica degli occhi, la tensione di non sbagliare, la paura di perdere il contratto, la solitudine di non poter raccontare a casa che cosa si è visto durante il turno.

Si tratta di un meccanismo a cui è difficile sfuggire: gli osservatori internazionali lo descrivono con una legge dura e ineluttabile, la corsa al ribasso. Se un Paese prova a chiedere maggiori tutele per i suoi lavoratori, il lavoro migra altrove, verso chi protegge di meno. Una gara in cui vince sempre chi offre la manodopera più economica e più silenziosa, anzi più invisibile.

Perché questo lavoro sparisce dentro il prodotto finito. Quando noi usiamo l’AI, vediamo una risposta pulita, gentile, ordinata. Non vediamo la catena umana che l’ha resa possibile. Non vediamo chi ha tolto il veleno prima che arrivasse a noi.

Joan e gli altri data labeller sono invisibili proprio per questo: se fanno bene il loro lavoro, nessuno si accorge che esistono.

Leggi anche su Digitalic: L’AI ti farà guadagnare di più o ti sostituirà? I tre futuri possibili

La Data Labelers Association e la lotta per i diritti

Joan Kinyua però ha deciso di alzarsi dalla sedia alla quale si sentiva incollata, di spegnere quello schermo e di accendere i riflettori del mondo sulla sua professione e quella di altre migliaia di persone. Nel 2024 ha fondato la Data Labelers Association, l’associazione dei lavoratori del dato nata in Kenya per dare un nome, un contratto e una dignità a un mestiere che, fino a ieri, di fatto non esisteva ufficialmente. Alla presentazione pubblica, nella prima settimana, gli iscritti erano 339; oggi sono quasi mille. Numeri piccoli, visti da Milano o da San Francisco; ma sono enormi, se pensiamo che si tratta di persone e di ruoli che fino a poco fa nessuno conosceva.

Contratti, sostegno psicologico e riconoscimento

Da allora qualcosa si sta muovendo. L’associazione ha portato le storie dei suoi membri davanti ai sindacati e ai governi; ha chiesto contratti veri, il sostegno psicologico, e più in generale il riconoscimento per un lavoro difficile. Qualche risultato è arrivato, piccolo per il momento: sono contratti di tre o sei mesi, dove prima non c’era alcuna tutela. Non è una rivoluzione; ma l’inizio di una qualche visibilità, un primo passo.

Leggi anche su Digitalic: AI for Humans: come costruire una tecnologia davvero umana

I membri della Data Labelers Association hanno firmato una lettera aperta al presidente degli Stati Uniti per chiedere conto degli abusi nella catena di fornitura dell’AI; Joan ha poi parlato di persona con il sottosegretario al Lavoro statunitense. Non è una storia che si chiude dentro i confini del Kenya. Lei ricorda spesso Ladi Anzaki Olubunmi, un volto che il mondo non ha mai visto… moderatrice nigeriana di TikTok per conto di Teleperformance: arrivata a Nairobi per quel lavoro e poi trovata morta nel suo appartamento in circostanze mai chiarite, dopo anni in cui non era più riuscita a tornare dalla sua famiglia. I colleghi raccontano che le fosse stato impedito il rientro a casa, l’azienda ha negato.

«Non sono un essere umano anch’io?»

A chi le chiede perché tanta ostinazione, Joan risponde con la domanda che porta in giro per il mondo: non sono un essere umano anch’io? “Non sono un pezzo di ricambio, uno strumento o un fantasma”, dice; “sono un essere umano, e pretendo di essere trattata come tale”. Chiede poco, in fondo: una giornata di otto ore, una paga che basti a vivere, sostegno psicologico, contratti veri.

La giustizia dell’AI comincia dal lavoro umano

Mentre noi chiediamo a un modello di scriverci una mail, di tradurci una frase, di riassumere un documento, da qualche parte qualcuno ha già guardato, classificato, sopportato ciò che a noi viene risparmiato. La macchina sembra pulita perché qualcuno, prima, si è sporcato le mani, gli occhi e l’anima al posto nostro.

L’intelligenza che il mondo sta costruendo promette di migliorare la vita di tutti, ma forse impara a farlo solo grazie al lavoro silenzioso di chi resta ai margini… quando pensiamo all’AI dovremmo pensare non solo ai lavori che potrebbe eliminare, ma anche a quelli che crea e come li crea, forse la giustizia dell’AI parte da lì.

Leggi anche su Digitalic: Le tendenze dell’intelligenza artificiale: etica, trasparenza e responsabilità