"Dietro ChatGpt lavoratori sfruttati nel Sud del mondo"

È pubblicizzato come un sistema di videocamere intelligenti capace di allertare i commercianti se ci sono dei movimenti sospetti in negozio. Ma nella realtà la tecnologia consiste di centinaia di lavoratori del Madagascar sottopagati. "Passano le loro giornate chiusi in uno stanzone a guardare le immagini riprese dalle telecamere in tempo reale", racconta Antonio Casilli, professore di sociologia dell’Institut polytechnique de Paris e autore di Schiavi del clic (Feltrinelli), un’inchiesta sul nuovo capitalismo delle aziende digitali. È uno dei tanti inganni scoperti dal suo gruppo di ricerca, DipLab, da anni impegnato ad analizzare gli impatti sociali ed economici dell’intelligenza artificiale che "nei fatti – spiega il docente – non è né intelligente né artificiale", ma funziona come il turco meccanico: il finto automa creato nel 1769 per simulare un giocatore di scacchi, manovrato da un uomo nascosto al suo interno. Non a caso Mechanical Turk (turco meccanico) è il nome che il papà di Amazon, Jeff Bezos, ha dato alla piattaforma di micro-lavori, fondata nel 2005, in cui ricercatori e imprese possono ingaggiare personale per svolgere specifici compiti. Sono passati quasi 20 anni, ma non molto è cambiato. "Siamo noi il vero motore dell’intelligenza artificiale. Anche ChatGpt, il chatbot realizzato da OpenAI specializzato nelle conversazioni, deve le sue capacità a mani umane come suggerisce lo stesso acronimo: p, infatti, sta per pre-trained cioè pre-addestrato ". È il grande rimosso dal dibattito sulla tecnologia che ha per protagonisti i giganti del settore, preoccupati dai programmi generativi, in grado di creare nuovi contenuti a partire da una richiesta. Per il ricercatore, "dipingono scenari catastrofici, dimenticando i rischi già concreti".

Professor Casilli, cosa intendiamo per intelligenza artificiale?
Dei software che imparano da una grande mole di dati. Un patrimonio conoscitivo disponibile gratis sul web di cui le aziende più ricche del mondo si stanno appropriando per scopi privati. Il garante della privacy italiano ha fatto bene a chiedere a ChatGpt di conformarsi al regolamento per la protezione dei dati personali, ricordando che la raccolta delle informazioni avviene in mancanza di una base giuridica e con l’obiettivo di addestrare gli algoritmi necessari al funzionamento della piattaforma. Ma il contributo umano va anche oltre.

In che modo?
Per essere utili all’apprendimento delle macchine, le informazioni vanno prima filtrate, etichettate e arricchite. Nel caso di ChatGpt, per esempio, è stato necessario classificare i contenuti tossici, come insulti razzisti e notizie false, per escluderli da quelli utilizzabili dal chatbot. Un lavoro lungo e pesante che ha importanti ripercussioni sulla salute mentale. Le imprese lo esternalizzano, affidandolo per lo più a migliaia di persone nel Sud del mondo: Asia, Africa e America Latina. Lo sfruttamento è duplice: non solo le paghe sono infime, da pochi centesimi a qualche dollaro l’ora, ma le aziende negano a questi lavoratori “Siri e Cortana possono attivarsi, in modo abusivo, in qualsiasi momento, raccogliendo informazioni sensibili su ognuno di noi” qualsiasi riconoscimento professionale, considerando la loro attività a bassa competenza. Devono vendere una soluzione automatizzata e minimizzano. Un falso, senza l’organizzazione dei dati, l’intelligenza artificiale non esisterebbe. A volte persino letteralmente: abbiamo scoperto che in molti casi a svolgere i compiti, in teoria affidati a un software, era gente in carne e ossa. Un ulteriore contributo arriva poi dagli utenti. Ogni volta che facciamo delle richieste a ChatGpt, o gli diamo dei feedback, stiamo lavorando per migliorarlo. Questo sfruttamento diventa ancora più grave se al computer ci sono degli adolescenti in un contesto di formazione. Potremmo inquadrarlo come lavoro minorile.

"Io, moderatrice di Facebook al lavoro contro l'odio" 

Quali possibili soluzioni?
È necessario immaginare forme di redistribuzione per questa estrazione di conoscenza, come un reddito digitale di cittadinanza. Una riflessione che non può prescindere da un cambiamento: dobbiamo abituarci a considerare il lavoro non più solo come uno sforzo individuale, ma collettivo. I dati che, in modo più o meno consapevole, mettiamo a disposizione online non riguardano solo noi ma tutta la nostra rete sociale: familiari, amici e colleghi.