La nuvola pesa

di Filippo Dicchi

In un tratto di deserto dell'Arizona, dove non piove quasi mai, un data center beve ogni giorno milioni di litri d'acqua per raffreddare i processori che addestrano i modelli di intelligenza artificiale. La chiamiamo "nuvola", e la parola fa il suo lavoro: evoca qualcosa di leggero, etereo, immateriale, sospeso da qualche parte sopra di noi. È una delle finzioni più riuscite del nostro tempo. Perché la nuvola pesa: pesa in acqua, in elettricità, in litio, in rame, in terre rare strappate a miniere dove lavorano persone che non vedranno mai un'interfaccia. E pesa in lavoro umano vivo, quello che resta accuratamente fuori campo.

A Nairobi, fino a non molto tempo fa, c'erano lavoratori pagati meno di due dollari l'ora per leggere, otto ore al giorno, i testi più atroci che la rete produce (descrizioni di violenza, abuso, tortura) e classificarli, così che il chatbot che usiamo per scrivere email gentili imparasse a non restituirceli. Li chiamano moderatori, annotatori, etichettatori. Mary Gray e Siddharth Suri hanno coniato per loro un'espressione perfetta: ghost work, lavoro fantasma. È il lavoro che rende possibile l'illusione che le macchine pensino da sole. Più l'intelligenza artificiale sembra autonoma, più nasconde gli esseri umani che la tengono in piedi. Tenere a mente questo non è moralismo: è il primo passo per capire che cosa l'IA sia davvero. Non una mente. Un mezzo di produzione. E, come ogni mezzo di produzione, qualcosa che appartiene a qualcuno.

C'è un dettaglio che vale come una parabola. La piattaforma con cui Amazon distribuisce a milioni di lavoratori invisibili i micro-compiti che le macchine non sanno ancora svolgere si chiama Mechanical Turk. Il nome è un omaggio a un automa del 1770, il Turco: un manichino vestito da giocatore di scacchi che sconfiggeva chiunque, mostrato nelle corti d'Europa come prodigio della meccanica. Dentro la macchina, naturalmente, era nascosto un uomo in carne e ossa che muoveva i pezzi. Bezos ha scelto quel nome con perfetta lucidità: l'intelligenza artificiale, oggi come allora, è spesso, a monte, un mago che tiene l'uomo sotto il tavolo e ci invita ad ammirare il prodigio. La meraviglia funziona finché non guardiamo dove non dovremmo. E quasi mai guardiamo.

Il sapere generale, privatizzato

In un frammento famoso dei Grundrisse, scritto a metà Ottocento e rimasto a lungo nei cassetti, Karl Marx immaginò un capitalismo in cui la ricchezza non dipendesse più dalla quantità di lavoro immediato, ma dalla potenza degli strumenti messi in moto: strumenti nei quali si è depositato il general intellect, il sapere sociale generale, l'intelligenza collettiva dell'umanità trasformata in forza produttiva. Per oltre un secolo quel passo è sembrato un'intuizione visionaria ma astratta. Oggi è la cronaca.

Perché che cosa sono, esattamente, i modelli linguistici se non il general intellect fatto macchina? Sono addestrati su testi che abbiamo scritto noi, miliardi di pagine, conversazioni, libri, codice, fotografie, l'intera produzione cognitiva e linguistica della specie, raschiata dalla rete e data in pasto a sistemi statistici. La nostra intelligenza collettiva, accumulata in secoli, viene recintata e restituita come servizio a pagamento. È un'enclosure, una recinzione delle terre comuni, ma stavolta le terre comuni sono il linguaggio, il sapere, la cultura. Il bene più condiviso che esista diventa, di colpo, proprietà privata di una manciata di aziende.

Shoshana Zuboff ha dato un nome a questo meccanismo: capitalismo della sorveglianza. La materia prima non è il petrolio ma l'esperienza umana, catturata come "surplus comportamentale" (i dati che lasciamo facendo qualunque cosa) e raffinata in previsioni sul nostro comportamento futuro, vendute a chi quel comportamento vuole orientarlo. Non siamo i clienti; siamo la miniera. Antoinette Rouvroy parla di governamentalità algoritmica: un potere che non disciplina più i soggetti come faceva la fabbrica o la scuola, non ci dice cosa dobbiamo essere ma anticipa e modula i nostri comportamenti prima ancora che diventino scelte, lavorando sui profili invece che sulle persone. È un potere più morbido e, proprio per questo, più difficile da contestare: non incontra mai un "no", perché agisce prima che il "no" possa formarsi.

E poi c'è il modo in cui questi sistemi riproducono, ingrandite, le diseguaglianze che li precedono. Cathy O'Neil le ha chiamate armi di distruzione matematica: algoritmi opachi che decidono chi ottiene un prestito, un colloquio, una libertà condizionale, e che lavano il pregiudizio nella neutralità apparente del calcolo. Virginia Eubanks ha mostrato come il welfare digitalizzato sorvegli e punisca i poveri; Safiya Noble, come i motori di ricerca incorporino il razzismo della società che li ha prodotti. Il punto, in tutti questi casi, è lo stesso: non esiste un algoritmo neutro, perché non esistono dati neutri. I dati sono il passato. E un sistema addestrato sul passato, lasciato a sé stesso, non fa che proiettarlo sul futuro.

Macchine da rompere o da prendere?

A questo punto la domanda si fa politica, e qui conviene essere onesti invece che militanti. La tentazione più immediata, di fronte a tutto questo, è il rifiuto: rallentare, regolamentare, in certe versioni distruggere — un neoluddismo che ha argomenti seri e una lunga, dignitosa tradizione. Ma esiste una posizione opposta, e altrettanto di sinistra, che merita ascolto. Aaron Bastani, con il suo comunismo del lusso completamente automatizzato, e Nick Srnicek con Alex Williams sostengono che le macchine non vadano rotte ma prese: l'automazione che oggi licenzia potrebbe, sotto altri rapporti di proprietà, liberarci dal lavoro necessario e regalarci tempo. Non è la tecnologia il nemico, dicono, ma chi la possiede. Cambiate la proprietà e cambierete il segno.

È un'obiezione potente, e non va aggirata. La risposta più seria viene forse da Yanis Varoufakis, che sostiene una tesi inquietante: non saremmo più nel capitalismo, ma in qualcosa di peggio, un tecnofeudalismo in cui le grandi piattaforme non sono più imprese che competono su un mercato, ma feudi che riscuotono rendite. Non vendono: fanno pagare il pedaggio per accedere al territorio digitale che possiedono. E da un feudo non basta cambiare il padrone: bisogna abolire il feudo.

Tra il rifiuto e l'appropriazione, il filo conduttore è uno solo, e raramente lo si nomina. La questione decisiva non è la privacy individuale (la difesa del singolo dato come fosse un oggetto personale) ma la proprietà collettiva dei dati e dei modelli, nel senso forte: non un padrone diverso che riscuote lo stesso pedaggio, ma l'abolizione del pedaggio come rapporto. Cosimo Accoto descrive un "mondo dato", interamente leggibile come informazione: ma un mondo dato a chi? Le alternative esistono e hanno nomi concreti: il dato come bene comune, il cooperativismo di piattaforma, la socializzazione delle infrastrutture digitali, trust pubblici che gestiscano i modelli come si gestisce l'acqua o l'energia. Non sono utopie da laboratorio, sono ipotesi di economia politica che però devono fare i conti con un collo di bottiglia preciso: la fabbricazione dei chip più avanzati, concentrata in poche mani (TSMC a Taiwan, la litografia EUV dell'olandese ASML), non si nazionalizza per decreto come un pozzo di petrolio. La difficoltà è reale; non per questo l'obiettivo è meno legittimo.

La domanda non è se le macchine penseranno. È a chi apparterranno i loro pensieri.

Vale la pena rileggere, per intero, quel passo dei Grundrisse, perché suona come una profezia scritta per noi:

"Lo sviluppo del capitale fisso rivela fino a quale grado il sapere sociale generale, knowledge, sia diventato forza produttiva immediata" (K. Marx, Lineamenti fondamentali della critica dell'economia politica, 1857-58).

Il sapere sociale generale è diventato forza produttiva immediata, esattamente come Marx aveva previsto. Quello che lui non poteva sapere è che sarebbe stato venduto a sottoscrizione mensile, e che ci avrebbero convinto a chiamarlo nuvola.

--

Riferimenti bibliografici:

Grundrisse: K. Marx, Lineamenti fondamentali della critica dell'economia politica, 1857-58
Mary L. Gray e Siddharth Suri, Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass
Shoshana Zuboff, The Age of Surveillance Capitalism
Antoinette Rouvroy e Thomas Berns, "Gouvernementalité algorithmique et perspectives d'émancipation"
Cathy O'Neil, Armi di distruzione matematica. Come i big data aumentano la disuguaglianza e minacciano la democrazia
Virginia Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor
Safiya Umoja Noble, Algorithms of Oppression: How Search Engines Reinforce Racism
Aaron Bastani, Fully Automated Luxury Communism: A Manifesto
Nick Srnicek e Alex Williams, Inventing the Future: Postcapitalism and a World Without Work
Yanis Varoufakis, Technofeudalism: What Killed Capitalism
Cosimo Accoto, Il mondo dato. Cinque brevi lezioni di filosofia digitale