Nessuno ha sparato

Prevedibilità. Affidabilità. Spiegabilità. Tracciabilità. Sono quattro parole uscite da un documento nelle ore che precedono l'alba del 5 settembre 2026, in una sala del Palais des Nations di Ginevra. Insieme a loro sono cadute le parole progettazione e sviluppo, ed è caduto ogni riferimento alle considerazioni etiche. Nessun delegato ha votato per eliminarle. Non c'è stata nessuna votazione, perché in quella sala non si vota: si procede per consenso, il che significa che per togliere una parola basta che uno solo la voglia fuori.

Il documento era il rapporto finale del Gruppo di esperti governativi sui sistemi d'arma autonomi letali, i killer robot dei titoli di giornale. Dodici anni di riunioni, l'ultima delle quali si è chiusa quella notte ben oltre l'orario previsto, come si chiudono tutte. A novembre, dal 16 al 20, lo stesso palazzo ospiterà la Conferenza di riesame della Convenzione su certe armi convenzionali, e lì gli Stati aderenti dovranno scegliere tra tre strade: aprire un negoziato per un trattato vincolante, prorogare ancora la fase discussiva, oppure lasciare decadere tutto. Il Segretario generale dell'ONU e il presidente del Comitato internazionale della Croce Rossa avevano chiesto che il trattato fosse concluso entro la fine del 2026. Mancano due mesi.

Dodici anni per non decidere

La macchina diplomatica che si occupa di armi autonome funziona esattamente come è stata progettata per funzionare, ed è questo il problema. Le riunioni informali sono cominciate nel 2014, il gruppo di esperti è stato istituito nel 2016, nel 2019 sono stati adottati undici principi guida che non vincolano nessuno. Da tre anni i delegati lavorano su quello che in gergo chiamano rolling text, il testo che rotola: un documento in cinque sezioni costruito attorno a un'idea ragionevole, cioè vietare i sistemi che non possono essere usati sotto controllo umano significativo e regolare tutti gli altri.

Il consenso politico, paradossalmente, c'è. Alla sessione conclusiva settantasei Stati si erano dichiarati pronti ad aprire i negoziati, settanta dei quali membri votanti della Convenzione: una maggioranza. Ma la maggioranza, qui, non serve a niente. Il consenso non è l'unanimità raggiunta, è il diritto di veto distribuito a chiunque entri nella stanza. Human Rights Watch, che seguiva i lavori, attribuisce a Russia e Stati Uniti l'indebolimento del testo nelle ultime ore.

E qui vale la pena guardare da vicino il meccanismo, perché non riguarda soltanto le armi. In una procedura a consenso nessuno deve mai dire di no. Basta chiedere un approfondimento, osservare che i tempi non sono maturi, proporre di riprendere alla prossima sessione. Il rinvio non è il fallimento del negoziato: ne è il prodotto principale. Chi rinvia, formalmente, non blocca nulla; lascia semplicemente lavorare il tempo, che nel frattempo fa quello che nessuno vuole firmare. Sono passati dodici anni. La tecnologia non ha aspettato.

L'uomo dentro il circuito

Nell'aprile del 2024 la rivista israeliana +972 Magazine e la testata Local Call hanno pubblicato un'inchiesta di Yuval Abraham, fondata su testimonianze anonime di ufficiali dell'intelligence israeliana e poi ripresa con reportage autonomo dal Guardian. Raccontava un sistema chiamato Lavender: un programma di apprendimento automatico che assegnava agli abitanti di Gaza un punteggio di probabile appartenenza a un gruppo armato. Secondo quattro fonti, nelle prime settimane di guerra aveva marcato circa trentasettemila palestinesi, in maggioranza di basso rango. Il tasso di errore riferito si aggirava attorno al dieci per cento.

Il dettaglio che conta, però, non è il numero. È il tempo. Gli ufficiali intervistati dicevano di dedicare a ciascun nome circa venti secondi prima di autorizzare, e che quei venti secondi servivano essenzialmente a verificare che il nome fosse maschile. L'approvazione umana, dicevano, funzionava come un timbro.

L'esercito israeliano ha smentito. In una dichiarazione alle stesse testate il portavoce ha negato l'uso di intelligenza artificiale per incriminare obiettivi, definendo quei programmi "strumenti ausiliari che assistono gli ufficiali nel processo di incriminazione"; ha negato l'esistenza di una lista di uccisioni; e ha ricordato che Hamas colloca i propri operativi nel cuore della popolazione civile. La smentita va presa sul serio, e non per dovere di cronaca: l'intera ricostruzione poggia su fonti anonime, e chi la maneggia come se fosse un verbale processuale fa un cattivo servizio innanzitutto a sé stesso.

Ma c'è un punto che conviene chiarire subito, perché è quello su cui il discorso pubblico scivola sempre. Lavender non è un'arma autonoma. Non spara, non seleziona né ingaggia obiettivi da sola: propone. È un sistema di supporto alla decisione, e attorno a esso resta in piedi, formalmente, tutta l'architettura del controllo umano di cui si discute a Ginevra. Chiamarlo killer robot è un errore, e per giunta un errore comodo, perché sposta il problema su una macchina che non esiste ancora e lascia intatta quella che c'è.

Il punto è esattamente il contrario. Il vuoto di responsabilità non si apre quando l'uomo esce dal circuito. Si apre molto prima, quando l'uomo è ancora dentro e non fa più niente. Venti secondi sono abbastanza per firmare e non abbastanza per giudicare, ed è questa la posizione più utile che un essere umano possa occupare in una catena di uccisione: presente ai fini della responsabilità formale, assente ai fini della decisione. Il trattato che a Ginevra non si riesce a scrivere, anche se lo scrivessero domani, non coprirebbe niente di tutto questo.

Il campo di prova

Attorno a quei venti secondi c'è un'infrastruttura che merita uno sguardo, perché è la parte meno discussa e la più istruttiva. Prima di Lavender c'era Habsora, il Vangelo, un sistema per la generazione automatizzata di obiettivi strutturali, cioè edifici. E c'era un programma che il gergo interno chiamava "Where's Daddy?", che segnalava quando un uomo marcato rientrava in una posizione determinata, tipicamente la propria abitazione. L'esercito israeliano aveva già riconosciuto pubblicamente l'impiego di strumenti analoghi nel 2021, durante gli undici giorni dell'operazione Guardiano delle Mura, quando un alto ufficiale dell'intelligence definì l'intelligenza artificiale una componente chiave e un moltiplicatore di potenza. Fu la prima volta che un esercito rivendicò apertamente una guerra condotta così.

Poi c'è tutto il resto: il riconoscimento facciale, i sistemi di sorveglianza biometrica che Amnesty International ha documentato a Hebron e a Gerusalemme Est, i droni quadricotteri, le postazioni di tiro comandate a distanza. E sotto ogni cosa, la parte che non somiglia affatto alla guerra: il calcolo. Amazon, Google e Microsoft forniscono all'apparato militare israeliano archiviazione e servizi cloud. Documenti riservati hanno mostrato l'ampliamento della collaborazione tra Microsoft e le forze armate israeliane dopo il 7 ottobre 2023, con servizi Azure e supporto all'intelligence; un'inchiesta dell'Associated Press ha documentato il ricorso crescente, per compiti di targeting, a modelli sviluppati da aziende commerciali statunitensi.

In un altro pezzo di questa serie ho scritto che la nuvola pesa: in acqua, in elettricità, in lavoro umano tenuto accuratamente fuori campo. Pesa anche qui, e in un modo che rende la contabilità delle responsabilità definitivamente impraticabile. Tra la riga di codice scritta a Seattle e l'edificio che viene giù a Gaza City ci sono un contratto commerciale, un data center, un fornitore, un'unità militare, un analista e venti secondi. Ogni singolo anello è perfettamente in regola. L'insieme non risponde a nessuno.

Nessuno ha sparato

Hannah Arendt, che di burocrazie se ne intendeva, aveva già dato a questa cosa il suo nome esatto: il dominio di Nessuno. Non l'assenza di governo, ma una forma di governo in cui non resta più nessuno con cui discutere, a cui presentare rimostranze, su cui esercitare pressione. Scriveva di uffici, di funzionari, di scartoffie. La struttura, però, è quella, e la tecnologia non l'ha inventata: l'ha soltanto resa sostenibile su scala industriale.

Il fenomeno ha un nome anche nella letteratura specialistica, responsibility gap, il vuoto di responsabilità: quando una macchina concorre a selezionare un bersaglio, né chi l'ha programmata, né chi l'ha acquistata, né chi ha premuto il tasto può essere considerato pienamente l'autore di quello che è accaduto. Il filosofo Robert Sparrow lo sosteneva già nel 2007, quando tutto questo era ancora teoria.

E qui bisogna essere precisi, perché c'è una scorciatoia da evitare. Non è che la macchina abbia deciso. Le decisioni che contano le hanno prese esseri umani, in anticipo e per iscritto: quanta approssimazione tollerare, quali munizioni impiegare, chi contare come operativo. Quello che l'automazione ha cambiato non è chi decide, è che cosa significa decidere. Una soglia fissata una volta e applicata da un sistema a migliaia di casi non è più una decisione: è un parametro. E impostare un parametro non somiglia a uccidere. Non ne ha il peso, non ne ha il tempo, non ne ha la faccia. È questa la vera invenzione, e per funzionare non ha bisogno di nessuna arma autonoma.

L'obiezione che regge

Sarei disonesto se non dessi la parola a chi la pensa diversamente, tanto più che l'obiezione più forte è anche la più scomoda per me.

È questa: attribuire alla macchina ciò che hanno deciso dei comandanti è a sua volta un modo di assolverli. Se il numero di civili accettabili per obiettivo lo ha fissato un ufficiale, se le regole d'ingaggio le ha scritte un ministero, allora parlare di algoritmi serve solo a spostare l'imputazione su un soggetto che in tribunale non può sedersi. Il rischio, per un articolo come questo, è di svolgere involontariamente il lavoro della difesa.

Poi c'è l'argomento tecnico, e non è debole. Un sistema che incrocia cento fonti può essere più accurato di un analista alla diciottesima ora di turno. Paul Scharre, che di queste cose scrive dall'interno dell'establishment militare americano, sostiene che l'errore umano nel targeting è documentato, sistematico e antico, e che rifiutare per principio ogni assistenza automatica non è una posizione umanitaria ma una preferenza estetica.

E c'è l'argomento procedurale, che spiega metà di Ginevra. Nessuno è mai riuscito a definire in modo verificabile dove finisca l'assistenza e cominci l'autonomia, né che cosa sia esattamente un controllo umano significativo. Un divieto che non si può definire non si può violare, dunque non vincola. Peggio ancora: l'autonomia è una proprietà del software, invisibile a qualunque ispezione. Un trattato non verificabile disarma soltanto chi lo rispetta.

Il primo argomento lo concedo per intero, ed è la ragione per cui questo pezzo non parla di macchine assassine. Concederlo, però, non chiude la questione: la sposta. Proprio perché le decisioni erano umane, l'automazione non ha creato il vuoto di responsabilità. Lo ha reso economico. Ha permesso a un numero piccolo di scelte umane di produrre un numero enorme di conseguenze senza che nessuna di quelle conseguenze tornasse indietro, sotto forma di domanda, fino a chi aveva scelto. Sugli altri due argomenti ho poco da obiettare, se non che valgono come critiche a un trattato specifico e non come argomenti contro l'esistenza di un trattato. Si può scrivere male una legge. Non scriverla affatto, però, non è una posizione neutrale.

Torniamo allora a Ginevra, e a quelle parole cancellate prima dell'alba. Prevedibilità, affidabilità, spiegabilità, tracciabilità sono i quattro requisiti che consentirebbero, dopo, di ricostruire perché un sistema ha proposto un nome e non un altro. Sono le parole che servono a stabilire di chi sia la colpa. Sono uscite dal testo insieme al riferimento alle considerazioni etiche, e sono uscite senza che nessuno le eliminasse, per accordo generale, nelle ore in cui i delegati avevano sonno.
Arendt lo aveva scritto sessant'anni fa, e non stava parlando di computer:

"Il dominio di Nessuno non è assenza di dominio, e dove tutti sono ugualmente privi di potere abbiamo una tirannide senza tiranno" (H. Arendt, Sulla violenza, 1970).

A novembre, nello stesso palazzo, si deciderà se cominciare a scrivere una legge. Qualunque cosa scriveranno conterrà con ogni probabilità la formula che tutti ripetono e che nessuno ha mai definito: human in the loop, l'uomo dentro il circuito. È una garanzia che suona rassicurante, e adesso sappiamo anche quanto può durare. Venti secondi bastano a tenere un uomo dentro il circuito. Sono esattamente quello che serve perché, alla fine, nessuno abbia sparato.

--
Riferimenti bibliografici

+972 Magazine e Local Call, inchiesta di Yuval Abraham su Lavender (aprile 2024) e su Habsora (novembre 2023)
Human Rights Watch, UN Talks on Killer Robots ends with Calls for Negotiations Growing (7 settembre 2026)
UNODA, documenti del Gruppo di esperti governativi sui sistemi d'arma autonomi letali, sessioni 2026
Amnesty International, Automated Apartheid (2023)
Robert Sparrow, Killer Robots, Journal of Applied Philosophy (2007)
Paul Scharre, Army of None: Autonomous Weapons and the Future of War (2018)
Hannah Arendt, Sulla violenza (1970)), inchiesta di Yuval Abraham su Lavender (aprile 2024) e su Habsora (novembre 2023)
Human Rights Watch, UN Talks on Killer Robots ends with Calls for Negotiations Growing (7 settembre 2026)
UNODA, documenti del Gruppo di esperti governativi sui sistemi d'arma autonomi letali, sessioni 2026
Amnesty International, Automated Apartheid (2023)
Robert Sparrow, Killer Robots, Journal of Applied Philosophy (2007)
Paul Scharre, Army of None: Autonomous Weapons and the Future of War (2018)
Hannah Arendt, Sulla violenza (1970)

--
Nota. Questo è il decimo e ultimo pezzo della serie. Era cominciata dal corpo: i miliardari che comprano tempo biologico e rivendono la vergogna di essere nati. Poi l'infrastruttura, la nuvola che pesa in acqua, in elettricità e in lavoro umano tenuto fuori campo. Poi è entrata dentro: l'esaurimento di chi si sfrutta credendosi libero, la solitudine diventata questione di sanità pubblica, la famiglia come ultima economia del dono rimasta in piedi. Quindi è tornata alle cose: il sogno cripto-anarchico comprato da Wall Street, la proprietà dissolta nel firmware, il desiderio messo a pedaggio, l'oblio venduto a sottoscrizione mensile.

Di ciascuno di questi fenomeni si parla moltissimo, e quasi sempre nel modo sbagliato: come di novità senza precedenti, di incidenti di percorso, di problemi privati da risolvere con un'applicazione migliore o una terapia. Smontarli uno per uno, dargli un nome, collocarli dentro una struttura non è un esercizio accademico: è la condizione perché diventino contestabili. Ciò che non ha nome non ha imputato, e ciò che passa per destino non si negozia con nessuno. C'è poi una cosa che scrivendo è emersa da sé, e che vale più della somma dei singoli pezzi: gli strumenti per pensare tutto questo esistevano già. Marx, Polanyi, Arendt, Anders, Bauman, Deleuze hanno scritto prima di internet, prima delle piattaforme, prima di qualunque modello linguistico. Che le loro pagine funzionino ancora così bene non è un merito della loro preveggenza: è la prova che non stiamo guardando aberrazioni, ma un sistema che funziona esattamente come è stato costruito per funzionare. Non c'è niente, qui, di abbastanza nuovo da giustificare l'attesa.

Grazie a Capibara Media, che ha dato spazio a dieci pezzi lunghi e poco consolatori in un'epoca che premia il contrario, e a chi li ha letti fino in fondo.

Sul futuro non prendo impegni. Se questa serie dovesse riaprirsi presto, vorrà dire che la distopia ha continuato a dilagare e che scriverne è tornato necessario: una pessima notizia travestita da buona. Se invece resterà chiusa a lungo, sarà perché non ci sono state nuove urgenze da divulgare. Tra le due, tifo apertamente per il silenzio.