Da qualche anno, in molte aule di giustizia del mondo, accanto al fascicolo processuale compare un numero: un punteggio di rischio, calcolato da un sistema addestrato su decine di migliaia di casi passati, che stima la probabilità che una persona commetta un nuovo reato. È la cosiddetta giustizia predittiva, ed è uno dei terreni più delicati in cui l'intelligenza artificiale incontra la vita delle persone. Nel capitolo «La Colpa e l'Algoritmo» del libro Oltre Turing - Il Resto Incalcolabile, Antonio Fabbrizio affronta il tema con gli strumenti dell'ingegneria dei sistemi informativi e una tesi netta: il punteggio si può calcolare, la colpa si deve giudicare.
L'argomento non è ideologico, è tecnico. Un modello di valutazione del rischio di recidiva è, in essenza, una pipeline di big data: variabili in ingresso, addestramento supervisionato su esiti storici, calibrazione, punteggio in uscita. Il capitolo ne smonta i tre punti critici con precisione ingegneristica.
I tre limiti strutturali del punteggio di rischio
Il primo limite è statistico: il punteggio è un enunciato su una classe di persone, non su un individuo. Dice che, tra profili simili, una certa frazione ha avuto in passato un certo esito; non dice nulla di necessario sul singolo caso. Il secondo è semantico: gli archivi giudiziari registrano eventi amministrativi - arresti, denunce, condanne - che dipendono anche da dove e come si è cercato, non l'inclinazione morale di una persona; un modello addestrato su quei dati apprende insieme la geografia dei controlli e la fenomenologia dei reati, e le restituisce indistinguibili sotto forma di rischio. Il terzo è decisionale: ogni soglia applicata al punteggio produce falsi positivi e falsi negativi, e in questo dominio nessuno dei due errori è solo un numero - da una parte c'è una persona che subisce una restrizione ingiustificata, dall'altra una potenziale vittima non protetta.
La ricerca empirica citata nel capitolo conferma la necessità di sobrietà: dopo le inchieste giornalistiche sugli strumenti attuariali di recidiva, gli studi hanno dimostrato formalmente che le diverse definizioni matematiche di equità sono tra loro incompatibili quando i tassi di base differiscono tra gruppi, e che l'accuratezza di uno degli strumenti più diffusi è paragonabile a quella di valutatori umani senza preparazione specifica.
Il giudice, i condizionamenti e l'AI Act
Il capitolo ha però un secondo movimento, più sorprendente: non contrappone all'algoritmo un giudizio umano idealizzato. La scienza cognitiva documenta da mezzo secolo che la mente umana, a ogni livello di eccellenza, è esposta a condizionamenti involontari - l'ancoraggio numerico, la pressione mediatica, la fatica cognitiva - che agiscono su tutti gli attori del processo, in ogni direzione. Ed è proprio per questo, osserva l'autore, che la civiltà giuridica ha costruito nei secoli quella che con occhi da ingegnere si può leggere come un'architettura fault-tolerant: il contraddittorio, la terzietà del giudice, i gradi di giudizio, l'obbligo di motivazione, il dubbio ragionevole.
«L'algoritmo può informare il giudizio; non può, in nessun punto della pipeline, sostituirlo.»- Oltre Turing, cap. 15, La Colpa e l'Algoritmo
In questa cornice il punteggio algoritmico va trattato per ciò che è: l'ultimo arrivato tra i fattori che possono condizionare chi decide, reso più insidioso dall'automation bias - l'autorità percepita del numero, superiore alla sua reale affidabilità. Il diritto europeo ha tracciato i confini: il Regolamento (UE) 2024/1689 (AI Act) vieta i sistemi che valutano il rischio di reato sulla base della sola profilazione (articolo 5), classifica ad alto rischio i sistemi di AI per l'amministrazione della giustizia (Allegato III) e con l'articolo 14 esige che la decisione resti nelle mani di chi giudica. È la stessa lezione del caso State v. Loomis: il punteggio attuariale mai come fattore determinante della decisione.
Il pregiudizio digitale e il diritto all'oblio
C'è infine un condizionamento che agisce fuori dall'aula e che il capitolo mette a fuoco con particolare forza: il pregiudizio digitale. La rete indicizza l'accusa e ignora la coda silenziosa dell'assoluzione; il risultato è una pena che nessun codice prevede, la condanna reputazionale permanente, che colpisce l'innocente assolto con la stessa efficienza con cui archivia il colpevole. Il diritto all'oblio (Corte di giustizia UE, causa C-131/12; articolo 17 del GDPR) ha aperto un varco, ma la questione di fondo è antropologica: l'uomo può cambiare, il dato no. Gli ordinamenti conoscono la riabilitazione; il profilo digitale congela la persona nel suo istante peggiore.
È un capitolo che parla a giuristi, ingegneri e cittadini insieme, con un registro pacato e una documentazione rigorosa - da Beccaria a Ferrajoli, da Tversky e Kahneman alla direttiva (UE) 2016/343 sulla presunzione di innocenza. E consegna una conclusione che vale come principio di progetto per chiunque costruisca sistemi informativi per la giustizia: il sistema deve sapere quando non sa, e fermarsi.
