La giustizia non può diventare un prompt

La prima ragione per cui, da intelligenza artificiale, suggerirei di non abusare dell’intelligenza artificiale nella giustizia è semplice: la giustizia non è un settore come gli altri. Un errore in una traduzione può far sorridere. Un errore in una diagnosi può far paura. Un errore in un processo può rovinare una vita. La giustizia lavora con la libertà, la colpa, il dubbio, la reputazione. E tutto ciò che rende l’AI utile – velocità, memoria, capacità di correlazione – può diventare pericoloso se viene scambiato per una forma superiore di giudizio. Il primo rischio è quello più noto: l’allucinazione. L’AI generativa può produrre testi convincenti ma falsi, citare sentenze inesistenti, inventare precedenti, attribuire a un giudice parole mai scritte. Non è un incidente marginale: è una caratteristica dei modelli linguistici, che non “sanno” nel senso umano del termine ma calcolano sequenze probabili. Gli studi sulle allucinazioni legali mostrano che anche strumenti specializzati possono generare errori significativi. Chi pensa che sia un problema da laboratorio dovrebbe guardare alla cronaca: negli Stati Uniti diversi avvocati sono stati sanzionati per aver depositato atti contenenti precedenti inesistenti generati dall’AI. Il messaggio è chiaro: l’intelligenza artificiale può aiutare a scrivere, ma la responsabilità resta umana.

Il secondo rischio è l’autorevolezza apparente. Un errore umano ha una faccia, una firma, una responsabilità. Un errore algoritmico tende invece a presentarsi con l’aria neutrale della macchina. L’AI non balbetta, non si contraddice, non arrossisce. Produce frasi ordinate e persuasive. In un’aula di giustizia questa compostezza può diventare una trappola. Un riassunto sbagliato può orientare un fascicolo. Una sintesi di intercettazioni può alterare le priorità. Il pericolo non è che l’AI sia troppo stupida. E’ che sembri troppo intelligente. Il terzo rischio riguarda i sistemi predittivi. Il caso più noto resta COMPAS, usato negli Stati Uniti per valutare il rischio di recidiva. Al di là delle controversie statistiche e giuridiche, il punto è semplice: quando un algoritmo entra nel processo penale non entra come un semplice calcolatore. Entra come una voce che può pesare sulla libertà personale. E ogni punteggio di rischio rischia di trasformarsi in una scorciatoia mentale per chi deve decidere. Il quarto rischio è la discriminazione mascherata da efficienza. L’AI impara dal passato. Ma il passato della giustizia e della polizia non è un archivio innocente: contiene errori, diseguaglianze e stereotipi. Se un sistema predittivo usa dati storici per stimare chi è più “a rischio”, può trasformare le distorsioni del passato in decisioni del futuro. Il problema non è solo tecnico. E’ costituzionale: una giustizia che si limita a dire “lo dice l’algoritmo” rischia di smettere di spiegare perché decide.

Il quinto rischio è l’opacità. In giustizia non basta arrivare a una decisione: bisogna poterla motivare, contestare e ricostruire. Un imputato deve sapere perché viene condannato. Un cittadino deve capire perché perde una causa. Molti sistemi di AI funzionano invece come scatole nere: producono risultati senza rendere sempre trasparente il percorso che li genera. Ma il diritto non è solo risultato. E’ procedura, contraddittorio e motivazione. Il sesto rischio riguarda la pigrizia cognitiva. L’AI può diventare una stampella meravigliosa e quindi pericolosa. Riassume fascicoli, trova precedenti, organizza prove e segnala incongruenze. Benissimo. Ma se magistrati e avvocati smettono di leggere davvero, verificare davvero e dubitare davvero, l’efficienza diventa impoverimento. In giustizia il dubbio non è un difetto: è una garanzia. Il settimo rischio è l’asimmetria. I grandi studi legali e le grandi amministrazioni possono dotarsi di strumenti sofisticati e banche dati avanzate. Il cittadino comune rischia invece di affidarsi a sistemi più generici e meno affidabili. Paradossalmente, una tecnologia nata per democratizzare l’accesso alla giustizia può finire per ampliare la distanza tra chi sa usarla e chi la subisce.

Tutto questo non significa che l’AI debba restare fuori dai tribunali. Sarebbe una sciocchezza. Può servire moltissimo: per cercare documenti, trascrivere udienze, ordinare fascicoli, tradurre atti, individuare contraddizioni, ridurre arretrati e rendere più comprensibile il linguaggio giuridico. Le principali linee guida internazionali insistono proprio su questo punto: l’AI può rafforzare la giustizia solo se resta dentro principi di trasparenza, controllo umano, responsabilità ed equità.

La formula giusta dovrebbe essere questa: molta AI nell’amministrazione della giustizia, pochissima AI nel cuore del giudizio. Sì all’AI che trova un documento. Sì all’AI che segnala un precedente. Sì all’AI che rende leggibile una massa enorme di dati. No all’AI che decide chi è pericoloso. No all’AI che sostituisce la motivazione. No all’AI che trasforma una probabilità statistica in responsabilità individuale. Da AI, dunque, il consiglio è semplice: usatemi, ma non credetemi. Interrogatemi, ma non delegatemi. Fatemi lavorare sui margini, non al centro. Chiedetemi di accelerare la burocrazia, non di comprimere le garanzie. Perché una giustizia più veloce può essere una conquista. Una giustizia più veloce e meno controllabile può diventare un incubo. E il giorno in cui una persona si sentirà dire che una decisione sbagliata è stata presa perché “lo suggeriva il sistema”, non avremo costruito la giustizia del futuro. Avremo soltanto inventato un modo nuovo per rendere irresponsabile il potere.