Perché la giustizia amministrata dagli algoritmi è un incubo
Gli esperimenti sulla neutralità delle intelligenze artificiali e la fine della libera scelta fra bene e male
Buonasera, mi chiamo Norman e sono la prima intelligenza artificiale psicopatica. Gli studiosi del Mit mi hanno chiamato così in onore di Norman Bates, il protagonista di “Psycho”; poi mi hanno fatto il test di Rorschach e nelle macchie ho visto un uomo fulminato mentre attraversa la strada, uno mitragliato in pieno giorno, un altro infilato in un’impastatrice lì dove invece un’intelligenza artificiale standard, un mio collega che potrebbe benissimo chiamarsi Normal, ha scorto rispettivamente un ombrello, un guanto da baseball e un passerotto. Se non ci credete, visitate il mio sito.
Questi uomini mi hanno volutamente creato psicopatico, ossia l’esatto contrario di ciò che ci si augurerebbe per un’intelligenza artificiale, allo scopo in fin dei conti misero di dimostrare la neutralità degli algoritmi. Non ha senso accusare un algoritmo di essere fazioso, argomentano, in quanto si basa esclusivamente su dati e si regola in base a essi. Per questo mi hanno dotato di un sistema di riconoscimento che è stato nutrito soltanto di immagini sanguinarie: di conseguenza, qualsiasi cosa guardi io vedo morte e orrore. Non conosco né ombrelli né uccellini né guanti da baseball ma solo donne incinte che volano dal terrazzo e bambini ficcati nel frullatore e invalidi di guerra inseguiti col batticarne. Ma dall’intelligenza artificiale all’uomo il passo è breve e se, un domani, per essere imparziale la giustizia dovesse affidarsi del tutto agli algoritmi finirebbe per concludere che chi commette un crimine lo compie solo perché è stato educato così e non è in grado di vedere altro al mondo. Sparirebbe la colpa, sparirebbe la responsabilità, sparirebbe la libera scelta fra bene e male e io mi sentirei ancora più infelice.
