L'intelligenza artificiale non si governa come gli algoritmi

Nel 2018 il filosofo e storico della matematica Paolo Zellini iniziava il libro La dittatura del calcolo, Adelphi, con la domanda: “In futuro saranno gli algoritmi a governarci?”. E’ la domanda che viene insistentemente posta nel dibattito pubblico dei nostri giorni.

Perché “in futuro”? Chi si sposta in treno o in aereo non sta forse usando sistemi complessi governati da algoritmi? E’ possibile pensare un ospedale al di fuori dei numerosi algoritmi che reggono il funzionamento dei suoi apparati tecnici (dal banale elettrocardiogramma alla più sofisticata tac) e del suo apparato organizzativo? E il traffico di una grande città non è forse governato da algoritmi? E che dire delle banche o del sistema di pagamento dei nostri salari o delle nostre pensioni? L’automobile che guidiamo cosa altro è se non un insieme di algoritmi ai quali ubbidiamo pena incidenti? E il moderno angelo custode plurialgoritmico che si chiama smartphone? Eccetera eccetera. Non è facile trovare un settore della nostra vita, pubblica o privata, dove non ci sia un algoritmo, magari invisibile ai nostri occhi.

Ma che cos’è un algoritmo? La parola deriva dal nome del matematico arabo del IX secolo al-Khuwarizmi che per primo ha formulato le regole per eseguire le quattro operazioni aritmetiche su numeri scritti in notazione decimale. Esempi semplici di algoritmi sono per l’appunto i metodi di risoluzione delle quattro operazioni aritmetiche che ogni bambino impara nei primi anni della carriera scolastica. La nozione quindi precede di molto l’èra digitale. E’ bene saperlo.

Una definizione semplice e chiara di algoritmo? Pensate alle operazioni che eseguiamo quando facciamo una addizione o una divisione. Sappiamo con precisione cosa fare in ciascun momento del calcolo. L’algoritmo altro non è che una procedura in cui, data una determinata configurazione degli elementi in gioco, si sa con precisione quale debba essere la mossa successiva. Questa è stata la grande scoperta del matematico arabo al-Khuwarizmi nel IX secolo. Mille e cento anni dopo, precisamente nel terzo decennio del secolo scorso, il matematico inglese Alan Turing (1912-1954) dimostrò che una qualsiasi procedura con le caratteristiche delle regole delle addizioni o moltiplicazioni può essere fatta eseguire da una macchina che in letteratura si chiama macchina di Turing. Algoritmo e macchina di Turing negli studi specialistici sono sinonimi.

Naturalmente sto semplificando. Qui interessa notare che gli algoritmi e i relativi automi non sono mostruosità contemporanee ma con essi conviviamo da molto prima che conoscessimo la parola che li indica.

E però indubbiamente è accaduto qualcosa di nuovo quest’anno con l’immissione nel mercato di ChatGPT. In futuro sapremo se è corretto usare il termine algoritmo anche per il nuovo prodotto dell’intelligenza artificiale o se siamo entrati nell’èra post Turing.

Dove sta la novità? ChatGPT e apparati simili non eseguono regole tipo quelle dell’addizione o divisione ma generano testi (discorsi) sensati. Sensati perché ben argomentati. In che cosa un’argomentazione differisce da un calcolo? Il calcolo è univoco: il risultato di 2+2 è 4 indipendentemente da chi esegue il calcolo così come il risultato di una tac non dipende dalle idee politiche dell’operatore che la sta eseguendo. Le argomentazioni dipendono invece dalla cultura e dalle passioni di chi argomenta. Sulla medesima questione fascisti, comunisti, liberali, ecc. argomentano correttamente in maniera differente. Le argomentazioni che accompagnano ogni fede religiosa e politica dipendono dalla scelta religiosa e politica di chi argomenta. 

Un esempio banale ma chiaro: a parità di correttezza argomentativa, nel famoso sillogismo di prima figura di Aristotele, Socrate sarebbe immortale se la premessa fosse “Tutti gli uomini sono immortali”. Tutti i nostri discorsi ben argomentati sono guidati dal medesimo principio: poggiano su premesse quasi sempre non dette. Le premesse non dette altro non sono che la cultura e le passioni di chi argomenta.

Quali conclusioni di ordine generale trarre da questa osservazione. Non so cosa ci riserva il futuro ma, in linea di principio e per quello che ne sappiamo, è possibile costruire una ChatGPT fascista o comunista, putiniana o filoamericana, cristiana alla Papa Francesco o islamica fondamentalista. Diversamente da quanto accade agli algoritmi tradizionali: le regole dell’addizione non sono né fasciste né antifasciste. L’intelligenza artificiale generativa ha invece un padrone interiore (solo interiore?) che stabilisce il non detto a partire da cui svolgere le argomentazioni.

Come governare la nuova versione dell’intelligenza artificiale? Molti politici e intellettuali sono tentati dalla soluzione più facile: limitarne l’uso con restrizioni legali. E’ facile prevedere che in un mondo interconnesso come quello in cui viviamo si rivelerà una strada non percorribile. L’unico approccio a cui riesco a pensare è quello liberal di sempre: la diffusione capillare della conoscenza del modo in cui i vari ChatGPT funzionano è il modo più efficace per difendersene e governarli. Quindi: cultura critica, cultura critica e ancora cultura critica. In questa sfida di civiltà la scuola e gli apparati culturali saranno chiamati a svolgere il ruolo primario.