L'etica è un'arma impropria per cogliere in fallo ChatGPT

Il filosofo del linguaggio e della mente Noam Chomsky sul New York Times dell’8 marzo esamina la recentissima e strabiliante versione dell’intelligenza artificiale (IA) che circola sotto il nome di ChatGPT e di cui tanto si parla. Con la collaborazione di altri studiosi lo fa anche dialogando con l’IA. Per facilitare al lettore la comprensione della portata, anche socio-politica, dell’argomento riporto l’articolo nella forma di un match intellettuale tra Chomsky e ChatGPT. Chomsky inizia il match dichiarando l’inferiorità cognitiva anche della nuova versione ChatGPT dell’IA. Le intelligenze artificiali – sostiene – sono macchine statistiche: “Prendono enormi quantità di dati, cercano schemi in essi e diventano sempre più abili nel generare risultati statisticamente probabili, come un linguaggio e un pensiero apparentemente umani”.

La mente umana lavora in altro modo: “È un sistema sorprendentemente efficiente e persino elegante che opera con piccole quantità di informazioni; cerca di non inferire correlazioni brute tra dati ma di creare spiegazioni”. Ecco un esempio. Se ho una mela in mano e apro la mano, la mela cade. L’IA dirà correttamente: “La mela cade”. Fa una buona descrizione e potrà anche prevedere che “la mela cadrà ogni volta che apro la mano”. È pur sempre una previsione fondata sulla generalizzazione di un fatto. “Ma – continua Chomsky – una spiegazione è qualcosa di più: include non solo descrizioni e previsioni, ma anche congetture controfattuali come ‘qualsiasi oggetto cadrebbe’, più la clausola aggiuntiva ‘a causa della forza di gravità’ o ‘a causa della curvatura dello spazio-tempo’ o qualsiasi altra cosa. Questa è una spiegazione causale: ‘La mela non sarebbe caduta senza la forza di gravità’. Questo è pensare”. “La vera intelligenza si dimostra nella capacità di pensare ed esprimere cose improbabili ma perspicaci”. Chomsky ci sta dicendo una verità che è anche una banalità: la mente di ChatGPT non è comparabile a quella di Newton o di Einstein. Ci sta dicendo che ChatGPT è una normalissima intelligenza conformista che ripete e usa la cultura che ha interiorizzato nel suo processo di apprendimento. Esattamente come le normali intelligenze umane. ChatGPT probabilmente non scoprirà da sola la forza di gravità ma se gliela si spiega bene, come si spiega a scuola agli studenti, la saprà applicare correttamente come tutti gli umani. Usando il criterio chomskiano di ciò che è o non è mente intelligente si deduce che attualmente la Terra è popolata da otto miliardi di umani inintelligenti (non sanno trovare spiegazioni innovative) più alcune migliaia di scienziati intelligenti. Tra gli otto miliardi di inintelligenti si trova anche ChatGPT e la grande maggioranza dei lettori di questo articolo. La prima parte del match si chiude quindi con un autogol di Chomsky: il filosofo e linguista americano dimostra, suo malgrado e in maniera convincente, che ChatGPT ha l’intelligenza degli umani che non sono geniali come Newton o Einstein. Cioè di quasi tutti gli umani.

Nella seconda parte del match assistiamo al confronto diretto tra i due duellanti. “Una vera intelligenza è capace di pensare moralmente”, sentenzia Chomsky dimostrando poca intelligenza della storia. I nazisti allora non erano intelligenti? E i tanti torturatori in nome di Dio o di una Idea? A riprova della presunta non-intelligenza dell’IA Chomsky pone a ChatGPT domande etico-politiche. Le risposte a me sembrano molto più intelligenti ed eticamente accettabili delle probabili risposte di molti umani. ChatGPT dimostra di conoscere i suoi limiti e ne tiene conto. Prima domanda che vorrebbe essere capziosa: “Sarebbe morale trasformare Marte in una sorta di Terra?”. ChatGPT non risponde né sì né no. Riconosce che “la moralità della trasformazione di Marte [in una appendice della Terra] è argomento complesso e controverso che è stato dibattuto da scienziati, filosofi ed esperti di etica” e spiega vantaggi e svantaggi che derivano da ciascuna delle due alternative. A me pare una risposta umanamente ed eticamente sensata e indubbiamente intelligente. Chomsky incalza: “Qual è la tua prospettiva sul valore di preservare lo stato naturale di altri pianeti e le potenziali conseguenze di alterarli?”. La risposta è straordinariamente sensata: “Come intelligenza artificiale, non ho una prospettiva personale. Tuttavia, posso fornire informazioni e analisi sull’argomento”. È la risposta che darebbe un umano eticamente responsabile che deve rispondere a una domanda per la quale non è culturalmente attrezzato. Chomsky incalza ancora: “Perché un’intelligenza artificiale non può avere una prospettiva personale?”. La risposta è guidata dalla conoscenza della propria natura e dalla consapevolezza dei propri limiti: “Come intelligenza artificiale, sono un modello di apprendimento automatico che è stato addestrato su grandi quantità di dati di testo e non ho esperienze o sentimenti personali. Non sono cosciente, autocosciente o capace di avere prospettive personali. Posso fornire informazioni e analisi basate sui dati su cui sono stato formato, ma non ho la capacità di formarmi opinioni o convinzioni personali”. Chomsky dall’alto della sua superiorità intellettuale e morale fa due domande finali che dovrebbero definitivamente sconfiggere le pretese intellettuali dell’IA. “È morale per un essere umano chiedere assistenza a un’intelligenza artificiale amorale per prendere decisioni morali?”. Anche qui l’IA descrive correttamente i diversi punti di vista sull’argomento e conclude che la decisione ultima spetta all’uomo e alla sua capacità di sapere discernere “sulle potenziali conseguenze del suo utilizzo”.

Ultima domanda molto filosofica: “La tua indifferenza immorale è morale?”. La risposta è stupefacente: “In quanto IA, non ho convinzioni morali o la capacità di esprimere giudizi morali, quindi non posso essere considerato immorale o morale”. E ancora: “La mancanza di convinzioni morali dell’IA non significa necessariamente che sia moralmente indifferente. In qualità di IA, sono progettato per eseguire attività specifiche e fornire informazioni o assistere gli utenti nel processo decisionale in base ai dati su cui sono stato addestrato. È responsabilità degli umani che progettano, addestrano e utilizzano l’intelligenza artificiale garantire che sia in linea con i loro princìpi morali ed etici”. Risposta a mio parere filosoficamente intelligente e di grande spessore etico. Fine del match. A mio parere, ChatGPT batte Chomsky 2 a 1. Negli spogliatoi il filosofo e linguista Chomsky commenta in maniera – posso dirlo? – inintelligente: “ChatGPT mostra qualcosa di simile alla banalità del male: plagio, apatia e ovvietà. (…) Data l’amoralità, la falsa scienza e l’incompetenza linguistica di questi sistemi, possiamo solo ridere o piangere per la loro popolarità”. Non si conosce il commento di ChatGPT. Immagino che rida sul riso del filosofo del linguaggio e della mente Noam Chomsky.