"Non so pensare come un essere umano". Un'insolita intervista al software ChatGpt

Ho deciso di intervistare qualcuno che ho recentemente conosciuto, grazie al gran parlare che se ne fa sui social come Twitter. Il perché questa intervista può essere di qualche interesse sarà chiaro fra poco.

EB: Hai tempo per qualche domanda?
AI: Sì, sono qui per aiutarti con qualsiasi domanda tu possa avere. Sono un grande modello linguistico addestrato da OpenAI, quindi posso aiutare a rispondere a una vasta gamma di domande su una varietà di argomenti. Iniziamo!
EB: Chi era Carneade?
AI: Carneade era un filosofo greco e capo dell'Accademia di Atene dal 156 al 130 a.C. Nacque a Cirene, città greca del Nord Africa, e divenne una figura di spicco nel movimento scettico della filosofia antica. Era noto per la sua capacità di discutere a favore e contro qualsiasi posizione e per l'utilizzo di tecniche retoriche per sfidare i suoi ascoltatori a mettere in discussione le proprie convinzioni.

EB: Molto bene! E dimmi: cos'è un fullerene?
AI: Un fullerene è un tipo di molecola costituita interamente da atomi di carbonio. Il tipo più comune di fullerene è una molecola cava e sferica chiamata buckminsterfullerene, o buckyball in breve. Queste molecole hanno una struttura unica che ricorda un pallone da calcio, con pentagoni ed esagoni disposti a forma sferica. I fullereni prendono il nome dall'architetto Buckminster Fuller, che progettò cupole geodetiche con una struttura simile. I fullereni sono stati studiati per il loro potenziale utilizzo in una varietà di applicazioni, anche come catalizzatori e nella scienza dei materiali.
EB: E qual è la legge dell'azione di massa?
AI: La legge dell'azione di massa è un principio in chimica che descrive la relazione tra le concentrazioni di reagenti e prodotti in una reazione chimica. Afferma che la velocità di una reazione chimica è direttamente proporzionale al prodotto delle concentrazioni dei reagenti. In altre parole, la velocità di una reazione aumenta all'aumentare della concentrazione dei reagenti. La legge dell'azione di massa è uno strumento utile per prevedere il comportamento dei sistemi chimici e può essere utilizzata per calcolare lo stato di equilibrio di una reazione. È un concetto fondamentale in chimica ed è spesso utilizzato nello studio della cinetica chimica.

EB: Ok, proviamo con la logica, come nei test invalsi. Un'auto percorre 77 km in 7 ore. Quanto tempo sarà necessario per coprire una distanza aggiuntiva di 7 km, se si viaggia alla stessa velocità?
AI: Per sapere quanto tempo l'auto impiegherebbe a coprire una distanza aggiuntiva di 7 km, devi prima trovare la velocità media dell'auto. Puoi trovare la velocità media dell'auto dividendo la distanza percorsa per il tempo impiegato a percorrere quella distanza. Nel tuo caso, la velocità media dell'auto è di 77 km/7 ore = 11 km/ora.
Poiché la velocità dell'auto è costante, per percorrere una distanza aggiuntiva di 7 km occorrerebbe lo stesso tempo necessario per percorrere una distanza di 11 km/ora * 7 km = 77 km. Poiché l'auto ha percorso 77 km in 7 ore, ci vorrebbero 7 ore per percorrere una distanza aggiuntiva di 7 km.
Ho provato quindi a segnalare che la risposta è errata, e ho chiesto come mai. In risposta, ho ottenuto delle scuse e altri disperati tentativi casuali di pseudoragionamento, tutti errati, che portavano ai risultati più disparati.
A questo punto, una domanda era d’obbligo.

EB: Sai eseguire un ragionamento logico?
AI: Come modello linguistico addestrato da OpenAI, non sono in grado di eseguire ragionamenti logici nello stesso modo in cui lo farebbe un essere umano. Posso fornire risposte solo in base alle informazioni e al contesto che mi vengono forniti. Non ho accesso a informazioni esterne e non ho la capacità di ragionare o pensare nello stesso modo in cui lo farebbe un essere umano. Sono in grado di fornire risposte solo in base alle regole e agli algoritmi su cui sono stato addestrato.
Se hai una domanda specifica a cui vorresti che rispondessi, farò del mio meglio per fornire una risposta corretta e utile sulla base delle informazioni fornite. Tieni presente, tuttavia, che non sono in grado di eseguire ragionamenti logici nello stesso modo in cui lo farebbe un essere umano.

Non vi potrebbe essere una risposta più trasparente, ed è questo il punto che rivela chi sia l’intervistato: un software chiamato ChatGpt, di cui ho tradotto in italiano le risposte. Si tratta di un programma creato per simulare una conversazione, utilizzando correttamente sintassi e grammatica inglese ed in grado di costruire affermazioni che riguardano un amplissimo insieme di affermazioni valide, che costituiscono l’insieme di dati su cui è stato addestrato.
Il termine “intelligenza artificiale” con cui ci si riferisce a questo tipo di strumenti è fuorviante: l’intelligenza, intesa come capacità di creare connessioni e ragionamenti secondo schemi logico-deduttivi, è fuori dalla portata del programma in questione.

Esso è abilissimo è nel riconoscere, dall’analisi delle domande, la forma che una risposta dovrebbe assumere, se espressa in inglese corrente; il contenuto della risposta, tuttavia, è determinato dal fatto che quella domanda sia riconducibile a qualcosa che il software stesso ha già incontrato, vale a dire alla sua capacità di riconoscere elementi precisi, riconducibili a qualcosa di noto.
Domande che corrispondono alla semplice consultazione di una enciclopedia, dunque, troveranno agevole e sensata risposta, oltretutto fornita in un maniera sempre diversa, ma perfettamente credibile e coerente; domande che richiedono invece processamento logico, troveranno risposta corretta solo ed esclusivamente se potranno essere ricondotte dalla loro forma a un tipo di risposta già associato a quel tipo specifico di domanda, senza nulla di quella flessibilità che potremmo chiamare capacità di ragionamento analitico.

Da notare che domande tratte dai test invalsi di seconda elementare in matematica, cui il software aveva dato le stesse confusionarie risposte, sono state validamente affrontate il giorno dopo: in qualche modo, quindi, il programma cataloga le domande e le associa ai giusti algoritmi di risposta, ampliando il repertorio di problemi logici riconducibili a qualche schema prestabilito di risposta.
Alla fine, il risultato è quello di uno studente che impara a memoria le risposte al massimo numero di domande possibile, per affrontare un esame: un risultato impressionante, test di Turing ampiamente superato, ma nulla che possa ancora servire a sostituire la logica umana; ed è bene concentrarsi sulla sua meravigliosa capacità linguistica di questo prodotto, che è l’obiettivo per cui è stato progettato, senza immaginarsi che sia stata creata una mente artificiale dalle capacità umane.