Come l'intelligenza artificiale inficia il lavoro di revisione scientifica

Una nuova possibilità corruttiva mediata dall’intelligenza artificiale generativa è stata appena prospettata dal lavoro di alcuni autori, discusso anche su Nature. Strumenti come ChatGPT possono essere infatti usati non solo per produrre articoli farlocchi a scala industriale, da sottoporre poi alle riviste scientifiche per la pubblicazione confidando nella bassa qualità del processo di revisione, ma possono essere ovviamente impiegati anche dai revisori per generare le revisioni stesse.

Guardando ad un campione piuttosto ampio di revisioni, gli autori dell’analisi riportata da Nature giungono alla conclusione che, fino ad una percentuale del 17% dei testi che comunicano l’esito di una revisione sono stati sostanzialmente modificati dai chatbot, anche se non è chiaro se i revisori abbiano utilizzato gli strumenti per costruire revisioni da zero o semplicemente per modificare e migliorare le bozze scritte. Ora, la tecnica usata dagli analisti per identificare testi prodotti da chatbot è discutibile – perché si basa su una serie di “parole chiave” tipicamente usate dall’intelligenza artificiale generativa – e naturalmente è ben diverso il caso in cui lo strumento sia usato per riscrivere un proprio testo in una forma percepita come migliore, oppure se è utilizzato per ottenere un sommario della pubblicazione e la revisione da zero; ma quel che qui mi importa è che, al di là della fondatezza dell’analisi (anch’essa dovrà passare la revisione paritaria), la mera possibilità identificata è ovviamente praticamente realizzabile e probabilmente incentivata dall’enorme numero di manoscritti che i revisori oggi si trovano a dover affrontare. L’utilizzo di tali strumenti per sostituirsi alla revisione umana più o meno del tutto è una prospettiva devastante: non solo, per il momento, tali strumenti soffrono ancora delle cosiddette allucinazioni, ma anche se in futuro divenissero perfetti (è possibile), delegare il processo di valutazione della produzione scientifica alle macchine significa sostanzialmente abdicare al ruolo di costruzione della conoscenza scientifica, con il rischio che ben presto si arrivi ad una deriva della conoscenza scientifica la cui costruzione, direzione, gestione ed in ultimo padronanza potrebbe avere poco a che fare con quello che tradizionalmente si intende. Il dato riguardante l’uso di ChatGPT nelle revisioni paritarie va affiancato all’uso sempre più diffuso nella scrittura degli articoli, un uso che gli ultimi dati piazzano attorno ai 60.000 articoli pubblicati nel 2023, pari già all’1% delle pubblicazioni scientifiche annue globali per quell’anno.

Ora, è ovvio che, a parte la noia di certi testi generati dall’intelligenza artificiale (che probabilmente comunque miglioreranno), finchè il loro uso rimane al pari di quello di qualunque altro strumento tecnologico, cioè appunto quello di un qualsiasi strumento prodotto dall’ingegno umano, non è il caso di essere particolarmente preoccupati; tuttavia, almeno per quello che riguarda la tendenza odierna, il problema grosso è la sempre minore distinguibilità dei testi generati in completa autonomia dall’IA rispetto a quelli prodotti da esseri umani, che favorisce sempre più i comportamenti opportunisti di chi non valuta il rischio globale costituito dal prendere certe scorciatoie. Per evitare di prendere strade sbagliate, come sempre, non serve né proibire né ignorare le tendenze che si vedono; serve invece conoscere e condividere certe idee generali nella comunità scientifica, attraverso un’educazione ai problemi di integrità nella ricerca scientifica che convinca e non sia sterile e vacuo esercizio burocratico (come oggi fin troppe volte è). La difesa dall’uso scriteriato di uno strumento come l’intelligenza generativa sta nel divertimento e nella soddisfazione che gli scienziati trovano nel proprio lavoro, finchè gli sarà consentito e finchè la loro carriera non dipenderà troppo (come oggi è) dal numero di righe che scrivono per unità di tempo; prima ce ne convinceremo tutti, meglio sarà.