Cattivi scienziati
Il più grande fallimento della letteratura scientifica sulle medicine alternative
Un giornale del gruppo Wiley, “Evidence-Based Complementary and Alternative Medicine”, è stato chiuso dopo la scoperta di un numero altissimo di articoli fraudolenti pubblicati: quasi 1500. I problemi dell'Intelligenza artificiale e l'integrità della pubblicazione scientifica
Non era mai capitato, per lo meno non a mia conoscenza, che un giornale scientifico fosse chiuso, a causa della scoperta di un numero così elevato di articoli fraudolenti in esso pubblicato, da rendere rischioso continuare le operazioni. Non era mai capitato, finché non è accaduto per un giornale del gruppo Wiley (che lo ha acquisito da Hindawi); un giornale, guarda caso, dedicato alle cosiddette “medicine complementari”, e pomposamente intitolato “Evidence-Based Complementary and Alternative Medicine”.
Semmai ci fosse bisogno di una prova di come funziona la pubblicazione in riviste scientifiche di articoli che sembrano supportare l’efficacia clinica di omeopatia, oppure meccanismi molecolari alla base del funzionamento della pranoterapia nel cancro, o l’azione “energetica della medicina tradizionale cinese, oppure altre baggianate che supportano il lucroso mercato delle cosiddette Scam (So-Called Alternative Medicines), ebbene mai ce ne fu una più diretta di questa: un’intera rivista dedicata al settore, in cui apprendiamo dalle note di ritrattazione che 1497 articoli, cioè quelli sin qui identificati come da eliminare, sono stati pubblicati grazie alla compromissione del processo di revisione dei pari, e contengono variamente frasi senza senso, argomenti fuori luogo, dati falsi, citazioni inventate eccetera.
Per comprendere bene di cosa stiamo parlando, vorrei portare all’attenzione del lettore un esempio del materiale ritrattato. In questo esempio, un articolo dedicato alla metilazione di certe proteine chiamate istoni (uno dei meccanismi di modifica epigenetica, campo di indagine oggi molto vivace), leggiamo all’inizio della discussione: “The concept of histone acetylation modification was introduced by Vincent et al. [53] back in the 1860s.”
Peccato che gli istoni furono scoperti nel 1884 da Albrecht Kossel, figuriamoci quindi se negli anni ’60 del secolo XIX poteva essere nota la loro acetilazione; ma questi sono dettagli per chi dovrebbe, almeno in linea di principio, saper revisionare un lavoro di biologia molecolare (come si suppone debba un revisore di una rivista Wiley). Molto più banalmente, il riferimento numero 53 cui rinvia questa frase è assolutamente incongruo, visto che il lavoro che contiene la frase stessa ha 35 citazioni in totale, e nessuna di Vincent et al.
Questo è l’esempio classico dell’uso di un’intelligenza artificiale per scrivere un testo, con l’inserimento di citazioni a casaccio, inventate con uno schema probabilistico del linguaggio che si intende riprodurre; soprattutto, è la prova provata della compromissione del processo di revisione che ha portato alla pubblicazione l’articolo in questione.
Ora immaginate che la frequenza di scoperta delle frodi scientifiche, e in particolare dell’uso di IA, è stimata oggi intorno al 10%: questo significa che, a fronte dei circa 1.500 articoli di “medicina alternativa” ritrattati a oggi dalla rivista in questione, ne potrebbero esistere anche 15.000, di cui la maggioranza ancora tranquillamente esposta al pubblico da quel giornale (ammesso che abbia pubblicato un numero così alto di lavori).
Nessuna meraviglia che la Wiley, sul sito della rivista, abbia aggiunto una laconica frase: “Evidence-Based Complementary and Alternative Medicine ceased publishing as
of September 2024". Ora, le considerazioni da fare sono su due piani diversi.
Il primo è naturalmente quello dell’integrità della pubblicazione scientifica: appare sempre più evidente, persino ormai alle stesse aziende proprietarie delle riviste, che il record scientifico è inquinato a livelli impensabili, e che, come ampiamente previsto, lo strumento dell’intelligenza artificiale è usato anche per facilitare la produzione industriale di carta straccia da pubblicare. Bene che si arrivi fino alla chiusura di intere riviste compromesse; tuttavia, voglio ripeterlo ancora, o si agisce sui meccanismi di incentivo alla pubblicazione (cosa che naturalmente è lontanissima dalla volontà di chi vende riviste scientifiche), oppure non se ne esce.
Il secondo riguarda le Scam. Un episodio come quello di cui qui stiamo discutendo è eccezionale per gravità e ampiezza del suo impatto; ma per poter valutare con chiarezza entrambi, è necessario capire come sono state usate le pubblicazioni di questa rivista. Per esempio: quanti fra i lavori citati variamente nella documentazione della regione Toscana in supporto alla sua politica di sostegno alle Scam appartengono a questa rivista, e quanti sono stati ritrattati? E come reagiranno le varie associazioni nazionali e internazionali, che orgogliosamente elencano in appositi database i lavori che trattano le proprie Scam preferite, considerato che tali database contengono decine e decine di lavori che provengono dalla rivista chiusa per eccesso di frodi?
Si accettano scommesse: in certi ambienti, l’evidenza contraria non è benaccetta.
cattivi scienziati
La débâcle della biodinamica in vigna
Cattivi scienziati