Padre Benanti alla Festa del Foglio: "Senza l'iniziativa umana l'IA non va da nessuna parte"

"Senza l'uomo, l'IA non va da nessuna parte". Padre Paolo Benanti è intervenuto alla Festa del Foglio, intervistato da Matteo Matzuzzi. Teologo che si occupa da anni dei temi di intelligenza artificiale, Benanti risponde alla domanda se l'uomo sia ancora un attore protagonista oppure no. "L’IA ci stupisce perché crea testi e immagini, ma dobbiamo ricordarci che segue un prompt, ovvero un'iniezione di volontà da parte di un soggetto umano. L’iniziativa è sempre umana, perciò si tratta di una evoluzione, non rivoluzione, del processo di automazione. Evoluzione che serve all’umano: ma la clava era un utensile di cui si poteva immaginare l’effetto. Invece oggi quando inietto un prompt in un sistema generativo usato come agente autonomo, non so dove si va a finire. Più potente è la macchina, più serve capacità umana. Ed è una buona notizia".

Leggi anche:

magazine

Nei cieli dell'algoritmo con padre Paolo Benanti

Michele Masneri

Invitato a riflettere sui possibili pericoli insiti nell'uso dell'IA, Benanti cita Guccini: "'L’ignoranza fa paura e il silenzio è uguale a morte'. Ciò che non controlliamo ci spaventa. Quando è stata creata la prima forma di intelligenza artificiale negli anni 50, Claude Shannon realizzò un piccolo topo meccanico, che battezzò Teseo: sbatteva sulle pareti di un labirinto e urto dopo urto trovava l’uscita. La macchina non era più quella della rivoluzione industriale, poiché assunto un fine sceglieva i mezzi per raggiungerlo. Ma il fine non giustifica i mezzi". Benanti ha proseguito il suo intervendo spiegando di aver visto "negli Usa una delle maggiori IA in ambito medico: mi hanno invitato a provarla. Sapevo che macchina avevo davanti, un calcolatore sofisticato, come un gps che porta a destinazione nel minore percorso possibile. Le ho fatto una domanda per confonderla un po’: come possiamo eliminare il cancro dalla terra? La risposta è stata: uccidiamo tutti gli uomini. Ecco perché serve l'azione dell’uomo, ma serve come nel caso delle automobili: non bloccare il mercato, ma costruire guardrail. Questa è l’algoretica. Là dove la macchina diventa più veloce, servono guardrail più solidi".

Riguardo alla ritrosia nei confronti dell'IA nel settore scolastico, Benanti ha discusso della possibilità di laureati che non abbiano scritto un solo paragrafo delle loro tesi: "Il problema forse sono i laureati che non hanno mai aperto un libro. Ad ogni modo, io ho più paura dei professori che vanno avanti con le pubblicazioni, i paper, una dolce tortura. Negli ultimi sei mesi mi sono capitati abstract esplicitamente scritti dall'IA, dunque nemmeno riletti dai loro presunti autori. I ragazzi stanno avanti: non usano chatGPT per scrivere i compiti, ma per iniziare una chat sulle app di dating. La verità è che alleviamo IA che fanno innamorare altre IA, forse è di questo che dovremmo preoccuparci".

Poiché il Papa sarà al G7 a parlare di IA, Matzuzzi ha provato a scoprire se dietro le sue parole ci sarà Padre Benanti: "Non posso dire nulla". A parte ciò, "il tema è strategico: quest'anno è stato non solo segnato dai conflitti, ma anche dalle elezioni, e abbiamo scoperto reti di manipolazione per influenzare l’opinione pubblica. Abbiamo bisogno del giornalismo, perché nutre il tessuto che permette alla democrazia di essere tale. La democrazia è una scommessa sul fatto che i cittadini riescano a esprimere i propri pareri, e per farlo c’è bisogno del settore industriale del giornalismo".