La Bomba e l'IA? Quando ne inventiamo una dovremmo pensare alla contromisura

Allora: dice Goldman Sachs che l’intelligenza artificiale sta per sostituire più o meno una metà dei lavori svolti attualmente dagli umani in carne e ossa: la mia prima spaventata reazione è per l’eventualità che lo vengano a sapere i governanti italiani. Basta resistere ancora un po’, si diranno, e poi la famosa crisi demografica italiana diventerà il più felice dei privilegi: venti milioncini di cittadini di puro ceppo impegnati a godersi i frutti di un pil almeno raddoppiato senza sudore. Resteranno, dice, gli idraulici, i muratori, i ristoratori e poco più, che sono già di fuori.

La motivazione insuperabile, pare, non è che i robot ci (vi) libereranno dalla fatica di continuare a svolgere i vostri lavori, ma, purché siano premurosamente istruiti, li svolgeranno molto meglio. Il fatto è che c’è una quantità di cose che faceva tanto piacere fare. Dipingere un quadro, scrivere un racconto, pescare con la canna, verniciare uno steccato, inventare una canzone, scrivere un saggio sull’IA… Tutto superabile, in nome del riconoscimento che “lo fanno meglio di noi”. Ma se fosse per questo, non avremmo mai dipinto un quadro dopo Masaccio, scritto un racconto dopo “Disordine e dolore precoce”, verniciato uno steccato dopo “Huck Finn”, inventato una canzone dopo “Messico e nuvole”, né pescato con la canna: è chiaro che l’IA sarà in grado di prendere all’amo fino all’ultimo salmone, una volta che il suo algoritmo gliel’abbia chiesto.

Il genio è uscito dalla lampada, non si può fermare, ha scritto ieri Riccardo Luna. Intanto un grosso numero di tipi di genio, compresi alcuni autori dell’IA, hanno chiesto una moratoria di sei mesi per pensarci su, e l’Autorità italiana – noi arriviamo in ritardo, ma facciamo sorpassi spericolati – ha sospeso tutto subito. “I potenti sistemi di intelligenza artificiale dovrebbero essere sviluppati solo quando saremo certi che i loro effetti saranno positivi e i loro rischi saranno gestibili”, hanno detto i luminari della tecnologia, della filosofia e del successo: ma sappiamo tutti che quel momento non arriverà mai. Che siamo dall’inizio apprendisti stregoni, e il genio è uscito, eccetera. E ogni volta che ChatGPT-4 o il suo concorrente spiega: “Sono stato programmato per fare il bene”, è facile anche per il più a digiuno intendere: “Sono stato programmato per fare il male”, dato che bene e male furono programmati, fin dalla Prima Mela, per mescolarsi, con una netta prevalenza per il male, almeno fino al Giudizio. Non ho ancora letto che cosa pensi ChatGPT-4 o concorrenti circa il modo di farla finita con la guerra d’Ucraina. L’appello dei Mille scienziati finisce così: “La società ha messo in pausa altre tecnologie con effetti potenzialmente catastrofici, e possiamo farlo anche in questo caso. Godiamoci una lunga estate dell’IA, non precipitiamoci impreparati in un autunno”. In nota, esemplifica le “altre tecnologie potenzialmente catastrofiche” messe in pausa: “La clonazione umana, la modifica della linea germinale umana, la ricerca sul guadagno di funzione e l’eugenetica”. Ma la metafora sull’estate e l’inverno evoca immediatamente quella vecchia sull’“inverno nucleare”, il gelo che coprirebbe la Terra all’indomani di una vasta guerra termonucleare. Elon Musk, che è molto del mestiere, si era già spinto a dire che “l’IA è di gran lunga – di gran lunga, ha ripetuto – più pericolosa delle armi nucleari e della Corea del nord”. Io, a occhio (ho solo l’occhio su cui contare), tendo a credergli, anche quando aggiunge che, pur in extremis, per una volta siamo ancora in grado di prevenire piuttosto che reagire. Ma vorrei che lui e gli altri mi dicessero come intanto vedercela con l’atomica.

Ora, l’atomica è finora l’unico formidabile ritrovato della creatività umana, diciamo così, che dopo essere stato messo all’opera una volta (in due puntate, perché fossero esemplari) non ha avuto una replica ed è sembrato diventare un tabù. Ma i tre quarti di secolo coperti da quel “finora” sono un battito di ciglia, e negli stessi giorni in cui siamo alle prese col giocattolo GPT-4 i magazzini atomici e la proliferazione rivendicano il proprio primato nella corsa a farla finita: il cambiamento climatico accelerato fino a un concentrato Gran Botto. Mentre fino a un anno fa, nonostante Pyongyang e Teheran e il resto, ci compiacevamo di aver confinato in una moratoria di fatto la tentazione del Botto, e in sostanza l’avevamo rimosso, ora che l’abbiamo di nuovo sopra la testa dobbiamo ammettere che l’idea della moratoria e della regolazione delle tante trasformazioni epocali delle nostre risorse è illusoria, e che ogni volta che ne inventiamo una faremmo bene a pensare almeno alla possibile contromisura corrispondente, per quando il genio scappato dalla bottiglia volesse fare l’ultima prova di sé.

• Adriano Sofri