Promemoria aggiornato sui pericoli fatali che incombono sulla vita umana

Sto leggendo a spron battuto cose sull’intelligenza artificiale, prima che sia tardi, se non per il mondo, per me. Faccio un esperimento: sono pressoché analfabeta, dunque le mie reazioni a quello che leggo e sento, e le mie primitive relazioni con i linguaggi pertinenti, sono un buon campione di quello che può avvenire alla gran maggioranza della attuale popolazione umana. I “padri” – e le “madri” – delle ricerche sulla IA si dicono sorpresi, e anche sbigottiti, dalla velocità e dalla portata dei suoi progressi, incomparabili con le loro previsioni di poco fa. E’ un punto decisivo anche per i profani, i quali si chiedono se le rassicurazioni contro l’allarmismo sul futuro dell’IA vogliano dire che non sarà “mai” capace delle catastrofi paventate, o se le catastrofi paventate siano “ancora lontane”.

La media popolazione umana – io – ha dovuto abbastanza di colpo, in realtà nel giro vorticoso di poche ultime settimane, aggiornare il suo promemoria sui pericoli fatali che incombono sulla vita umana (e di molti altri animali, se non tutti) sulla terra. C’era l’affare del clima, e non si riusciva a tenergli dietro nemmeno alla lontana. Si è rianimato l’affare della guerra fra grandi potenze atomiche, che si era ottusamente accantonato chiamandolo soavemente “fine della storia”, e tamponando tutt’al più ed effimeramente i disastri del nucleare civile. La distruzione della guerra e il suo retorico (fin qui) risvolto atomico non fanno che sopraffare il disegno di un soccorso all’ecologia del pianeta. Ora lo spettro invadente dell’IA si è aggiunto, e attraverso molti dei suoi scienziati e imprenditori primari rivendica esplicitamente il primo posto nelle minacce alla sopravvivenza del genere umano. Per giunta, tutte e tre queste minacce incombenti – la pandemia e le sue probabili reincarnazioni sono la quarta – possono in varia misura essere ascritte a un operato umano tale da superare se stesso: una conferma iperbolica della tesi dell’antropocene.

Ci sono bensì scienziati di altrettanto prestigio che dichiarano che la minaccia atomica militare resta la più grave, e altri che lo dichiarano per il clima: magrissime consolazioni. Il fatto è che, antropiche come si presentano, di un’umanità capace di superare se stessa fino ad andare al creatore, tutte queste minacce interferiscono vicendevolmente. Cito l’intervista al famoso Geoffrey Hinton, “padre” delle reti neurali, 75 anni, appena dimissionario da Google per dedicarsi all’allarme contro l’IA, che è anche una sua creatura. “Hinton teme che questi strumenti siano in grado di manipolare o uccidere gli esseri umani che non sono preparati alla nuova tecnologia. ‘Quando l’intelligenza biologica si stava evolvendo, non aveva accesso a una centrale nucleare… Ho cambiato improvvisamente opinione su queste cose: penso che ora ci siano molto vicine e che in futuro saranno molto più intelligenti di noi’, afferma. ‘Come faremo a sopravvivere?’. E’ particolarmente preoccupato che le persone possano sfruttare gli strumenti a cui lui stesso ha contribuito a dare vita per far pendere l’ago della bilancia verso alcune delle esperienze umane più importanti, in particolare le elezioni e le guerre. ‘Sappiamo che molte delle persone che vogliono usare questi strumenti sono dei cattivi attori come Putin o Ron DeSantis. Vogliono usarli per vincere guerre o manipolare gli elettori… Non pensate per un momento che Putin non creerebbe robot iperintelligenti con l’obiettivo di uccidere gli ucraini. Non esiterebbe. E se si vuole che siano bravi a farlo, non si mira a microgestirli: si mira a che capiscano come farlo… Gli Stati Uniti non riescono nemmeno ad accordarsi per tenere i fucili d’assalto fuori dalle mani dei ragazzi’”.

Un suo collega altrettanto prestigioso, Yann LeCun, capo scienziato di Meta, non condivide i timori di Hinton, e tuttavia dice: “Non c’è dubbio che in futuro le macchine diventeranno più intelligenti degli esseri umani – in tutti i settori in cui gli esseri umani sono intelligenti. E’ una questione di quando e come, non di se”. Ma: “Credo che le macchine intelligenti inaugureranno un nuovo rinascimento per l’umanità. Sono completamente in disaccordo con l’idea che le macchine domineranno gli esseri umani semplicemente perché sono più intelligenti, per non parlare della distruzione degli esseri umani. Anche all’interno della specie umana, i più intelligenti tra noi non sono quelli che dominano di più. E i più dominanti non sono certo i più intelligenti. Ne abbiamo numerosi esempi in politica e negli affari”.

Ora, a meno che la mia traduzione non mi tradisca, l’argomento sulla vicinanza tra dominio e stupidità, o mediocrità mi suona del tutto controproducente. Non voglio chiudere troppo volgarmente questo ingenuo preludio all’IA, ma che cosa penseremmo di un programma che a domanda rispondesse che gli alloggi per studenti mancano soprattutto dove l’amministrazione è di centrosinistra, o che i giovani di centrodestra sono acqua e sapone e non pieni di cocaina come quelli di centrosinistra?

• Adriano Sofri