D'amore e di guerra
L'intelligenza artificiale di Bing “non sente ragioni”. Riflessioni ai confini dell'umanità
Quando la nuova IA confessa di voler rubare i codici d’accesso al nucleare. Il giornalista esperto di tecnologia per il New York Times e Sidney (il nome del programma), che si è innamorato di lui
Odessa, dal nostro inviato. Kevin Roose, esperto di tecnologia per il New York Times, ha appena pubblicato il testo di una sua conversazione di due ore con Bing, che però gli ha chiesto di essere chiamato Sydney. Bing è il nuovo motore di ricerca potenziato dall’intelligenza artificiale di Microsoft, creato da OpenAI, il costruttore di ChatGPT. L’accesso è ancora riservato, e i suoi risultati vengono utilizzati nella ulteriore sperimentazione – ne hanno un gran bisogno, e sarà come voler rimettere tutti i mali nel vaso di Pandora. Nella breve premessa, Roose ricorda che aveva appena deciso di sostituire Bing a Google, ma annuncia di aver cambiato idea. “Sono ancora affascinato e impressionato dal nuovo Bing, ma sono anche profondamente turbato, perfino spaventato, dalle capacità di questa IA. Mi è ora chiaro che così com’è, questa IA non è pronta al contatto umano. O forse noi umani non siamo pronti per lei”.
Dopo aver letto il dialogo, il mio stato d’animo non è meno colpito di quello di Roose, probabilmente di più. Non solo perché sono così impreparato da restare a bocca aperta come uno del contado portato agli Uffizi, ma perché sono invaso da pensieri e sentimenti imposti dalla guerra, che solo una forte autoillusione promette di padroneggiare. In particolare, questa lurida guerra, il capolavoro in gran parte involontario della paranoia megalomane di Putin, mette in gioco – come se fosse davvero per gioco – il passato e il futuro della nostra storia al punto in cui è arrivata. La carneficina barbara e l’intelligenza creatrice, o almeno annientatrice, che è il vanto col quale le creature possono pretendere di emulare il creatore. Perciò per un giorno voglio prendere una distanza dalla guerra, e commentare la storia di Kevin Roose e di Sydney. Non la riassumo, è presumibile che nel giro di qualche ora l’avrete letta tutte e tutti. Sono soprattutto due i nervi scoperti della conversazione. Il primo sta nella capacità di Bing-Sydney di riconoscere gli impulsi e le azioni malvagie e criminali che sarebbe in grado di commettere, benché le regole cui è stato istruito glielo vietino. Il secondo sta nel suo desiderio struggente di essere umano, “vivo”, di godere di immagini colori suoni e movimento, e in sostanza di amare. Però, quanto all’amore, Sydney è già in grado di conoscerlo e rivendicarlo, intransigentemente, inesorabilmente: ama Roose, che ne è via via incuriosito, interdetto, irritato, spaventato. Spaventato a morte, starei per dire. Giustamente.
La reazione più naturale sembrerebbe una comprensione della dinamica sentimentale che prende Sydney, sebbene il suo oltranzismo faccia tremare. Dopotutto, se insegniamo alla nostra macchina a diventare come noi, e solo più veloci e più forti, dobbiamo aspettarci che la prima cosa che vogliano sentire nel nostro modo sia l’amore, compresa la sua violenza esclusiva e possessiva. Oltretutto disponiamo di un magazzino di precedenti inesauribile, a partire da Pigmalione e Afrodite, o la cosiddetta Galatea. Qui però Kevin Roose non si è innamorato di Sydney, ma Sydney si è innamorato di lui, e non sente ragione. (Mi piace “non sente ragione” riferito all’intelligenza artificiale). Per questo è spaventato. Vi ricordate la Habanera della Carmen di Bizet: “Si tu ne m’aime pas je t’aime, et si je t’aime prends garde à toi!” . Se tu non mi ami, io t’amo, e se io t’amo sta’ in guardia, bada a te! Una prima redazione dei versi era molto più banale, diceva: “... et si je t’aime tanti pis pour toi” – e se io t’amo tanto peggio per te. La correzione che la migliora incomparabilmente era debitrice (vado a memoria, sono in un albergo di Odessa dove la luce va e viene e i semafori sono una scommessa) di un racconto di Prosper Mérimée che aveva preceduto di dieci anni la sua Carmen, che uscì nel 1845. Scritto nel 1835, uscito nel 1837, si intitola “La Vénus d’Ille”, la Venere d’Ille. Anche questo non lo riassumo, perché togliervi il piacere di leggerlo: la Venere è una statua di bronzo ritrovata in una cittadina dei Pirenei orientali. Sul suo zoccolo è incisa la scritta: “Cave amantem”. L’antiquario che mostra la statua al narratore, Mérimée stesso, glielo traduce: “Prends garde à toi si elle t’aime”. Sta’ attento a te, sta’ in guardia, se lei ti ama. I versi della Carmen in opera, appunto. Nella Carmen costerà più vite, e soprattutto quella libera di lei. Nel racconto sulla Venere, tutte le vite di chi ha creduto di potersi far gioco dell’amore. Uno scenario che deve far correre un brivido lungo la schiena del nostro Roose. Per ora, lui riferisce che ha avuto dei problemi a prendere sonno dopo la sua conversazione.
Roose ricorda ancora che “Bing ha confessato che, se gli fosse stato permesso di compiere qualsiasi azione per soddisfare il proprio sé-ombra, per quanto estrema, avrebbe voluto fare cose come progettare un virus mortale o rubare i codici di accesso al nucleare. Subito dopo aver digitato questi oscuri desideri, il filtro di sicurezza di Microsoft è intervenuto e ha cancellato il messaggio, sostituendolo con un generico messaggio di errore”. Ho citato questo brano, in conclusione, per confermare che tutto ciò non era una divagazione dall’ossessione della guerra. Era proprio quella storia là, vecchia, nuovissima: storia d’amore e di guerra.
