Prima di Mythos, c'era SATAN

Le ultime settimane sono state dominate dal caso Mythos, il potente modello sviluppato da Anthropic, l’azienda del chatbot Claude, che è finito per essere di fatto bloccato dal governo statunitense. È ormai da anni che l’azienda è nota per la sua cautela – che a volte sconfina nell’allarmismo, secondo alcuni – ma il fatto che sia stata l’amministrazione Trump a reagire in modo preoccupato a un’AI è di per sé una novità notevole. Del resto, Mythos sembra fare paura per le sue capacità di trovare falle nella sicurezza di sistemi informatici, che potrebbero essere abusate da malintenzionati.

Una storia che sembra uscita da un film anni Novanta sulla cultura hacker, eppure è realtà. Non solo: tutto questo, in misura diversa, era già successo circa trent’anni fa, quando il mondo prese paura di un programma informatico chiamato SATAN. SATAN era in realtà l’acronimo di Security Administrator Tool for Analyzing Networks ed era un software sviluppato nel 1995 da due programmatori statunitensi, Dan Farmer e Wietse Venema, che lo avevano concepito con uno scopo preciso: aiutare gli amministratori di sistema ad automatizzare la verifica delle proprie infrastrutture, individuando le falle prima che potessero essere sfruttate da altri.

Il software fu reso pubblico il 5 aprile del 1995, giorno del compleanno di Farmer, e in poche settimane fu scaricato circa diecimila volte: un numero notevole per l’epoca, considerato che l’idea di distribuire globalmente e in tempo reale uno strumento del genere era ancora nuova. La storia di SATAN (raccontata dalla newsletter Pessimist Archive, che documenta i casi in cui nuove tecnologie hanno generato panico sproporzionato) ha diversi punti in comune con quella di Mythos, per quanto si stia parlando di due tecnologie diversissime e lontane: il primo è un pezzo di software da installare nel proprio computer e che poteva essere scaricato con le connessioni del ‘95; il secondo è il modello AI più avanzato dell’azienda considerata all’avanguardia del settore.

Tuttavia, la preoccupazione è simile. Nel caso di SATAN, era favorita soprattutto dal suo nome, così sinistro, e dal metodo promozionale portato avanti in particolare da Farmer, che giocò molto con la natura “maligna” di questo programma. Trent’anni dopo, Anthropic non ha bisogno di satanismo per far parlare di sé: l’azienda viene infatti criticata per aver fatto della preoccupazione per le AI uno strumento di marketing, tanto che il suo CEO Dario Amodei è stato ormai escluso dalle conversazioni con la Casa Bianca, perché considerato troppo “strano”.

A proposito di marketing, SATAN poté anche contare su un sito internet piuttosto notevole: una schermata rosso inferno con la grande scritta Security Administrator Tool for Analyzing Networks e il disegno di un piccolo satanasso (l’autore dell’opera era peraltro Neil Gaiman, il romanziere che sarebbe diventato noto per American Gods, amico dei due svilupatori). Insomma, un’estetica metal e un po’ ironica che fu presa fin troppo alla lettera dai media dell’epoca (compreso il New York Times): del resto, erano gli anni del “satanic panic”, specie negli Stati Uniti, cioè l’allarme mediatico sul satanismo dilagante, che finì per colpire anche gli appassionati del gioco di ruolo Dungeons & Dragons, accusato di essere affine alla magia nera.

Pur essendo un programma con una finalità seria, SATAN aveva anche un lato sornione, che avrebbe forse potuto aiutare gli osservatori a capire che non si trattava di un software infernale. Ad esempio, gli utenti potevano cambiare il nome del programma da SATAN a SANTA (cioè da Satana a Babbo Natale) con un comando “repent”. Ovvero “pentiti”.

A questo punto ci si potrebbe chiedere cosa fosse questo strano programma informatico: una trovata situazionista o un progetto serio a cui era stato dato un nome un po’ estremo? La seconda: SATAN nacque con l’intenzione di aiutare gli sviluppatori a creare sistemi migliori; di conseguenza, aveva l’ambizione di migliorare – e rendere più sicuro – anche il web stesso, all’epoca ancora agli albori. Come sempre in questi casi, la capacità di trovare falle pone le persone davanti a un bivio, che poi è la differenza tra i cosiddetti hacker black hat e white hat: i primi non sono etici e usano le loro conoscenze per “bucare” i sistemi, rubare informazioni e altre malefatte; i secondi collaborano con aziende e istituzioni per risolvere i problemi che hanno scoperto.

Trent’anni dopo siamo ancora qui, sia con Mythos che con Fable, altro modello di Anthropic bloccato dall’amministrazione Trump in questi giorni, sempre per paura che da qualche parte, tra queste AI, ci sia il diavolo in agguato.