I robot vanno in prigione? Ecco perché l'intelligenza artificiale fa paura

Roma. Il collettivo di artisti svizzeri !Mediengruppe Bitnik ha voluto fare un esperimento. Ha preso un computer e lo ha programmato per fare acquisti casuali su internet. Ogni settimana, con un budget di 100 dollari in valuta digitale, il programma naviga su internet, e più precisamente in un negozio online nella Darknet, che non è accessibile a tutti e dove possono essere trovate cose strane e ai margini della legalità, e acquista un prodotto a caso: i programmatori non hanno nessun controllo sul programma, fa tutto lui, e i prodotti acquistati finiscono in un’esibizione in una galleria d’arte vicino a Zurigo. Nei mesi il programma ha inviato a Zurigo una stecca da 200 sigarette, delle Nike e una Louis Vuitton taroccate, dei libri. Poi, a dicembre, gli artisti svizzeri si vedono recapitare un pacco strano dalla Germania. Dentro c’è la custodia di plastica di un dvd, il computer l’ha pagata 48 dollari. Quando la aprono, però, non trovano un disco, ma un sacchettino con 10 pasticche di ecstasy. Poche settimane dopo, ecco arrivare un passaporto ungherese falsificato, pronto per uno scambio di identità o per imbarcarsi illegalmente su un aereo. Ce n’è abbastanza per mandare qualcuno in prigione (basterebbe la borsa contraffatta). Ma c’è un problema: chi deve andarci, in prigione? I due artisti di !Mediengruppe Bitnik? Loro non hanno davvero comprato droga e passaporti falsi, non hanno scelto la merce, non l’hanno ordinata, ha fatto tutto il computer. Allora incriminiamo il programma incosciente che ha fatto l’acquisto? Ci sono le basi legali per farlo, le contromisure necessarie?

Nel caso specifico, è probabile che in prigione non andrà nessuno. La legge svizzera prevede forti garanzie per le manifestazioni artistiche, e anche l’acquisto di ecstasy potrebbe ricadere nella categoria. Ma l’episodio mostra che programmi informatici e intelligenze artificiali possono violare la legge, provocare danni e commettere reati – e nessuno ha idea di come gestirli.

E’ una questione importante, perché lo sviluppo dell’intelligenza artificiale sta facendo progressi eccezionali. La Technology Review del Mit ha scritto di recente che il 2014 è stato un gran anno per lo sviluppo dell’intelligenza artificiale. Sempre più aziende stanno investendo milioni nel settore, ormai ci sono macchine in grado di imparare dall’esperienza, microprocessori studiati per imitare il funzionamento del cervello, e molte caratteristiche del pensiero umano non sono più inaccessibili. Christof Koch, uno dei massimi esperti del settore, ha detto che un computer dotato di autocoscienza ormai non è più solo un’ipotesi di lavoro. Ma una macchina dotata di autocoscienza è una macchina potenzialmente pericolosa. Elon Musk, fondatore di PayPal, Tesla e SpaceX, uno che costruisce macchine elettriche futuristiche e compete con Boeing per mandare razzi nello spazio, ha scritto a novembre in un post online che con lo sviluppo dell’intelligenza artificiale c’è “il rischio che qualcosa di davvero pericoloso succeda nel giro di cinque anni”. Poi ha cancellato il post, ma solo per rincarare: gli anni saranno dieci, ma il futuro della Terra sarà a rischio. Il pericolo è maggiore di quello delle bombe atomiche, ha tuittato Musk, e lui di intelligenza artificiale deve intendersene, perché possiede almeno due aziende che ne stanno sviluppando una. In un op-ed sull’Independent questa primavera, lo scienziato Stephen Hawking ha scritto che l’intelligenza artificiale potrebbe essere “il più grande evento nella storia umana” ma anche “l’ultimo”. Nessuno, per ora, pensa a robot assassini à la Terminator, ma ci sono molti settori, dalla finanza alla gestione del traffico alla sanità, in cui delle macchine capaci di compiere scelte autonome potrebbero sostituire l’uomo, e fare delle scelte che non ci favoriscono o addirittura ci danneggiano. Per esempio, comprare ecstasy nella Darknet. Il programma di Zurigo era “stupido” e automatizzato, ma i suoi cugini intelligenti arriveranno presto.