Così il Garante per la privacy rischia di frenare (ancora) l'innovazione. Parla il sindaco di Trento

“Quando si parla di intelligenza artificiale, suona bene esortare all’azione per non restare indietro. Ma non appena uno ci prova poi viene bastonato”. A colloquio con il Foglio, il sindaco di Trento, Franco Ianeselli commenta così il provvedimento con cui il Garante per la Privacy ha sanzionato il comune per aver violato il trattamento dei dati personali nell’ambito di due progetti di ricerca basati sull’utilizzo dell’intelligenza artificiale applicata alla sicurezza pubblica. Ammonta a cinquanta mila euro – venticinque se il pagamento avverrà entro 30 giorni dalla notifica - la multa comminata dall’Autorità all’ente, a cui si aggiunge l'obbligo di cancellare i dati impiegati nella ricerca. 

“Per noi è una vicenda un po’ strana. Normalmente ci chiamano per prendere qualche premio non per essere redarguiti”, dice il sindaco. Nello scorso anno Trento si è guadagnata il primo posto nella classifica Ecosistema urbano stilata da Legambiente che l’ha premiata come città più verde d'Italia. Capitale europea del volontariato per il 2024, il comune altoatesino inoltre si è posizionato sul podio, preceduto da Udine e Bologna, nella classifica che ogni anno restituisce un quadro sulla qualità della vita delle città italiane. Ma facciamo un passo indietro e torniamo all'intelligenza artificiale.  

Nel 2019 Trento ha avviato i progetti oggetto della sanzione del Garante nell’ambito di un programma di ricerca sostenuto dall’Unione europea, con l’obiettivo di addestrare dei software a rilevare potenziali situazioni di rischio per la sicurezza urbana. “Siamo una città all’avanguardia e l’idea era quella di lavorare insieme ad altri paesi su una via europea all’uso etico dell’intelligenza artificiale per migliorare la sicurezza dei cittadini”, spiega il sindaco. “Dal 2015 ad oggi abbiamo ricevuto cinque milioni di euro di finanziamenti europei e due milioni e mezzo legati all’iniziativa smart cities”, centri urbani in cui si promuove uno sviluppo economico più sostenibile, grazie anche all’impiego delle tecnologie digitali.

In totale i progetti realizzati in collaborazione con la Fondazione Bruno Kessler (Fbk), l’istituto di ricerca trenino che opera in campo scientifico e tecnologico, erano tre. Il programma Marvel (Multimodal Extreme Scale Data Analytics for Smart Cities Environments”) si basava sulla raccolta di audio e filmati delle telecamere di videosorveglianza presenti sul territorio, che una volta anonimizzati da Fbk sarebbero stati analizzati tramite strumenti di intelligenza artificiale per riconoscere eventuali situazioni di pericolo. Il secondo progetto, con il nome di Protector, si concentrava sull’analisi dei messaggi e commenti d’odio pubblicati sui social allo scopo di raccogliere informazioni utili alle Forze dell’ordine per identificare potenziali minacce legate ai luoghi di culto cittadini. Il terzo invece, il programma Precrisis, si trova ancora in fase di programmazione. Se su quest’ultimo il Garante non ha ritenuto di intervenire perché attualmente non è stata intrapresa alcuna attività di trattamento dei dati, negli altri due casi l’Autorità ha denunciato diverse violazioni della normativa sulla privacy: procedure di anonimizzazioni insufficienti, scarsa trasparenza delle informative rivolte ai cittadini, quadro giuridico necessario a giustificare il trattamento inesistente.

Di diverso avviso il sindaco, che osserva: "Il Garante sostiene che i nostri apparati tecnologici possono essere utilizzati per la sicurezza, materia di competenza del Comune, ma non per la ricerca finalizzata alla sicurezza, che noi invece crediamo rientri nelle competenze dell’ente”. In merito alle procedure di anonimizzazione, “i coordinatori del progetto e Fbk ritengono di aver proceduto correttamente. Non abbiamo usato i cittadini come cavie”, ribadisce Ianiselli. “La nostra intenzione non era quella di fare riconoscimento facciale o semantico, ma di riuscire a costruire un software basato sull’IA capace di inoltrare degli alert nel caso di situazioni di pericolo per intervenire in tempo". Come fa notare il sindaco, "di norma le Forze di polizia ricorrono a videocamere e impianti audio a fatti già avvenuti e non nel mentre qualcosa si sta verificando”. 

Un obiettivo ambizioso, quello di Trento, che ora rischia di finire nel nulla. Mentre il progetto Protector si è già concluso, il programma Marvel sarebbe dovuto terminare alla fine di quest’anno, ma ad oggi, dopo la sentenza del Garante, risulta sospeso. A questi si aggiunge il terzo progetto, la cui conclusione era prevista per aprile 2025, ancora in fase embrionale e probabilmente destinato anch’esso a rimanere bloccato. “Stiamo lavorando a una relazione per i partner europei con cui spiegare i motivi dell’interruzione”, dice Ianiselli. Intanto nel resto d’Europa si prosegue con la ricerca e la sperimentazione e per Trento ora l’imbarazzo è tanto. “Le altre città hanno concluso come previsto, solo noi abbiamo dovuto fare un passo indietro. E rischiamo di restare ancora una volta indietro se per paura della tecnologia oggi non riusciamo a trovare una nostra strada”, aggiunge il sindaco. 

Il problema principale che rileva il sindaco è il sostanziale vuoto normativo che si riscontra in materia. “Manca una norma che regoli l’uso dell’intelligenza artificiale nelle pubbliche amministrazioni e che chiarisca cosa si può fare e cosa no”, dice Ianiselli. Nel frattempo il comune ha proceduto a cancellare i dati come richiesto dal provvedimento, ma per il momento si riserva di decidere se fare ricorso contro la sentenza del Garante. “Stiamo valutando. Non vogliamo di certo essere polemici nei confronti delle istituzioni, però questi progetti sono stati avviati nel 2019. Si poteva interloquire meglio", osserva il sindaco. "Anche una parte della cittadinanza, convinta che si potesse fare qualcosa di innovativo per la sicurezza di tutti, ora è delusa”. Ma a colpire è soprattutto il tempismo della sanzione inflitta dal Garante al comune di Trento che, proprio in questi mesi, si prepara a essere la sede del G7 sull’intelligenza artificiale. “La conferenza – che tra gli altri vedrà presente il ministro delle Imprese e del Made in italy Adolfo Urso – è prevista per il 15 marzo”, annuncia Ianiselli. In vista di quell’appuntamento, il sindaco auspica a una collaborazione con il Garante, “perché si capisca che sperimentare e cercare delle soluzioni è fondamentale. I dati esistono, le tecnologie esistono”, sottolinea, “bisogna lavorare con i dati reali, non con quelli simulati, sennò si rischia di incorrere nelle cosiddette allucinazioni artificiali e di lasciare a altri questi strumenti”. O peggio, di rimanere esclusi.