Google vuole disciplinare l'Ai, e mostra che l'America ha un problema

Roma. Da quando Google si è aggiudicato un lucroso contratto con il Pentagono per applicare la sua tecnologia di intelligenza artificiale e riconoscimento visivo ai droni militari americani, la rivolta è scoppiata a Mountain View. Il progetto militare americano si chiama Maven e usa l’intelligenza artificiale di Google per addestrare i droni a riconoscere gli obiettivi, potenzialmente anche umani. Quando i dipendenti di Google hanno saputo che il loro lavoro sarebbe stato usato contro i nemici dell’America hanno iniziato a protestare.

In quattromila hanno firmato una petizione per chiudere il contratto, qualcuno si è licenziato in segno di protesta, ci sono stati litigi tra scienziati e ingegneri, e poco importa se l’azienda ha detto che il progetto Maven non aveva “finalità offensive”. Per chiunque si occupi del campo, mettere insieme le parole “weaponization” e “artificial intelligence” (sarebbe: trasformare l’intelligenza artificiale in un’arma) suscita immagini apocalittiche di futuri distopici, e ogni ragionamento è vano.

Alla fine Google ha annunciato che non rinnoverà il rapporto con il Pentagono (il contratto scade l’anno prossimo), e ieri il ceo Sundar Pichai ha presentato una carta dei princìpi di Google sull’intelligenza artificiale, nel tentativo di restituire chiarezza etica a un’azienda che ha dimenticato troppo presto il suo vecchio motto “don’t be evil”. I princìpi etici di Google sono generici e scritti quasi in legalese, si consideri per esempio il proposito di “prendere in considerazione un ampio spettro di fattori sociali ed economici, e procedere nei campi in cui riteniamo che i probabili benefici complessivi [della tecnologia, ndr] eccedano in maniera sostanziale le previsioni di rischi e inconvenienti”, segnano alcuni elementi chiari (non costruiremo armi con l’intelligenza artificiale), altri opachi (non metteremo a punto tecnologie che “violino norme accettate a livello internazionale”: cosa vuol dire? La Cina ha imposto uno stato di sorveglianza nel pieno dei suoi poteri, ed è uno paese piuttosto ben accettato a livello internazionale). Google dice che non esclude di lavorare ancora con il Pentagono, ma da adesso in poi ci saranno molti più paletti.

E’ il secondo colpo che il governo americano riceve da un’azienda della Silicon Valley in pochi giorni, dopo che Facebook ha ammesso, questa settimana, di aver ceduto i dati dei suoi utenti – nell’ambito di un programma di partnership legale, benché opaco – a quattro produttori di telefoni cinesi tra cui Huawei, che Washington ritiene come un possibile pericolo per la sicurezza nazionale. Facebook non ha fatto niente di male: gli affari sono affari e Huawei è uno dei più grossi produttori di smartphone del mondo. Ma queste vicende rendono chiara una dinamica più ampia: nel campo della tecnologia – uno dei più strategici – l’America non ha un campione nazionale. Cosa si intende per campione nazionale? Le prime a venire in mente sono le aziende digitali cinesi: Alibaba, Baidu, Tencent sono compagnie private, ma conoscono i desiderata di Pechino e hanno un rapporto – dialettico, dinamico – con il governo tale per cui è più facile perseguire obiettivi comuni. Questo non significa che Tencent produce armi digitali per il Partito comunista. Ma quando Baidu inaugura un nuovo centro di ricerca per l’intelligenza artificiale è tutto il sistema Cina, non solo la singola azienda, ad avanzare. Lo stesso si può dire per le aziende russe.

L’America non ha campioni simili. Il rapporto con la Silicon Valley non è mai organico (con qualche eccezione, come Palantir) e spesso è conflittuale, come quando Apple ha messo a punto dei sistemi per evitare che le forze dell’ordine entrino negli iPhone. E’ un bene: un rapporto troppo stretto tra pubblico e privato, è noto, può soffocare l’innovazione. Ma in un momento in cui le potenze iniziano la corsa per il predominio tecnologico, avere un campione nazionale può rendere più facile il raggiungimento di obiettivi a breve termine.

• 

• Eugenio Cau

• E’ nato a Bologna, si è laureato in Storia, fa parte della redazione del Foglio a Milano. Ha vissuto un periodo in Messico, dove ha deciso di fare il giornalista. E’ un ottimista tecnologico. Per il Foglio cura Silicio, una newsletter settimanale a tema tech, e il Foglio Innovazione, un inserto mensile in cui si parla di tecnologia e progresso. Ha una passione per la Cina e vorrebbe imparare il mandarino.