Perché Ibm non vuole fare più riconoscimento facciale? Tra morale e marketing

Milano. Ibm, storica compagnia informatica americana, ha annunciato ieri che rinuncerà allo sviluppo e alla vendita delle tecnologie di riconoscimento facciale (con alcune eccezioni), perché queste tecnologie, ha sostenuto il ceo Arvind Krishna in una lettera al Congresso americano, sono diventate strumento di abusi come “la sorveglianza di massa, la profilazione razziale, la violazione dei diritti umani e delle libertà fondamentali”. E’ una delle prime volte nella storia che un’azienda rinuncia di propria volontà a una tecnologia con ottime potenzialità dal punto di vista del business sulla base di princìpi etici. Ed è una prima volta imbarazzante per i concorrenti di Ibm come Amazon, Google e Microsoft, che invece questa tecnologia continuano a svilupparla e a venderla.

Ora, per Ibm salire sul piedistallo della morale è relativamente facile. Per quanto sia uno dei leader mondiali nell’intelligenza artificiale, nel riconoscimento facciale è rimasto indietro, e i suoi prodotti non sono efficienti e richiesti quanto quelli di Amazon, Microsoft, Google. Per questo, dicono i critici, Ibm avrebbe cercato di capitalizzare su una sua debolezza. Ma il passo resta importante, Ibm in questo momento è indietro ma avrebbe potuto recuperare il terreno perduto e invece ha deciso di precludersi questa strada – piuttosto lucrosa – per ragioni di morale.

Il riconoscimento facciale è una delle tecnologie più controverse di questi anni, e non c’è bisogno di andare in Cina, dove viene utilizzata per riconoscere e reprimere le minoranze e gli oppositori politici, per capire il perché. Numerose città d’occidente si sono imbarcate in progetti di sorveglianza di massa pericolosi per i diritti dei cittadini, ci sono casi inquietanti come quello di Clearview Ai, un’azienda che ha prelevato da internet e dai social tutte le fotografie che è riuscita a trovare (forse anche le vostre) per fare un database di facce e renderle riconoscibili alle forze dell’ordine e a chiunque comprerà il suo prodotto, e ci sono prove chiare di bias algoritmico, in cui i sistemi tendono, per esempio, a riconoscere come criminali le persone di colore. I manifestanti di questi giorni negli Stati Uniti, inoltre, temono che le forze dell’ordine usino tecnologie di riconoscimento facciale per schedarli.

Ovviamente tutte le tecnologie sono neutre e il loro abuso dipende da chi se ne serve, e anche il riconoscimento facciale ha utilizzi innocui, come per esempio sbloccare i telefoni cellulari. Ma mentre alcune tecnologie consentono scarsissime possibilità di abuso, per il riconoscimento facciale è il contrario: messo nelle mani di forze dell’ordine, industriali che vogliono controllare i lavoratori, sindaci troppo zelanti (per non parlare dei regimi dittatoriali) rischia quasi certamente di fare un danno a diritti e libertà. Per questo molte città americane, come San Francisco e Berkeley, hanno vietato l’utilizzo della tecnologia da parte dell’autorità pubblica, e perfino l’Unione europea qualche mese fa era arrivata molto vicina a una mossa del genere.

Anche le aziende sono attente al tema: Sundar Pichai, il ceo di Google, a gennaio ha chiesto ai governi una moratoria temporanea all’utilizzo del riconoscimento facciale, mentre Microsoft spinge dal 2018 per una regolamentazione complessiva del settore. Entrambe le aziende, inoltre, si sono impegnate a non fare affari con i regimi. Amazon invece ha proposto un’autoregolamentazione, ma si fa molte meno domande sullo sviluppo della tecnologia. In attesa che i governi agiscano, però, nessuno tranne Ibm ha preso l’iniziativa. Potrebbe essere un’occasione per ripensarci.

• 

• Eugenio Cau

• E’ nato a Bologna, si è laureato in Storia, fa parte della redazione del Foglio a Milano. Ha vissuto un periodo in Messico, dove ha deciso di fare il giornalista. E’ un ottimista tecnologico. Per il Foglio cura Silicio, una newsletter settimanale a tema tech, e il Foglio Innovazione, un inserto mensile in cui si parla di tecnologia e progresso. Ha una passione per la Cina e vorrebbe imparare il mandarino.