Instagram prova ad arginare l'odio online

Ai più sicuramente è un nome sconosciuto, ma Adam Mosseri oggi è uno degli uomini più influenti di tutto il pianeta. Il suo ruolo a capo di Instagram lo mette in una delle posizioni più rilevanti del mondo contemporaneo. Inutile spiegare il ruolo del social network che guida e il successo, in senso letterale, che deve gestire.

Sono settimane calde per lui e il suo team, tra il futuro da immaginare e i problemi da affrontare. Ad inizio luglio, non a caso, si guardava ai prossimi mesi inquadrando - scusate il gioco di parole - la più famosa app per la condivisione di fotografie in un contesto sempre più vasto. “Non siamo più solo un'app per la condivisione di foto quadrate”, aveva detto Adam Mosseri, Head di Instagram, descrivendo il futuro della piattaforma. “In Instagram cerchiamo sempre di creare nuove funzionalità che aiutino gli utenti a ottenere il massimo dalla loro esperienza. In questo momento ci concentreremo su quattro aree chiave: Creator, Video, Shopping e Messaggi”. Oggi aggiunge una nuova voce a questa visione: la lotta agli abusi.

Con una lettera inviata ai media di tutto il mondo, Mosseri informa che Instagram partirà con una serie di nuove funzionalità per aiutare le persone a proteggersi dagli abusi sulla piattaforma.

I messaggi d’odio, dopo la finale di Euro 2020, hanno conquistato le pagine dei giornali tanto che, a caldo, Instagram si trovò a doversi scusare per non aver moderato i commenti razzisti dopo la partita tra Inghilterra e Italia. Lo stesso Adam Mosseri disse che si era trattato di un errore dovuto (anche) alla difficoltà per l'intelligenza artificiale di contestualizzare parole ed emoji. Fatto sta che Bukayo Saka, Marcus Rashford e Jadon Sancho sono stati offesi pesantemente per ore, se non per giorni, senza che i commenti fossero rimossi tempestivamente nemmeno dagli account ufficiali degli stessi giocatori.

Mosseri sembra aver capito la lezione e, nella lunga email odierna, ha promesso che Instagram integrerà proprio la possibilità di limitare i commenti e le richieste via DM (i messaggi privati, ndr) durante i picchi di attenzione. A questi, promette, si aggiungeranno avvertimenti ancora più forti quando le persone cercano di pubblicare commenti potenzialmente offensivi nonché il lancio globale della funzione “Hidden Words”, che permette alle persone di filtrare le richieste abusive nei DM.

“Abbiamo la responsabilità di assicurarci che tutti si sentano al sicuro su Instagram. Non permettiamo discorsi di odio o bullismo sulla piattaforma e li rimuoviamo ogni volta che li troviamo. Vogliamo inoltre proteggere le persone in modo preventivo, prima ancora che possano sperimentare un abuso, ed è per questo che ascoltiamo costantemente i feedback degli esperti e della nostra community e sviluppiamo nuove funzionalità che offrano sempre più controllo sulla propria esperienza su Instagram e che aiutino a proteggersi dagli abusi”, scrive Mosseri. I limiti dell’intelligenza artificiale si sono visti proprio poche settimane fa, ma sicuramente è apprezzabile l’impegno nel cercare di limitare un fenomeno che sta inquinando gran parte dei social network e delle applicazioni di messaggistica.

Le parole d’odio in rete, il cosiddetto hate speech online, infatti rappresentano un fenomeno esteso e trasversale ricorda Amnesty International che ha lanciato una campagna in tal senso: colpiscono i più vulnerabili sulla base delle origini, della religione, del genere e dell’identità di genere, dell’orientamento sessuale, delle condizioni socio-economiche, dell’aspetto. A volte sono incitate da politici e personaggi influenti, in altri casi la scintilla è innescata da notizie o fake news.

Quando il livello di odio è già saturo, non c’è neppure bisogno di qualcuno o qualcosa che dia il là alla violenza verbale online. In casa Facebook, di cui Instagram fa parte, lo sanno bene. Anche se ancora non sembrano essere arrivati risultati particolarmente apprezzabili dato che, ancora lo scorso anno, per le associazioni dei diritti civili la società di Mark Zuckerberg non fa abbastanza contro l'odio online. Derrick Johnson della Naacp, associazione statunitense che occupa di diritti degli afroamericani, ha riferito che l’impegno di Facebook è poco concreto e mirato. “Abbiamo notato che la nostra conversazione non avrebbe portato a nulla. Manca la sensibilità culturale per capire cosa comporta il loro atteggiamento nel mondo dei social”, ha commentato lo scorso 7 luglio 2020 dopo una riunione proprio con i vertici di Facebook.

Va detto che ora la questione dell’odio in rete è diventata una priorità nell’agenda dell’opinione pubblica e la galassia legata a Zuckerberg si sta muovendo in tal senso per ovviare almeno ai problemi più macroscopici.

Torniamo ad alcune funzionalità introdotte da Instagram. Ad esempio, Limiti nasconde automaticamente i commenti e le richieste di DM di persone che non ci seguono, o che hanno iniziato a seguirci solo di recente. “Abbiamo sviluppato questa funzione perché, interagendo con i creator e i personaggi pubblici, ci siamo resi conto che – dice Mosseri - a volte si ritrovano a dover gestire improvvisi picchi di commenti e richieste di DM da persone che non conoscono. In molti casi si tratta di messaggi di apprezzamento e supporto, come per esempio le congratulazioni dopo aver vinto una medaglia olimpica. Altre volte però, può anche significare un'ondata di commenti negativi o messaggi indesiderati. Se è già capitato o se si pensi che possa succedere, ora sarà possibile attivare Limiti ed evitarlo”.

L’head di Instagram svela anche un dato importante dietro a questi messaggi: “Le nostre ricerche hanno mostrato che la maggior parte della negatività verso i personaggi pubblici proviene da persone che non li seguono o li seguono solo da poco. Lo abbiamo visto dopo la recente finale del campionato europeo di calcio, che ha portato a un significativo - e inaccettabile - picco di abusi razzisti verso i giocatori”.

Limiti è disponibile su Instagram per tutti a partire da oggi. Per attivarlo o disattivarlo basta andare nelle proprie impostazioni per la privacy.

Basterà? Forse no. “Nonostante l’impegno profuso per combattere l'odio sulla nostra piattaforma, questi sono problemi più grandi di noi. Continueremo pertanto a sostenere le organizzazioni focalizzate sull'ingiustizia razziale e sull'equità, e vogliamo collaborare ancora di più con l’industria, i governi e le ONG per educare e aiutare a sradicare l'odio.” Non è una bandiera bianca quella della piattaforma, ma Instagram almeno ha capito di essere “solo” una (grande) barca in mezzo all’Oceano. Per eliminare i commenti d’odio, bisognerà affidarci sempre più a un cambio di mentalità delle persone che agli algoritmi. Una sfida che oggi sembra impossibile da vincere.