Cosa ha detto Frances Haugen al Congresso su Facebook

Presidente Blumenthal, Ranking Member Blackburn e membri della sottocommissione.

Vi ringrazio per avermi dato l’opportunità di essere qui davanti a voi e per il vostro interesse nell’affrontare una delle minacce più urgenti per il popolo americano, per i nostri figli e il benessere del nostro paese, così come per le persone e le nazioni in tutto il mondo. 

Mi chiamo Frances Haugen. Lavoravo in Facebook e mi sono iscritta perché credo che Facebook abbia il potenziale per tirare fuori il meglio di noi. Ma sono qui oggi perché credo che i prodotti di Facebook danneggino i bambini, alimentino la divisione, indeboliscano la nostra democrazia e molto altro. La leadership dell’azienda sa come rendere più sicuri Facebook e Instagram e non apporterà i cambiamenti necessari perché hanno messo i loro immensi profitti prima delle persone. L’azione del Congresso è necessaria. Non possono risolvere questa crisi senza il vostro aiuto. 

Credo che i social media abbiano il potenziale per arricchire le nostre vite e la nostra società. Possiamo avere dei social media che ci piacciono – che tirino fuori il meglio dell’umanità. Internet ha permesso alle persone di tutto il mondo di ricevere e condividere informazioni e idee in modi mai concepiti prima. E mentre Internet ha il potere di collegare una società sempre più globalizzata, senza uno sviluppo attento e responsabile, può danneggiare tanto quanto aiuta. 

Ho lavorato come product manager in grandi aziende tecnologiche dal 2006, tra cui Google, Pinterest, Yelp e Facebook. Il mio lavoro si è concentrato in gran parte su prodotti algoritmici come Google+ Search e sistemi di raccomandazione come quello che alimenta il News Feed di Facebook. Lavorando in quattro grandi aziende tecnologiche che gestiscono diversi tipi di social network, sono stata in grado di confrontare il modo in cui ogni azienda si avvicina e affronta le diverse sfide. Le scelte fatte dalla leadership di Facebook sono un problema enorme – per i bambini, per la sicurezza pubblica, per la democrazia – ecco perché mi sono fatta avanti. Siamo chiari: non deve essere così. Siamo qui oggi a causa delle scelte deliberate che Facebook ha fatto. 

Mi sono unita a Facebook nel 2019 perché qualcuno a me vicino è stato radicalizzato online. Mi sono sentita in dovere di assumere un ruolo attivo nella creazione di un Facebook migliore e meno tossico. Durante il mio periodo in Facebook, prima lavorando come lead product manager per la Civic Misinformation e poi per il Counter-Espionage, ho potuto notare come Facebook abbia ripetutamente incontrato conflitti tra i propri profitti e la nostra sicurezza. Facebook ha costantemente risolto questi conflitti in favore dei propri profitti.  Il risultato è stato un sistema che amplifica la divisione, l’estremismo e la polarizzazione – e mina le società di tutto il mondo. In alcuni casi, questo pericoloso discorso online ha portato alla violenza reale che danneggia e addirittura uccide le persone. In altri casi, la loro macchina di ottimizzazione del profitto sta generando autolesionismo e odio verso se stessi – specialmente per gruppi vulnerabili, come le ragazze adolescenti. Questi problemi sono stati confermati ripetutamente dalla ricerca interna di Facebook. 

Questa non è semplicemente una questione di alcuni utenti dei social media che sono arrabbiati o instabili. Facebook è diventata un’azienda da mille miliardi di dollari pagando i suoi profitti con la nostra sicurezza, compresa quella dei nostri figli. E questo è inaccettabile. 

Credo che quello che ho fatto fosse giusto e necessario per il bene comune – ma so che Facebook ha risorse infinite, che potrebbe utilizzare per distruggermi. Mi sono fatta avanti perché ho riconosciuto una verità spaventosa: quasi nessuno al di fuori di Facebook sa cosa succede dentro Facebook. La leadership dell’azienda nasconde informazioni vitali al pubblico, al governo degli Stati Uniti, ai suoi azionisti e ai governi di tutto il mondo. I documenti che ho fornito dimostrano come Facebook ci abbia ripetutamente ingannato su ciò che la sua stessa ricerca rivela sulla sicurezza dei bambini, il suo ruolo nella diffusione di messaggi odiosi e polarizzanti, e molto altro. Apprezzo la serietà con cui i membri del Congresso e la Securities and Exchange Commission stanno affrontando questi problemi. 

La gravità di questa crisi richiede di uscire dalle precedenti cornici normative. Gli aggiustamenti alle obsolete protezioni della privacy o le modifiche alla sezione 230 non saranno sufficienti. Il centro della questione è che nessuno può capire le scelte distruttive di Facebook meglio di Facebook, perché solo Facebook può guardare sotto il tappeto. Un punto di partenza fondamentale per una regolamentazione efficace è la trasparenza: pieno accesso ai dati per la ricerca non diretta da Facebook. Su questa base, possiamo costruire regole e standard sensati per affrontare i danni ai consumatori, i contenuti illegali, la protezione dei dati, le pratiche anticoncorrenziali, i sistemi algoritmici e altro ancora. 

Finché Facebook opererà all’oscuro di tutto, non dovrà rendere conto a nessuno. E continuerà a fare scelte che vanno contro il bene comune. Il nostro bene comune. 

Quando abbiamo capito che le compagnie di tabacco nascondevano i danni che provocavano, il governo è intervenuto. Quando abbiamo capito che le auto erano più sicure con le cinture di sicurezza, il governo è intervenuto. E oggi, il governo sta intervenendo contro le compagnie che hanno nascosto le prove sugli oppioidi.

Vi imploro di fare lo stesso in questo caso. 

In questo momento, Facebook sceglie le informazioni che miliardi di persone vedono, modellando la loro percezione della realtà. Anche coloro che non usano Facebook sono influenzati dalla radicalizzazione delle persone che lo usano. Un’azienda che ha il controllo sui nostri pensieri, sentimenti e comportamenti più profondi necessita di una supervisione reale. 

Ma il design chiuso di Facebook significa che non ha alcuna supervisione – anche dal suo stesso Oversight Board, che è cieco come il pubblico. Solo Facebook sa come personalizza il feed per voi. Si nasconde dietro muri che impediscono agli occhi di ricercatori e regolatori di capire le vere dinamiche del sistema. Quando le compagnie del tabacco sostenevano che le sigarette con filtro fossero più sicure per i consumatori, per gli scienziati era possibile invalidare indipendentemente quel messaggio di marketing e confermare che in realtà rappresentavano una minaccia maggiore per la salute umana. Ma oggi non possiamo fare questo tipo di valutazione indipendente di Facebook. Dobbiamo solo fidarci di ciò che Facebook dice che è vero – e hanno ripetutamente dimostrato che non meritano la nostra fede cieca.

Questa incapacità di vedere nei reali sistemi di Facebook e confermare che funzionano come affermano è come se il Dipartimento dei Trasporti regolamentasse le auto guardandole guidare sull’autostrada. Immaginate se nessun regolatore potesse salire su un’auto, gonfiare le ruote, fare un crash test, o anche sapere che le cinture di sicurezza possono esistere. I regolatori di Facebook possono vedere alcuni dei problemi – ma sono tenuti all’oscuro su ciò che li sta causando e quindi non possono trovare soluzioni specifiche. Non possono nemmeno accedere ai dati dell’azienda sulla sicurezza dei prodotti, tanto meno condurre una verifica indipendente. Come può il pubblico valutare se Facebook stia risolvendo i conflitti di interesse in un modo che è allineato con il bene pubblico se non si ha visibilità e nessun contesto su come Facebook opera realmente? 

Questo deve cambiare. 

Facebook vuole farvi credere che i problemi di cui stiamo parlando siano irrisolvibili. Vogliono farvi credere in false scelte. Vogliono farvi credere che dovete scegliere tra la connessione con coloro che amate online e la vostra privacy personale. Che per condividere foto divertenti dei vostri figli con vecchi amici, dovete anche essere inondati di disinformazione. Vogliono farvi credere che questo faccia parte dell’accordo. Oggi sono qui per dirvi che non è vero. Questi problemi sono risolvibili. Un social media più sicuro e divertente è possibile. Ma se c’è una cosa che spero che tutti prendano da queste rivelazioni è che Facebook sceglie il profitto piuttosto che la sicurezza ogni giorno – e senza un’azione, questo continuerà. 

Il Congresso può cambiare le regole con cui Facebook gioca e fermare il danno che sta causando.

Mi sono fatta avanti, con grande rischio personale, perché credo che abbiamo ancora tempo per agire. Ma dobbiamo agire ora. 

Grazie.