Il processo culturale contro la Silicon Valley

La caduta degli dei della Silicon Valley è un fenomeno uscito da tempo dalla penombra dei complotti e dei controcomplotti, e la riprova è nella comparsa del termine angolofono apposito: techlash, l’epocale rinculo dell’opinione pubblica verso le grandi aziende tecnologiche idolatrate fino a pochi anni fa. L’Economist l’ha inclusa fra le parole più importanti dell’anno che verrà. Quando anche il vocabolario si adegua, significa che lo Zeitgeist è maturo. Dopo i decenni dell’entusiasmo avveniristico e del trasporto startupparo, quando sembrava – anzi: era certo – che il portale verso un futuro dell’umanità bello e progressista fosse dalle parti di San Francisco, e da quello stesso propulsore sarebbe partito un altro “secolo americano”, con abbondanti frutti di prosperità e democrazia per tutti, sono stati rimpiazzati dal tempo dell’incertezza e del sospetto. E’ stata una metamorfosi tutto sommato rapida, e viste con gli occhi di oggi alcune immagini del recente passato appaiono ridicole o inquietanti: Mark Zuckerberg che prima di suonare la campanella della Borsa dichiara che “la nostra missione non è essere un’azienda quotata. La nostra missione è rendere il mondo più aperto e connesso” ha qualcosa di orwelliano, mentre fa un effetto straniante rivangare certe recensioni negative del film The Social Network, anno 2010, dove si accusava il regista di avere ingiustamente rappresentato, forse per invidia e risentimento, Zuck come un sociopatico assetato di potere. La rappresentazione di David Fincher, allora impopolare, oggi è mainstream. Riprendere a qualche anno di distanza il profluvio di opinioni sui social network che avrebbero fatto cadere i dittatori sotto il vento della primavera araba ha invece qualcosa di grottesco e tragico. L’abbraccio moscovita fra Bashar el Assad e Vladimir Putin per festeggiare la fine della guerra in Siria si presta anche a una lettura di tipo tecnologico: il dittatore che ha resistito al famoso tam-tam della rete che avrebbe dovuto muovere le coscienze, e anche i caccia bombardieri, abbraccia il padre di tutti i troll che s’infilano nelle maglie della rete per influenzare le elezioni altrui. Chi avrebbe detto qualche anno fa che ci sarebbero stati attori geopolitici di questa schiatta fra i più ricchi beneficiari della comunicazione social?

Techlash, l'epocale rinculo dell'opinione pubblica verso le grandi aziende tecnologiche idolatrate fino a pochi anni fa

La Silicon Valley è passata dal lato giusto al lato sbagliato della storia, e il passaggio repentino ci dovrebbe mettere in guardia dall’abuso di questa presentazione manichea della storia. E’ rischioso dividere lo svolgimento delle cose umane in due sponde radicalmente separate: se un giorno si scopre che i buoni erano in realtà cattivi, che si fa? Ronald Reagan amava le espressioni sul lato giusto e sbagliato della storia, che pure usava con parsimonia, per ragioni evidenti legate alla Guerra fredda; Bill Clinton ha reso lo schema binario la storiografia ufficiale dell’ottimismo degli anni Novanta, Barack Obama l’ha portata al parossismo. Negli stessi decenni la Silicon Valley ha avuto alti e bassi, momenti sterili e favolosi eureka, bolle e ripensamenti, ma finora la sua collocazione nel grande schema non è mai stata messa in discussione. Apparteneva naturalmente alle forze del bene. Si sta scoprendo invece in questi anni che la realtà è molto più simile alla fantascienza, dove le cose più affascinanti sono anche quelle più pericolose.

Non che in questi anni sia cambiato qualcosa nel modus operandi dei giganti della galassia digitale, i quali perseverano nei loro profittevoli modelli di business travestiti da servizi socialmente utili e forse anche imprescindibili per vivere in questo tempo. Facebook non si è messo di colpo a produrre armi di distruzione di massa, Google non ha cambiato il suo motto in “do evil”, i social non sono diventati attivi strumenti di morte. Quello che è cambiato è che lo “sciame digitale” di Byung-Chul Han ha preso in qualche modo coscienza di sé: “Arranchiamo dietro al medium digitale che, agendo sotto il livello di decisione cosciente, modifica in modo decisivo il nostro comportamento, la nostra percezione, la nostra sensibilità, il nostro pensiero, il nostro vivere insieme. Oggi ci inebriamo del medium digitale, senza essere in grado di valutare del tutto le conseguenze di una simile ebbrezza”, scriveva il filosofo tedesco-coreano nel suo famoso pamphlet. Il passaggio dall’utopia alla distopia è stata una eterogenesi, ognuno ha visto il lato sinistro della Silicon Valley da un’angolazione particolare, e alla fine in molti si sono trovati d’accordo nel mettere la tecnologia sul banco degli imputati, ma per ragioni diverse. C’è chi ha cambiato idea per motivi legati al brutale stradominio dei mercati esercitato da un oligopolio ormai impossibile da nascondere sotto l’affettato giovanilismo di una t-shirt.

Alla fine in molti si sono trovati d'accordo nel mettere la tecnologia sul banco degli imputati, ma per ragioni diverse

Soltanto nell’ultima trimestrale Amazon, Alphabet (Google), Apple, Facebook e Microsoft hanno fatturato insieme 143 miliardi di dollari, poco più del pil del Qatar, e non mostrano alcun segno di flessione. Anzi, ciascuna di queste aziende sta mettendo in atto strategie per allargare il proprio raggio d’azione. Google sta investendo da anni sulla robotica e la medicina, mentre Amazon lavora per fare al settore del trasporto marittimo delle merci quello che ha fatto all’editoria.

Lo scorso anno, senza grandi fanfare, l’azienda di Jeff Bezos ha ottenuto la licenza per trasportare merci su nave per conto terzi, cosa che gli permette di ridurre i costi di trasporto dei suoi partner cinesi e apre la porta a un giro d’affari di 350 miliardi di dollari, se si considerano soltanto le rotte nel Pacifico. La logistica via mare è un settore ampio e con margini molto bassi, dove s’afferma chi ha le infrastrutture più efficienti ed economiche, ed essere più efficienti di Amazon nello smistamento delle merci è quasi impossibile. Chi dominerà il trasporto navale nei prossimi decenni? Non è difficile capire perché qualcuno guarda Google e Amazon come i no global negli anni Novanta guardavano la Monsanto o la Nestlé, con la differenza non marginale che aggirare le compagnie tech, per evitare di concedere loro i dati da cui traggono profitto, è quasi impossibile. Tutta questa concentrazione di potere ha scatenato meccanismi regolatori in tutto il mondo: la Cina inasprisce la censura, la Commissione europea commina maxi multe, in America si discute sugli aspetti fiscali e qualcuno propone di applicare ai grandi player gli stessi regolamenti delle utility.

Una grande concentrazione di potere. Qualcuno guarda Google e Amazon come i no global negli anni Novanta guardavano la Monsanto o la Nestlé, con la differenza non marginale che aggirare le compagnie tech, per evitare di concedere loro i dati da cui traggono profitto, è quasi impossibile  

Altri sono approdati alla tifoseria del techlash dal versante della critica all’automazione. In fondo, Donald Trump è diventato presidente aizzando i “forgotten men” americani che hanno perso i posti di lavoro soprattutto a causa dei robot, ma poiché le intelligenze artificiali non hanno patria e non si tengono lontane con i muri ha dovuto dare la colpa alla manodopera dei clandestini messicani e alla concorrenza sleale dei cinesi. Il tema politico è un altro fattore importante. La Silicon Valley è ovviamente di sinistra e progressista, benché attraversata da una breccia libertaria, e le élite costiere che sono a favore della libertà di pensiero ma si scandalizzano quando scoprono che qualcuno non la pensa come loro, come diceva William Buckley, hanno sempre dato per scontata l’alleanza naturale fra il mondo della tecnologia e l’agenda democratica. Fino al giorno in cui si è scoperto che anche sovranisti e populisti potevano usare i prodotti tecnologici a loro vantaggio.

Altri ancora assumono una postura critica per via della crescente percezione della mole immensa di dati che questi soggetti raccolgono, manipolano, rivendono, configurando il più imponente sistema di controllo delle informazioni che la razza umana abbia concepito. Questa critica va a braccetto con quella sulla segretezza. I paladini della trasparenza non hanno nessuna voglia di essere scrutati. Ci sono voluti mesi per trascinare i rappresentanti di Facebook davanti a una commissione del Congresso – ma a porte chiuse – dopo che era stata appurato che attraverso account fasulli certe troll farm russe legate al Cremlino avevano acquistato e diffuso degli ads politici, fatti circolare con la solita precisione algoritmica nei circoli trumpiani. L’azienda ha minimizzato, ha fatto mea culpa, ha promesso grandi riforme sperando che i problemi scomparissero da sé, e allo stesso tempo ha rifiutato di presentarsi al Congresso in seduta pubblica, ben sapendo che creare un precedente del genere potrebbe essere molto rischioso. Per calmare le acque anche Sheryl Sandberg ha dovuto fare una concessione formale: non immaginava che il loro prodotto per creare un mondo più aperto e connesso potesse diventare complice di tali nefandezze, ha ammesso.

Dietro a tutte questi motivi di inquietudine e malanimo intorno al mondo della tecnologia c’è una domanda cruciale: il techlash è un fatto accidentale o una necessità? In altre parole: la Silicon Valley ha preso una sbandata oppure sta mostrando il suo vero volto? I peccati che l’opinione pubblica le contesta sono la conseguenza inevitabile della sua natura o in fondo si tratta soltanto di una congiuntura sfortunata, di mele marce da scartare? Jaron Lanier è uno dei più importanti, forse il più importante, rappresentante della prima scuola di pensiero. Quello che stiamo vedendo, sostiene, non è che il disvelamento della logica apocalittica, dogmatica e fondamentalmente malvagia di aziende che non sono diventate cattive, sono nate proprio così. L’obiettivo è sempre stato quello di creare una gigantesca e invisibile Skinner Box, l’invenzione dello psicologo B. F. Skinner per addestrare i topi da laboratorio a rispondere con certe azioni a certi stimoli. Per Skinner il libero arbitrio era soltanto un’illusione, e sulla scorta della scuola di Ivan Pavolv e John Watson considerava l’uomo un fascio di comportamenti e reazioni che potevano essere modificati da un addestratore sufficientemente preparato applicando gli stimoli giusti. “Una persona in una Skinner box ha l’illusione del controllo ma è in realtà controllata dalla box, e ancora più precisamente da chi sta dietro alla box”, scrive. Lanier chiama Google e gli altri gli “imperi della modificazione del comportamento” ed è convinto che il modello di business di Facebook sia basato su una faustiana permuta di denaro degli inserzionisti in cambio di un colossale nudge di massa verso i prodotti che questi pubblicizzano (e qui andrebbe notato en passant che gli inserzionisti, alle volte, sono troll russi che lavorano per modificare la percezione dell’elettorato: sì, anche questo è nudge). Ed è perfino peggio di così. Occorre pagare i custodi dei dati, dei codici e degli algoritmi anche soltanto per stare nel mercato: “Una volta che Facebook diventa onnipresente, è una specie di gigantesco racket dove, se non li paghi, qualcun altro li pagherà per modificare il comportamento a tuo svantaggio, perciò tutti devono pagare soltanto per rimanere in equilibro nella stessa posizione in cui si troverebbero altrimenti”.

Lanier chiama Google e gli altri gli "imperi della modificazione del comportamento" ed è convinto che il modello di business di Facebook sia basato su una faustiana permuta di denaro degli inserzionisti in cambio di un colossale nudge di massa verso i prodotti che questi pubblicizzano 

Lanier dice cose di questo tenore dai primi anni Novanta, quando ha deciso di rinunciare all’opportunità di diventare un dio della Silicon Valley e si è accontentato, fra molte virgolette, di essere un rispettato attore del mondo tech ma fuori dagli schemi, dai social, dalle feste, da Mountain View e da Menlo Park. Ma andiamo con ordine. Chi è Jaron Lanier? Si tratta di un corpulento omaccione con occhi azzurri straordinariamente bonari, dreadlocks lunghissimi e una esagerata collezione di strumenti musicali. Da qualche anno lavora come scienziato senza briglie per Microsoft ma negli anni Ottanta ha fatto cose fondamentali nell’ambito dello sviluppo della realtà virtuale. Lui era al centro di quella stagione fatta di occhialoni e guanti sensoriali. Quando dicono che è il padre della realtà virtuale lui risponde che dipende se si vuole credere alla madre, ma il concetto è quello. Da tempo è una delle voci più critiche in circolazione sulla cultura della Silicon Valley, e i suoi libri You’re Not a Gadget e Who Owns the Future? sono arrivati sugli scaffali con diversi anni di anticipo rispetto alla capacità ricettiva del pubblico. Metteva in guardia dalla riduzione delle persone a dati da monetizzare quando il mondo a bocca aperta stava scoprendo Facebook, denunciava l’eccessivo, totalitario controllo dei flussi informativi esercitato dai suoi vecchi amici quando le loro compagnie erano ancora considerate entità benevole, alleate di un progresso che non avrebbe mai presentato il conto. La Silicon Valley ha modi molto gentili per spingere (ancora una volta un nudge) le voci critiche nel cono d’ombra dell’irrilevanza senza ridurle al silenzio, ed è bastato inserire anche Lanier nel gruppo dei critici del tecnologismo, presentato (sempre gentilmente) come il gruppo dei trogloditi che fanno il tifo per il lato sbagliato della storia. Il fatto è che l’ultimo libro di Lanier, Dawn of the New Everything: Encounters with Reality and Virtual Reality, è invece uscito proprio nel mezzo del teclash e gli argomenti che ripropone con rinnovato vigore non possono essere più presi come gli ammonimenti di un bizzarro malvissuto con i rasta che s’ostina ad annunciare il disastro imminente. 

“Ho scritto saggi su come la società sarebbe potuta un giorno diventare assurda per via di guerre astratte fra algoritmi, e di come dinamiche virali online potrebbero generare improvvise catastrofi politiche e sociali. I miei avvertimenti sono stati apprezzati in certi ambienti, ma evidentemente non hanno impedito gli eventi da cui mettevo in guardia. Eccomi qui a provarci ancora, ma con una differenza. Sono successe abbastanza cose da rendere i miei racconti non più degli avvertimenti. Sto lasciando cadere delle briciole da seguire, per capire come siamo arrivati dove siamo”, scrive. Questo le rende un libro importante: non è il racconto del mondo che verrà, ma di quello che è.

Si tratta tecnicamente di un memoir, un racconto biografico, ma viaggia su due binari. Da una parte l’aneddotica, dall’altra un articolato insieme di considerazioni che finiscono per solidificarsi in una specie di summa filosofica. Le due dimensioni si intrecciano continuamente. La vicenda di Lanier è segnata da un misto di sofferenze e stramberie che il protagonista racconta con il giusto distacco ironico. La sua vita è segnata profondamente dalla morte della madre, una pianista viennese che era riuscita a sfuggire ai nazisti convincendo le guardie del campo di concentramento che era ariana, per via dei capelli biondi e della carnagione chiarissima. E’ riuscita a produrre dei documenti falsi e poi a fuggire in America. E’ morta in un incidente stradale, perdendo il controllo dell’auto al ritorno dall’esame della patente di guida, per un difetto di fabbrica che si è poi scoperto molti anni dopo. Il padre era invece un uomo che aveva iniziato e mai portato a termine decine di professioni, progetti e carriere, fra questa anche quella di presentatore radiofonico. Leggenda vuole che sia stato lui a propagare per primo il mito urbano dei coccodrilli che vivono nelle fogne di New York. Per fare una sintesi di tutte le stranezze della vita di Lanier basta considerare che quando era un teenager il padre gli ha permesso di disegnare la casa in cui avrebbero vissuto dopo gli anni dell’indigenza, quando, grazie al suo lavoro finalmente stabile come maestro elementare, era riuscito a comprare un pezzo di terra in New Mexico. Il giovane Jaron ha deciso di costruire una cupola geodetica con gli interni argentati, come nei film di fantascienza, e così è stato. Cosa c’entra questo con la critica ai padroni del mondo digitale? Anche le stramberie servono a illustrare l’idea lanieriana su cos’è un essere umano: è un “processo creativo”, un oggetto misterioso e incalcolabile, dice, mentre il modello antropologico che guida l’industria dei modificatori del comportamento è quello di un essere molto sofisticato ma essenzialmente prevedibile. Un topo per gli esperimenti di Skinner, soltanto con molte più variabili.

L'idea di Lanier su cos'è un essere umano: è un "processo creativo", un oggetto misterioso e incalcolabile, dice, mentre il modello antropologico che guida l'industria dei modificatori del comportamento è quello di un essere molto sofisticato ma essenzialmente prevedibile

Il padre della cibernetica, Norbert Wiener, nel suo libro The Human Use of Human Beings, pubblicato nel 1950, aveva colto le conseguenze del comportamentismo portato alle sue estreme conseguenze: “Leggete Wiener con attenzione e vi sarà chiaro che con sensori abbastanza potenti, computazione abbastanza potente e feedback dei sensori abbastanza chiari, una Skinner box può essere costruita attorno a un essere umano in stato di veglia senza che questa persona se ne accorga. Wiener conforta il lettore notando che la difficoltà nel creare una macchina computazionale e un network gigante è così alta che il pericolo è soltanto teorico”. Lanier si fa carico di annunciare che la teoria è diventata pratica. Mai sentito parlare di internet?

Raccontando l’impressionante sequenza di stranezze che compongono la sua vita (Maureen Dowd ha sentenziato: “E’ la persona più strana che abbia mai incontrato. E di persone strane ne ho incontrate tante”), Lanier non ci rende edotti circa una vita piena di curiosità, ma esemplifica una concezione dell’uomo che è in contrasto con quella che domina l’industria tecnologica. Fra l’infinità di rilievi critici che l’autore muove, due punti sono particolarmente importanti per afferrare quanto sono profonde le radici di questo techlash: la legge di Moore e la natura degli algoritmi. La legge di Moore dice che il numero dei transistor in un circuito integrato cresce esponenzialmente con il passare degli anni, e contemporaneamente il prezzo dei processori diminuisce. La sofisticazione delle macchine aumenta con un ritmo in costante accelerazione, tanto che nel mondo digitale in tempi molto brevi si realizzano cose inimmaginabili per chi concepisce la crescita in ragione aritmetica. In altre parole, la legge di Moore certifica e garantisce l’inevitabilità del progresso cibernetico, “è la teologia dietro l’idea di destino della Silicon Valley”. Lanier parla spesso della Silicon Valley in termini religiosi, ché la valle ha i suoi rituali e la sua escatologia, ma nulla dell’apparato dottrinario della tecnologia è paragonabile per importanza al dogma dell’accelerazione che la legge di Moore esprime. Epperò, sostiene l’autore, “non c’è nulla di inevitabile riguardo alla computer science”, e anzi, la legge che sta sulla sommità della tavola della legge digitale non se la passa tanto bene: “Viene ripetuta di continuo anche se non è più così vera. I computer non possono continuare a diventare più veloci e meno costosi per sempre. Vediamo già un rallentamento, il presagio dell’ultimo sospiro della legge di Moore. Potrebbe essere un po’ come il traumatico momento americano in cui si è capito che non c’era più una frontiera in occidente (“proporzionata all’immaginazione umana”), cosa alla quale il paese ha risposto con una vuota Gilded Age. Non è molto diversa dalla nostra situazione oggi”. Lo sviluppo dell’intelligenza artificiale ha avuto anche l’effetto di convincere gli operatori tecnologici – e di conseguenza il pubblico che li idolatrava – che anche la capacità umana di capire la realtà cresce in modo esponenziale, una specie di derivato della legge di Moore applicato all’intelligenza umana. Nel saggio The Myth of AI Lanier scrive: “Poiché c’è in parte una crescita esponenziale nella nostra capacità di capire, allora possiamo prevedere che presto capiremo tutto. Per questo è folle, perché non sappiamo nemmeno qual è lo scopo. Per quanto l’accelerazione possa sembrare impressionante, anche la realtà è impressionante nei termini delle sfide e degli ostacoli che pone. Non lo sappiamo”. Non lo sappiamo è l’opposto dell’ethos della Silicon Valley, che oscilla fra il sappiamo già e il presto sapremo. Altrove Lanier ha chiamato questa presunzione gnoseologica “riduzione prematura del mistero”, uno stato in cui gli scienziati non sono nemmeno in grado di ammettere ciò che non sanno. La legge di Moore è la suprema risultante di questa concezione, ma questo è il momento in cui si sta facendo largo il sentore che anche il più puro dei dogmi forse è una superstizione.

L’algoritmo, strumento onnipresente e invisibile che influenza e determina tutte nostre interazioni digitali, è l’altro grande capo di imputazione in questo fase di inversione della percezione. Anche qui, Lanier tenta di mostrare quanto sia illusoria la rappresentazione dell’algoritmo come strumento matematico neutro, quando invece è latore di una certa idea implicita del mondo, dell’uomo e della storia: “Quando le compagnie disegnano gli algoritmi per suggerirti con chi andare a letto o quale film guardare, si aspettano di avere di fronte una apatica, credulona variante della specie umana. La gente non se ne curerà, continuerà ad andare avanti senza vedere come vengono usati i dati o come funzionano davvero gli algoritmi”. La versione apatica e credulona dell’uomo è quella che si lascia trasportare dai suggerimenti di Netflix: “Il motore delle raccomandazioni di Netflix equivale all’illusione di un mago che ci distrae dal fatto che non tutto è disponibile nel catalogo”, con il conseguente paradosso degli umani che accettano di essere “in qualche modo ciechi” di fronte al fatto che una formula matematica sta guidando le loro scelte “per far sembrare l’algoritmo più intelligente”. Franklin Foer, autore del libro World Without Mind, una requisitoria tagliente contro la Silicon Valley ma scritta dall’esterno, ha descritto così la reale funzione degli algoritmi: “Facebook non lo dirà mai in questo modo, ma gli algoritmi sono fatti per distruggere la libertà, per togliere agli uomini il peso della scelta, per spingerli nella direzione giusta. Gli algoritmi alimentano un senso di onnipotenza, la convinzione fasulla che il nostro comportamento possa essere alterato, senza che nemmeno ci rendiamo conto della mano che ci guida in una direzione superiore”.

Nella concezione di Lanier l’uso pervasivo, soffocante di algoritmi che ordinano i flussi informativi toglie necessariamente spazio all’umano in quanto tale, perché “c’è bisogno di spazio attorno alla persona perché una persona sia una persona”, altrimenti non è che un insieme di input e output alla mercé di chi controlla l’algoritmo più sofisticato. Per renderla più chiara anche ai suoi vecchi amici della Silicon Valley l’ha messa sotto forma di equazione, ribattezzata “l’equazione del terrore”: Turing Moore’s Law*(Pavolv, Watson, Skinner) = Zombie Apocalypse.