Il costo della censura di Facebook, ora ripudiata

La storia ricorderà quest'epoca come il momento in cui i principi più sacri dell'America si sono scontrati con un potere istituzionale senza precedenti, e hanno perso. Lo smantellamento sistematico dei diritti fondamentali non è avvenuto tramite la forza militare o un decreto esecutivo, ma tramite la silenziosa cooperazione di piattaforme tecnologiche, gatekeeper dei media e agenzie governative, tutti sostenendo di proteggerci dalla "disinformazione".

L'improvviso smantellamento del programma di fact-checking da parte di Meta – annunciato da Zuckerberg come un “punto di svolta culturale verso la priorità del discorso” – si legge come una nota a piè di pagina silenziosa a quella che la storia potrebbe registrare come una delle più sconvolgenti violazioni dei diritti fondamentali nella memoria recente. Dopo otto anni di moderazione dei contenuti sempre più aggressiva, che ha coinvolto quasi 100 organizzazioni di fact-checking che operano in oltre 60 lingue, Meta sta ora virando verso un sistema guidato dalla comunità simile al modello di X.

Nel suo annuncio, Zuckerberg suggerisce prima che la censura è stata un errore puramente tecnico, poi cambia tono verso la fine e ammette ciò che è stato a lungo contestato: "L'unico modo in cui possiamo contrastare questa tendenza globale è con il supporto del governo degli Stati Uniti. Ed è per questo che è stato così difficile negli ultimi 4 anni, quando persino il governo degli Stati Uniti ha spinto per la censura. Prendendo di mira noi e altre aziende americane, ha incoraggiato altri governi ad andare ancora oltre".

In molti casi giudiziari costati milioni di dollari, che hanno comportato ingenti richieste FOIA, deposizioni e rivelazioni, la verità è stata documentata in 100,000 pagine di prove. Le Murthy contro Missouri Custodie da solo ha scoperto comunicazioni sostanziali tramite FOIA e deposizioni, rivelando la profondità del coordinamento del governo con le piattaforme dei social media. La Corte Suprema ha preso in considerazione tutto, ma diversi giudici semplicemente non sono riusciti a comprenderne la sostanza e la portata, e quindi hanno annullato un'ingiunzione di un tribunale inferiore per fermare tutto. Ora abbiamo Zuckerberg che ammette apertamente esattamente ciò che era in discussione: il coinvolgimento del governo degli Stati Uniti in una violazione aggressiva del Primo Emendamento. 

Questo dovrebbe almeno rendere più facile trovare un risarcimento man mano che i casi procedono. Tuttavia, è frustrante. Sono stati spesi decine di milioni per dimostrare ciò che avrebbe potuto ammettere anni fa. Ma a quei tempi, i censori erano ancora al comando e Facebook stava proteggendo il suo rapporto con i poteri forti. 

La tempistica del cambiamento è significativa: un alleato di Trump entra nel consiglio, Il presidente degli affari globali di Meta è stato sostituito da un importante repubblicano, e una nuova amministrazione che si prepara a prendere il controllo. Ma mentre Zuckerberg inquadra questo come un ritorno ai principi della libertà di parola, il danno del loro esperimento di censura di massa non può essere annullato con un semplice cambiamento di politica.

L'ironia è profonda: aziende private che rivendicano l'indipendenza mentre agiscono come estensioni del potere statale. Considerate la nostra esperienza: pubblicare la definizione di fascismo di Mussolini come "fusione del potere statale e aziendale" - solo per chiedi a Meta di rimuoverlo in quanto "disinformazione". Non si trattava semplicemente di censura; si trattava di meta-censura: mettere a tacere il dibattito sui meccanismi stessi di controllo impiegati. 

Mentre le piattaforme tecnologiche mantenevano la facciata dell'impresa privata, le loro azioni sincronizzate con le agenzie governative rivelavano una realtà più preoccupante: l'emergere esattamente di quel tipo di fusione tra stato e aziende di cui cercavano di impedirci di discutere.

Come abbiamo visto prima, non abbiamo semplicemente oltrepassato i limiti – abbiamo attraversato i sacri Rubiconi creati dopo i capitoli più oscuri dell'umanità. Il Primo Emendamento, nato dalla rivoluzione contro la tirannia, e il Codice di Norimberga, istituito dopo gli orrori della Seconda Guerra Mondiale, avrebbero dovuto essere indistruttibili guardiani dei diritti umani. Entrambi sono stati sistematicamente smantellati in nome della "sicurezza". Le stesse tattiche di disinformazione, paura ed ingerenza governativa contro cui i nostri antenati avevano messo in guardia sono state impiegate con spaventosa efficienza.

Questo smantellamento sistematico non ha lasciato alcun argomento intatto: dalle discussioni sugli effetti dei vaccini ai dibattiti sulle origini dei virus alle domande sulle politiche di mandato. Il discorso scientifico è stato sostituito con narrazioni approvate. I ricercatori medici non potevano condividere risultati che divergevano dalle posizioni istituzionali, come si è visto nella rimozione di discussioni credibili sui dati Covid-19 e politica. Anche le esperienze personali sono state etichettate come “disinformazione” se non si allineavano con il messaggio ufficiale, un modello che ha raggiunto livelli assurdi quando anche discutendo la natura stessa della censura divenne motivo di censura.

Il danno si è propagato a ogni strato della società. A livello individuale, le carriere sono state distrutte e le licenze professionali revocate semplicemente per aver condiviso esperienze genuine. Scienziati e dottori che hanno messo in discussione le narrazioni prevalenti si sono ritrovati professionalmente ostracizzati. Molti sono stati fatti sentire isolati o irrazionali per essersi fidati dei propri occhi e delle proprie esperienze quando le piattaforme hanno etichettato i loro resoconti di prima mano come "disinformazione".

La distruzione dei legami familiari potrebbe rivelarsi ancora più duratura. Le tavole delle feste si sono svuotate. I nonni si sono persi momenti insostituibili con i nipoti. Fratelli che erano stati vicini per decenni hanno smesso di parlarsi. Anni di legami familiari si sono infranti non per disaccordi sui fatti, ma per il diritto stesso di discuterne.

Forse il danno più insidioso fu il danno a livello di comunità. I ​​gruppi locali si frammentarono. I vicini si rivoltarono contro i vicini. Le piccole imprese finirono nella lista nera. Le chiese si divisero. Le riunioni del consiglio scolastico si trasformarono in campi di battaglia. Il tessuto sociale che consente la società civile iniziò a sgretolarsi, non perché le persone avessero opinioni diverse, ma perché la possibilità stessa di dialogo era considerata pericolosa.

I censori hanno vinto. Hanno dimostrato che con sufficiente potere istituzionale, potevano fare a pezzi il tessuto sociale che rende possibile il libero discorso. Ora che questa infrastruttura per la soppressione esiste, è pronta a essere dispiegata di nuovo per qualsiasi causa sembri abbastanza urgente. L'assenza di una resa dei conti pubblica invia un messaggio agghiacciante: non c'è linea che non possa essere oltrepassata, nessun principio che non possa essere ignorato.

Una vera riconciliazione richiede più di un'inversione di tendenza casuale della politica di Meta. Abbiamo bisogno di un'indagine completa e trasparente che documenti ogni istanza di censura, dai report soppressi sui danni da vaccino ai dibattiti scientifici bloccati sulle origini del virus, alle voci messe a tacere che mettono in discussione le politiche di mandato. Non si tratta di rivendicazione, si tratta di creare un archivio pubblico inattaccabile che garantisca che queste tattiche non possano mai più essere utilizzate.

Il Primo Emendamento della nostra Costituzione non è stato un suggerimento, è stato un patto sacro scritto nel sangue di coloro che hanno combattuto la tirannia. I suoi principi non sono reliquie obsolete, ma protezioni vitali contro l'eccesso di potere a cui abbiamo appena assistito. Quando le istituzioni trattano questi diritti fondamentali come linee guida flessibili anziché come confini inviolabili, il danno si estende ben oltre qualsiasi singola piattaforma o politica.

Come molti nei nostri circoli, abbiamo assistito a questo in prima persona. Ma la rivendicazione personale non è l'obiettivo. Ogni voce messa a tacere, ogni dibattito soppresso, ogni relazione fratturata al servizio di "narrazioni approvate" rappresenta uno strappo nel nostro tessuto sociale che ci rende tutti più poveri. Senza una contabilità completa e garanzie concrete contro futuri eccessi, stiamo lasciando le generazioni future vulnerabili agli stessi impulsi autocratici che indossano maschere diverse.

La questione non è se possiamo ripristinare ciò che è stato perso: non possiamo. La questione è se finalmente riconosceremo questi diritti come veramente inviolabili, o se continueremo a trattarli come ostacoli scomodi da spazzare via ogni volta che la paura e l'urgenza lo richiederanno. Benjamin Franklin avvertì che coloro che rinunciano alla libertà essenziale per acquistare un po' di sicurezza temporanea non meritano né libertà né sicurezza. La nostra risposta a questa sfida determinerà se lasceremo ai nostri figli una società che difende le libertà essenziali o una che le scarta casualmente in nome della sicurezza.

Ecco la trascrizione completa dell'annuncio di Mark Zuckerberg del 7 gennaio 2024:

Ciao a tutti. Voglio parlare di qualcosa di importante oggi perché è tempo di tornare alle nostre radici sulla libera espressione su Facebook e Instagram. Ho iniziato a creare i social media per dare voce alle persone. Ho fatto un discorso a Georgetown 5 anni fa sull'importanza di proteggere la libera espressione e ci credo ancora oggi. Ma negli ultimi anni sono successe molte cose.

C'è stato un ampio dibattito sui potenziali danni dei contenuti online, i governi e i media tradizionali hanno spinto per censurare sempre di più. Molto di questo è chiaramente politico, ma ci sono anche un sacco di cose legittimamente cattive là fuori. Droga, terrorismo, sfruttamento dei minori. Sono cose che prendiamo molto sul serio e voglio assicurarmi che le gestiamo in modo responsabile. Quindi abbiamo creato molti sistemi complessi per moderare i contenuti, ma il problema con i sistemi complessi è che commettono errori.

Anche se censurassero accidentalmente solo l'1% dei post, si tratta di milioni di persone. E abbiamo raggiunto un punto in cui ci sono troppi errori e troppa censura. Le recenti elezioni sembrano anche un punto di svolta culturale verso una nuova priorità alla parola. Quindi torneremo alle nostre radici e ci concentreremo sulla riduzione degli errori, sulla semplificazione delle nostre politiche e sul ripristino della libera espressione sulle nostre piattaforme. Più specificamente, ecco cosa faremo.

Per prima cosa, ci libereremo dei fact-checker e li sostituiremo con note della comunità simili a X a partire dagli Stati Uniti. Dopo che Trump è stato eletto per la prima volta nel 2016, i media tradizionali hanno scritto senza sosta su come la disinformazione fosse una minaccia per la democrazia. Abbiamo cercato in buona fede di affrontare queste preoccupazioni senza diventare gli arbitri della verità, ma i fact-checker sono stati semplicemente troppo politicamente di parte e hanno distrutto più fiducia di quanta ne abbiano creata, soprattutto negli Stati Uniti. Quindi, nei prossimi due mesi, introdurremo gradualmente un sistema di note della comunità più completo. In secondo luogo, semplificheremo le nostre politiche sui contenuti e ci libereremo di un mucchio di restrizioni su argomenti come l'immigrazione e il genere che sono semplicemente fuori dal discorso mainstream.

Ciò che è iniziato come un movimento per essere più inclusivi è stato sempre più utilizzato per mettere a tacere le opinioni ed escludere le persone con idee diverse, ed è andato troppo oltre. Quindi voglio assicurarmi che le persone possano condividere le loro convinzioni ed esperienze sulle nostre piattaforme. Terzo, stiamo cambiando il modo in cui applichiamo le nostre policy per ridurre gli errori che rappresentano la stragrande maggioranza della censura sulle nostre piattaforme. In passato avevamo filtri che analizzavano qualsiasi violazione delle policy. Ora concentreremo quei filtri sulla lotta alle violazioni illegali e di elevata gravità.

E per violazioni di gravità inferiore, faremo affidamento sulla segnalazione di un problema da parte di qualcuno prima di agire. Il problema è che i filtri commettono errori e rimuovono molti contenuti che non dovrebbero. Quindi, riducendoli, ridurremo drasticamente la quantità di censura sulle nostre piattaforme. Inoltre, adatteremo i nostri filtri dei contenuti per richiedere una sicurezza molto più elevata prima di rimuovere i contenuti. La realtà è che questo è un compromesso.

Ciò significa che cattureremo meno cose negative, ma ridurremo anche il numero di post e account di persone innocenti che eliminiamo accidentalmente. Quarto, stiamo riportando in auge i contenuti civici. Per un po', la comunità ha chiesto di vedere meno politica perché stressava le persone. Quindi abbiamo smesso di consigliare questi post, ma sembra che ora siamo in una nuova era e stiamo iniziando a ricevere feedback che le persone vogliono vedere di nuovo questi contenuti. Quindi inizieremo a riportarli gradualmente su Facebook, Instagram e Threads, lavorando per mantenere le comunità amichevoli e positive.

Quinto, quinto, sposteremo i nostri team di fiducia, sicurezza e moderazione dei contenuti fuori dalla California e la nostra revisione dei contenuti con sede negli Stati Uniti avrà sede in Texas. Mentre lavoriamo per promuovere la libertà di espressione, penso che ci aiuterà a creare fiducia per svolgere questo lavoro in luoghi in cui c'è meno preoccupazione per la parzialità dei nostri team. Infine, lavoreremo con il presidente Trump per respingere i governi di tutto il mondo che se la prendono con le aziende americane e spingono per censurare di più. Gli Stati Uniti hanno le più forti protezioni costituzionali per la libertà di espressione al mondo. L'Europa ha un numero sempre crescente di leggi che istituzionalizzano la censura e rendono difficile costruire qualcosa di innovativo lì.

I paesi latinoamericani hanno tribunali segreti che possono ordinare alle aziende di rimuovere silenziosamente le cose. La Cina ha censurato le nostre app persino impedendone il funzionamento nel paese. L'unico modo in cui possiamo contrastare questa tendenza globale è con il supporto del governo degli Stati Uniti. Ed è per questo che è stato così difficile negli ultimi 4 anni, quando persino il governo degli Stati Uniti ha spinto per la censura. Andando contro di noi e altre aziende americane, ha incoraggiato altri governi ad andare ancora oltre.

Ma ora abbiamo l'opportunità di ripristinare la libera espressione, e sono emozionato di coglierla. Ci vorrà del tempo per farlo bene. E questi sono sistemi complessi. Non saranno mai perfetti. Ci sono anche un sacco di cose illegali che dobbiamo ancora lavorare duramente per rimuovere.

Ma la conclusione è che dopo anni in cui il nostro lavoro di moderazione dei contenuti si è concentrato principalmente sulla rimozione dei contenuti, è tempo di concentrarci sulla riduzione degli errori, sulla semplificazione dei nostri sistemi e sul ritorno alle nostre radici, ovvero dare voce alle persone. Non vedo l'ora di iniziare questo nuovo capitolo. Restate buoni là fuori e presto ne arriveranno altri".