di Evelyn Douek
Le leggi ordinarie non valgono più. Ogni giorno si creano nuove regole per gestire la crisi. Le libertà sono limitate. Per far rispettare l’ordine si usa la mano pesante. Le normali tutele delle libertà civili, come il diritto d’appello, sono sospese. Di fatto, anche se non a parole, è stato dichiarato uno stato d’emergenza. Non è una descrizione degli Stati Uniti, e neppure dell’Ungheria, ma di internet durante la pandemia di coronavirus.
Siamo sottoposti a una costituzione d’emergenza, reclamata da Facebook, Google e da altre grandi piattaforme tecnologiche. In tempi normali queste aziende esitano a giudicare cosa sia vero e cosa sia falso. Ma di recente hanno intrapreso azioni insolitamente audaci per evitare il diffondersi della disinformazione a proposito del covid-19.
In materia di sanità pubblica simili azioni sono assolutamente sensate. Ma se parliamo di libertà d’espressione, il potere illimitato di queste piattaforme nel cambiare le regole del gioco, praticamente dal giorno alla notte, è sconcertante.
Acceso dibattito
Facebook sostiene che, durante questa crisi, stia “limitando la disinformazione e i contenuti dannosi” con un ritmo mai visto prima. Solo a marzo ha messo avvisi di verifica dei fatti su quaranta milioni di post legati alla pandemia, rimuovendo centinaia di migliaia di post che, a suo avviso, potevano causare danni fisici. L’azienda si è spinta fino ad annunciare che avvertirà uno a uno gli utenti che hanno messo un “mi piace”, fatto commenti o reagito in altro modo a proposito di notizie sul covid-19 che si sono dimostrate senza fondamento. Al contempo, in un post del blog di Twitter dedicato al modo in cui l’azienda sta “ampliando la sua definizione di danno”, c’è un ampio e crescente elenco dei tipi di tweet che la piattaforma sta rimuovendo. Google sostiene di aver “rimosso migliaia di filmati” per proteggere le persone dalla disinformazione. Sono tutte azioni importanti, e quindi perché non semplicemente applaudire e andare avanti?
Le leggi ordinarie non valgono più. Ogni giorno si creano nuove regole per gestire la crisi. Le libertà sono limitate. Per far rispettare l’ordine si usa la mano pesante. Le normali tutele delle libertà civili, come il diritto d’appello, sono sospese. Di fatto, anche se non a parole, è stato dichiarato uno stato d’emergenza. Non è una descrizione degli Stati Uniti, e neppure dell’Ungheria, ma di internet durante la pandemia di coronavirus.
Siamo sottoposti a una costituzione d’emergenza, reclamata da Facebook, Google e da altre grandi piattaforme tecnologiche. In tempi normali queste aziende esitano a giudicare cosa sia vero e cosa sia falso. Ma di recente hanno intrapreso azioni insolitamente audaci per evitare il diffondersi della disinformazione a proposito del covid-19.
In materia di sanità pubblica simili azioni sono assolutamente sensate. Ma se parliamo di libertà d’espressione, il potere illimitato di queste piattaforme nel cambiare le regole del gioco, praticamente dal giorno alla notte, è sconcertante.
Acceso dibattito
Facebook sostiene che, durante questa crisi, stia “limitando la disinformazione e i contenuti dannosi” con un ritmo mai visto prima. Solo a marzo ha messo avvisi di verifica dei fatti su quaranta milioni di post legati alla pandemia, rimuovendo centinaia di migliaia di post che, a suo avviso, potevano causare danni fisici. L’azienda si è spinta fino ad annunciare che avvertirà uno a uno gli utenti che hanno messo un “mi piace”, fatto commenti o reagito in altro modo a proposito di notizie sul covid-19 che si sono dimostrate senza fondamento. Al contempo, in un post del blog di Twitter dedicato al modo in cui l’azienda sta “ampliando la sua definizione di danno”, c’è un ampio e crescente elenco dei tipi di tweet che la piattaforma sta rimuovendo. Google sostiene di aver “rimosso migliaia di filmati” per proteggere le persone dalla disinformazione. Sono tutte azioni importanti, e quindi perché non semplicemente applaudire e andare avanti?
Mark Zuckerberg ha giustificato questa nuova solerzia di Facebook sostenendo che “non si può gridare ‘al fuoco’ in un teatro affollato”. Ma cosa voglia dire in questo caso gridare “al fuoco”– e fino a dove dovrebbero spingersi le piattaforme nel loro interventismo – è oggetto di una grande controversia.
L’urgenza mostrata dalle piattaforme non dovrebbe impedire di porci domande sul potere che questi e altri colossi del mondo online hanno acquisito nel corso di uno stato d’emergenza. Le piattaforme, che agiscono senza tener conto dei confini nazionali, sono aziende private che solitamente hanno il diritto di scegliere cosa pubblicare all’interno dei loro servizi.
Ma la straordinaria natura di questo potere – la capacità di decidere cosa sia incitamento all’odio, quali campagne elettorali siano ammissibili, e quanta pelle nuda sia lecito mostrare – ha portato ad appelli affinché le piattaforme si assumano maggiormente le responsabilità del modo in cui lo esercitano.
Costituzioni d’emergenza
Facebook e altre piattaforme hanno ripetutamente negato di avere il ruolo di “arbitri della verità”, e hanno disposto regole all’apparenza neutrali per decidere quali contenuti rimuovere, cercando di stabilire delle procedure per far rispettare tali regole in maniera imparziale, e limitando il diritto d’appello per gli utenti sorpresi a violarle. Queste azioni stavano evolvendo fino a costituire una sorta di costituzione silenziosa, a cui erano sottoposti gli utenti e le piattaforme stesse. Ma adesso questa costituzione viene riscritta.
In giurisprudenza, una costituzione d’emergenza prevede condizioni di governo eccezionali, in vigore durante una crisi, ed estende le prerogative di chi è al potere. Circa il 90 per cento dei paesi possiede disposizioni chiare su come agire in caso di stato d’emergenza. Le forme variano molto, ma in generale alcuni diritti e libertà sono limitate e il sistema di pesi e contrappesi è cancellato, per permettere una risposta più decisa ed efficace a qualsiasi disastro minacci l’ordine costituzionale. La pandemia in corso ha, prevedibilmente, scatenato una richiesta di costituzioni d’emergenza in molti luoghi del mondo, per permettere ai governi di adottare misure eccezionali per rispondere alla crisi sanitaria in corso. La privacy, la libertà di movimento, e quella d’espressione delle persone sono così limitate in un modo che non sarebbe accettato in tempi normali.
Anche le grandi aziende tecnologiche hanno risposto alla pandemia in modi che rendono evidente quanto potere esse siano in grado di esercitare quando lo desiderano.
L’urgenza mostrata dalle piattaforme non dovrebbe impedire di porci domande sul potere che questi e altri colossi del mondo online hanno acquisito nel corso di uno stato d’emergenza. Le piattaforme, che agiscono senza tener conto dei confini nazionali, sono aziende private che solitamente hanno il diritto di scegliere cosa pubblicare all’interno dei loro servizi.
Ma la straordinaria natura di questo potere – la capacità di decidere cosa sia incitamento all’odio, quali campagne elettorali siano ammissibili, e quanta pelle nuda sia lecito mostrare – ha portato ad appelli affinché le piattaforme si assumano maggiormente le responsabilità del modo in cui lo esercitano.
Costituzioni d’emergenza
Facebook e altre piattaforme hanno ripetutamente negato di avere il ruolo di “arbitri della verità”, e hanno disposto regole all’apparenza neutrali per decidere quali contenuti rimuovere, cercando di stabilire delle procedure per far rispettare tali regole in maniera imparziale, e limitando il diritto d’appello per gli utenti sorpresi a violarle. Queste azioni stavano evolvendo fino a costituire una sorta di costituzione silenziosa, a cui erano sottoposti gli utenti e le piattaforme stesse. Ma adesso questa costituzione viene riscritta.
In giurisprudenza, una costituzione d’emergenza prevede condizioni di governo eccezionali, in vigore durante una crisi, ed estende le prerogative di chi è al potere. Circa il 90 per cento dei paesi possiede disposizioni chiare su come agire in caso di stato d’emergenza. Le forme variano molto, ma in generale alcuni diritti e libertà sono limitate e il sistema di pesi e contrappesi è cancellato, per permettere una risposta più decisa ed efficace a qualsiasi disastro minacci l’ordine costituzionale. La pandemia in corso ha, prevedibilmente, scatenato una richiesta di costituzioni d’emergenza in molti luoghi del mondo, per permettere ai governi di adottare misure eccezionali per rispondere alla crisi sanitaria in corso. La privacy, la libertà di movimento, e quella d’espressione delle persone sono così limitate in un modo che non sarebbe accettato in tempi normali.
Anche le grandi aziende tecnologiche hanno risposto alla pandemia in modi che rendono evidente quanto potere esse siano in grado di esercitare quando lo desiderano.
In primo luogo molte piattaforme – non solo Facebook, Twitter e Google – hanno adottato nuove regole che riguardano specificatamente i contenuti legati al coronavirus. Amazon ha silenziosamente rimosso dai suoi cataloghi decine di libri contenenti teorie del complotto o disinformazione sanitaria. Medium sta adottando una politica aggressiva di rimozione di post virali, ai sensi di un nuovo regolamento sui contenuti legati al covid-19, nonostante affermi che la sua missione sia quella di essere una piattaforma consacrata a “whatever you have to say” (qualsiasi cosa tu abbia da dire). Reddit ha aggiunto dei messaggi d’avvertimento in due sub-reddit (le aree di interesse create dagli utenti) che avevano alimentato la disinformazione. Pinterest sta limitando i risultati di ricerca sul coronavirus a quelli provenienti da “organizzazioni sanitarie riconosciute internazionalmente”. Le aziende d’internet, insomma, stanno cercando d’imporre delle barriere di protezione virtuali.
In secondo luogo, durante lo stato d’emergenza l’applicazione di queste regole è rapida e poco mirata. Adesso che la maggior parte dei moderatori in carne ossa è a casa o non può lavorare a distanza per motivi logistici, le principali piattaforme devono affidarsi ai loro strumenti automatici più del solito. Facebook, Twitter e YouTube hanno tutte ammesso che, di conseguenza, avrebbero commesso più errori. Ovvero, che avrebbero rimosso contenuti che avrebbero il diritto di restare visibili. Questi contenuti diventano le vittime collaterali della mobilitazione contro la pandemia, e una concessione alle necessità del momento. Con la disinformazione che rischia di diventare una questione di vita o di morte, e l’impossibilità materiale di avere persone in carne e ossa che valutino ogni post, la scelta tra strumenti generici e un’assenza di moderazione è molto semplice.
In secondo luogo, durante lo stato d’emergenza l’applicazione di queste regole è rapida e poco mirata. Adesso che la maggior parte dei moderatori in carne ossa è a casa o non può lavorare a distanza per motivi logistici, le principali piattaforme devono affidarsi ai loro strumenti automatici più del solito. Facebook, Twitter e YouTube hanno tutte ammesso che, di conseguenza, avrebbero commesso più errori. Ovvero, che avrebbero rimosso contenuti che avrebbero il diritto di restare visibili. Questi contenuti diventano le vittime collaterali della mobilitazione contro la pandemia, e una concessione alle necessità del momento. Con la disinformazione che rischia di diventare una questione di vita o di morte, e l’impossibilità materiale di avere persone in carne e ossa che valutino ogni post, la scelta tra strumenti generici e un’assenza di moderazione è molto semplice.
Perfino il principio solitamente sacro, secondo il quale le piattaforme non interferiscono con gli interventi di esponenti politici, è stato abbandonato. Dopo che Twitter ha rimosso dei tweet del presidente brasiliano Jair Bolsonaro, perché questi aveva violato il regolamento del sito diffondendo informazioni false o fuorvianti sulle cure per il covid-19, Facebook e YouTube si sono rapidamente accodate. Che una piattaforma tecnologica cancelli l’intervento di un leader democraticamente eletto è un’azione davvero significativa. Ma il rischio potenziale è che per gli elettori, in futuro, diventi più difficile mettere i propri rappresentanti di fronte alle loro responsabilità.
Terzo elemento: con queste nuove e potenti regole e con sistemi più spicci di applicazione, le piattaforme hanno sospeso le loro consuete garanzie di giusto processo. Può darsi che essere messi a tacere da un algoritmo su Facebook o YouTube non abbia conseguenze legali, al contrario per esempio di quando questo lo fa la polizia in pubblica piazza. Tuttavia la prima azione costituisce un ostacolo molto più grande, rispetto alla seconda, per la capacità di una persona di farsi ascoltare, specialmente in tempi di distanziamento sociale. Tuttavia, non potendo contare sul consueto numero di moderatori di contenuti in carne e ossa, tutte le principali piattaforme hanno ridotto i loro strumenti d’appello per quanti ritengano che i loro post siano stati ingiustamente cancellati.
Elogio della raccolta di dati
Ci sono altri elementi che stanno stanno rivelando quanto esteso sia il potere delle piattaforme. Già da qualche tempo, prima della pandemia, rappresentanti del congresso e autorità normative di tutto il mondo avevano cominciato ad attaccare le principali aziende di internet per le loro pratiche di raccolta e condivisione dei dati. Eppure nelle ultime settimane Facebook e Google hanno presentato la loro collezione di dati iperdettagliati come una manna per i ricercatori che si occupano di malattie, presentando nuovi prodotti che utilizzano le informazioni degli utenti e contribuiscono a documentare la diffusione della pandemia e a organizzare una risposta. Come ha scritto di recente Casey Newton, un giornalista che si occupa di tecnologia, “le grandi aziende tecnologiche, dopo aver passato gli ultimi tre anni sulla difensiva a proposito delle loro pratiche di raccolta dati, adesso le pubblicizzano”.
Se mai c’è stata un’emergenza che ha giustificato una repressione della disinformazione e altre misure straordinarie, questa è sicuramente la pandemia di coronavirus. La rapida risposta delle aziende tecnologiche durante l’attuale crisi è stata ampiamente elogiata, e a ragione. Ma questo non risolve alcune questioni molto concrete. A differenza delle costituzioni d’emergenza della maggior parte dei paesi, quelle delle principali piattaforme non sono soggette ad alcun contropotere o limitazione. Questi poteri d’emergenza sono solo temporanei? Ci sarà una qualche supervisione che garantisca che questi poteri siano esercitati in maniera proporzionata e imparziale? I dati sono raccolti per valutare l’efficacia di queste misure o il loro costo per la società, e saranno messi a disposizione di ricercatori indipendenti? Ci si chiede già se le cose dovranno prima o poi tornare alla “normalità”, o se invece questa gestione con pugno di ferro sia ciò di cui internet ha bisogno in generale. La copertura favorevole di cui stanno godendo le piattaforme favorirà indubbiamente la tentazione di usare di nuovo la mano pesante in futuro. Anche in circostanze molto meno catastrofiche di una pandemia globale.
Terzo elemento: con queste nuove e potenti regole e con sistemi più spicci di applicazione, le piattaforme hanno sospeso le loro consuete garanzie di giusto processo. Può darsi che essere messi a tacere da un algoritmo su Facebook o YouTube non abbia conseguenze legali, al contrario per esempio di quando questo lo fa la polizia in pubblica piazza. Tuttavia la prima azione costituisce un ostacolo molto più grande, rispetto alla seconda, per la capacità di una persona di farsi ascoltare, specialmente in tempi di distanziamento sociale. Tuttavia, non potendo contare sul consueto numero di moderatori di contenuti in carne e ossa, tutte le principali piattaforme hanno ridotto i loro strumenti d’appello per quanti ritengano che i loro post siano stati ingiustamente cancellati.
Elogio della raccolta di dati
Ci sono altri elementi che stanno stanno rivelando quanto esteso sia il potere delle piattaforme. Già da qualche tempo, prima della pandemia, rappresentanti del congresso e autorità normative di tutto il mondo avevano cominciato ad attaccare le principali aziende di internet per le loro pratiche di raccolta e condivisione dei dati. Eppure nelle ultime settimane Facebook e Google hanno presentato la loro collezione di dati iperdettagliati come una manna per i ricercatori che si occupano di malattie, presentando nuovi prodotti che utilizzano le informazioni degli utenti e contribuiscono a documentare la diffusione della pandemia e a organizzare una risposta. Come ha scritto di recente Casey Newton, un giornalista che si occupa di tecnologia, “le grandi aziende tecnologiche, dopo aver passato gli ultimi tre anni sulla difensiva a proposito delle loro pratiche di raccolta dati, adesso le pubblicizzano”.
Se mai c’è stata un’emergenza che ha giustificato una repressione della disinformazione e altre misure straordinarie, questa è sicuramente la pandemia di coronavirus. La rapida risposta delle aziende tecnologiche durante l’attuale crisi è stata ampiamente elogiata, e a ragione. Ma questo non risolve alcune questioni molto concrete. A differenza delle costituzioni d’emergenza della maggior parte dei paesi, quelle delle principali piattaforme non sono soggette ad alcun contropotere o limitazione. Questi poteri d’emergenza sono solo temporanei? Ci sarà una qualche supervisione che garantisca che questi poteri siano esercitati in maniera proporzionata e imparziale? I dati sono raccolti per valutare l’efficacia di queste misure o il loro costo per la società, e saranno messi a disposizione di ricercatori indipendenti? Ci si chiede già se le cose dovranno prima o poi tornare alla “normalità”, o se invece questa gestione con pugno di ferro sia ciò di cui internet ha bisogno in generale. La copertura favorevole di cui stanno godendo le piattaforme favorirà indubbiamente la tentazione di usare di nuovo la mano pesante in futuro. Anche in circostanze molto meno catastrofiche di una pandemia globale.
Gli utenti non possono in alcun modo obbligare le piattaforme a rispondere ad alcuna di queste preoccupazioni. La realtà è che lo stato d’emergenza mette drammaticamente in evidenza un fatto che è vero per la maggior parte dei regolamenti sulla libertà di parola su internet: il potere di stabilire le regole, quello di farle rispettare e quello di revisione sono concentrati tutti nelle stesse mani. Quanto accade durante la pandemia è solo una versione accentuata di quella che è la norma. La crisi ha mostrato che anche le regole apparentemente più radicate possono essere sovvertite in un baleno. In questo momento, può darsi che sia un bene. Ma cosa accadrà quando il peggio di questa crisi sarà alle spalle?
Questo articolo è stato pubblicato su Internazionale il 02 giugno 2020
Traduzione di Federico Ferrone
Questo articolo è stato pubblicato su Internazionale il 02 giugno 2020
Traduzione di Federico Ferrone