Le regole trapelate di Facebook, la legge britannica e l'avvocato di Valve: dieci anni di moderazione a singhiozzo

Oltre 100 manuali di formazione interni, fogli di calcolo e diagrammi di flusso sono stati consegnati al Guardian e pubblicati nella notte del 21 maggio. Ars Technica ne ha dato notizia il giorno successivo. I documenti mostrano come l'azienda gestisse il discorso d'odio, la violenza, l'autolesionismo e la propaganda terroristica su una base di utenti che all'epoca si avvicinava ai due miliardi di persone a livello mondiale.

Secondo le regole trapelate, un post che recitava "Per spezzare il collo a una troia, assicurati di applicare tutta la pressione al centro della gola" poteva restare online. Stesso valeva per commenti come "colpisci una persona dai capelli rossi" o "facciamo a pezzi i bambini grassi". Al contrario, un post con il messaggio "Qualcuno spari a Trump" era vietato: i moderatori dovevano rimuoverlo. Ars Technica ha notato che minacciare un presidente è un reato negli Stati Uniti.

Le linee guida spiegavano la logica:

Puntiamo a consentire il massimo possibile di discorso, ma tracciamo un limite per i contenuti che potrebbero causare credibilmente danni nel mondo reale. Le persone esprimono comunemente disprezzo o disaccordo minacciando o invocando la violenza in modo generalmente scherzoso e non serio.

Monika Bickert, allora responsabile globale delle politiche di Facebook, ha detto al Guardian che sorvegliare una "comunità globale diversificata" era impossibile. Il confine tra satira e contenuto inappropriato era "a volte molto grigio", ha affermato. All'epoca l'azienda dichiarò di assumere 3.000 moderatori di contenuti in più per contrastare il discorso d'odio e lo sfruttamento dei minori. Non ha precisato se i posti di lavoro sarebbero stati interni o esternalizzati.

Poco meno di sei anni e mezzo dopo, il Regno Unito ha approvato la propria risposta. Il Online Safety Bill ha ricevuto l'assenso reale il 26 ottobre ed è diventato l'Online Safety Act, come riportato da The Verge. La legge obbliga le aziende tecnologiche ad affrontare l'accesso dei minori alla pornografia online, il trolling anonimo, le pubblicità ingannevoli, i deepfake intimi non consensuali e la diffusione di materiale di abuso sessuale infantile e contenuti terroristici.

L'applicazione è graduale. Ofcom, il regolatore delle telecomunicazioni del Regno Unito, ha pianificato di pubblicare codici di pratica in tre fasi, partendo dai contenuti illegali come il terrorismo e il materiale di abuso sessuale infantile, con una consultazione prevista per il 9 novembre. Le sanzioni raggiungono fino a £18.000.000, circa $22.000.000, o il 10 percento del fatturato globale annuale, a seconda di quale sia più alto, con i dirigenti potenzialmente a rischio di reclusione. Le app di messaggistica, tra cui WhatsApp e Signal, hanno protestato contro una clausola che permette a Ofcom di chiedere alle aziende di identificare i contenuti di abuso sessuale infantile "sia comunicati pubblicamente che privatamente", sostenendo che ciò minerebbe fatalmente la crittografia end-to-end. Alcuni provider hanno suggerito che preferirebbero lasciare il Regno Unito piuttosto che conformarsi.

La disputa interna di Valve

Le piattaforme di gaming hanno gestito la stessa questione in termini diversi. PC Gamer ha riportato il 2 giugno 2026, su un account Bloomberg attribuito a un ex dipendente anonimo di Valve, una disputa tra il co-fondatore Gabe Newell e il general counsel Karl Quackenbush. Quackenbush sosteneva un approccio più attivo alla moderazione dei contenuti su Steam, mentre l'azienda considerava l'accettazione di contenuti pornografici espliciti.

La risposta riportata di Newell è stata brusca: "Per cazzo ti pago se questa è la tua opinione?" PC Gamer nota che non sono disponibili ulteriori dettagli dello scambio, ma che l'esito è visibile: Steam ha aperto a contenuti NSFW e il suo approccio alla moderazione rimane laissez-faire, a parte l'occasionale scontro con i processori di pagamento. Valve ha rimosso i contenuti per adulti dalla piattaforma l'anno precedente a seguito della pressione di questi processori.

Questi tre episodi puntano alla stessa domanda irrisolta. Facebook ha passato anni a sostenere di essere una piattaforma piuttosto che un editore, una posizione che lo ha protetto da esposizioni per diffamazione e si è appoggiata alla Direttiva UE sul commercio elettronico, il cui Articolo 15 afferma che i servizi di hosting non sono obbligati a monitorare ciò che conservano. Il Regno Unito ha risposto con obblighi statutari e multe. Valve ha risposto con una spalla. Nessuno di loro ha stabilito dove si trovi il confine e chi sia responsabile quando l'area grigia si rivela essere un danno reale nel mondo di qualcun altro.