Il lato oscuro dei social media

Micron
Dietro le gigantesche bacheche virtuali che ogni giorno accompagnano le nostre vite ci sono migliaia di persone che decidono cosa può rimanerci e cosa, invece, deve essere rimosso. Sono i moderatori di contenuti on line. Il loro mestiere e i risvolti che esso produce sono raccontati nel documentario ‘The cleaners’.
Sara Mohammad, 29 Aprile 2019
Titolo

Quello che i social non dicono – The Cleaners

Regista

Hans Block, Moritz Riesewieck

Anno pubblicazione

2019

Info

Durata 1 ora 28 min

Micron
Comunicazione della scienza e neuroscienze

Se frequentiamo i social network, ci sarà capitato più o meno spesso di pubblicare online immagini, video e altri contenuti da noi stessi prodotti. In linea di massima si tratta di contenuti in cui raccontiamo ai nostri follower quello che ci succede nella vita reale. Anche se siamo utenti poco attivi, per il solo fatto di avere un profilo social possiamo visualizzare quello che i nostri amici vogliono condividere, talvolta facendoci sorridere, altre volte suscitando la nostra indignazione, in qualche caso lasciandoci indifferenti. L’inarrestabile flusso di post che scorre sui nostri schermi, tuttavia, non è solo il frutto di un algoritmo, come normalmente sentiamo dire.
Dietro queste gigantesche bacheche virtuali ci sono migliaia di persone che decidono cosa può rimanerci attaccato e cosa, invece, deve essere rimosso.
The Cleaners – Quello che i social non dicono è un documentario che racconta il mestiere della moderazione di contenuti online, le sue ripercussioni sulla salute di chi lo fa e sulla qualità dell’informazione che circola in rete e il modo in cui quest’ultima influenza le vite di tutti noi. Il film nasce da un’inchiesta giornalistica, perché non è facile intervistare chi ha un impiego in questo settore dal momento che, per contratto, è obbligato a tenere segrete le condizioni in cui lavora. Ma grazie alle testimonianze di alcuni attuali ed ex impiegati, scopriamo (se già non lo sapevamo) che lavorare nell’industria della moderazione online significa trascorrere l’intera giornata davanti al computer visualizzando contenuti “potenzialmente violenti, inquietanti o disgustosi”, senza un adeguato servizio di assistenzapsicologica e in cambio di un compenso generalmente modesto.
Ciò nonostante, come ha scritto una delle voci più autorevoli a livello internazionale in materia di commercial content moderation, Sarah Roberts, il lavoro di queste persone riveste “un ruolo significativo nel plasmare l’identità di una piattaforma online e nel decidere cosa è lecito e cosa oltrepassa il limite, sconfinando nel territorio di ciò che va rimosso”.
Insieme ad alcune personalità di spicco (tra cui Nicole Wong, ex responsabile della privacy per Google e Twitter, e Antonio García Martínez, ex product manager di Facebook), Roberts solleva in The Cleaners la questione degli effetti della moderazione online sulla libertà d’informazione: comportandosi alla stregua di un cecchino, il moderatore di contenuti decide in pratica quello che gli utenti dei social network possono vedere quando aprono una pagina Facebook o quando cercano un video su YouTube.
Ma quali sono i principi che dovrebbero guidare le loro scelte? Se per alcuni tipi di contenuti (come gli abusi sessuali sui minori) la decisione da prendere è più che scontata, in altri casi la scelta di lasciare o rimuovere un contenuto può rivelarsi particolarmente insidiosa. Valutare correttamente un discorso che, a prima vista, sembra fomentare l’odio verso una minoranza può essere più difficile se si ha a che fare con un contenuto estrapolato dal contesto (per esempio se il discorso in questione è stato ritagliato da un video più lungo). Altri ostacoli entrano in gioco quando le culture e i modi di pensare dell’autore e del moderatore sono molto distanti: in questo caso è auspicabile che il moderatore si cali nella mentalità di chi ha realizzato il contenuto prima di decidere se quello che sta esaminando contiene, per esempio, toni razzisti, omofobi oppure misogini.
Ma cosa vuol dire “cancellare”? E, soprattutto, siamo davvero sicuriche quello che urta così tanto la nostra sensibilità non sia in realtà una testimonianza unica di quello che succede a migliaia di chilometri dalla nostra scrivania? «Sulla base di numerosi esempi, il nostro documentario mostra come la cancellazione di post sui social e il blocco di accounts possa avere gravi conseguenze, in quanto la maggior parte delle volte sono voci critiche ad essere silenziate dalle decisioni non trasparenti di cancellare certi contenuti», hanno commentato i registi di The Cleaners, Hans Block e Moritz Riesewieck.
Fra gli esempi di cui parlano c’è la vicenda dell’artista e attivista siriano Khaled Barakeh, che nel 2014 realizzò un’installazione visiva servendosi di immagini molto particolari. Le fotografie di The Untitled Images ritraggono vittime della guerra in Siria, o meglio la loro silhouette, perché Barakeh, per questioni di “necessità pratica”, decise di ritoccarle in seguito alla decisione di Facebook di rimuovere le immagini dalla sua piattaforma. «Le sagome vengono staccate come se togliessimo la pelle morta dai nostri corpi, sbarazzandoci di quello che è indesiderato, sgradevole e scomodo da vedere», scrive l’artista. «Modificate in questo modo particolare, sono diventate accettabili per i media, perché mostrano solo la quantità desiderata di dolore – o la sua mancanza».
Prima di Block e Riesewieck, diverse testate di informazione avevano affrontato la questione dei costi legati alla moderazione di Facebook e degli altri social network. Una di queste era The Verge, che in un lungo pezzo uscito nel 2016 aveva raccontato la storia del Safety, Quality and User Advocacy Department (SQUAD), i primi moderatori di contenuti pubblicati su YouTube.
L’unità SQUAD era costantemente sotto pressione (già nel 2006, a un anno dalla fondazione del celebre canale digitale, erano più di cento milioni i video visualizzati ogni giorno) e per decidere se un contenuto andava rimosso o no, i suoi componenti si lasciavano guidare da una domanda molto semplice: “Potrei condividere questo video con la mia famiglia?”. Ma anche dopo aver messo nero su bianco le regole con cui gestire la moderazione dei contenuti, spuntarono altre questioni.
Cosa rende un video violento un contenuto potenzialmente rilevante per i mezzi di informazione? Quali saranno le conseguenze della moderazione di contenuti online sull’informazione disponibile in futuro e fino a che punto il background e i valori dei moderatori influenzano le opinioni di chi usa i social network? Per non parlare dei costi psicologici di essere esposti continuamente a video violenti, immagini pornografiche e discorsi che fomentano l’odio tra le persone, un problema che esiste e di cui abbiamo iniziato a parlare solo da qualche anno. Di fronte a tante domande c’è però un fatto di cui andare certi: se i content moderators esistono e se il loro lavoro è diventato indispensabile nella catena di produzione dei contenuti online, significa che il nostro rapporto con i social network non è più un rapporto diretto.

Commenti dei lettori


Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

    Correlati

    Micron
    Damien Chazelle
    Micron
    Francesco Invernizzi
    X