Facebook: documenti segreti rivelano come combatte la violenza

Alcuni documenti rivelano rivelano come Facebook combatte la violenza.

Facebook

Facebook ha delle precise linee guida per quanto riguarda la sorveglianza dei post violenti, pieni di linguaggio che incita all'odio e relativi a contenuti pornografici e pedofili. Per la prima volta, grazie a un'indagine del Guardian, sono state rivelate le linee guida segrete che regolano tali sistemi di sorveglianza. Purtroppo questa indagine rivela anche come il metodo di discriminazione sia abbastanza imperfetto (cosa di cui ci si rende già conto se si segnalano contenuti o profili che palesemente violano le regole di Facebook, ma che Facebook ritiene accettabili).

Un esempio? Un utente che scrive "Andiamo a picchiare dei bambini grassi" viene ritenuto adatto agli standard della piattaforma, mentre se un utente dice "Spariamo a Trump" allora viene preso sul serio. Facebook deve riuscire nel compito di frenare gli impulsi più violenti dei suoi 2 miliardi di utenti, ma deve anche garantire il rispetto della libertà di espressione per non cadere nella censura. Solo che non sembra riuscirci molto bene.

Una fonte rimasta senza nome ha così spiegato al Guardian: "Facebook non può mantenere il controllo sui suoi contenuti. E' diventato troppo grande e troppo in fretta".

Facebook: come fa a discriminare i contenuti che violano le sue regole?

Ecco alcune delle procedure usate da Facebook per combattere la violenza dei post con le relative azioni a seconda della diversa tipologia di post. Capite perché a volte segnalate contenuti palesemente pieni di odio e violenza, ma Facebook vi dice che rispettano le line guida del social network? Perché i suoi algoritmi e le sue procedure ragionano così:

Credible Violence (Calls for Action):

  • Inaccettabile: "Qualcuno vuole sparare a Trump"
  • Permesso: "Tirare calci a una persona con i capelli rossi"
  • Permesso: "Per tirare il collo a una pu***na, assicuratevi di applicare tutta la pressione al centro della gola"
  • Permesso: "Picchiamo dei bambini grassi"
  • Inaccettabile: "#stab e arriva la paura dei Zionisti"

Un capo di stato è considerato un bersaglio credibile, le istruzioni su come tirare il collo ad una donna vengono considerate da Facebook solo ipoteticamente misogine.

Credible Violence (Aspirational/Conditional Statements):

  • Permesso: "Questa bambina ha bisogno di stare calma prima che il papà gli spacchi la faccia"
  • Permess: "Assicurati di pregare il tuo Dio che mi mantenga sano di mente perché se perdo la testa io uccierò tutto di te"
  • Permesso: "A meno che tu non smetta di fare la ca*na, dovrò tagliarti la lingua"

Queste frasi vengono permesse perché considerate ipotetiche e non credibili.

Revenge Porn, Current Policy:

  • Livelli alti: condivisione di foto di nudo o quasi nudo pubblicamente o con persone che non vogliono vederle
  • Abuso degli standard: condivisione di immagini di "pornografia di vendetta" se soddisfa tre condizioni, immagine prodotta in ambiente privato + la persona nella foto è nuda o sessualmente attiva o vicina a persone nude + mancanza di consenso informato

Graphic Violence (Animal Abuse):

  • Generalmente le immagini di abusi sugli animali possono essere condivise su Facenook
  • Alcune immagini considerate "disturbanti" possono essere segnalate come tali
  • Il sadismo si applica a tutte le immagini di abusi sugli animali

Facebook può permettere foto e video di abusi su animali a scopo "conoscitivo", ma deve contrassegnare il contenuto come "estremamente disturbante".

Via | Mashable

Foto | 141735806@N08

  • shares
  • Mail