Facebook userà l'Intelligenza Artificiale per segnalare i live video offensivi

Sembra che Facebook utilizzerà l'Intelligenza Artificiale per segnalare e indicare i live video offensivi.

mark zuckerberg

Facebook sta lavorando ad un sistema di segnalazione automatica dei live video offensivi utilizzando l'Intelligenza Artificiale per controllare i contenuti. Nel corso del 2016 Facebook ha avuto diversi problemi per quanto riguarda la moderazione dei contenuti, ricordate quando aveva rimosso una foto storica della Guerra del Vietnam bollandola come contenuto non appropriato? O quanti problemi abbia nel bloccare le notizie false e le bufale sulla piattaforma? Storicamente parlando Facebook ha sempre fatto affidamento sugli utenti per segnalare i messaggi offensivi: questi vengono poi controllati dai dipendenti di Facebook che decidono se i contenuti segnalati corrispondano o meno agli standard della comunità.

Facebook e il problema dei contenuti offensivi nei video in live streaming

Quello che Facebook sta studiando è un algoritmo che riesca a rilevare contenuti che violano la politica del social network contenenti con nudo o violenza. Questo sistema automatizzato viene ora sperimentato su Facebook Live. Non solo l'algoritmo cerca i contenuti non appropriati, ma cerca anche di elaborare le segnalazioni da parte degli utenti.

Il problema è che è facile prendere abbagli: stabilire se un contenuto incita all'odio, al bullismo, al razzismo o al sessismo richiede anche lo studio del contesto. A volte è difficile per Facebook distinguere fra post che incitano alla violenza o al bullismo da post volutamente ironici.

Al momento Yann LeCun, il direttore del settore ricerca sulla AI di Facebook, ha rifiutato di commentare il fatto che Facebook stia utilizzando la AI per rilevare notizie false, ma ha ammesso che si sta provvedendo a migliorare la gestione del News Feed trovando un compromesso fra il filtraggio e la censura, la libertà di espressione e la veridicità.

Via | VentureBeat

© Foto Getty Images - Tutti i diritti riservati

  • shares
  • +1
  • Mail