Facebook lotta per frenare i contenuti di odio in India; ma la lingua sarebbe il vero problema

Facebook e tutti i social in uso oggi faticano a porre un freno alle fake news e ai messa negativi che vi veicolano. Il social media di Zuckerberg, ultimamente, ha faticato a frenare i contenuti di odio in India, e lo sostiene un ex dipendente di Facebook stesso. I documenti facevano parte dei file consegnati al Congresso e forniti alla Securities and Exchange Commission da Frances Haugen, ex dipendente di Facebook e informatore che ha testimoniato davanti a un panel del Senato all’inizio di questo mese.

Haugen ha testimoniato sui modi in cui il contenuto su Instagram di proprietà di Facebook influisce sulla salute mentale dei bambini e ha affermato che Facebook trae profitti dall’implementazione di misure di sicurezza per ridurre al minimo i contenuti dannosi. I documenti interni dell’azienda risalgono al 2019 e si estendono fino a marzo 2021 e mostrano che Facebook non è stato in grado di tenere il passo con la disinformazione e i contenuti di odio in India.

Il gigante della Silicon Valley è a conoscenza dei problemi da anni e che i documenti sollevano dubbi sul fatto che sia stato fatto abbastanza per mitigare tali contenuti online.

India ma non solo

Uno dei problemi dettagliati dal rapporto era che Facebook non aveva abbastanza moderatori che parlassero hindi o bengalese per fermare la disinformazione o i contenuti d’odio. La società ha etichettato le lingue come priorità per “l’automazione sulla violazione del discorso ostile“. Un dipendente, nel 2019, ha creato un account Facebook completamente nuovo in India per vedere quel che qualcuno avrebbe potuto vedersi consigliare sul proprio feed, senza che questi avesse posto alcun limite. Lo stesso ha riferito che l’account è diventato “una raffica quasi costante di contenuti nazionalisti polarizzanti, disinformazione, violenza e sangue“. Secondo quanto emerge, il contenuto consigliato ricevuto dal dipendente era islamofobo e conteneva notizie false. In altre occasioni, la disinformazione sui musulmani è diventata popolare sulla piattaforma, ma non è stata rimossa per giorni.

Il governo indiano ha precedentemente sollevato preoccupazioni su Facebook e sulle sue politiche di moderazione. A settembre, un tribunale dei legislatori di Nuova Delhi ha convocato l’alto dirigente della società in India per rispondere alle affermazioni secondo cui la piattaforma non avrebbe implementato correttamente le sue regole sull’incitamento all’odio a seguito di una rivolta che ha causato diversi morti.

Facebook ha “investito in modo significativo nella tecnologia per trovare discorsi di odio in varie lingue, tra cui hindi e bengalese“, ha fatto sapere la società, che “ha ridotto della metà la quantità di discorsi di odio che le persone vedono” nel 2021. “L’incitamento all’odio contro i gruppi emarginati, inclusi i musulmani, è in aumento a livello globale. Quindi stiamo migliorando l’applicazione e ci impegniamo ad aggiornare le nostre politiche man mano che l’incitamento all’odio si evolve online“, ha affermato il portavoce di Facebook.