Gli algoritmi di Facebook, la piattaforma di cui è proprietaria l’azienda Meta, avrebbero contribuito ai crimini perpetrati nel 2017 dalle forze armate di Myanmar contro la già perseguitata minoranza dei rohingya, prevalentemente musulmana, residente nello Stato settentrionale di Rakhine. E’ la denuncia di Amnesty internazional contenuta nel rapporto “Atrocità social: Meta e il diritto dei rohingya a una riparazione”, basato in parte sui “Facebook paper”, una serie di documenti interni resi pubblici dalla whistleblower francese Frances Haugen. Quell’anno, la campagna di pulizia etnica causò migliaia di uccisioni, torture e stupri e diede luogo a uno sfollamento di massa di circa 700.000 persone.
Negli anni precedenti, utenti legati all’esercito e ai gruppi ultranazionalisti buddisti di Myanmar avevano riempito Facebook di contenuti anti-musulmani e di fake news, come quelle che i rohingya fossero “invasori” e che stessero preparando un colpo di stato di matrice islamista. In un post condiviso oltre 1000 volte, un difensore dei diritti umani dei rohingya era stato descritto come “traditore della nazione” e minacciato di morte. In uno dei commenti, si leggeva: “Questo è un musulmano. I musulmani sono cani che devono essere uccisi”. In un altro: “Non lasciamolo vivo. Eliminiamo tutta la sua razza. Il tempo sta scadendo”. Nel 2014 Meta aveva provato a sostenere un’iniziativa di segno positivo, chiamata “Panzagar” o “discorso dei fiori”, creando un pacchetto di sticker a disposizione degli utenti per rispondere a contenuti d’odio. Gli sticker, a forma di fiore, contenevano frasi come “Pensaci prima di condividere” o “Non essere la causa della violenza”.
“Ma gli effetti erano stati contrari alle intenzioni: gli algoritmi avevano interpretato l’uso degli sticker come segno di approvazione sotto ai post contenenti discorso d’odio. Risultato: invece di far diminuire il numero delle persone che visualizzavano i post che istigavano all’odio, questi diventavano ancora più visibili”, ricorda Amnesty. Secondo la Commissione delle Nazioni Unite di accertamento dei fatti, “il ruolo dei social media è stato importante” nelle atrocità commesse in Myanmar contro i rohingya.