De algoritmes van Meta, de eigenaar van Facebook, droegen voor een belangrijk deel bij aan de schendingen die het leger van Myanmar beging tegen de Rohingya in 2017. Dat zegt Amnesty International in een nieuw rapport. De organisatie spreekt in een persbericht van gevaarlijke algoritmes, gevoed door ‘het roekeloze streven naar winst’.
De Rohingya zijn een etnische, voornamelijk islamitische minderheid in de noordelijke staat Rakhine in Myanmar. Het Amnesty-rapport, The Social Atrocity: Meta and the right to remedy for the Rohingya, beschrijft hoe Meta wist of zou moeten hebben geweten dat de algoritmes van Facebook de verspreiding van schadelijke tegen de Rohingya gerichte inhoud in Myanmar versterkten. Het bedrijf ondernam hiertegen echter geen actie.
Storm van haat
“In 2017 werden Rohingya gedood, gemarteld, verkracht en moesten ze vluchten na een campagne van etnische zuivering door de Myanmarese veiligheidsdiensten. In de maanden en jaren voorafgaand aan de schendingen, wakkerden de algoritmes van Facebook een storm van haat aan tegen de Rohingya die bijdroeg aan het geweld”, zegt Agnès Callamard, de secretaris-generaal van Amnesty International. “Terwijl het leger van Myanmar schendingen tegen de mensheid beging, profiteerde Meta van de haat die werd gecreëerd door de haatzaaiende algoritmes. Meta moet hiervoor ter verantwoording worden geroepen. Het bedrijf heeft nu de verantwoordelijkheid om slachtoffers van zijn roekeloze acties schadeloos te stellen.”
Effecten bekend binnen Meta
Interne onderzoeken laten zien dat Meta wist dat zijn algoritmes voor ernstige problemen in de echte wereld konden zorgen. In een intern document uit augustus 2019 schrijft een medewerker van Meta: “We hebben bewijs uit verschillende bronnen dat haatzaaiende en verdeeldheid zaaiende politieke taal, en misinformatie op Facebook samenlevingen over de hele wereld beïnvloeden. We hebben ook bewijs dat onze basismechanismen, zoals, viraliteit, aanbevelingen, en het optimaliseren voor betrokkenheid, een belangrijk deel uitmaken van waarom dit soort taal het zo goed doet op het platform.”
Schadeloosstelling
Amnesty International roept Meta Platforms Inc. op om de Rohingya met schadevergoeding tegemoet te komen. Op dit moment lopen er ten minste drie klachten tegen Meta waarin om schadeloosstelling voor de Rohingya wordt gevraagd. In december 2021 startte een civiele rechtszaak tegen het bedrijf in zowel het Verenigd Koninkrijk als de Verenigde Staten. Jongerengroepen van gevluchte Rohingya hebben ook een OESO-zaak aangespannen tegen Meta.