TikTok en Instagram stellen winst boven de veiligheid van hun gebruikers, zeggen klokkenluiders in een nieuwe documentaire van de BBC. De platforms stuwden polariserende inhoud om gebruikers vast te houden, en perken moderatieteams ondertussen juist in.
is nieuwsverslaggever van de Volkskrant, met tech als specialisme.
Dat de algoritmen van sociale media extreme inhoud voorrang geven om gebruikers aan het scrollen te houden, is al lang bekend. Maar hoe dat precies werkt, is vaak niet duidelijk. Giganten als TikTok en Meta houden de kaarten dicht tegen de borst. Voor inzichten over hoe de platforms precies werken, de ontwerpkeuzes en het mensenwerk achter algoritmen, is het publiek doorgaans afhankelijk van documenten die worden gelekt door werknemers of die tijdens rechtszaken vrijkomen.
Dat maakt de nieuwe BBC-documentaire Inside the Rage Machine (en een bijbehorend artikel) opzienbarend. Daarin vertellen klokkenluiders van TikTok en Meta uitgebreid over de ethische bezwaren die zij hebben bij de beleidskeuzes van hun werkgevers. Die verklaringen zijn gestut met interne onderzoeken en memo’s waaruit blijkt dat de twee techgiganten steevast winst voorrang geven boven de veiligheid en gezondheid van hun miljarden gebruikers: hoe langer gebruikers op het platform blijven plakken, hoe meer advertentiegelden ze genereren.
Toen TikTok tijdens de coronapandemie met korte filmpjes een explosieve groei in populariteit doormaakte, besloot Instagram dat het de boot niet kon missen. Met Reels – soortgelijke korte video’s – ging het de concurrentie met TikTok aan. Als Instagram terrein begon te verliezen in deze wedloop, kregen programmeurs van hogerhand de opdracht aan de knoppen te draaien om extremere video’s voorrang te geven. ‘Ons werd verteld dat dat moest omdat de aandelen [van Meta] omlaag waren gegaan’, zegt een klokkenluider.
Het gaat hierbij om zogeheten borderline content, video’s die onvermijdelijk sterke emoties oproepen. Filmpjes met racistische of misogyne inhoud, bijvoorbeeld, of filmpjes over complottheorieën. Of gebruikers deze inhoud verachtelijk of fantastisch vinden, is van ondergeschikt belang; het doel is dat ze blijven plakken.
Dat was tenminste de houding van Meta. Bij het zien van borderline content worden gebruikers ‘gegrepen, zeker als de inhoud hen woedend maakt’, aldus een intern onderzoek, met de BBC gedeeld door Matt Motyl, een psycholoog en ontwerper die van 2019 tot 2023 bij Meta werkte. Uit het onderzoek: ‘Gezien de onevenredig hoge aandacht voor deze video’s, gaan onze algoritmes ervan uit dat gebruikers die content leuk vinden en er meer van willen.’
Meta verzamelde harde cijfers over de manier waarop gebruikers in opmerkingen reageerden op Reels. Vergeleken met reguliere Instagramvideo’s stonden er bij Reels 75 procent meer opmerkingen die Meta classificeerde als ‘pesten en intimidatie’. Ook verschenen onder Reels-video’s opvallend vaker opmerkingen met haatzaaiende taal of zelfs geweld en opruiing.
Ruofan Ding, die tussen 2020 en 2024 aan het TikTok-algoritme werkte, zegt tegen de BBC dat TikTok door de competitie met Instagram meer borderline content begon te stuwen. Als programmeur was hij niet bezig met het resultaat, zegt hij: ‘Voor ons is alle inhoud gewoon een ID, een nummer.’
Bedenken welke video’s wel of niet onder de aandacht gebracht moesten worden, liet Ding en zijn team van programmeurs over aan collega’s van het content safety-team. Maar op die teams werd juist bezuinigd, vertelt een betrokken TikTok-werknemer. Datzelfde speelde bij Meta. Bij beide bedrijven zouden werknemers van moderatieteams tevens worden vervangen door AI, aldus de klokkenluiders tegen de BBC.
Deze bezuinigingen hielpen geenszins bij het verwerken van de enorme hoeveelheid klachten die gebruikers indienden over video’s die ze te zien kregen. TikTok maakte volgens een gesproken werknemer, die de BBC ‘Nick’ noemt, opmerkelijke keuzes in het behandelen van deze klachten. Bijvoorbeeld: een klacht over een video waarin een politicus belachelijk werd gemaakt, kreeg prioriteit boven een video waarin een 16-jarig meisje klaagde over seksuele intimidatie bij een van haar posts. De les die Nick hieruit leerde, was dat de leiding van TikTok het belangrijker vond om warme banden te onderhouden met politici dan om jongeren te beschermen.
Richard Rogers, hoogleraar nieuwe media en digitale cultuur aan de Universiteit van Amsterdam, kan het beeld bevestigen dat de BBC-klokkenluiders schetsen. Wel is het ook voor hem nieuws dat Meta Reels lanceerde zonder sterke ingebouwde veiligheidsmaatregelen, zoals de klokkenluiders nu beweren. ‘Daardoor stijgt het aantal extreme posts nog meer’, aldus de hoogleraar.
De risico’s die de BBC schetst rond de coronapandemie, spelen nog steeds: vorige week diende Rogers een onderzoek in bij het ministerie van Binnenlandse Zaken over het gebrek aan moderatie op Instagram Reels, TikTok, X en YouTube Shorts. In dat onderzoek kwam Instagram Reels het slechtst uit de verf: ‘Zelfs vergeleken met X versterkt Instagram Reels extreme posts het meest, bijvoorbeeld over de omvolkings-complottheorie.’
Volgens de richtlijnen van TikTok is het verboden om video’s te plaatsen over deze complottheorie (waarin wordt beweerd dat de ‘elite’ een plan heeft om door migratie de ‘Europese cultuur’ te laten islamiseren of verdwijnen). ‘We hebben honderden video’s over omvolking gerapporteerd bij TikTok, maar negen van de tien keer deed dat platform er niets mee’, zegt Rogers.
In een reactie aan de BBC omschrijft TikTok het relaas van de klokkenluiders als een ‘fundamentele misrepresentatie’ van hun moderatiesysteem. Volgens een woordvoerder van TikTok gaat de kritiek die de BBC presenteert voorbij aan ‘de realiteit van hoe TikTok miljoenen mensen in staat stelt nieuwe interesses te ontdekken, een gemeenschap te vinden en een bloeiende economie van contentmakers te ondersteunen’.
Een woordvoerder van Meta ontkent de claims van de klokkenluiders. ‘De waarheid is dat we strikte regels hebben om gebruikers op onze platforms te beschermen. We hebben de afgelopen tien jaar aanzienlijke investeringen gedaan in veiligheid en beveiliging.’
Luister hieronder naar onze podcast de Volkskrant Elke Dag. Kijk voor al onze podcasts op volkskrant.nl/podcasts.
Geselecteerd door de redactie
Source: Volkskrant