De huidige generatie AI-platformen zijn extreem overgewaardeerde bedrijven die beladen met miljarden schuld naar de beurs willen gaan voor waarderingen boven $1 biljoen ($1.000.000.000.000). I kid you not… Om een dergelijke waardering te halen wordt het bruidje op alle mogelijke manieren opgepoetst waardoor deze platformen staan te glimmen in de zon.

Maar daarbij gaan we gemakshalve voorbij aan een minder fraaie kant want zonder de ‘slavenarbeid’ van data arbeiders (lees: mensen) zouden die glimmende AI-plaformen zich eerder als zwijnenstallen moeten presenteren. Althans, dat blijkt uit het rapport “Unveiling: The Invisible Lives of TikTok Data Workers in London”, geschreven door Fasica Berhane Gebrekidan. Dit rapport biedt een onthullende blik op de psychologische en economische uitbuiting van data-arbeiders bij TikTok in Londen. Onder de term “data-arbeid” vallen content moderators, trust & safety-medewerkers en kwaliteitsanalisten. Zij vormen de onzichtbare frontline die de platformveiligheid moet garanderen op een app die wereldwijd meer dan 2,2 miljard gebruikers kent.

De werkomstandigheden van TikTok-moderators in Londen wordt gekenmerkt door een extreme prestatiedruk. Waar werknemers aanvankelijk een target hadden van 1.000 video’s per dag, is dit later omgezet naar een strikt quotum van 172 video’s per uur. Om dit te halen, moeten moderators video’s verplicht op dubbele snelheid volledig afkijken. Ze hebben gemiddeld minder dan een minuut per video om complexe beleidsrichtlijnen te interpreteren en een beslissing te nemen. Ondanks deze snelheid eist TikTok een nauwkeurigheidsscore van +90%. Als deze score niet wordt gehaald, riskeren werknemers loonsverlaging of opname in een Performance Improvement Plan, wat in de praktijk fungeert als een herhaaldelijk selectiemechanisme om mensen te ontslaan.

De dagelijkse realiteit van een moderator is psychologisch ontwrichtend. Ongeveer 3% van de dagelijkse stroom aan video’s bevat expliciet grafisch materiaal. Werknemers worden zonder waarschuwing geconfronteerd met onthoofdingen, zwaar kindermisbruik, rituele offers, martelingen en live-gestreamde zelfmoorden. Getuigenissen tonen aan dat dit leidt tot diepe psychologische trauma’s, emotionele desensibilisatie, burn-out en ingrijpende persoonlijkheidsveranderingen. Een geïnterviewde meldde hoe het langdurig beoordelen van complottheorieën zijn wereldbeeld volledig ontregelde en paranoïde denkpatronen veroorzaakte. TikTok schiet ernstig tekort in haar zorgplicht: in plaats van professionele psychologische therapie te bieden, worden werknemers verwezen naar oppervlakkige wellness-sessies, yoga of meditatie.

Het rapport legt een duidelijke trend bloot waarin TikTok in-house moderatieteams in Europa sluit (alleen Londen en Dublin resteren nog deels) en het werk verschuift naar Business Process Outsourcing (BPO) externe contractanten, zoals Teleperformance, om kosten te drukken. Daarnaast maakte TikTok voorheen gebruik van een tweerondensysteem: de meest gruwelijke, gore-gevulde video’s  werden eerst bekeken door extreem onderbetaalde moderators in het Mondiale Zuiden, specifiek in Nairobi, Kenia. De gefilterde content ging vervolgens naar de teams in het Verenigd Koninkrijk. TikTok heeft dit tweerondensysteem echter afgeschaft.

Bent u er nog? En nee TikTok is geen uitzondering. Ter ondersteuning vermeld ik hieronder een viertal andere werkjes die deze misstanden verwoorden.

The Empire of AI (Karen Hao)
De kern van Hao’s werk is dat de belofte van “slimme, autonome AI” een marketingmythe is. AI draait op een mondiale, gemarginaliseerde arbeidersklasse:

De parallel met het rapport: Het rapport ontmaskert TikTok’s bewering dat AI de menselijke moderator overbodig maakt als een “fig leaf masking a business decision to offshore critical trust and safety work”. De menselijke moderatoren trainen in feite de automatisering ten koste van hun eigen gezondheid.

Geografische exploitatie: Hao beschrijft hoe risico’s en trauma’s worden geëxporteerd naar het Mondiale Zuiden. Dit sluit exact aan op TikTok’s (voormalige) tweerondensysteem, waarbij de meest brute beelden eerst werden gedumpt bij Teleperformance in Nairobi (Kenia), waarna de ‘schonere’ reststroom naar Londen ging. Zodra dit systeem werd afgeschaft, werden de Londense werknemers directer blootgesteld aan zware trauma-workflows zonder compensatie.

Technofeudalism (Yanis Varoufakis)
Varoufakis stelt dat het traditionele kapitalisme is vervangen door technofeodalisme. Tech-platformen zijn de nieuwe digitale landheren(fiefdoms) en de eigenaren zijn “cloud-beheerders”. Moderators en data-annotatoren zijn in dit model de moderne horigen.

Algoritmische surveillance: In een feodaal systeem is de controle absoluut. Het rapport beschrijft hoe de schema’s van de werknemers strak zijn gekoppeld aan utilization rates: zelfs een toiletbezoek beïnvloedt de prestatiescore rechtstreeks.

Willekeur en kwetsbaarheid: Net zoals horigen afhankelijk waren van de grillen van de landheer, leven TikTok-moderators in constante onzekerheid door verschuivende targets en het PIP-systeem (Performance Improvement Plan), dat functioneert als een geautomatiseerd mechanisme om mensen te lozen. Promoties leveren geen directe loonsverhoging op, en loyaliteit wordt niet beloond. Dit is de pure extractie van arbeid binnen een digitaal tuchthuis.

Data Grab (Ulises Mejias & Nick Couldry)
Mejias en Couldry beweren dat net zoals historisch kolonialisme land en fysieke lichamen confisqueerde, het hedendaagse datakolonialisme de menselijke ervaring en de psyche zelf kaapt en operationaliseert voor winst.

Cognitieve en emotionele extractie: Het rapport laat zien dat de exploitatie verder gaat dan onderbetaling; het koloniseert het brein van de arbeider. Getuigenissen van werknemers die complottheorieën moesten beoordelen, tonen aan dat hun denkpatronen permanent werden veranderd (“rewire your thinking”, “manipulates your politics”).

Het opeisen van het menselijke subject: De medewerkers worden emotioneel volledig leeggezogen en veranderen naar eigen zeggen in “een machine zonder emoties”. De platformen eigenen zich de psychische stabiliteit van externe arbeiders toe om hun eigen digitale ecosysteem ‘veilig’ en daarmee verkoopbaar te houden voor adverteerders.

The Age of Extraction (Tim Wu)
Tim Wu beschrijft in zijn werk de overgang van de vroege aandachtseconomie naar een agressievere fase: de totale, industriële extractie van menselijke cognitie en reactiesnelheid. Mensen worden gereduceerd tot biologische verwerkingseenheden (processors) in de machine-infrastructuur.

De mens als interface: Dit sluit naadloos aan op de absurde prestatiequota in het rapport: 172 video’s per uur, die verplicht op 2x speed moeten worden bekeken. Beslissingen moeten in seconden worden genomen.

Vervangbaarheid: Wu’s concept van extractie draait om het maximaal opgebruiken van een hulpbron tot deze uitgeput is, om deze vervolgens te vervangen. TikTok past dit toe door in-house teams te sluiten en het werk te verplaatsen naar BPO-contractanten in lagelonenlanden (zoals Portugal), waar vakbonden zwakker zijn en de weerbaarheid tegen deze extractieve basissnelheid lager ligt.

En nu ga ik een uurtje onder de douche staan.