Vrijblijvend leesadvies: Disposition Data: The Asset That Became a Liability. Dit artikel van Martyn Redstone is wederom een pareltje en gaat ook nog eens over een zeer actueel onderwep: disposition data.
In dit artikel analyseert Redstone waarom het hergebruik van disposition data voor het trainen van AI-systemen niet langer een waardevol bezit is, maar een groot juridisch risico is geworden. De belangrijkste punten uit het artikel zijn:
Het probleem van datakwaliteit: De EU AI Act eist dat trainingsdata voor hoog-risico AI-systemen (zoals recruitment) vrij zijn van fouten. Historische data zitten echter vol met ‘label noise’. Zo worden kandidaten die zijn ‘geghost’ vaak automatisch op ‘afgewezen’ gezet. AI leert hierdoor onterecht dat de kwaliteiten van deze geschikte kandidaten negatieve signalen zijn.
Doelbinding en AVG: Kandidaten geven hun data voor een specifieke sollicitatie, niet om commerciële modellen van HR Tech bedrijven te trainen. Het gebruik van ‘gerechtvaardigd belang’ als juridische grondslag hiervoor is discutabel.
Het einde van de ‘menselijke tussenkomst’: Leveranciers claimen vaak dat er een mens de uiteindelijke beslissing neemt, maar in de praktijk volgen recruiters AI-adviezen in 90% van de gevallen blindelings op (automation bias). Volgens nieuwe Britse wetgeving telt dit als een ‘volledig geautomatiseerde beslissing’, wat kandidaten het recht geeft deze aan te vechten.
De aansprakelijkheidsval: Grote platformen (zoals Indeed) passen hun voorwaarden aan om de data als ‘werkgeversmateriaal’ te bestempelen. Hierdoor ligt de juridische verantwoordelijkheid bij de werkgever, terwijl de leverancier wel de commerciële rechten behoudt om de data te gebruiken voor eigen AI-verbetering.
Proxy Bias: Zelfs als kenmerken zoals geslacht of afkomst worden verwijderd, vinden algoritmes patronen in ‘neutrale’ data (zoals postcodes of taalgebruik) die alsnog leiden tot indirecte discriminatie.
Het ondoordacht verzamelen van historische data is veranderd in het bewaren van ’toxisch afval’. Bedrijven moeten oppassen dat zij niet de juridische risico’s dragen voor technologie waar de leverancier de vruchten van plukt. Met bovenstaande opsomming in gedachten is het voor werkgevers (en ATS’en) aan te bevelen om zeer terughoudend te zijn in het delen van disposition data. Ik ga een poging wagen om een aanpak voor een grondige schoonmaak voor te stellen.