Workday, een wereldwijd dominante leverancier van Human Capital Management (HCM) software, wordt geconfronteerd met een class-action rechtszaak waarin wordt beweerd dat hun AI-gedreven sollicitatie-screening tools mensen boven de 40 jaar systematisch discrimineren. Inderdaad, dat is een systematische leeftijdsbias.
Dit betekent in potentie dat alle afnemers/gebruikers van Workday’s sollicitatie-technologie onbewust discrimineren:
One program that the HR company offers is called HiredScore AI. This service grades candidates through “unbiased, AI-driven analysis,” according to the firm. The idea behind this program is to allow recruiters a quick way to sort through candidates.
Natuurlijk gebruikt Workday het woord unbiased, in haar promotie-uitingen, want dat is zo’n beetje het mantra van alle AI HRtech leveranciers. Maar dat wil op geen enkele manier zeggen dat de AI-driven analysis unbiased is:
Products, Talent Management, AI-recruiting – Workday
Overigens schijnt HiredScore AI zich niet te beperken tot leeftijdsbias, bias ten aanzien van ras en beperkingen zijn ook genoemd.
Een rechtszaak aanspannen is één ding, een rechtszaak winnen is iets anders. En Workday ziet de rechtszaak met vertrouwen tegemoet:
Workday said in a statement to The Independent: “We continue to believe this case is without merit. This is a preliminary, procedural ruling at an early stage of this case that relies on allegations, not evidence.
“The Court has not made any substantive findings against Workday, and has not ruled this case can go forward as a class action. We’re confident that once Workday is permitted to defend itself with the facts, the plaintiff’s claims will be dismissed.”
Dit kan wel eens een tijdje gaan duren, hoewel het niet meer dan logisch om meerdere bias-vormen te veronderstellen op basis van de data waarmee Workday haar AI heeft getraind. Wat overigens meteen een zeer interessante vervolgvraag laat oppiepen: met welke persoonsdata heeft Workday haar AI getraind? En hebben die personen daarvoor akkoord gegeven? Of heeft Workday in de historische gegevens van haar (ex-)klanten gegrasduind? Zoveel vragen…
Heeft dit je aan het denken gezet? Dan zijn er nog de volgende bronnen die je verder informeren:
- K. Hao, 2025. Empire of AI. Inside the reckless race for total domination.
- A. Narayanan & S. Kapoor, 2024. AI Snake Oil. What Artificial Intelligence Can Do, What It Can’t, and How to Tell the Difference.
- S. Wachter-Boettcher, 2017. Technically Wrong. Sexist Apps, Biased Algorithms and Other Threats of Toxic Tech.
- C. O’Neill, 2016. Weapons of Math Destruction. How Big Data Increases Inequality and Threathens Democracy.
Ik heb het al eerder over bias en AI gehad: