Met deze blog posting trappen we een serie inhoudelijke artikelen af over bias binnen het recruitment domein, als vervolg op de introductie van deze serie enkele weken geleden. Als eerste geven we een inzicht in de twee belangrijkste spelers die voor bias zorgen, het AI-model en de mens. Aansluitend bespreken we wat bias nou eigenlijk is en welke vormen van bias er kunnen worden onderscheiden. Als laatste gaan we in op de gevolgen zijn van bias.

Wie/wat is de mens (en wat is een AI-model)?

Voordat we een inzicht kunnen geven in het fenomeen bias binnen recruitment is het een goed idee om eerst de twee primaire actoren in het landschap van vooroordelen wat nader te beschrijven; de mens en het AI-model.

Wie/wat is de mens?

De belangrijkste actor binnen de recruitment context is nog altijd de mens, althans, daar gaan we binnen deze artikelenreeks vanuit. En dus is het niet meer dan redelijk om de mens van een definitie te voorzien:

Een mens als actor in het recruitmentproces is een bewust handelend individu dat, vanuit een specifieke rol en met eigen ervaring, kennis en vooroordelen, beslissingen neemt en interacties aangaat in het selectieproces, waarbij zowel rationele als emotionele factoren een rol spelen.

Wat is een AI-model?
Een heldere (mogelijk door AI geholpen…) definitie van een AI-model is de volgende:

Een AI-model is een machine-gebaseerd systeem dat in staat is om inferentie uit te voeren, oftewel het afleiden van conclusies of beslissingen uit data. Dit inferentievermogen kan op twee manieren worden gerealiseerd:

1. Logica- en kennisgebaseerd: Het systeem gebruikt expliciet gecodeerde kennis of logische regels om beslissingen te nemen.

2. Zelflerend (machinaal leren): Het systeem leert van data en gebruikt het resulterende model om beslissingen te nemen. Hiermee is het goed om te weten dat modellen veelal eenmalig worden getraind om vervolgens zelden of niet meer geupdate te worden.

AI-modellen kunnen autonoom werken, met of zonder menselijke tussenkomst, en kunnen zich aanpassen aan nieuwe gegevens of omgevingen. Ze kunnen zowel op zichzelf staan als onderdeel zijn van grotere systemen of producten.

Wat is bias?
In samenspraak met de four horsemen en de zes menselijke deskundigen (zie het eind van deze blog posting) zijn we uitgekomen op de volgende ‘defintie’:

Bias in recruitment is een, veelal systematische, afwijking van objectieve oordeelsvorming in het selectie- en wervingsproces van kandidaten, veroorzaakt door cognitieve of sociale (organisatorische) vooroordelen, aannames of verwachtingen (bias-vormen), die zich manifesteren in waarneembare vertekeningen in beoordeling en besluitvorming (effecten), die kunnen leiden tot onrechtvaardige of suboptimale selectiebeslissingen (waaronder discriminatie).

En die beslissingen kunnen verstrekkende gevolgen hebben. Veel mensen zullen ongetwijfeld de Amazon case kennen; een recruiting tool die een gender bias vertoonde waardoor minder vrouwen dan mannen werden geselecteerd. En in Nederland hebben we natuurlijk de Toeslagen affaire waarbij Nederlanders met een dubbele nationaliteit een veel grotere kans hadden gecontroleerd te worden en tot fraudeur te worden bestempeld. De schade van deze laatste case loopt in de miljarden, nog even los van een stevig wantrouwen van minderheden jegens de overheid. Bias kan heel kostbaar zijn.

Bias is overal

In de literatuur wordt een zeer groot aantal bias-vormen vermeld, zoveel dat je door de bomen het bos niet meer ziet. Het grote aantal maakt het wenselijk om tot een clustering van gelijksoortige bias-vormen te komen, zoals de clustering hieronder.
Hierbij hebben we ons laten leiden door de literatuur, gezond verstand, enige bias, de four horsemen, en veel, heel veel koffie. En daarmee zijn we voor het recruitmentdomein gekomen tot een clustering van bias-vormen in twee groepen: AI-gebaseerd en mens-gebaseerd. Bij de mens-gebaseerde groep zijn twee subgroepen te onderscheiden: cognitief en sociaal. Voor elk van deze drie groepen hebben we een vijftal bias-vormen geselecteerd die: 1. (zeer) regelmatig voorkomen en 2. een (zeer) grote impact kunnen hebben op de uitkomst (een biased recruitment beslissing). Dit levert onderstaande lijst van 15 bias-vormen op: 

Veel voorkomene bias-vormen met een grote impact

* bevat de volgende bias-vormen: data(set)-bias, historical bias, sampling bias, selection bias, label bias, representatiebias

** bevat de volgende bias vormen: ras & ethniciteit bias, religie bias, geslachtsbias

Heeft AI bias? Het korte antwoord is vanzelfsprekend: Ja.
Het wat langere antwoord is dat AI-systemen zeker (zeer) gevoelig zijn voor bias; hetzij door de manieren waarop data wordt verzameld (onder de bias-vorm data bias zijn de volgende bias-vormen Dataset-bias, Historical bias, Sampling bias, Selection bias, Label Bias, Representatiebias), danwel door de wijze waarop van de data gebruik wordt gemaakt. Bijvoorbeeld: het niet opnemen van velden zoals leeftijd, ras, ethniciteit of gender betekent niet dat een AI-model vrij van deze bias-vormen is. Het betekent alleen dat je deze bias-vormen niet direct kunt herkennen.

Na de behandeling van het recruitmentproces in d eerstvolgende blog posting(s) in deze serie nemen we vervolgens een deep dive in elk van deze drie groepen aan bias-vormen, inclusief “aansprekende” voorbeelden en/of onjuiste aannames.

Bias is zowel zoet als zuur
Het is natuurlijk niet zo dat bias binnen recruitment alleen maar nadelen kent. Er zijn ook voordelen te onderscheiden hoewel deze vooral, zo niet uitsluitend, tot de korte termijn beperkt zijn.

Het zoet
Het zal misschien verbazing wekken, maar er zijn heel wat voordelen te onderscheiden bij het optreden van bias:

1. Efficiëntie in besluitvorming. Bias kan leiden tot snellere beoordelingen en snellere selectiebeslissingen. Dit kan voordelig zijn in situaties waar snel handelen vereist is.
2. Aansluiting op organisatiecultuur. Bias ten gunste van kandidaten die passen bij de bestaande organisatiecultuur. Dit kan de integratie van nieuwe medewerkers vergemakkelijken.
3. Behoud van bedrijfsspecifieke expertise. Bias om ervaren kandidaten met bedrijfskennis te prefereren. Dit kan waardevolle domain-specifieke expertise behouden.
4. Duidelijkheid in verwachtingen. Bias om kandidaten te selecteren die goed aansluiten bij expliciete of impliciete functievereisten. Dit kan leiden tot betere prestaties en minder mismatches.
5. Vertrouwen in oordeel. Bias kan bijdragen aan een gevoel van zekerheid in eigen beoordelingsvermogen. Dit kan het vertrouwen in het recruitmentproces vergroten.
6. Snelle aanpassing aan verandering. Bias kan snel inspelen op nieuwe of urgente behoeften. Dit kan adaptief voordeel opleveren in snel veranderende omgevingen.
7. Billijkheid. Bias waarbij iedereen op een voor hen passende manier behandeld wordt. Direct gerelateerd aan functie-eisen, Objectief aantoonbaar relevant, niet gebaseerd op niet-functionele kenmerken

Het zuur
Maar zoals zo vaak is er ook een negatieve kant. En in het geval van bias zijn dat er best veel:

1. Gemiste talenten. Potentieel waardevolle kandidaten worden over het hoofd gezien of uitgesloten en/of organisaties missen kansen om toptalent aan te trekken
2. Gebrek aan diversiteit. Bias leidt tot homogene teams en personeelsbestanden, organisaties missen de voordelen van een diverse workforce
3. Ongelijke kansen. Bepaalde groepen worden systematisch benadeeld in het recruitmentproces. Dit is in strijd met principes van gelijke behandeling en rechtvaardigheid.
4. Slechtere besluitvorming. Bias resulteert in minder objectieve, onderbouwde rekruteringskeuzes. Dit kan leiden tot verkeerde aanstellingen en slechtere bedrijfsprestaties
5. Imagoschade. Bias-gerelateerde incidenten kunnen leiden tot reputatieschade en imagoverlies. Dit kan de aantrekkingskracht van een organisatie als werkgever verminderen
6. Juridische risico’s. Bias kan leiden tot claims van discriminatie en rechtszaken. Dit brengt aanzienlijke kosten en juridische gevolgen met zich mee
7. Gebrek aan vertrouwen. Kandidaten en medewerkers verliezen vertrouwen in de integriteit van het recruitmentproces. Dit kan demotiverend werken en de organisatiecultuur ondermijnen
8. Verlies aan talenten. Uitstroom van gekwalificeerde medewerkers die zich niet gewaardeerd voelen. Dit leidt tot hogere kosten voor vervanging en kennis-drain
9. Verminderde innovatie. Homogene teams missen diverse perspectieven en creatieve oplossingen. Dit kan de wendbaarheid en innovatiekracht van de organisatie belemmeren

Er zijn dus heel wat redenen om het optreden van bias in het recruitmentproces te voorkomen. Het is dan ook geen verrassing dat diversiteit & inclusiviteit initiatieven een toenemende populariteit kennen.

Het vervolg
In volgende blog posting(s) gaan we dieper in op het werving- en selectieproces (w&s) en in welke stappen van dit proces welke bias-vormen kunnen optreden. Hierbij maken we een onderscheid tussen een puur handmatig w&s-proces, en een w&s-proces waarbij AI gebruikt wordt voor één of meer van de volgende activiteiten: het genereren van vacatureteksten, het beoordelen van cv’s, het uitvoeren van interview(s), het opstellen van van een shortlist en het selecteren van de kandidaat die een aanbod gaat krijgen, al dan niet met menselijke interventie.

Het team
De four horsemen zijn Claude, ChatGPT, Perplexity en Gemini. Overigens heb ik wegens teleurstellende resultaten Gemini voortijdig met pensioen gestuurd. De zes ervaringsdeskundigen zijn (op alfabetische volgorde van de achternaam):

Patrick Boonstra

Alexander Hogenboom

Marco van Hurne

Martijn Isager-Smit

N.N.

Michel Rijnders