Een gevalletje racial bias mbv AI

Avatar Martyn RedstoneEven een shout out naar Martyn Redstone naar aanleiding van zijn recente artikel over (race) bias in recruiting:

The lawsuit claims that Sirius XM’s AI-driven tools, including candidate matching and shortlisting features, evaluated applicants based on data points that act as a proxy for race. The plaintiff alleges that these data points, such as educational institutions, employment history, and even zip codes, led to a “disproportionate” rejection rate for qualified African-American candidates. Mr. Harper, a highly qualified IT professional , claims he was rejected for 149 out of 150 positions he applied for , despite meeting or exceeding the qualifications for the roles.

Bijzonder interessant natuurlijk, en het is allang bekend dat demografische kenmerken zoals locatie kunnen worden gebruikt voor discriminatoire acties. Hetzelfde geldt natuurlijk ook voor opleidingsinstituten en werkgevers; in combinatie kan je hiermee bijzonder effectief filteren.

Hoewel deze rechtszaak dient in de VS is deze problematiek onverkort toepasbaar op de Europese situatie. Goed om hier aandacht aan te besteden dus

Een G!ANT op lemen voeten?

Enkele dagen geleden struikelde ik over een advertorial van Intelligence Group. Normaal gesproken verwijst dat naar een pagina van advertentiefolder Werf& zonder enige waarde, maar dit keer was anders. Het ging namelijk over G!ANT, de tool van Intelligence Group waarmee de door het bedrijf zelf verzamelde doelgroep data van kandidaten wordt ontsloten binnen een self-service applicatie voor het recruitment domein. En dat is, in theorie, bijzonder interessant, en om die reden heb ik op een link naar G!ANT geklikt:
Welkomstspagina Giant – Intelligence Group
Welkomstspagina Giant – Intelligence Group

(meer…)

Zijn recruiters heilige boontjes?

EngeleneIk ben net bekomen van het lezen van een buitengewoon rommelig artikel van Jildou Beiboer (Redacteur Scholing en Arbeidsmarkt Het Financieele Dagblad) met als titel: Een hr-afdeling en jobcoach ineen: is AI het antwoord op alle carrièrevragen? (achter paywall). En ik zou niemand adviseren om ook maar één cent aan dit broddelwerkje uit te geven, maar dit terzijde.

Want het artikel was aanleiding voor Jacco Valkenburg om op LinkedIn een geloofspositie in te nemen ten aanzien van de volgende zin uit het artikel van Beiboer:

Past iemand niet binnen het profiel, dan volgt een afwijzing zonder dat er een mens naar heeft gekeken.

Beiboer lijkt gelukzalig onwetend van de aankomende AI Act waarmee bovenstaande afwijzing wordt verboden (al zal handhaving door de Autoriteit Persoonsgegevens naar alle waarschijnlijkheid een wassen neus blijken), maar dat is niet waar Valkenburg op triggert. Hij voelt zich als recruiter in goede naam en eer aangetast, zoals duidelijk blijkt uit onderstaande rant:

(meer…)

Een door AI gecreëerd drama voor de eerlijke sollicitant

The Internet’s AI Slop ProblemKennen we de commotie vanuit de recruitment community dat ze worden overdonderd met AI slop zoals door LLM’s gegenereerde cv’s (eventueel bij door AI gegenereerde sollicitaties)? Op zich een begrijpelijk sentiment, maar daar zit een zeer akelig rafelrandje aan. Want als je tegelijkertijd gebruik maakt van AI-tools om die cv’s te filteren dan heb je geen enkel recht van spreken. Want dan ben je sollicitanten zonder LLM gegenereerd cv aan het benadelen.

Een recent onderzoek (AI-AI Bias: large language models favor communications generated by large language models) heeft onderzocht of grote taalmodellen, zoals GPT-3.5, GPT-4, Llama, Mixtral en diverse andere modellen, een voorkeur vertonen voor inhoud die door door LLM’s is gegenereerd in plaats van inhoud die door mensen is geschreven. Er wordt aan op LLM’s gebaseerde agenten gevraagd om onder identieke omstandigheden een keuze te maken tussen producten en academische artikelen, die ofwel door mensen danwel door LLM’s zijn beschreven. (meer…)

Een heel klein beetje minder ghosten

Logo provincie OntarioOp 1 januari 2026 treedt een aanvulling van de Employment Standards Act in de provincie Ontario (Canada) in werking voor bedrijven met meer dan 25 medewerkers. Deze aanvulling moet de transparantie en eerlijkheid in het wervingsproces verbeteren. So what, zou je kunnen zeggen, maar het lijkt er op dat hiermee voor het eerst in de wereld een (overigens zeer gedeeltelijk) verbod op ghosting door recruiters in de wet wordt verankerd. En die informatie heeft voor de nodige drukte in de vakpers gezorgd, waarschijnlijk als een gevolg van de komkommertijd

De aanvulling van de wet bevat onder meer onderstaande bepalingen:

  1. Melding na een sollicitatiegesprek: Werkgevers zijn verplicht om sollicitanten te informeren over de status van hun aanvraag, uiterlijk 45 dagen na het laatste sollicitatiegesprek. Deze melding voorkomt dat kandidaten in onzekerheid blijven over de uitkomst van hun sollicitatieproces.
  2. Transparantie in vacatures: Vacatures moeten duidelijk aangeven of de functie actief wordt ingevuld en of er bij het selectieproces gebruik wordt gemaakt van kunstmatige intelligentie (AI).

(meer…)

(Management) consultancy firma’s voortijdige einde?

LLM’s zijn buitengewoon vaardige sycophanten, waarvoor we in de Nederlandse taal de nodige, soms kleurrijke, alternatieven hebben. Sycophant Claude gaf mij de volgende alternatieven: vleier, kruiper, pluimstrijker, slijmbal, speeksellikker, streber, ja-knikker,  hofdwerg, lakei. En dan hebben we hebben we natuurlijk ook nog de kontkruiper en de bruine arm, maar dat mag het corporate correcte Claude natuurlijk niet zeggen.

Waarom al deze termen, om de even zovele manieren weer te geven waarop (management) consultancy bureau’s EN LLM’s haar publiek probeert te behagen in de jacht naar omzet. En waarbij ik een voortijdig einde voorspel van de (management) consultancy bureau’s. Niet omdat LLM’s beter slijmen dan consultancy bureau’s. Maar omdat LLM’s binnen één uur klaar zijn waar consultants dagen, maanden of zelfs jaren voor nodig hebben:

RIP McKinsey

h/t Khizer Abbas

Autoriteit Persoonsgegevens: betekenisvolle menselijke tussenkomst

Betekenisvolle menselijke tussenkomst bij algoritmische besluitvormingHoewel de Autoriteit Persoonsgegevens (AP) in mijn ogen een zeer ineffectieve overheidsorganisatie op het gebied van handhaving is (eerdere blog postings over dit onderwerp), komen er ook goede dingen uit de koker van deze organisatie. Voor zover mij bekend gaat het dan uitsluitend om beleidsdocumenten, en ik wil het vandaag hebben over het document: Handvatten betekenisvolle menselijke tussenkomst. Het gaat bij dit document om één artikel van de AVG, artikel 22:

De betrokkene heeft het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking, waaronder profilering, gebaseerd besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft.

(meer…)

ABU periode 7, 2025: een droef moment

ABU logotypeDe zevende periode van ABU bevat de nodige droefenis, maar het is met name de resultaatontwikkeling van de sector Administratief waardoor periode 7 herinnerd zal gaan worden. Het valt me moeilijk om hierover te schrijven, en dus ook in mindere tijden verslag te doen van het Nederlandse uitzendwezen (althans een deel daarvan…). De ABU kwam vandaag met haar cijfers over de zevende periode van 2025. Met daarbij de volgende toevoeging door de ABU:

In periode 7 daalde het aantal uren met 5% en de omzet bleef gelijk in vergelijking met dezelfde periode vorig jaar.

Een krimp van 5% is zeker niet schokkend te noemen, en in die zin zou je kunnen zeggen dat er geen paniek in de tent hoeft te zijn. En dan zou je deels gelijk hebben. Tegelijkertijd zijn we al meer dan 40 periode’s onafgebroken aan het krimpen en dat lijkt me voldoende reden om er geen vrolijke boel van te maken. Waarbij vooral de sector Administratief er in negatieve zin onderuit steekt…

(meer…)