Marc Drees Warden AI heeft The Warden Watch gelanceerd; een wereldwijde tracker voor wet- en regelgeving en rechtszaken rondom het gebruik van AI in HR en recruitment. En had ik al gezegd dat het gratis is…? Als je Warden AI zegt, zeg je (althans in mijn geval) Martyn Redstone. En Redstone hoort bij de lezertjes van RecruitmentMatters genoegzaam bekend te zijn. The Warden Watch ziet er zo uit (homepage):
Homepage – The Warden Watch
Marc Drees 
In een posting op LinkedIn haalt Martyn Redstone flink uit naar de kakelverse premier van Engeland, Andy Burnham. Dit naar aanleiding van een interview dat laatsgenoemde had met Jimmy McLoughlin. Redstone’s ferme uithaal is in mijn optiek ongebruikelijk en ook duidelijk minder genuanceerd dan zijn zeer lezenswaardige onderzoeken. Mogelijk dat politieke voorkeur hierbij een rol speelt…?
Ik wil in deze posting een uithaal de andere kant op doen, in een poging de positie van werkzoekenden beter tot haar recht te laten komen. Maar laat ik eerst de essentie van Redstone’s posting weergeven:
Andy Burnham’s recent call, in the Times […] for employers to abandon AI CV filtering and Zoom interviews in favour of “old-fashioned” hiring methods is a classic example of modern Luddism.
Marc Drees 
Hoewel Indeed c.s. zich bepaald slecht gedragen als we een AVG-bril opzetten, is er een klasse (verkeerde suggestie) bedrijven die dat gedrag nog zwaar overtoepen. Ik heb het dan natuurlijk over people aggregators, een soort domme LLM’s (pleonasme) die persoonsgegevens verzamelen en deze vervolgens achter een zoekmachine aanbieden in ruil voor geld. Hun vijgeblad is dat deze gegevens publiek zijn en dat de data daarom vrij te gebruiken. Lulkoek natuurlijk, maar ze komen er al jaren mee weg. En er zijn best veel people aggregators:
AmazingHiring, Apollo.io, Ashby, Beamery, BeenVerified, Better Match, Braintrust, CheckPeople, Clearbit, ClearView, CocoFinder, Covey, Draup, Eightfold, Entelo, Fastr.ai, Fetcher.ai, Findem, Gem, GoPerfect, HeroHunt, Hi People, Hireflow, Hirefly, hireEZ, Humanly, Instant Checkmate, Intelius, Juicebox, Jumpers, Kula, Lightcast, Lusha,
Mercor, Micro1, Moonhub, MyLife, Nebula, Noon, Nuwber, PeekYou, PeopleFinders, PeopleLooker, Pipl, Popp, Radaris, Retrain.ai, Rival, SeekOut, Snatchr, SociallyRecruited, Solostar, Sourcewhale, Spokeo, Talentblum, TalentNeuron, Talentwunder, Techwolf, Tezi, The White Pages, tofu, TruthFinder, US Search, Verispy, Vettery, Wellfound, Whitebridge, Yasni, ZabaSearch, Zoominfo
Marc Drees 
Vrijblijvend leesadvies: Disposition Data: The Asset That Became a Liability. Dit artikel van Martyn Redstone is wederom een pareltje en gaat ook nog eens over een zeer actueel onderwep: disposition data.
In dit artikel analyseert Redstone waarom het hergebruik van disposition data voor het trainen van AI-systemen niet langer een waardevol bezit is, maar een groot juridisch risico is geworden. De belangrijkste punten uit het artikel zijn:
Marc Drees 
People aggregators zijn juridische abberaties (binnen de EU) van het soort dat publiek beschikbare persoonsgegevens als fair game ziet. Daar kan je natuurlijk schouderophalend op reageren, tot je met de negatieve consequenties van dit soort tools wordt geconfronteerd. Maar dan is het te laat. Voor de niet-ingevoerden: people aggregators zijn stofzuigers van publiek beschikbare persoonsgegevens die vervolgens de data van eenzelfde persoon over verschillende bronnen bij elkaar brengt om tot een zo volledig mogelijk beeld van dat individu te komen. Rete interessant voor, ja, voor iedereen die een zeer rekkelijk begrip van privacy toepast. Ik heb ondertussen de nodige tijd en energie aan people aggregators besteed, en het domein schijnt nog altijd te groeien (Whitebridge revisited, revisited…, Whitebridge, revisited…, Een people aggregator uit Litouwen: Whitebridge), terwijl het ondertussen al best als heel groot kan worden gezien:
Marc Drees 
When did we start trusting strangers?, is een ondertussen beroemde uitspraak in reactie op het succes van user ratings op gedrag van consumenten. Slechts een aantal jaren daarvoor was de mores nog: One the Internet, nobody knows you’re a dog. Maar naar nu blijkt zijn we ondertussen nog veel goedgeloviger geworden.
In zijn nieuwsbrief gaat Martyn Redstone nader in op ons nieuwe level van goedgelovigheid:
Modern AI models often employ a framework known as Retrieval-Augmented Generation (RAG), where the system first retrieves existing information from a vast corpus of data before augmenting it and generating a final answer. The choice of which data to retrieve is therefore a critical, formative step.
Marc Drees 
Even een shout out naar Martyn Redstone naar aanleiding van zijn recente artikel over (race) bias in recruiting:
The lawsuit claims that Sirius XM’s AI-driven tools, including candidate matching and shortlisting features, evaluated applicants based on data points that act as a proxy for race. The plaintiff alleges that these data points, such as educational institutions, employment history, and even zip codes, led to a “disproportionate” rejection rate for qualified African-American candidates. Mr. Harper, a highly qualified IT professional , claims he was rejected for 149 out of 150 positions he applied for , despite meeting or exceeding the qualifications for the roles.
Bijzonder interessant natuurlijk, en het is allang bekend dat demografische kenmerken zoals locatie kunnen worden gebruikt voor discriminatoire acties. Hetzelfde geldt natuurlijk ook voor opleidingsinstituten en werkgevers; in combinatie kan je hiermee bijzonder effectief filteren.
Hoewel deze rechtszaak dient in de VS is deze problematiek onverkort toepasbaar op de Europese situatie. Goed om hier aandacht aan te besteden dus
Marc Drees 
Kennen we de commotie vanuit de recruitment community dat ze worden overdonderd met AI slop zoals door LLM’s gegenereerde cv’s (eventueel bij door AI gegenereerde sollicitaties)? Op zich een begrijpelijk sentiment, maar daar zit een zeer akelig rafelrandje aan. Want als je tegelijkertijd gebruik maakt van AI-tools om die cv’s te filteren dan heb je geen enkel recht van spreken. Want dan ben je sollicitanten zonder LLM gegenereerd cv aan het benadelen.
Een recent onderzoek (AI-AI Bias: large language models favor communications generated by large language models) heeft onderzocht of grote taalmodellen, zoals GPT-3.5, GPT-4, Llama, Mixtral en diverse andere modellen, een voorkeur vertonen voor inhoud die door door LLM’s is gegenereerd in plaats van inhoud die door mensen is geschreven. Er wordt aan op LLM’s gebaseerde agenten gevraagd om onder identieke omstandigheden een keuze te maken tussen producten en academische artikelen, die ofwel door mensen danwel door LLM’s zijn beschreven. (meer…)
Marc Drees 
Ik plofte vorige week, te laat, in een webinar, en had direct spijt. Spijt dat ik niet vanaf de eerste minuut was aangeschoven, want de content was fantastisch. Het webinar werd gehouden door Martyn Redstone en het onderwerp was: Are commercial LLMs like ChatGPT, Gemini, and Grok really capable of screening CVs reliably? Daar heeft heel het recruitment domein een mening over waarbij er ondertussen sprake is van een tweedeling in belAIvers en non-belAIvers. Maar ik dwaal af. Zoals wel vaker het geval is, had ik tekst bij de uitnodiging niet goed gelezen; anders was ik nooit te laat gekomen:
I put them [LLM’s] to the test in a multi-week experiment that exposed the inconsistencies, contradictions, and hidden risks lurking beneath the surface of AI-driven hiring. Join me as I reveal the findings, debunk the myths, and issue a warning to recruiters and vendors relying on LLM-based screeners.
