De EU heeft recent een persmededeling gedaan met betrekking tot de regulering van AI-toepassingen. En daarin is onder meer het volgende te lezen:
Wat verboden AI-praktijken betreft, breidt de [wet]tekst het verbod op het gebruik van AI voor de beoordeling van burgers (“social scoring”) uit tot particuliere actoren. Voorts is de bepaling die het gebruik verbiedt van AI-systemen die de kwetsbaarheden van een specifieke groep personen uitbuiten, nu ook van toepassing op personen die kwetsbaar zijn vanwege hun sociale of economische situatie.
Enerzijds lees je hierin de duidelijke wens om een herhaling van het Nederlandse toeslagenschandaal (mensen werden geselecteerd met behulp van een biased AI-systeem dat leidde tot social scoring) te voorkomen, anderzijds meen ik hierin te lezen dat binnen het recruitmentdomein er feitelijk evenmin plaats is voor AI. En dat zou toch een opmerkelijke stap zijn, gezien de tsunami aan AI-toepassingen (werkelijk of marketing fantasie) die de afgelopen jaren over ons is uitgestort en waardoor zelfs de meest hardnekkige laggard zich heeft laten overhalen om minstens een teen in het AI wijwater te steken.
Het betekent eerst en vooral dat de leveranciers van AI-systemen een verhaal moeten hebben richting hun prospects en klanten binnen het recruitment domein. Maar de partijen binnen het recruitment domein dienen zich af te vragen welke toepassingen zij op dit moment gebruiken waarin AI is geïncorporeerd. En in gezamenlijkheid dienen leveranciers aan en partijen binnen het recruitment domein zien te komen tot een correcte inzet van AI-toepassingen wat eventueel een verbanning zou betekenen van diezelfde toepassingen binnen de applicaties van recruitment partijen.
Ongetwijfeld wordt de soep niet zo heet gegeten, of duurt het een tijd voordat er een hete soep wordt aangeboden, maar het is een kwestie van tijd tot de EU met een wet gaat komen. En het is altijd beter om voorbereid te zijn. En om fatsoenlijk te zijn, maar dat is vaak een stuk moeilijker en kan meestal slechts via wetgeving worden afgedwongen. Hoe dan ook, voeg de evaluatie van AI toe aan het lijstje met goede voornemens. Al was het alleen om zeker te stellen dat kandidaten niet op oneigenlijke gronden worden gefilterd. Alvast een gelukkig nieuwjaar en veel succes!
Voor de goede orde, het gaat om AI-systemen die de kenmerken van mensen gebruiken om tot een bepaald oordeel van (on)geschiktheid te komen. Het gaat dus om systemen die ingrijpen op het selectieproces van kandidaten en waar een AI-component een (groot) deel van uitmaakt.