Hoewel de Autoriteit Persoonsgegevens (AP) in mijn ogen een zeer ineffectieve overheidsorganisatie op het gebied van handhaving is (eerdere blog postings over dit onderwerp), komen er ook goede dingen uit de koker van deze organisatie. Voor zover mij bekend gaat het dan uitsluitend om beleidsdocumenten, en ik wil het vandaag hebben over het document: Handvatten betekenisvolle menselijke tussenkomst. Het gaat bij dit document om één artikel van de AVG, artikel 22:
De betrokkene heeft het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking, waaronder profilering, gebaseerd besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft.
En dit is een cruciale bepaling (lees: consumenten bescherming) in het agentic AI tijdperk dat ondertussen volop lijkt te zijn aangebroken binnen het recruitment domein. AP zegt over algoritmische besluitvorming:
Organisaties zetten algoritmes en artificiële intelligentie (AI) steeds vaker in voor algoritmische besluitvorming. Denk aan de beoordeling van een kredietaanvraag of het beoordelen van online sollicitaties. Als organisaties algoritmische besluitvorming willen gebruiken, moeten zij aan regels voldoen. Mensen hebben het recht op menselijke tussenkomst bij algoritmische besluiten die over hen gaan en die gevolgen voor hen hebben.
“Om daadwerkelijke menselijke tussenkomst te realiseren moet de verwerkingsverantwoordelijke ervoor zorgen dat al het toezicht op de besluitvorming zinvol is, en niet slechts een symbolische handeling.”
In het document “Betekenisvolle Menselijke Tussenkomst” werkt de AP dit verder uit en stelt dat menselijke tussenkomst pas betekenisvol is als:
De mens werkelijk invloed kan uitoefenen op de beslissing,
De mens zelfstandig een afweging maakt, inclusief de mogelijkheid om:
algoritmische output te negeren, corrigeren of aanvullen,
alternatieve factoren te betrekken die het algoritme niet kent,
De beoordeling plaatsvindt vóórdat het besluit gevolgen heeft voor de betrokkene,
De beoordelaar voldoende kennis, tijd, autonomie en toegang tot data heeft,
De tussenkomst geen automatisme is, maar een bewuste en kritische handeling.
De AP stelt expliciet dat menselijke tussenkomst geen rituele goedkeuring of achterafcontrole mag zijn, en ook niet als excuus mag dienen om ondeugdelijke algoritmes te legitimeren (“Een beoordelaar mag niet worden ingezet om een onbehoorlijk proces te legitimeren.”)
Kortom, betekenisvolle menselijke tussenkomst is: tijdig, kritisch, geïnformeerd, autonoom, en invloedrijk in de context van geautomatiseerde besluitvorming.
Om de recruitment space wat verder te helpen hierbij wat praktische aanbevelingen voor HR-tech bedrijven die aan Agentic AI (gaan) doen:
- Herdefinieer autonomie: Laat Agentic AI suggesties doen, maar laat mensen besluiten.
- Checkpoints: Gebruik menselijke goedkeuring bij alle afwijzingen.
- Uitlegbaarheid: Zorg voor transparante interfaces met inzicht in beslisregels.
- Biasmonitoring: Gebruik mystery testing en log afwijkingen.
- Herstelmechanismen: Zorg voor bezwaarprocedures en inzage voor kandidaten.
- Training: Train recruiters en productteams in AI-geletterdheid.
Marco anti NL overheir
says:Jeeeeey weet een mooie bijdrage van de AaP en dat terwijl het UWV aan alle kanten de eigen regels overtreed houdt de AP zich bezig met schokkend: ‘het recht om niet te kiezen voor AI’
Hulde
Kneuzen