Gisteren plaatste AI-Act goeroe Arnoud Engelfriet een in mijn optiek zeer interessant bericht op Linkedin. Bedoeld als teaser voor een workshop, maar met wat speurwerk is het een DIY receptje om te bepalen of jouw AI-toepassing binnen het recruitment domein als een high-risk toepassing onder de AI-Act wordt gezien. Engelfriet noemt het LinkedIn bericht opvallend genoeg: How can you escape a high-risk classification under the #AIAct? waarmee hij lijkt te suggereren dat riskante AI-applicaties zich zo kunnen plooien dat ze een dergelijke classificatie kunnen vermijden maar onverminderd riskant zijn…
Engelfriet begint met deze beslissingsboom:
Beslissingsboom high risk volgens AI-Act (Arnoud Engelfriet)
De relevante stappen in deze beslissingsboom zijn:
stap 2: Is the use case on the high-risk list (Annex III)? En in AI Act, annex III, punt 4 lezen we:
Employment, workers management and access to self-employment:
(a) AI systems intended to be used for the recruitment or selection of natural persons, in particular to place targeted job advertisements, to analyse and filter job applications, and to evaluate candidates;
Nou, dat is een behoorlijk brede scope, waardoor de nodige AI-leveranciers binnen het recruitment domein waarschijnlijk al een bleek neusje hebben gekregen. Maar er is meer:
stap 3: Does the system perform profiling? Daar zegt de AVG 4.4 het volgende over:
‘profiling’ means any form of automated processing of personal data consisting of the use of personal data to evaluate certain personal aspects relating to a natural person, in particular to analyse or predict aspects concerning that natural person’s performance at work, economic situation, health, personal preferences, interests, reliability, behaviour, location or movements;
En met deze twee stappen is iedere AI-leverancier in het recruitment domein in staat om voor zichzelf te beoordelen of ze als high-risk AI applicatie onder de AI-Act door het leven zal gaan. Wel eerst een ongekleurde bril opzetten natuurlijk.
Heb je twee keer een Ja gescoord? Zitten in het trainingsbestand gegevens van natuurlijke personen die hier expliciet en ongedwongen akkoord voor hebbe gegeven? Oeps…