Vandaag viel mijn oog bij toeval op het rapport van de Rekenkamer: Focus op AI bij de rijksoverheid. Een rapport waarbij de Rekenkamer een kwantitatieve (met zeker niet financiële) verantwoording geeft over het aantal AI-systemen waarmee de rijksoverheid werkt, test of heeft getest. En dat geeft wat interessante inkijkjes, waarbij mijn aandacht natuurlijk uitgaat naar het UWV, mijn favoriete uitvoeringsorganisatie. En laat UWV nou toevallig ook eens een behoorlijke outlier zijn tussen al die andere onderdelen van de rijksoverheid.
It is the data stupid! Deel 2: Privacy and AI recruitment providers
- Marc Drees
- 11 december 2023
- in AVG, Data onderzoek, Recruitment vragenlijst,
- 1.065 views
- 0 reacties
Eind november heb ik een voorzet gedaan om tot een veel beter inzicht te komen van de kwaliteit en de rechtmatigheid van de verwerking van persoonsgegevens door leveranciers van AI toepassingen binnen het recruitment domein. Met alle hyperbool rondom (generative) AI’s lijken deze onderwerpen ondergeschikt te raken aan de ongekende mogelijkheden van deze nieuwe generatie AI-tools, maar als het stof is neergedaald staan kwaliteit en rechtmatigheid nog altijd fier overeind, in afwachting van antwoorden en nog belangrijker, in afwachting van oplossingen en compliance.
In deze aflevering ga ik in detail in op het privacy-aspect van de data-discussie. In hoeverre voldoen AI-leveranciers die binnen het recruitment domein actief zijn aan de bepalingen van de Algemene Verordening Gegevensbescherming (AVG), voor zover ze met persoonsgegevens werken. In een volgende aflevering ga ik in op misschien wel het meest complexe onderdeel: de kwaliteit van de gebruikte persoonsgegevens. Een veelkoppig monster waarbij de klassieke Hydra eenvoudigweg verbleekt. In een derde aflevering is het de beurt aan de AI Act, waarbij recruitment systemen als hoog risico worden geclassificeerd. Met alle consequenties van dien.