Jawel, afgelopen woensdag was het zover:
[the European] Parliament approved the Artificial Intelligence Act that ensures safety and compliance with fundamental rights, while boosting innovation. [..] It aims to protect fundamental rights, democracy, the rule of law and environmental sustainability from high-risk AI
Daarmee is de implementatie een heel grote stap dichterbij gekomen. Deze implementatie heeft direct gevolgen voor leveranciers van op AI gebaseerde diensten en producten binnen het arbeidsmarkt domein.
Na implementatie van de AI Act zullen aanbieders van AI-diensten en -producten in de wervingssector zich moeten houden aan een strikt regelgevend kader, waarbij ervoor gezorgd moet worden dat hun praktijken persoonlijke gegevens en privacy respecteren, naast het waarborgen van eerlijkheid, transparantie en verantwoordelijkheid in AI-systemen. Hier zijn een aantal praktijken die vermeden moeten worden:
Onrechtmatige gegevensverwerking: Vermijd het verwerken van persoonsgegevens zonder een wettelijke basis, zoals expliciete toestemming van de betrokkenen of een legitiem belang dat de rechten en vrijheden van individuen niet overschrijdt.
Vooringenomenheid en discriminatie: Gebruik geen AI-systemen die onbedoeld vooringenomenheid of discriminatie in wervingsprocessen kunnen voortzetten. Dit omvat het vermijden van afhankelijkheid van vooringenomen datasets of algoritmen die kunnen leiden tot oneerlijke behandeling van kandidaten op basis van geslacht, ras, leeftijd of andere beschermde kenmerken.
Gebrek aan transparantie: Vermijd ondoorzichtige AI-systemen waarbij kandidaten en werkgevers niet kunnen begrijpen hoe beslissingen worden genomen. Dit omvat het gebruik van “black-box” algoritmen die geen inzicht geven in hun besluitvormingsprocessen.
Onvoldoende gegevensbeveiliging: Het verwaarlozen van het implementeren van adequate beveiligingsmaatregelen om persoonsgegevens te beschermen tegen ongeautoriseerde toegang, verlies of inbreuk is een kritisch risico.
Overmatig vertrouwen in geautomatiseerde beslissingen: Het vermijden van menselijk toezicht op door AI genomen wervingsbeslissingen kan leiden tot fouten of onrechtvaardige uitkomsten die de professionele levens van individuen negatief beïnvloeden.
Maar wie gaat dat allemaal controleren? De Autoriteit Persoonsgegevens?