Met deze blog posting trappen we een serie inhoudelijke artikelen af over bias binnen het recruitment domein, als vervolg op de introductie van deze serie enkele weken geleden. Als eerste geven we een inzicht in de twee belangrijkste spelers die voor bias zorgen, het AI-model en de mens. Aansluitend bespreken we wat bias nou eigenlijk is en welke vormen van bias er kunnen worden onderscheiden. Als laatste gaan we in op de gevolgen zijn van bias.
AI is bevattelijk voor bias, net als haar schepper
- Marc Drees
- 11 november 2024
- in AI, Bias,
- 559 views
- 0 reacties
De titel is een vertaling van het volgende statement : AI models are just as susceptible to bias as their human creators – hiding behind a veil of objectivity. Ik vind het een heel fraai statement, vandaar ook bovenstaande creatieve vertaling als titel. Maar klopt het ook? Zijn AI-systemen net zo bevattelijk als mensen voor bias? Als mens neem ik daar aanstoot aan, ik kan me niet voorstellen dat de enorme waaier aan vooroordelen die wij mensen naar elkaar kunnen hebben, kan worden geëvenaard door een beperkte representatie van onszelf: het AI-systeem. Ik kan me weer wel voorstellen dat AI-systemen op ongekende schaal bevooroordeeld kunnen zijn omdat ze veel schaalbaarder zijn dan het menselijke brein. En daarmee een veel grotere negatieve impact kunnen hebben met een eventueel kleiner aantal bias-vormen. Verder is het logisch te verwachten dat omdat AI-systemen naar het evenbeeld van de mens zijn gekleid ze dezelfde biases kunnen vertonen.
TechWolf krijgt forse kapitaalinjectie
- Marc Drees
- 25 juni 2024
- in AI Act, Bias,
- 761 views
- 0 reacties
TechWolf is zonder twijfel een zondagskind. Het Belgische bedrijf heeft zich genesteld op het kruispunt van twee hypes: de skills-hype en de AI-hype. En dat is te zien aan de omvang van de Series B funding, een whopping $43 miljoen! Dat geld gaat gebruikt worden om de Amerikaanse expansie te accelereren.
En dit is hoe TechWolf zichzelf omschrijft in haar persbericht (lees: bog posting):
TechWolf is fast emerging as a European innovator as the continent continues to leverage talent and propositions at the forefront of AI. TechWolf is building the AI infrastructure layer for skills, creating foundational data assets and frameworks that enable a skills-first approach to talent management. Their innovative technology infers employee skills from digital interactions by leveraging advanced AI language models, thus eliminating the need for manual skills assessments.
Im Westen nichts Neues
- Marc Drees
- 10 juni 2024
- in AI Act, AVG, Bias,
- 678 views
- 0 reacties
Op 4 juni 2024 informeren Minister Van Gennip (SZW) en minister Schouten (Armoedebeleid, Participatie en Pensioenen) de Tweede Kamer over ontwikkelingen bij UWV en de SVB, en over knelpuntenbrieven van UWV, de SVB en de Landelijke Cliëntenraad (LCR), over knelpunten en dilemma’s die spelen bij de uitvoering van de sociale zekerheid. Die hierbij behorende aanbiedingsbrief stand van de uitvoering sociale zekerheid juni 2024 en knelpuntenbrieven UWV, de SVB en LCR bevat een fors aantal bijlagen, waaronder de Stand van uitvoering sociale zekerheid juni 2024, van 4 juni 2024. En in deze bijlage is het volgende te lezen (pagina’s 25 – 26):
Artificiële intelligentie (AI) biedt nieuwe mogelijkheden en kan een belangrijke impact hebben op UWV. Om duidelijkheid te krijgen over de mogelijkheden met generatieve AI (zoals ChatGPT) heeft UWV in het najaar van 2023 een proeftuin ingericht. Hierin kunnen organisatieonderdelen verantwoord experimenteren. UWV is voortdurend alert op de risico’s van vooringenomenheid en desinformatie conform het ethisch beleid. We zetten moderne technologieën op verantwoorde wijze in, waarbij het borgen van publieke waarden centraal staat en passen security en privacy-by-design en responsible-design als uitgangspunten toe.
Dat zijn fraai verwoorde voornemens van UWV! Maar voornemens zijn geduldig, terwijl de rauwe werkelijkheid helaas een ander beeld schetst:
Gaan wij collectief de AVG negeren?
- Marc Drees
- 21 maart 2024
- in AI Act, AVG, Bias,
- 1.409 views
- 1 reactie
Al jaren analyseer ik (spelers op) de Nederlandse arbeidsmarkt en probeer inzicht te geven in onderliggende werkwijzen en systemen. In verband met de vele vragen die ik krijg naar aanleiding van de reeks artikelen over 8vance en de AVG wil ik deze gelegenheid te baat nemen om ondubbelzinnig duidelijk te maken waarom de handelswijze van 8vance niet is toegestaan en waarom het schadelijk is voor onze sector.
8vance heeft mogelijk een bijdrage te leveren aan een meer diverse en inclusieve arbeidsmarkt. Zij is daarin niet de enige partij. Maar de wijze waarop 8vance in de afgelopen 10 jaar haar diensten heeft ontwikkeld is zo’n structurele en grove schending van de privacy van werkzoekenden dat we waarschijnlijk kunnen spreken van de grootste privacy schending binnen het Nederlandse privacy domein. En mogelijk daarbuiten. En dat dient aan de kaak te worden gesteld.
In het vervolg laat ik de hoofdrolspelers de revue passeren (8vance, LinkedIn, UWV, de recruitment sector, werkzoekenden). (meer…)
Provincie West-Vlaanderen treft maatregelen tegen AI-misbruik in selectieprocedures
- Marc Drees
- 30 januari 2024
- in AI, Bias,
- 693 views
- 0 reacties
Een interessant nieuwsbericht waarbij ik onwillekeurig op het verkeerde been werd gezet als gevolg van de titel Provincie West_Vlaanderen treft maatregelen tegen AI-misbruik in selectieprocedures. Ik verwachtte maatregelen die het risico op bias in selectieprocedures waarbij AI een rol speelt, wilde beteugelen. Maar het gaat helemaal niet om werkgevers, het gaat om misbruik door werknemers:
Het provinciebestuur van West-Vlaanderen neemt stappen om misbruik van artificiële intelligentie (AI) tijdens selectieprocedures te voorkomen. ‘Bij een selectieprocedure om de parate kennis van kandidaten te meten is het gebruik van internet of AI niet toegestaan’, zo stelde provincieraadslid Kurt Himpe
Hugo de Koning van YoungCapital wint de novemberpluim!
- Dirk Goossens
- 29 november 2023
- in Bias,
- 1.235 views
- 0 reacties
Wat is er aan de hand?
De RecruitmentMatters novemberpluim gaat naar Hugo de Koning, een van de oprichters van YoungCapital. YoungCapital verbiedt eigen medewerkers namelijk om kandidaten af te wijzen enkel en alleen op basis van het cv. En dat is precies wat we nodig hebben in deze tijd.
(meer…)AI bias bij opleuken profielfoto?
- Marc Drees
- 10 augustus 2023
- in Bias,
- 762 views
- 0 reacties
Een totaal onverwachte beroepsgroep die bedreigt wordt door de groei van artificial intelligence: plastisch chirurgen. Waarom zou je een serie kostbare en pijnlijke operaties moeten ondergaan met een risico op mislukking en een garantie op het had-ik-het-maar-nooit-gedaan op langere termijn, als je voor aanzienlijk minder er als een model uit kan zien. Dankzij AI.
Maar zelfs met AI kan je dan pijnlijk geraakt worden, zoals Rona Wang ontdekte nadat ze haar profielfoto voor LinkedIn wat professioneler wilde laten lijken via Playground middels de prompt “Give the girl from the original photo a professional linkedin profile photo.“:
En voila, van Aziatisch naar Westers in een fractie van een seconde.
AI bespiegelingen op een zonnige woensdag
- Marc Drees
- 15 februari 2023
- in Bias, Recruitment innovatie,
- 1.590 views
- 0 reacties
ChatGPT en haar (ongetwijfeld snel groeiende leger van) collega’s zijn generatieve taalprogramma’s, getraind op een enorm volume aan documenten. Dit is statistiek van een hogere orde en dus een domein waarin ik geen enkele expertise heb. Maar de output van deze programma’s is prima te beoordelen door beta-benadeelden. En het ‘mooie’ is dat in het geval van “onjuiste” (op basis van een door beta-beperkten bepaalde norm) output, het programma kan worden bijgestuurd middels regels. Krijg je een antwoord van het programma dat op een uitspraak van Poetin lijkt, dan kan per direct (handmatig…) een regel worden geintroduceerd die voortaan uitspraken van Putin(-achtigen) in de output voorkomt. Prachtig, nietwaar?
Nou, misschien niet. Prachtiger zou natuurlijk zijn dat deze programma’s alle normen en waarden die wij met elkaar hebben afgesproken (per continent, land en regio) vanaf het begin geïncorporeerd hebben en er dus geen afzonderlijke search & destroy acties moeten worden uitgevoerd om corrigerende regels te kunnen introduceren. Handmatig… Met daarbij de eeuwig knagende vraag: wat hebben we gemist? Antwoord: veel. Maar je gaat ze nooit allemaal vinden.
Gezocht: psychopaat
- Dirk Goossens
- 20 januari 2023
- in AI, Bias,
- 1.548 views
- 0 reacties
Daarom liet ik een vacaturetekst opstellen voor psychopaat. Het resultaat is angstaanjagend. Lees maar mee en vraag je tussendoor af of jij jouw baas in de functieomschrijving herkent.
(meer…)