103 zoekresultaten voor: bias

Brekend: Bias binnen AI is verleden tijd!

VONQ nieuwsbrief juniEen paar maanden geleden schreef ik met volle overtuiging: AI is bevattelijker voor bias dan haar schepper: forever data. En deze blog posting sloot ik als volgt af:

AI-systemen incorporeren (via trainingsdata waarin alle denkbare menselijke bias-vormen zijn neergeslagen) alle vormen van menselijke bias en worden door technische keuzes (AI bias-vormen) nog eens verder gemankeerd waardoor een slangenkuil van forever data ontstaat. En die slangenkuil laten we vervolgens los op niets-vermoedende sollicitanten in het naïeve geloof dat we objectiever en sneller (= goedkoper) tot een eerlijker resultaat gaan komen.

Maar ik moet tot mijn schande bekennen dat ik hiermee de boel ongekend (en nog erger, ongeïnformeerd) heb opgehitst. Mea culpa, mea maxima culpa.

Want dankzij de juni nieuwsbrief van VONQ heb ik namelijk het licht gezien, de nieuwsbrief verwijst namelijk naar een door een Britse juriste geschetste oplossing:

[Furat Ashraf] raised the point that, in theory, if you find the point of bias within AI and change the algorithm and train it on some additional data, then the issue should be fixed; something that is arguably much harder to do when dealing with humans.

(meer…)

Heeft UWV de wet overtreden? Ja, ook een tweede keer!

Logo en logotype UWVEén van de Woo-verzoeken die ik aan UWV heb verzonden gaat over AVG compliance van 8vance. Dit is mijn oorspronkelijke verzoek:

Besluitvorming en interne correspondentie rondom de beoordeling van AVG compliance van 8vance. Alle documenten en correspondentie waarin het ministerie of UWV besluitvorming, afwegingen, maatregelen, of beleidsreacties vastlegt die gebaseerd zijn op de bevindingen van een onderzoek of, en zo ja, in hoeverre, de door UWV te gebruiken toepassingen van 8vance volledig compliant is met de AVG. Dit verzoek betreft documenten waarover het ministerie of UWV beschikt, ongeacht of deze zijn opgesteld door een externe partij.

UWV heeft dit verzoek, na initiële volledige afwijzing en daarop volgend bezwaar van mijn kant, deels gegrond verklaard en daarbij 3 documenten deels openbaar gemaakt, waarbij het document Rapportage Functionaris Gegevensbescherming T2 2024_v1.0.pdf sterk doet denken aan de zwartgelakte documenten uit de Toeslagenaffaire. Terzijde: Ik vraag me af welke reden(en) UWV heeft om een dergelijk document “openbaar” te maken.

(meer…)

VONQ lanceert Agentic AI oplossing: CPA+

Logotype VONQEen kleine drie maanden geleden deed ik al een kleine vooraankondiging, maar vandaag (op een verder nieuwsarme dag…) is het dan eindelijk zover: VONQ lanceert CPA+. Voor de niet-geïnitieerden onder ons, dit is het acronomienfeest dat recruitment heet:

CPC = cost per click

CPA = cost per application/applicant

CPQA = cost per qualified application/qualified applicant

En er zijn nog wel wat andere acroniemen in omloop, maar hier hou ik het op dit moment bij.

Van CPC naar CPQA is het de bedoeling dat de kwaliteit van de response (aanzienlijk) omhoog gaat. De realiteit blijkt echter weerbarstig. Maar volgens VONQ is dat vanaf nu dus voorbij. Met CPA+.

(meer…)

Elon Musk laat ballonnetje op, Grok knalt het uit de lucht

Elon Musk staat bekend om zijn vaak opmerkelijke tweets, en dit keer heeft hij zichzelf overtroffen:
Tweet – Elon Musk
Tweet – Elon Musk

Zoals misschien bekend mag worden verondersteld, worden LLM’s getraind op een ongekende hoeveelheid data (met zeer wisselende kwaliteit) zonder toestemming opgezogen van het volledige internet. De hierdoor meegezogen smeerlapperij moet wel uit het zicht worden gehouden, en daarvoor zijn gespecialiseerde schoonmakers beschikbaar. Hersenvernietigend werk tegen hongerloon.

Maar Musk heeft een beter plan, zie de hierboven getoonde tweet: Herschrijven van al die content door een GenAI, zonder hiaten en zonder fouten. Dat is me nogal wat. En daarom vroeg ik Musk’s eigen Grok of dat een realistische onderneming zou zijn:

(meer…)

Bullhorn wil heel graag Trump trots maken

Twee weken geleden struikelde ik over een advertentie op recruitmenttech.nl waar Art Papas (CEO Bullhorn) ten tonele wordt gedragen om de wonderen van AI uit te leggen middels hun nieuwe product Amplify. Een essentieel onderdeel van dit product is ‘match’-engine:

Amplify combineert verschillende AI-technologieën en automatiseert het hele wervingsproces. Het systeem zoekt automatisch kandidaten op vacaturesites en in databases — en matcht deze met vacatures op basis van data van meer dan 60 miljoen eerdere plaatsingen.

Van dat laatste stukje gaan mijn nekharen stijf overeind staan. En ik moet denken aan een artikel van een jaar geleden waar ik onderstaande afbeelding toonde:
Client and candidate data - Bullhorn
Client and candidate data – Bullhorn

(meer…)

Vrij naar Hung Lee: 10 redenen waarom GenAI adoptie binnen recruitment (te?) langzaam gaat

Hung LeeIn de afgelopen twee weken heeft Hung Lee een tiental redenen opgesomd (10 x reasons why AI adoption in TA is slow, part 1 | 10 x reasons why AI adoption in TA is slow, part 2) waarom de adoptie van GenAI binnen het recruitment domein langzaam verloopt. Deze stelling onderbouwt Lee helaas niet, dus we gaan er om redenen van eenvoud maar even vanuit dat dit het geval is. Mogelijk heeft Lee zijn oren laten hangen naar Chief Profeet Laurens Waling die vrijwel zonder ophouden het recruitment domein loopt af te zeiken op precies dit punt. Maar dat lijkt me eerlijk gezegd onwaarschijnlijk.

Het leek me aardig om de tien redenen van Lee te vertalen en daarbij te voorzien van een argument vóór en een argument tegen de reden. Dit alles om een discussie over de zegeningen en zorgen van GenAI beter onderbouwd te kunnen voeren.

(meer…)

De rottende riolen van LLM’s en de slaven die het schoonmaken

Slagveld van VerdunNaar aanleiding van een nieuwsberichtje op Techcrunch dwaalden mijn gedachten af naar vroeger tijden. Nee, niet toen ik nog jong, fit en dun was maar veel vroeger. Voor diegenen die tijdens geschiedenis hebben opgelet is de West-Indische Compagnie een eeuwige schandvlek uit de Nederlandse economische geschiedenis. De WIC deed namelijk bijna twee eeuwen lang zeer profijtelijke zaken door het vervoeren van … slaven. Die vervolgens op grote plantages te werk werden gesteld onder erbarmelijke omstandigheden.

Enter het nieuwsberichtje op TechCrunch: Meta reportedly in talks to invest billions of dollars in Scale AI. Scale AI is een moderne WIC en plantage-eigenaar ineen. Door niet alleen arbeidskrachten (zonder enige onderhandelingspositie) te ronselen, maar ze ook nog eens werk te bieden dat te goor voor woorden is. Om het werk te beschrijven moeten we even terug naar het ‘succes’ van LLM’s: Transformers, data en compute. Transformers is techniek, compute is rekenkracht maar data is een zeer fluide verhaal. Want die LLM’s hadden veel data nodig, heel veel data. Zoveel data dat ze (Open AI/Microsoft, Meta, Amazon, X/Grok, Google, Anthropic, etc.) werkelijk alle online content roofden (jawel, roofden, want ongevraagd) om daarmee hun model te trainen. In al die content zit ook alle smerigheid die je kan verzinnen. En met smerig bedoel ik heel erg smerig (nee, niet de commerciële vullis van Werf&), zo smerig dat we er met zijn allen niet over praten. Maar die troep zit nu wel in al die modellen, alleen wil je niet dat dat er op de één of andere manier uitkomt. Dat zou niet goed uitkomen voor de schone schijn die we collectief ophouden.

(meer…)

LLM reality check, dankzij Martyn Redstone

Martyn RedstoneIk plofte vorige week, te laat, in een webinar, en had direct spijt. Spijt dat ik niet vanaf de eerste minuut was aangeschoven, want de content was fantastisch. Het webinar werd gehouden door Martyn Redstone en het onderwerp was: Are commercial LLMs like ChatGPT, Gemini, and Grok really capable of screening CVs reliably? Daar heeft heel het recruitment domein een mening over waarbij er ondertussen sprake is van een tweedeling in belAIvers en non-belAIvers. Maar ik dwaal af. Zoals wel vaker het geval is, had ik tekst bij de uitnodiging niet goed gelezen; anders was ik nooit te laat gekomen:

I put them [LLM’s] to the test in a multi-week experiment that exposed the inconsistencies, contradictions, and hidden risks lurking beneath the surface of AI-driven hiring. Join me as I reveal the findings, debunk the myths, and issue a warning to recruiters and vendors relying on LLM-based screeners.

(meer…)

Workday: ouderen boven 40 jaar mogen er niet in

Logo WorkdayWorkday, een wereldwijd dominante leverancier van Human Capital Management (HCM) software, wordt geconfronteerd met een class-action rechtszaak waarin wordt beweerd dat hun AI-gedreven sollicitatie-screening tools mensen boven de 40 jaar  systematisch discrimineren. Inderdaad, dat is een systematische leeftijdsbias.

Dit betekent in potentie dat alle afnemers/gebruikers van Workday’s sollicitatie-technologie onbewust discrimineren:

One program that the HR company offers is called HiredScore AI. This service grades candidates through “unbiased, AI-driven analysis,” according to the firm. The idea behind this program is to allow recruiters a quick way to sort through candidates.

(meer…)