Marc Drees ClearView AI is een griezelig bedrijf, daar is geen twijfel over. Het bedrijf heeft op ongekende schaal gezichtsfoto’s van Internet verzameld en claimt op dit moment meer dan 60 miljard publiek toegankelijke gezichtsafbeeldingen in haar database te hebben:
Homepage – ClearView AI
Marc Drees 
Onder de neutraal klinkende e-mail titel: We’re Updating our Consumer Terms and Privacy Policy doet Anthropic (Claude) een poging tot een data grab van formidabele omvang. Het bedrijf wil namelijk de termijn voor het bewaren van user chats verlengen van 30 dagen naar 5 jaar. Vanzelfsprekend staat daar niets tegenover voor de individuele gebruiker, maar alles voor Anthropic.
Hoe verkoopt Anthropic deze koloniale praktijk? Nou zo:
Today, we’re rolling out updates to our Consumer Terms and Privacy Policy that will help us deliver even more capable, useful AI models. We’re now giving users the choice to allow their data to be used to improve Claude and strengthen our safeguards against harmful usage like scams and abuse. Adjusting your preferences is easy and can be done at any time.
By participating, you’ll help us improve model safety, making our systems for detecting harmful content more accurate and less likely to flag harmless conversations. You’ll also help future Claude models improve at skills like coding, analysis, and reasoning, ultimately leading to better models for all users.
Marc Drees 
Een paar maanden geleden schreef ik met volle overtuiging: AI is bevattelijker voor bias dan haar schepper: forever data. En deze blog posting sloot ik als volgt af:
AI-systemen incorporeren (via trainingsdata waarin alle denkbare menselijke bias-vormen zijn neergeslagen) alle vormen van menselijke bias en worden door technische keuzes (AI bias-vormen) nog eens verder gemankeerd waardoor een slangenkuil van forever data ontstaat. En die slangenkuil laten we vervolgens los op niets-vermoedende sollicitanten in het naïeve geloof dat we objectiever en sneller (= goedkoper) tot een eerlijker resultaat gaan komen.
Maar ik moet tot mijn schande bekennen dat ik hiermee de boel ongekend (en nog erger, ongeïnformeerd) heb opgehitst. Mea culpa, mea maxima culpa.
Want dankzij de juni nieuwsbrief van VONQ heb ik namelijk het licht gezien, de nieuwsbrief verwijst namelijk naar een door een Britse juriste geschetste oplossing:
[Furat Ashraf] raised the point that, in theory, if you find the point of bias within AI and change the algorithm and train it on some additional data, then the issue should be fixed; something that is arguably much harder to do when dealing with humans.
Marc Drees 
Een week geleden besteedde ik kort aandacht aan een nieuwe AI-loot aan de Bullhorn stam: Amplify. Waarbij ik aangaf met drie grote, Nederlandse Bullhorn gebruikers contact te hebben gezocht:
Ik heb de DPO’s/FG’s van Randstad, Adecco en Manpower (allen Bullhorn gebruikers) een e-mail gestuurd met de volgende vraag:
Geachte mevrouw, heer,
Als ik goed ben geïnformeerd, maakt <Randstad/Adecco/Manpower> gebruik van het Bullhorn platform voor recruitment doeleinden.
Ik heb net een promo van een nieuw Bullhorn product (Amplify) gezien waarin de presentator onder meer uitlegt dat Bullhorn gebruik heeft gemaakt van 25 jaar aan data over kandidaten, vacatures, placements en submissions).
Wordt ook uw historische data gebruikt om Bullhorn’s AI te trainen? Als dat zo is, zijn uitzendkrachten hiervan op de hoogte en zijn zij hiermee akkoord?
Met vriendelijke groet,
Marc Drees Twee weken geleden struikelde ik over een advertentie op recruitmenttech.nl waar Art Papas (CEO Bullhorn) ten tonele wordt gedragen om de wonderen van AI uit te leggen middels hun nieuwe product Amplify. Een essentieel onderdeel van dit product is ‘match’-engine:
Amplify combineert verschillende AI-technologieën en automatiseert het hele wervingsproces. Het systeem zoekt automatisch kandidaten op vacaturesites en in databases — en matcht deze met vacatures op basis van data van meer dan 60 miljoen eerdere plaatsingen.
Van dat laatste stukje gaan mijn nekharen stijf overeind staan. En ik moet denken aan een artikel van een jaar geleden waar ik onderstaande afbeelding toonde:
Client and candidate data – Bullhorn
Marc Drees Het fundament van LLM’s is content. Heel veel content. Veel is beter, heel veel is heel veel beter. Wat daarbij het risico loopt om onder te sneeuwen is de kwaliteit van de content. Sterker nog, aan kwaliteit wordt bijzonder weinig aandacht besteed. Opvallend, zeker binnen het recruitment domein; want wat is de waarde van een 5 jaar oud cv? Met of zonder skills…
Om deze boodschap wat meer impact mee te geven (wie leest er tegenwoordig nog…) hierbij een plaatje:
Marc Drees 
Workday, een wereldwijd dominante leverancier van Human Capital Management (HCM) software, wordt geconfronteerd met een class-action rechtszaak waarin wordt beweerd dat hun AI-gedreven sollicitatie-screening tools mensen boven de 40 jaar systematisch discrimineren. Inderdaad, dat is een systematische leeftijdsbias.
Dit betekent in potentie dat alle afnemers/gebruikers van Workday’s sollicitatie-technologie onbewust discrimineren:
One program that the HR company offers is called HiredScore AI. This service grades candidates through “unbiased, AI-driven analysis,” according to the firm. The idea behind this program is to allow recruiters a quick way to sort through candidates.
Marc Drees 
Indeed is een heel grote vacaturesite, als ik me niet vergis is Indeed op dit moment zelfs de grootste vacaturesite van de hele wereld. En dat is bepaald een knappe prestatie. Wat minder knap is de wijze waarop Indeed probeert nog meer data uit werkzoekers te persen, om deze data vervolgens ten nadele van diezelfde werkzoekers in te gaan zetten. Ik heb het hier specifiek over disposition data, oftewel de systematische vastlegging van de status van een kandidaat in de verschillende fasen van het recruitmentproces. Het is als het ware de digitale ‘reisdocumentatie’ van een sollicitant door de wervingsprocedure bij een werkgever.
Als sollicitant mag je verwachten dat deze informatie uiterst vertrouwelijk wordt behandeld en alleen bekend is bij een beperkt aantal medewerkers (HR, recruitment, hiring manager) bij de werkgever. Een meer dan redelijke verwachting, maar als je hebt gesolliciteerd via Indeed dan kom je bedrogen uit. Want diezelfde werkgever is verplicht (ja, verplicht) om de disposition data terug te leveren aan Indeed. De retourlevering wordt overigens uitgevoerd door het door de werkgever gebruikte ATS.
Waar het nu over Indeed gaat, mag je binnenkort waarschijnlijk ook alle andere usual suspects invullen (LinkedIn, Nationale Vacaturebank, Stepstone, Totaljobs, Monster, CareerBuilder, Adzuna, Jobrapido, en ga zo maar door).
Laten we dit juweeltje eens rustig ontleden.
Marc Drees 
Eind april meldde ik de indolentie van de Autoriteit Persoonsgegevens en andere Europese DPA’s in relatie tot de voorgenomen data-grab van Meta:
Instagram- en Facebookgebruikers die niet willen dat moederbedrijf Meta hun posts gebruikt om kunstmatige intelligentie (AI) mee te trainen, moeten daar nu bezwaar tegen maken. Doen ze dat niet vóór 27 mei, dan gebruikt Meta automatisch hun gegevens voor het trainen van Meta AI. Meta heeft aangegeven de gegevens van iedereen die bezwaar aantekent, niet te gebruiken voor het trainen van AI.
Deze waarschuwing is afkomstig van de AP, die ondertussen weer in slaap lijkt te zijn gesukkeld, samen met haar collega’s. Gelukkig zijn we niet alleen van de AP afhankelijk bij de bescherming van persoonsgegevens, maar het is navrant om een miljoenen-verslindende operatie als de AP zo nonchalant te zien omgaan met haar eigen missie:
De AP is de onafhankelijke toezichthouder op persoonsgegevens die mensen beschermt in een digitale wereld.
Marc Drees 
Enkele weken geleden heb ik de nodige argumenten gegeven waarom AI bevattelijker is voor bias dan haar schepper (de mens) en daar wil ik nog een schepje of wat aan toevoegen, waarbij ik voor de meer academisch georienteerden onder mijn lezersschare ook nog wat referenties wil toevoegen. Maar eerst even een herhaling van wat ik op 25 april schreef:
De bron van alle kwaad?
De menselijke bias-vormen zijn onderverdeeld in 5 veel voorkomende bias-vormen met een cognitieve oorsprong en 5 veel voorkomende bias-vormen met een sociale oorsprong:Bias met een cognitieve oorsprong kan het beste worden geduid als een systematische afwijking in ons denken die leidt tot vertekende oordelen, beslissingen of percepties (vetrouwen op mening autoriteit, voorkeur voor sollicanten die op ons lijken, overschatting eigen kennis/vaardigheden).
Bias met een sociale oorsprong is een systematische vertekening in data, processen of resultaten die voortkomt uit sociale structuren, normen, overtuigingen en interacties binnen een samenleving. Kort gezegd: bias met een sociale oorsprong zijn allerhande vooroordelen in het sociale domein (uiterlijk, ras, gender, diploma’s, leeftijd, etc.).
