AI, AI, AI wat kan er toch veel misgaan met artificial intelligence (in recruitment)

De laatste jaren zijn we gewend geraakt aan een toenemend aandeel van artificial intelligence (AI) in de recruitment marketing hyperbool, spaarzaam gebalanceerd door artikelen die tegen de overspannen verwachtingen van AI ageren.

Een aantal dagen geleden liep ik dankzij Twitter tegen How to recognize AI snake oil aan. Een korte presentatie vol fraaie informatie; waarbij hij het nut (danwel het gebrek daaraan) van AI helder over het voetlicht weet te brengen. Met deze slide als hoogtepunt; als je tenminste binnen het recruitment domein wat aanrommelt:

Slide presentatie over AI

AI is fundamenteel dubieus voor recruitment doeleinden, tenminste als het om het voorspellen van de waarde van een sollicitant/kandidaat gaat.

Als typische digitale netwerker slinger ik via Twitter deze presentatie naar mijn duizenden volgers (klinkt overdreven maar is feitelijk correct met op dit moment precies 3.100 volgers…). En ik besteed er ook nog een mailtje aan. Met een snelle, onverwachte en bijzonder interessante response; informatie over HireVue. Het bedrijf ligt namelijk onder het vergrootglas in de VS als gevolg van de wijze waarop zij AI inzet bij het beoordelen van sollicitanten. En dat vergrootglas laat behoorlijk wat ongepaste zaken zien, die voor de onderzoeker (EPIC) aanleiding is om een klacht in te dienen bij de FTC (Federal Trade Commission). Met onder meer de volgende constateringen:

  1. HireVue’s intrusive collection and secret analysis of biometric data thus causes substantial privacy harms to job candidates.
  2. HireVue’s intrusive collection and secret analysis of biometric data also causes substantial financial harms to job candidates. Many job candidates are denied opportunities to contract with companies based on HireVue’s algorithmic assessments,
  3. The injuries caused by HireVue’s use of biometric data and secret algorithms cannot be reasonably avoided. HireVue’s video-based and game-based assessments are used by 700 companies, and job candidates are not given an opportunity to opt out of or meaningfully challenge HireVue’s assessments
  4. The harms caused by HireVue’s use of biometric data and secret algorithms are not outweighed by countervailing benefits to consumers or to competition. HireVue has failed to demonstrate any legitimate purpose for the collection of job candidates’ biometric data or for the use of secret, unproven algorithms to assess the “cognitive ability,” “psychological traits,” “emotional intelligence,” and “social aptitudes” of job candidates
  5. Other methods that accomplish the goal of evaluating job candidates are readily available and have long been in use.
  6. HireVue is therefore engaged in an unfair trade practice in violation of the Federal Trade Commission Act.

En dat levert de volgende klacht van EPIC bij het FTC op:

EPIC urges the Commission to investigate HireVue and to find that its uses of facial recognition technology, biometric data, and secret, unproven algorithms constitute unfair and deceptive trade practices under Section 5 of the FTC Act.

EPIC furthers urges the Commission to:

  • a. Initiate an investigation into the business practices of HireVue;
  • b. Halt HireVue’s scoring of job candidates pending substantial changes in business practices;
  • c. Require that HireVue make public the algorithm used to produce assessments of job candidates;
  • d. Require that HireVue make known to candidates the precise basis for their evaluation;
  • e. Require that HireVue comply with the requirements of the OECD AI Principles;
  • f. Require that HireVue comply with the requirements of the Universal Guidelines for AI;

HireVue zet in de tussentijd vol in op AI, zoals blijkt uit hun homepage:

Homepage HireVue

Als ik dan op de Learn more knop klik krijg ik een hele hoop informatie te zien, die vooral duidelijk wil maken dat HireVue zeer voorzichtig met AI en data van sollicitanten omgaat. Helaas maakt het bedrijf nergens expliciet hoe dat allemaal gebeurt en interactie met sollicitanten wordt ook niet genoemd. Ik heb een e-mail naar HireVue gestuurd met het verzoek om een reactie op de klacht die EPIC bij de FTC heeft neergelegd.

Daarop kreeg ik al zeer snel onderstaande reactie van de communicatieafdeling:

HireVue upholds the highest levels of rigor and ethics as we work every day to increase fairness and objectivity in the hiring process. For more than 14 years, our technology has reduced bias in pre-hire assessments, helped a wider pool of job-seekers be considered for job openings, and enabled companies to access a broader, more diverse talent pool.

 

Our assessments technology is rooted in validated behavioral science. HireVue employs a validated bias-mitigation process based on a very high standard set in the US in 1978 (the EEOC’s Uniform Guidelines), and we’re also guided by standards outlined in the Society for Industrial and Organizational Psychology’s “Principles for the Validation and Use of Personnel Selection Procedures,” and by the professional standards for the design of testing programs (e.g., American Educational Research Association, American Psychological Association, & National Council on Measurement in Education, 1999; Society for Industrial and Organizational Psychology, 2018). We are also committed to the continual improvement of the technology, regularly seeking third-party audits and input on our approach from data science researchers, data security and privacy experts, social scientists and academics.

 

For more information, I encourage you to visit these pages:

HireVue AI Ethical Principles

Train, Validate, Re-train: How We Build HireVue Assessments Models

Geen reactie dus op mijn vraag maar wel een zeer uitgebreide opsomming van de mate waarin HireVue vindt dat zij verantwoord bezig is. We wachten af wat de FTC in deze gaat beslissen.

Als afsluiting nog dit. Phenom People heeft recent een rapport uitgebracht met als titel The State of the Candidate Experience, 2020 Benchmarks. Machtig mooie titel natuurlijk. En in het lijvige document stond ook deze infographic:

Phenom People

HireVue hoort bij de 3% die AI inzetten; de early, early adapters. En ik adviseer de andere 97% nog maar even te wachten met de implementatie van AI. Er is geen haast en je loopt in ieder geval een hoop gedonder mis rondom bias en privacy. O ja, laat die chatbots ook nog maar even voor wat ze zijn, zeker als daar ook nog eens AI bij word beloofd. En als een werken bij site geen job recommendations toont valt geen werkzoeker hierover. Tenslotte doet maar 4% wel aan recommendations. En dat is nog heel erg weinig…

Geef een antwoord