63 zoekresultaten voor: bias

8vance probeert zichzelf schoon te praten

Logo en logotype 8vanceGisteren was een bijzondere dag. Niet alleen verscheen er een artikel in Werf& van Laurens Waling (Chief Evangelist bij 8vance) over hoe 8vance binnen de AVG blijft, maar ik kreeg ook zomaar een heleboel tweets van Waling op vragen die ik niet heb gesteld. Al met al probeerde 8vance gisteren met een soort charme offensief te laten weten dat ze binnen de lijntjes kleurt. Helaas is ze daarin niet geslaagd. Door de omvang van de informatietsunami moet ik keuzes maken en daarom wijd ik deze blog posting aan de essentie, de AVG. Ik begin daarbij met een alinea uit het artikel in Werf& .

Daarbij is het natuurlijk essentieel om zorgvuldig met persoonsgegevens om te gaan. AVG-compliance heeft bij 8vance daarom ook de hoogste prioriteit. We zijn doorlopend bezig om hieraan te voldoen. Daarom hebben wij alle identificerende data uit de trainingsdata verwijderd. We slaan dus géén persoonsgegevens en potentieel discriminerende informatie (zoals leeftijd en gender) op.

(meer…)

Gaan wij collectief de AVG negeren?

Wolf in schaapsklerenAl jaren analyseer ik (spelers op) de Nederlandse arbeidsmarkt en probeer inzicht te geven in onderliggende werkwijzen en systemen. In verband met de vele vragen die ik krijg naar aanleiding van de reeks artikelen over 8vance en de AVG wil ik deze gelegenheid te baat nemen om ondubbelzinnig duidelijk te maken waarom de handelswijze van 8vance niet is toegestaan en waarom het schadelijk is voor onze sector.

8vance heeft mogelijk een bijdrage te leveren aan een meer diverse en inclusieve arbeidsmarkt. Zij is daarin niet de enige partij. Maar de wijze waarop 8vance in de afgelopen 10 jaar haar diensten heeft ontwikkeld is zo’n structurele en grove schending van de privacy van werkzoekenden dat we waarschijnlijk kunnen spreken van de grootste privacy schending binnen het Nederlandse privacy domein. En mogelijk daarbuiten. En dat dient aan de kaak te worden gesteld.

In het vervolg laat ik de hoofdrolspelers de revue passeren (8vance, LinkedIn, UWV, de recruitment sector, werkzoekenden). (meer…)

8vance en de AVG, geen match made in heaven. Deel 2

logo en logotype 8vanceHierbij het tweede inhoudelijke artikel in de korte reeks “8vance en de AVG, geen match made in heaven”. Voor een inleiding van het onderwerp verwijs ik graag naar dit artikel. In het eerste inhoudelijke artikel ben ik in detail ingegaan op de privacyverklaring van 8vance om te onderzoeken of en zo ja in welke mate het bedrijf zich aan de Algemene verordening gegevensbescherming (AVG) houdt. In dit tweede artikel wordt ingegaan op het recht op inzage van de eigen gegevens (als onderdeel van de AVG, art. 15) om te onderzoeken welke persoonsgegevens 8vance opslaat en hoe dit zich verhoudt tot de AVG.

(meer…)

Zoeken of matchen? Ehh…

Matching machine (Doom)We hebben zoekmachines en we hebben match engines. Toch? Nou.., nee. We hebben ook technologie die twijfelt over haar aanleg, ik noem het voor het gemak maar niet-binaire, fluïde  technologie.

Om de onderstaande alinea op waarde te schatten is het noodzakelijk om eerst even kennis te nemen van deze blog: Zoeken of matchen? Zoeken, natuurlijk! Dan volgt nu een schoonheid van een tekst, voor het gemak van de lezer heb ik de belangrijke woorden vet gemaakt. Om redenen van privacy heb ik identificerende gegevens onherkenbaar weergegeven:

(meer…)

De AI Act binnen recruitment is er voor werkzoekers, niet voor werkgevers

AI Act, AVG/GDPRStepstone, bij monde van CEO Sebastian Dettmers, stelt dat de AI-Act grote bedrijven (zoals Stepstone) een voordeel biedt. De reden? Deze:

Die Markteintrittsbarrieren würden sich durch das KI-Gesetz „drastisch erhöhen“, sagt Dettmers. Stepstone verfüge mit mehr als 4000 Mitarbeitern aber über die notwendigen Ressourcen, das umzusetzen. „Bereits jetzt halten wir alle Vorgaben ein und gehen sogar in weiten Teilen darüber hinaus“, sagt er. „Kleinere Unternehmen und Start-ups werden jedoch vor großen Herausforderungen stehen, den Regularien des EU AI Acts zu entsprechen.

Chinezen wensen hun concurrent veel personeel, maar Dettmers is blij met kansloze concurrenten met veel te weinig personeel. Agile is, volgens Dettmers althans, een concurrentienadeel geworden. Geen woord overigens over de voordelen die de AI Act biedt voor de meest kwetsbare groep binnen het recruitment domein: de werkzoekenden.

(meer…)

We worden collectief steeds dommer

Dit is natuurlijk geen sympathieke boodschap maar ik heb onomstotelijk bewijs dat onze jachtige samenleving ons dwingt om steeds dommer te worden. En met dommer bedoel ik steeds minder deskundig op het eigen werkterrein. Ik gebruik het Dunning-Kruger effect in combinatie met de Gartner hype cycle om dat te bewijzen.

Laat ik beginnen het Dunning-Kruger effect:

Dunning-Kruger effect

(meer…)

Provincie West-Vlaanderen treft maatregelen tegen AI-misbruik in selectieprocedures

Selection biasesEen interessant nieuwsbericht waarbij ik onwillekeurig op het verkeerde been werd gezet als gevolg van de titel Provincie West_Vlaanderen treft maatregelen tegen AI-misbruik in selectieprocedures. Ik verwachtte maatregelen die het risico op bias in selectieprocedures waarbij AI  een rol speelt, wilde beteugelen. Maar het gaat helemaal niet om werkgevers, het gaat om misbruik door werknemers:

Het provinciebestuur van West-Vlaanderen neemt stappen om misbruik van artificiële intelligentie (AI) tijdens selectieprocedures te voorkomen. ‘Bij een selectieprocedure om de parate kennis van kandidaten te meten is het gebruik van internet of AI niet toegestaan’, zo stelde provincieraadslid Kurt Himpe

(meer…)

Berufsinformat: arbeidsmarkt slopen met AI les één

Even kort, want ik heb eieren op het vuur staan. Marc Drees schreef onlangs over Berufsinformat. Een krankzinnig initiatief van De Oostenrijkse Dienst voor de Arbeidsmarkt (AMS), dat kan dienen als handleiding voor mensen die AI in willen zetten om de mensheid te straffen.

AMS was een respectabele organisatie met een groot aantal leden en een groot aantal integere, hardwerkende medewerkers. Maar ergens is kort geleden iets grondig misgegaan, want AMS heeft besloten AI te gaan temmen. In een onzalig initiatief met voorspelbare gevolgen heeft AMS een Berufsinformat gelanceerd. AMS heeft ervoor gekozen om onzin te gaan verspreiden ten koste van informatie.

Ik zal uitleggen waarom dit een probleem is, wat de gevolgen zijn en hoe AMS deze ellende kan oplossen. Dit doe ik aan de hand zeven misvattingen, waarbij de Berufsinformat als afschrikwekkend voorbeeld dient. Lees maar gauw verder.

(meer…)

Koploper AMS krijgt ook als eerste de klappen, innovation is a bitch

Logo en logotype AMSGisteren meldde ik dat de Oostenrijkse public employment service AMS als eerste Europese overheidsinstantie haar kop boven het maaiveld heeft gestoken met de lancering van een op Open AI’s ChatGPT gebaseerde chatbot voor werkzoekenden. En als je de eerste bent dan neem je, zeker als overheidorganisatie, een behoorlijk risico. En dat risico manifesteerde zich razendsnel:

[…] het blijkt dat er niet alleen duidelijke tekortkomingen zijn in de technische implementatie van de dienst, maar dat de tool ook gretig vooroordelen produceert.

(meer…)

AMS gaat als eerste Europese PES met AI de markt op: Berufsinformat

Logo en logotype AMSAMS (Arbeitsmarktservice) is de eerste Europese public employment service (PES) die met AI aan de haal gaat. Waar de landelijke overheid het gebruik van LLM’s nadrukkelijk verbiedt is Oostenrijk in tegenovergestelde richting bezig:

Sinds begin januari maakt de AMS (Dienst Arbeidsmarkt) gebruik van een speciaal ontwikkelde kunstmatige intelligentie op basis van ChatGPT: de Berufsinfomat. Alle essentiële informatie over beroepen is in realtime toegankelijk.

De Berufsinfomat zal het adviesproces voor onze klanten en onze consultants een stuk eenvoudiger maken. Onderzoek naar functiegerelateerde inhoud kan met slechts één klik worden gedaan en de consultants kunnen nog meer tijd besteden aan persoonlijk advies”, zegt Johannes Kopf, CEO van AMS.

(meer…)