Marc Drees Gisteren schreef ik een review over de Litouwse people aggregator Whitebridge, in de hoop dat de site geluidloos in de deathpool glijdt. Maar ik was te optimistisch want enkele uren na het plaatsen van de review kreeg ik onderstaande e-mail van de site (waarmee het donkerbruine vermoeden uit mijn vraag in die review meteen beantwoord is):
E-mail Whitebridge
Marc Drees 
Het is ruim een week geleden dat ik aandacht besteedde aan de een toespraak van een kwade genius in de EU gelederen: Mario Draghi. De man is er op uit om GDPR/AVG en AI-Act uit te kleden respectievelijk uit te stellen:
Draghi states that the EU’s growth model is COLLAPSING and that drastic measures are needed, including a “radical simplification” of the GDPR and postponing the rules on high-risk AI”
Enkele dagen geleden kwam hier nog een dolkstoot bij. In een briefing op 22 september zegt de EU onder meer het volgende:
Marc Drees 
Ik heb besloten om regelmatig actuele artikelen mbt AI en HR de wereld in te slingeren. Het is nauwelijks een inspanning die ik moet verrichten; al het voorwerk is door Zeta Alpha gedaan.
Vandaag behandel ik het artikel Which Humans? van het Department of Human Evolutionary Biology, Harvard University, en daarmee is dit artikel natuurlijk boven elke twijfel verheven. Hier is een samenvatting van dit artikel:
Marc Drees 
Dit was te lezen in een bericht van Luiza Jarovsky op LinkedIn vandaag:
Draghi states that the EU’s growth model is COLLAPSING and that drastic measures are needed, including a “radical simplification” of the GDPR and postponing the rules on high-risk AI”
En dit bericht was voldoende om naarstig op zoek te gaan naar deze video: The EU economy is responding: From report to results. Ik beveel eenieder aan om niet naar deze video te kijken, maar als je het toch doet, weet dan dat ik je gewaarschuwd heb. In het tweede deel van de video figureert Mario Draghi. Mario Draghi? Jawel, Mario Draghi. Volgens Wikiepdia is hij econoom, voormalig baas van de ECB, voormalig premier van Italië, voormalig bobo bij Goldman Sachs en volgens zijn doktoren stromen er Euro’s door zijn (slag)aderen (dit laatste is een poëtische toevoeging van mijn hand). Ik ben wit weggetrokken van de gruwelen die deze robot te vertellen heeft. Luister je even mee?:
Marc Drees 
In een bericht op LinkedIn spreekt Jeroen Terstegge over een bijdrage van Professor D. Graham Burnett (Princeton) tijdens de 47e GPA (General Privacy Assembly) Conferentie in Seoul. Burnett sprak in zijn bijdrage over het fenomeen Human fracking om de impact van technologie op de mens te beschrijven. Terstegge geeft onder meer deze quote:
“Human Fracking, the technology to turn humans into money, is the enemy of humanity. We are all being turned into Homo Attentus. The Attention Economy is destroying our social fabric. It is already changing our politics. And AI will be really good in Human Fracking.”
Dat zijn nog eens zinnen! En dat was voldoende om er eens stevig op los te filosoferen, zonder overigens verder iets van zijn Burnett’s bijdrage te hebben gelezen/gehoord. Maar ik was tijdens mijn studie een ploert in dissectie, dus hier gaan we:
Marc Drees In januari is Diella in produktie genomen, een virtuele assistent op het e-Albania platform voor digitale diensten. Het helpt burgers met diverse bureaucratische taken. Sinds kort is Diella gepromoveerd tot minister in de regering, met de verantwoordelijkheid voor alle openbare aanbestedingen. En nee, dit is blijkbaar geen 1 april-grap:
Diella – e-albania
Diella , wat ‘zon’ of ‘zonnestraal’ betekent in het Albanees, was de naam die werd gekozen voor de vrouw die, in de woorden van premier Edi Rama, ‘het eerste lid van de regering is dat niet fysiek aanwezig is, maar virtueel is gecreëerd door middel van kunstmatige intelligentie ‘. Dit maakt Albanië het eerste land ter wereld dat een AI-systeem in een ministeriële rol. De primaire functie van Diella is het toezicht houden op alle openbare aanbestedingen en overheidscontracten. Het doel is om corruptie, menselijke vooringenomenheid en manipulatie in het aanbestedingsproces te elimineren. (meer…)
Marc Drees 
Ik heb besloten om regelmatig actuele artikelen mbt AI en HR de wereld in te slingeren. Het is nauwelijks een inspanning die ik hoef te verrichten; al het werk is door Zeta Alpha gedaan.
Vandaag behandel ik het artikel “AI models collapse when trained on recursively generated data” dat medio 2024 is verschenen in Nature:
Het document onderzoekt wat er gebeurt als taalmodellen herhaaldelijk worden bijgetraind op data die door andere modellen is gegenereerd, in plaats van op door mensen samengestelde data. De belangrijkste bevindingen zijn:
Marc Drees 
Ik heb besloten om regelmatig actuele artikelen mbt AI en HR de wereld in te slingeren. Het is nauwelijks een inspanning die ik hoef te verrichten; al het werk is door Zeta Alpha gedaan.
Vandaag is het “Surface Fairness, Deep Bias: A Comparative Study of Bias in Language Models“. Dit artikel onderzoekt hoe grote taalmodellen (LLMs) vooringenomenheid vertonen wanneer ze reageren op prompts met verschillende persoonsbeschrijvingen. De studie gebruikt een reeks experimenten om te analyseren of de uitkomsten van LLMs systematisch verschuiven op basis van persoonskenmerken zoals geslacht, afkomst en migratiestatus. De onderzoekers ontwierpen drie experimenten, waaronder één die vakgebieden koppelde aan relevante academische onderwerpen en een ander die salarisonderhandelingen simuleerde voor verschillende persoonsgroepen
Marc Drees 
Onschuldige recruiters wordt paniek aangejaagd door alarmerende berichten over tsunami’s die op hen afrollen; talloze perfecte cv’s en motivatiebrieven die volledig op maat zijn gemaakt voor de van toepassing zijnde vacatures. Ideale kandidaten die zich bij drommen aan de poort melden, maar waarvan je al op voorhand weet/vermoed dat meer dan 90% fabulanten zijn, bij elkaar verzonnen door AI-tooltjes voor werkzoekenden.
Wat te doen? Ste je voor dat je een AI-tool zou kunnen gebruiken in een poging om de fabulanten van de echte kandidaten te scheiden? Dat zou natuurlijk machtig mooi zijn, ware het niet dat AI-tools juist een voorkeur lijken te hebben voor fabulanten. En zelfs als dat niet zo was, dan loop je vanaf augustus 2026 tegen de AI Act aan die een betekenisvolle menselijke tussenkomst vereist bij beslissingen zoals het afwijzen van sollicitanten.
Marc Drees 
Even een shout out naar Martyn Redstone naar aanleiding van zijn recente artikel over (race) bias in recruiting:
The lawsuit claims that Sirius XM’s AI-driven tools, including candidate matching and shortlisting features, evaluated applicants based on data points that act as a proxy for race. The plaintiff alleges that these data points, such as educational institutions, employment history, and even zip codes, led to a “disproportionate” rejection rate for qualified African-American candidates. Mr. Harper, a highly qualified IT professional , claims he was rejected for 149 out of 150 positions he applied for , despite meeting or exceeding the qualifications for the roles.
Bijzonder interessant natuurlijk, en het is allang bekend dat demografische kenmerken zoals locatie kunnen worden gebruikt voor discriminatoire acties. Hetzelfde geldt natuurlijk ook voor opleidingsinstituten en werkgevers; in combinatie kan je hiermee bijzonder effectief filteren.
Hoewel deze rechtszaak dient in de VS is deze problematiek onverkort toepasbaar op de Europese situatie. Goed om hier aandacht aan te besteden dus
