6 zoekresultaten voor: ai is bevattelijk voor bias, net als haar schepper

Hoe voorkom je het ontstaan van forever data?

divine interventionIk heb een goed ‘gesprek’ gehad met mijn (op dit moment) favoriete LLM Google Gemini. Het begon met onderstaande, enigszins morbide vraag:

Stel dat een trainingsset voor een AI persoonsgegevens bevat, en een persoon komt te overlijden, is het dan eenvoudig om de persoonsgegevens van de overleden persoon te verwijderen en de aangepaste trainingsset opnieuw te gebruiken om de AI te trainen?

Dit is natuurlijk een vraag waarop ik het antwoord al weet, maar ik wilde het graag van een LLM horen. En Gemini had een bijzonder uitgebreid antwoord:

(meer…)

AI is bevattelijker voor bias dan haar schepper: forever data

divine interventionIn eerdere artikelen over bias met/zonder AI heb ik de doordachte titel AI is bevattelijk voor bias, net als haar schepper gebruikt. Maar ik ben in de afgelopen maanden langzaam tot de conclusie gekomen dat deze titel niet klopt. Want AI is bevattelijker voor bias dan haar schepper. Deze positie is diametraal tegenovergesteld aan de populaire mening dat AI ofwel vrij is van bias, danwel (duidelijk) minder last van bias heeft. Nu is deze mening zelf niet vrij van bias omdat deze vooral wordt gebezigd door AI-aanbieders of (chief) evangelisten, en zij hebben er een (geldelijk) belang bij om dat te verkondigen.

(meer…)

AI is bevattelijk voor bias, net als haar schepper: intermezzo

divine interventionEnkele maanden geleden ben ik begonnen aan een ambitieus groepsproject om meer inzicht te krijgen in de impact van AI op bias binnen het recruitmentproces. Ik heb daarvoor de hulp ingeroepen van een groot aantal ervaringsdeskundigen (zie hieronder) en, vanzelfsprekend, de four horsemen: ChatGPT, Perplexity, Claude en Deepseek (Gemini is, voor dit moment althans, afgevallen).

Als gevolg van op zich prettige omstandigheden stokte de voortgang van dit project na de publicatie van de tweede blog posting: AI is bevattelijk voor bias, net als haar scheppper: Bias is overal. En achteraf gezien was dat misschien wel een blessing in disguise, omdat we in de tussentijd een wisseling van de wacht in het Amerikaanse White House mee hebben mogen maken. Met de verbanning van DEI heeft bias een nieuwe glans gekregen, zolang je er maar als een Oempa Loempa uitziet. Zeven vinkjes mannen nemen de controle over, ongeacht hun capaciteiten. What could possibly go wrong?

(meer…)

AI is bevattelijk voor bias, net als haar schepper: Bias is overal

divine interventionMet deze blog posting trappen we een serie inhoudelijke artikelen af over bias binnen het recruitment domein, als vervolg op de introductie van deze serie enkele weken geleden. Als eerste geven we een inzicht in de twee belangrijkste spelers die voor bias zorgen, het AI-model en de mens. Aansluitend bespreken we wat bias nou eigenlijk is en welke vormen van bias er kunnen worden onderscheiden. Als laatste gaan we in op de gevolgen zijn van bias.

(meer…)

8vance claimt dat de Autoriteit Persoonsgegevens haar standpunt over scraping moet aanpassen

Logo 8vanceOp het gevaar af om als complotdenker te worden afgeschilderd, is het wat mij betreft geen toeval dat het bericht van NLdigital en het bericht in het Financieele Dagblad op dezelfde dag gepubliceerd zijn. Een tangbeweging om de publieke opinie te manipuleren en de politiek te beïnvloeden. Waar ik het over heb? Een onvervalste aanval op de privacy. Onze privacy.

Waar NLdigital nog een oproep doet (NLdigital roept AP op om handreiking over scraping te schrappen en pleit voor duidelijkheid over het kunnen gebruiken van persoonsgegevens voor AI-modellen) is het FD een heel stuk stelliger (Privacywaakhond AP moet stellig standpunt over scraping aanpassen). En je raad nooit wie het FD als ‘slachtoffer’ opvoert: 8vance! Jawel. En hoe wordt 8vance gekenschetst door deze kwaliteitskrant? Zo:

(meer…)

AI is bevattelijk voor bias, net als haar schepper

divine interventionDe titel is een vertaling van het volgende statement : AI models are just as susceptible to bias as their human creators – hiding behind a veil of objectivity. Ik vind het een heel fraai statement, vandaar ook bovenstaande creatieve vertaling als titel. Maar klopt het ook? Zijn AI-systemen net zo bevattelijk als mensen voor bias? Als mens neem ik daar aanstoot aan, ik kan me niet voorstellen dat de enorme waaier aan vooroordelen die wij mensen naar elkaar kunnen hebben, kan worden geëvenaard door een beperkte representatie van onszelf: het AI-systeem. Ik kan me weer wel voorstellen dat AI-systemen op ongekende schaal bevooroordeeld kunnen zijn omdat ze veel schaalbaarder zijn dan het menselijke brein. En daarmee een veel grotere negatieve impact kunnen hebben met een eventueel kleiner aantal bias-vormen. Verder is het logisch te verwachten dat omdat AI-systemen naar het evenbeeld van de mens zijn gekleid ze dezelfde biases kunnen vertonen.

(meer…)