ChatGPT en haar (ongetwijfeld snel groeiende leger van) collega’s zijn generatieve taalprogramma’s, getraind op een enorm volume aan documenten. Dit is statistiek van een hogere orde en dus een domein waarin ik geen enkele expertise heb. Maar de output van deze programma’s is prima te beoordelen door beta-benadeelden. En het ‘mooie’ is dat in het geval van “onjuiste” (op basis van een door beta-beperkten bepaalde norm) output, het programma kan worden bijgestuurd middels regels. Krijg je een antwoord van het programma dat op een uitspraak van Poetin lijkt, dan kan per direct (handmatig…) een regel worden geintroduceerd die voortaan uitspraken van Putin(-achtigen) in de output voorkomt. Prachtig, nietwaar?
Nou, misschien niet. Prachtiger zou natuurlijk zijn dat deze programma’s alle normen en waarden die wij met elkaar hebben afgesproken (per continent, land en regio) vanaf het begin geïncorporeerd hebben en er dus geen afzonderlijke search & destroy acties moeten worden uitgevoerd om corrigerende regels te kunnen introduceren. Handmatig… Met daarbij de eeuwig knagende vraag: wat hebben we gemist? Antwoord: veel. Maar je gaat ze nooit allemaal vinden.
Laten we eens een vacaturetekst nemen. Sinds we als norm het begrip “inclusief” als heilige koe aanbidden kan geen enkele vorm van (op dit moment onderkend type) bias onderdeel uitmaken van een vacaturetekst, ook niet als het volstrekt logisch zou zijn. Een vacaturetekst mag geen beperking opleggen op het gebied van leeftijd, gender, sexuele geaardheid, huidskleur, beperkingen of andere kenmerken. Maar heeft een AI-programma weet van deze normen? Als het toevallig getraind is op heel veel vacatures die geen enkele bias in zich hebben dan is het antwoord nog altijd: Nee, want een AI-programma is een verzameling statistiek en daarin zijn normen geen onderdeel. Maar het AI-programma zal daarin waarschijnlijk geen fouten maken, todat een nieuwe norm wordt geintroduceerd waar vacatureteksten tot op dat moment geen weet van hadden. En dus zal er vrijwel onvermijdelijk sprake zijn van een bias in de vactureteksten en daarmee van bias in het AI programma. Data is cruciaal in het
Dit alles is eigenlijk een veel te lange introductie voor een paar artikelen van Kieran Snyder, CEO en mede-oprichter van Textio. Ik ga ervan uit dat Textio bekend is bij mijn trouwe lezertjes. Voor de overige passanten zegt hun tagline eigenlijk alles: Inclusive talent attraction. En Snyder heeft een tijdje gespeeld met ChatGPT en daar een aantal lezenswaardige artikelen over geschreven :
ChatGPT writes recruiting mail
Veel leesplezier, maar je kan natuurlijk ook aan ChatGPT vragen om de tekst samen te vatten. En dat heb ik ook maar even gedaan:
ChatGPT writes job posts:
ChatGPT writes recruiting mail:
ChatGPT writes valentines:
Bedenk wel dat de devil is in the details.