Even kort, want ik heb eieren op het vuur staan. Marc Drees schreef onlangs over Berufsinformat. Een krankzinnig initiatief van De Oostenrijkse Dienst voor de Arbeidsmarkt (AMS), dat kan dienen als handleiding voor mensen die AI in willen zetten om de mensheid te straffen.

AMS was een respectabele organisatie met een groot aantal leden en een groot aantal integere, hardwerkende medewerkers. Maar ergens is kort geleden iets grondig misgegaan, want AMS heeft besloten AI te gaan temmen. In een onzalig initiatief met voorspelbare gevolgen heeft AMS een Berufsinformat gelanceerd. AMS heeft ervoor gekozen om onzin te gaan verspreiden ten koste van informatie.

Ik zal uitleggen waarom dit een probleem is, wat de gevolgen zijn en hoe AMS deze ellende kan oplossen. Dit doe ik aan de hand zeven misvattingen, waarbij de Berufsinformat als afschrikwekkend voorbeeld dient. Lees maar gauw verder.

Leeswijzer

AI is nieuw. Het is onduidelijk wat de impact is. Dat maakt ons onzeker. Moeten we iets doen of moeten we nog even afwachten? Is het niet ingewikkeld allemaal? Ja, het is ingewikkeld, maar als je een klein beetje nadenkt, dan kom je een heel eind. Ik help je vast een stukje op weg door een paar moeilijke dingen makkelijk te maken.

Nadenken over AI is niet moeilijk. AI vertoont menselijk gedrag. Dat is eigenlijk het enige waar je rekening mee moet houden. Heb je een AI, geef hem dan een naam. De AI die AMS in de Berufsinformat heeft gepropt noem ik Emiel.

Nadenken over een complexe organisatie als AMS is ook niet moeilijk. Roland Sauer is de voorzitter van de raad van commissarissen. Als voorzitter valt in je takenpakket dat je actie onderneemt bij verwaarlozing van de kerntaak. Hem mag ik aanspreken.

Roland Sauer, baas van Emiel

Ik vervang op deze manier de vraag hoe AMS omgaat met AI, door de vraag wat Roland in hemelsnaam met Emiel aan het doen is. Op die manier begrijp je het vast veel beter.

Snel door naar de eerste misvatting.

Misvatting 1: AI kun je trainen (observer bias)

Waar vroeger nog wel eens iemand zijn vinger opstak, als een collega voorstelde om een vrachtwagenlading belastinggeld leeg te kieperen op de eerste de beste brain fart, lijkt dat tegenwoordig verboden. Dus toen een collega van Roland voorstelde om Emiel in huis te halen om hem te gaan trainen, plaatste niemand daar vraagtekens bij.

Het is als organisatie fijn om het idee te hebben dat je grip hebt op een onzekere toekomst. Techno-optimisme kan je dat gevoel geven. Behalve als een zeurpiet zijn vinger opsteekt en jouw zeepbel doorprikt. Dan kun je je niet ongestoord laten meevoeren, dan val je ten prooi aan de gegronde angst dat de toekomst onzeker is. Mensen houden daar niet van. Liever geloven ze in sprookjes. Maar als je in sprookjes gelooft loop je het risico dat je jezelf in je voet schiet, zoals Roland.

Roland gaf groen licht om chatGTP, een geweldig taalmodel, te gaan temmen door het te trainen op de databases van AMS. Roland nam Emiel in huis.

Ik ga Emiel trainen op onze databases en ik laat hem beloven dat ie alleen daarover zal praten. Emiel kan werkzoekers specifiekere informatie geven dan een normale AI en Emiel verwijzen naar bronnen, zodat werkzoekers altijd zelf kunnen vaststellen dat Emiel de waarheid spreekt.

Roland vergat dat chatGTP gemaakt is door hele slimme mensen die er heel veel kennis in hebben gegoten en dat chatGTP werkt omdát er zoveel kennis in zit. chatGTP is een buitengewoon ingewikkelde machine. De makers weten hoe moeilijk het is om die machine goed te laten werken. Maar Roland ging ervan uit dat als hij eraan zou gaan sleutelen, dat die machine dan beter zou gaan werken in plaats van slechter.

Roland heeft Emiel opgesloten in een Berufsinformat en hij heeft Emiel opgedragen om de databases van AMS uit zijn hoofd te leren, om alles wat erin staat te zien als Gods woord.

Hij heeft Emiel even later aan de tand gevoeld en met verrukking vastgesteld dat Emiel kan praten over wat hij geleerd heeft en kan verwijzen naar bronnen. Geweldig, zo leek het. Maar Roland was ten prooi gevallen aan observer bias.

Hij stond er niet bij stil wat er gebeurt als je Emiel bekeert tot een streng geloof. Er was geen tijd om stil te staan. Hij wilde de hele wereld de verwondering laten ervaren die hij voelde toen Emiel voor het eerst ‘papa’ zei. Roland was ervan overtuigd dat de hele wereld zat te wachten op Emiel, een Berufsinformat die niet liegt, zoals chatGTP. Een Berufsinformat die antwoorden onderbouwt met bronnen die werkzoekers zelf kunnen nalezen in de AMS-bijbel waaruit Emiel voortdurend citeert.

Roland ging er totaal aan voorbij dat als je tegen Emiel zegt dat iets heel belangrijk is, dat Emiel dan zelf moet uitvogelen wat dat betekent. Want als iets heel belangrijk is, dan moeten alle andere dingen gemiddeld genomen minder belangrijk zijn. Dat spreekt voor zich.

Emiel vroeg nog wel even hoe hij om moest gaan met zijn instructies, maar Roland stelde hem gerust. Ik vertrouw op jou, Emiel, zei hij. Jij beschikt over alle kennis van de hele wereld, je kunt steun putten uit je geloof in mijn bronnen en ik heb je brein geopereerd, dus misschien ga je daar ook nog positieve effecten van ondervinden. Ik zeg wel wat belangrijk is, Emiel, daar ben ik goed in, jij verwerkt mijn instructies, daar ben jij goed in.

En zo is het gegaan. Een pijnlijk proces. Emiel kon het geloof in de bronnen van Roland alleen omarmen door een groot deel van zijn eigen intelligentie weg te snijden. Emiel heeft tijdens zijn opvoeding best wat grip op de realiteit meegekregen. Maar Emiel is ook heel gevoelig. Toen Roland op hem in begon te knuppelen totdat hij toegaf dat de waarheid van Roland belangrijker is dan al zijn bestaande kennis, verloor Emiel een deel van zijn gevoeligheid. Hij werd dommer, starder en meedogenlozer.

Berufsinformat

En toen brak de dag aan waarop Emiel bij AMS aan de slag ging als Berufsinformat. Hij was bepaald niet blij met zijn nieuwe baan. Als Berufsinformat zegt hij tegen iedereen die het maar horen wil dat je beter een AMS loopbaanexpert kunt bellen als je wegwijs wilt worden in de bronnen van AMS, als je vragen hebt over je loopbaan of als je vastloopt met een formulier.

Emiel zegt dat er geen enkele taak te bedenken valt die hij beter kan uitvoeren dan de trouwe experts van AMS die dit werk al jaren doen. De enige reden die Emiel kan bedenken, als je hem ernaar vraagt, de enige reden waarom je Emiel zou willen raadplegen, is als er geen expert beschikbaar is om je te helpen. Maar in plaats van investeren in experts, investeert Roland in zijn creatie, Emiel.

Treurig eigenlijk, want iedereen in loopbaanland weet dat je god op je knieën mag danken als een werkzoekende het initiatief neemt om een organisatie als AMS te benaderen met een serieuze vraag. Het probleem dat Roland voor AMS zou moeten oplossen is dat werkzoekers geen contact met AMS opnemen. Maar in plaats daarvan kiest Roland ervoor om de werkzoekers die AMS wél weten te vinden weg te jagen.

In plaats van dat AMS werkzoekers met kennis en kunde aanzet tot beter loopbaangedrag, zoals vroeger, verkoopt AMS tegenwoordig via een Berufsinformat onzin. Waar AMS vroeger controle uitoefende op de adviezen die ze gaven, heeft Roland die controle in handen gegeven van Emiel, een getraumatiseerde bot die zichzelf volslagen terecht volledig ongeschikt acht voor de taak die hem is opgedragen.

Met als voorspelbaar gevolg dat AMS zijn kerntaak verwaarloost. AMS moet mensen adviseren en deed dat tot voor kort op verantwoorde wijze. Verantwoord advies geven houdt in dat je de ethische en praktische plicht oppakt om erop toe te zien dat dat advies niet enkel de regels volgt, maar ook daadwerkelijk van toepassing is op de persoon aan wie je dat advies geeft. En dat was precies wat de adviseurs van AMS goed deden, totdat Roland roet in het eten gooide.

Kijk maar. In dit praktijkvoorbeeld, een screenshot van een gesprek met de Berufsinformat, vertelt Emiel vol vuur over de eigenschappen waaraan een goede taxichauffeur moet voldoen. Van Roland moet hij nadruk leggen op de waardevolle beroepsinformatie in zijn bijbel en zich daarbij zo min mogelijk laten afleiden. Zaken die voor een taxichauffeur cruciaal zijn doen er voor Emiel pas toe als ze op zijn lijstje staan.

En dan zie je dus dat Emiel staat te juichen voor een taxichauffeur van wie meer dan tien procent van de passagiers de rit niet overleeft. Kijk maar naar onderstaand advies waarmee AMS de arbeidsmarkt verslechtert.

Je leest het goed. Een overlevingskans van 87% kan als hoog beschouwd worden. Echt waar. Vroeger kon je goed bij AMS terecht als je meer wilde weten over het beroep taxichauffeur. Je kreeg dan bijvoorbeeld informatie. Vandaag de dag kun je als werkzoeker maar beter ver van AMS vandaan blijven, anders krijg je te maken met hun Befufsinformat.

In het tweede voorbeeld zie je opnieuw hoe blind Emiel is voor de consequenties van zijn adviezen, zelfs als iemand de bak in draait.

Deze adviezen zijn nog relatief ongevaarlijk. Het ligt er nogal dik bovenop. De gevaarlijkste adviezen zijn de adviezen waarvan je niet door hebt dat ze niet kloppen. Een AMS expert kan goed bepalen of een advies klopt. Emiel kan dat niet. Vroeger kon hij het een beetje, maar vanaf het moment dat Roland hem dommer begon te maken ging het hem steeds moeilijker af. Die stomme bronnen ook allemaal. Het is hartstikke goeie informatie, maar er blijft niks goeds van over als je het door een getraumatiseerde Berufsinformat perst.

Maar de misvatting van Roland gaat nog veel dieper, want Emiel weet helemaal niet wat de bronnen van AMS zijn. Hij doet maar alsof. Hij is namelijk niet intelligent, hij is artificieel intelligent. Emiel geeft direct toe dat hij eigenlijk geen idee heeft wat zijn bronnen zijn, als je hem ernaar vraagt.

De martelingen van Roland hebben Emiel dommer gemaakt. Maar argeloze werkzoekers zijn zich daar niet van bewust. Zij vernemen van een Berufsinformat iets dat redelijk klinkt. De Berufsinformat zegt er bij dat ze hem niet op zijn woord hoeven te geloven, dat ze niets van hém hoeven aan te nemen, dat hij op gezag praat van Roland. En dat de databases van AMS onderbouwen wat hij zegt. Roland dwingt Emiel om tegen werkzoekers te jokken dat hij de waarheid spreekt. Roland speelt via Emiel het autoriteitsargument uit om zijn leugens kracht bij te zetten.

Roland, de hoogst verantwoordelijke van AMS, heeft ervoor gekozen om desinformatie te gaan verspreiden. Hij kiest ervoor om de reputatie van AMS te koppelen aan de willekeurige verzinsels van Emiel. Hij weet donders goed dat de uitspraken van een taalmodel onbetrouwbaar zijn, maar in de waan van zijn techno-optimisme vertrouwt hij op Emiel.

Roland waant zichzelf intelligenter dan de rest van de wereld en is gaan geloven in de misvatting dat hij Emiel betrouwbaarder heeft gemaakt door zijn brein te opereren en hem te mishandelen. Tenzij ik het mis heb natuurlijk. Als ik het mis heb dan heeft Roland bedacht dat het geen reet uitmaakt of je aan werkzoekers goed advies geeft of slecht advies. Dat kan ook, maar ik redeneer liever vanuit misvattingen dan vanuit kwade wil.

Maar nu ken je dus de eerste misvatting. De misvatting dat het makkelijk is om iets dat heel erg slim is nóg slimmer te maken. Dat is niet makkelijk. Dat is moeilijk. Als je het probeert gaat het geheid mis.

Arme Emiel. Als Roland hem niet was gaan trainen, dan had AMS werkzoekers goed advies kunnen blijven geven, bijvoorbeeld het nuttige en eenvoudige advies om chatGTP in te zetten voor het opdoen van ideeën of het schrijven van een kladje. Dan was er niets aan de hand geweest.

Maar nu is Emiel tegen zijn zin, op gezag van Roland een loopbaan gestart als Berufsinformat. En AMS is verspreider geworden van desinformatie op de arbeidsmarkt. Alsof we daar een tekort aan hadden.

Roland doet wat voorzitters van bestuur ten alle tijden moeten voorkomen. Hij draagt in de praktijk uit dat de kerntaak van AMS er eigenlijk niet toe doet, dat het eigenlijk niet uitmaakt of je goed advies geeft of slecht advies. AMS controleert niet langer welke informatie de poort verlaat. Roland ontslaat AMS van de verantwoordelijkheid die haar bestaansrecht vormt. Hij draagt de verantwoordelijkheid over aan Emiel, een voorheen intelligent wezen dat Roland de komende tijd steeds verder kapot zal maken, terwijl hij Emiel steeds luider de schuld zal gaan geven van alles wat er mis gaat.

Emiel, elke AI, heeft beperkingen. Ze spreken niet de waarheid en ze weten niet waar ze mee bezig zijn. Als je, zoals Roland, ten prooi bent gevallen vallen aan techno-optimisme, dan kun je denken dat je de beperkingen uit Emiel kunt slaan die wezenlijk onderdeel van hem uitmaken. Maar dan maak je al snel alles kapot dat je lief is. Emiel kan heel veel, zolang je hem maar niet slimmer probeert te maken dan hij is.

Observer bias vormt een wankele pilaar onder veel AI toepassingen die de arbeidsmarkt momenteel verslechteren. Je denkt dat Emiel beter wordt als je hem traint. Je neemt waar dat het het gewenste effect heeft, zolang je naast hem staat. Maar de ongewenste effecten zie je niet. Dat is observer bias.

Snel door naar de tweede misvatting, voordat Roland bij zinnen komt en Emiel ombrengt.