Ik ken Marco van Hurne uit een grijs, grijs verleden toen mijn oudste dochter bij een startup genaamd IKKI aan de slag ging. De head honcho was Marco van Hurne. Dat was ergens in 2008, net voor het uitbreken van de financiële crisis. Ondertussen zijn we een slordige 16 jaar verder en heeft Van Hurne een newsletter op LinkedIn, genaamd Techtonic Shifts, waar hij dagelijks (!) zijn dwaallicht laat schijnen op all things AI. En waar ik hem in de afgelopen tijd geleidelijk heb zien evolueren van AI-fanboy naar AI-scepticus. Een zeer gezonde evolutie die ik meer mensen sterk kan aanbevelen. Maar daar gaat het hier allemaal niet om, ik wil graag een zeer recent experiment van Van Hurne delen, waar je ook zelf in kan deelnemen:

ChatGPT is a glorified word predictor AND has been intentionally programmed to be such a skilled parrot that it echo’s your words AND also mimics your personality. The reason why you would want to program these traits into your AI is that by mirroring someone’s behavior it begets trust, and it also gives you the illusion of sentience! This kind of operant conditioning could well be a ploy from its makers to get you to believe more and more that it “understands” you.

To make this work, though, I need participants who haven’t meddled with the “custom instructions” setting. And what I need you to do is the following: go to your ChatGPT buddy, and ask it the following simple question:
“Who am I”

(meer…)