AI: We zijn overgeleverd aan developers. En aan datakwaliteit. Wat could possibly go wrong?

Er is de laatste tijd nogal wat ophef over een openAI tool genaamd ChatGPT, waarbij de gebruiker een vraag kan stellen en de AI tool in een mum van tijd een antwoord geeft. En die antwoorden zijn niet zelden verbluffend in hun duidelijkheid. En daarom besloot ik maar eens de stoute schoenen aan te trekken en te kijken of ChatGPT aan zelfreflectie kan doen. En de antwoorden van ChatGPT zijn niet alleen duidelijk maar tegelijkertijd ook onrustbarend:

ChatGPT, 1

In mijn tweede vraag zit een (onbedoelde) typefout, maar ook daar laat ChatGPT zich niet door van de wijs brengen. En in slechts drie vragen komen we uit op de constatering dat de wortel van het kwaad bestaat uit developers. Die over het algemeen geen iota verstand hebben van de wereld waarbinnen de software gebruikt gaat worden. Wat overigens ook helemaal niet in hun functie-omschrijving staat. En ik moet altijd denken aan het boekje van Alan Cooper: The Inmates are Running the Asylum.

Datakwaliteit
En dan is er nog het kleine issue dat te maken heeft met datakwaliteit, een probleem waarmee alle mensgerelateerde vakgebieden (ik denk onwillekeurig aan HR en recruitment, maar ook een domein als de zorg natuurlijk) mee te maken hebben inclusief het aanzienlijke afbreukrisico en leed van een onjuiste uitkomst. ChatGPT zegt hierover het volgende:

ChatGPT, 2

Zeer verhelderend. Toch?

Dus de volgende keer dat je in de verleiding komt om een AI-tool te gaan gebruiken voor werving en selectie, sta even stil en denk goed na. Kan je alle regels van de AI tool evalueren voor elke individuele uitkomst? Of moet je de (niet zelden ongefundeerde, want sales en marketing) beloftes van de leverancier vertrouwen en met je ogen dicht het ravijn inspringen?

En dan is er nog de eigen data. Is jouw data van onbesproken kwaliteit of kunnen er hier en daar de nodige onvolledigheden en onvolkomendheden in zitten? Ga dan eerst daar maar eens mee aan de slag. Het zou me niets verbazen als deze stap je ook op allerlei andere gebieden (bv. search, reporting) tot voordeel strekt, ook zonder de inzet van een AI-tool.

Slotopmerkingen
Het is misschien wel aan te bevelen om een tool als ChatGPT te gebruiken om vacatureteksten te genereren. Of doe toch maar niet, een beeld van een gigantische eenheidsworst doemt voor mijn geestesoog op. En het zou erg onaardig zijn voor alle branding rakkers en tekstschrijvers en communicatiespecialisten. En dan vergeet ik er vast nog wel een paar.

Maar iets zegt me dat ChatGPT nog van zich zal laten horen. Voor zelfstudie is het in ieder geval een waardevolle tool. Zo heb ik geleerd wat het woord empathie betekent.

Geef een antwoord