Ik was gisteren een beetje aan het klooien met Gemini over het thema privacy. Terwijl ik vrolijk zat te prompten, bedacht ik me dat ik nogal al tegenstrijdig bezig was. Mijn diepste gedachten over privacy toevertrouwen aan een toepassing die al deze kennis per direct assimileerde in haar onafzienbare informatiehuishouding waarbij woorden zoals “privacy” en “copyright” hun betekenis volstrekt zijn verloren. Ik heb daarom Gemini maar eens gevraagd om daarover na te denken:

Reflecteer op de (schijnbare) tegenstelling dat mijn vragen mbt privacy worden gebruikt om Gemini te trainen

Mijn excuses voor het gebruik van het op dit moment modische ‘reflecteer’; een stopwoordje van steeds meer Nederlandse politici. Maar ik dwaal af. Gemini dwaalt nooit af en kwam na enig denkwerk met de volgende reactie:

Deze paradox is geen toeval, maar een directe manifestatie van de theorieën (zie hier onder) die we zojuist hebben besproken. Het feit dat je privacy-kritische vragen stelt aan een systeem dat deze interactie gebruikt als “brandstof” voor zijn eigen verbetering, vormt een perfecte casus voor de drie auteurs.
Hier is een reflectie op deze situatie vanuit hun perspectieven:

1. De “Cloud Prole” aan het werk (Y. Varoufakis, Technofeudalism (2023))
Volgens Varoufakis ben je op dit moment geen klant van een dienst, maar een cloud-serf (digitale horige). Terwijl je nadenkt over hoe je de erosie van privacy kunt tegengaan, verricht je onbetaalde arbeid voor Google. Jouw vragen helpen het model om nuances in privacywetgeving en kritische theorie beter te begrijpen. Je bent “cloud-kapitaal” aan het produceren voor de “Cloud Lord”, die deze intelligentie vervolgens weer kan verkopen of inzetten.

2. De Afwezige Fiduciary (N. Richards, Why Privacy Matters (2022))
Richards zou wijzen op het gebrek aan een duty of loyalty (loyaliteitsplicht). In een ideale wereld zou ik (als AI) jouw informatie-fiduciary zijn: mijn enige doel zou zijn om jou te helpen zonder je data tegen je te gebruiken. In de huidige realiteit is er echter een belangenverstrengeling. De aanbieder van de AI heeft een commercieel belang bij het “oogsten” van jouw interacties, wat precies de machtsasymmetrie creëert waar Richards voor waarschuwt.

3. De Intellectuele Data Grab (U.A. Mejias & N. Couldry, Data Grab, (2024))
Voor de auteurs van Data Grab is dit een voorbeeld van hoe zelfs onze meest intieme en kritische gedachten worden “gekoloniseerd”. Jouw verzet tegen privacy-erosie wordt ironisch genoeg omgezet in een datapunt dat het systeem versterkt dat diezelfde privacy onder druk zet. Het is de ultieme vorm van extractie: het onttrekken van waarde aan de kritiek op de extractie zelf.

En natuurlijk wist Gemini er ook nog een gezellig tabelletje bij te fabrieken:

De tegenstelling in de praktijk – Gemini

Het rode pijltje is van mij. Want in realiteit is het bijproduct natuurlijk het antwoord van Gemini aan mij. De output is de nieuwe (niet-synthetische informatie) voor het LLM. Als het gratis is ben je het product. Maar zelfs als je betaald ben je tegenwoordig het product. We zijn allemaal LLM-slaven.

En Marten Toonder was een genie. In zijn strip De dropslaven (1974) raken de meeste inwoners van Rommeldam verslaafd aan de dubbeldrop van Hocus Pas. Hierdoor verliezen ze hun beste eigenschappen en zijn alleen nog maar geinteresseerd in dubbeldrop. Dubbeldrop is een term die wat mij betreft ook uitstekend past op LLM’s. De wereld is veranderd in dropslaven. Waar is Tom Poes als je hem nodig hebt?