Privacy is een grondrecht. Artikel 10 van de Grondwet zegt daarover het volgende:
- Ieder heeft, behoudens bij of krachtens de wet te stellen beperkingen, recht op eerbiediging van zijn persoonlijke levenssfeer.
- De wet stelt regels ter bescherming van de persoonlijke levenssfeer in verband met het vastleggen en verstrekken van persoonsgegevens.
- De wet stelt regels inzake de aanspraken van personen op kennisneming van over hen vastgelegde gegevens en van het gebruik dat daarvan wordt gemaakt, alsmede op verbetering van zodanige gegevens.
De wet General Data Protection Regulation (GDPR), Algemene Verordening Gegevensbescherming (AVG) maakt dit concreet.
In het voorjaar van 2016 is de GDPR/AVG door het Europees Parlement goedgekeurd, in mei 2018 is deze wet geïmplementeerd. De periode van ruim twee jaar was bedoeld om bedrijven voldoende tijd te geven om aan de eisen van deze wet te voldoen. Bedrijven hebben dus 8 jaar de tijd gehad om te voldoen aan de bepalingen van de GDPR/AVG.
In Nederland is het sinds 2001 bestaande College bescherming persoonsgegevens (CBP) op 1 januari 2016 omgedoopt tot Autoriteit Persoonsgegevens (AP). Deze naamsverandering in 2016 viel samen met een uitbreiding van de bevoegdheden van de organisatie, ter voorbereiding op de implementatie van de AVG. AP heeft onder meer als taak om te handhaven, zoals bij Clearview.
Meta (o.m. Facebook) heeft afgelopen week met steun van een aantal bedrijven, instituten en personen, een schotschrift gepubliceert waarin een directe aanval wordt gedaan op de GDPR/AVG. De backlash op dit schotschrift heeft een Nederlandse participant, 8vance Matching Technologies, ertoe aangezet om een verdediging op LinkedIn te publiceren getiteld: De rem op AI: Hoe strikte privacywetgeving Europa’s innovatie vertragen. Ik vind het bijzonder en volstrekt toondoof dat 8vance heeft gekozen voor een publicatie van dit stuk op LinkedIn. Hetzelfde LinkedIn waar 8vance sinds haar oprichting (2013) ongevraagd en onrechtmatig persoonsgegevens van ruim 80 miljoen personen heeft gescraped. Maar dit terzijde.
Ik heb ervoor gekozen dit stuk in haar volledigheid hieronder te plaatsen, voorzien van mijn kanttekeningen. Leest u even mee?
8vance: Het moet me van het hart dat we kunstmatige intelligentie (AI) nog onvoldoende begrijpen. In een tijd waarin AI enorme voordelen kan bieden, zijn we druk bezig met het reguleren ervan, gedreven door ongegronde angsten. Als AI op een normale en verantwoorde manier wordt gebruikt, is er echt geen reden tot paniek over privacy of andere ethische kwesties. Natuurlijk is er altijd een verschil tussen theorie en praktijk, maar moeten we wachten tot iets 100% veilig is voordat we het implementeren, of is een zeer hoge mate van veiligheid ook voldoende als we daardoor veel andere problemen kunnen voorkomen?
8vance roept in feite op tot wetteloosheid vanwege de enorme voordelen van AI. Zoals bij verdere lezing zal blijken is hiermee de toon gezet.
AI: De motor van innovatie
8vance: AI is een essentiële drijvende kracht voor innovatie en kan enorm bijdragen aan de vooruitgang van Nederland en Europa als geheel. Terwijl de Algemene Verordening Gegevensbescherming (AVG) bedoeld is om onze privacy te beschermen, kan het in zijn huidige vorm innovatie belemmeren, vooral op het gebied van AI waar grote hoeveelheden data nodig zijn voor effectieve modellen.
Het probleem met toestemming binnen AI is complex. Zodra data is opgenomen in een model, is het praktisch onmogelijk om die specifieke gegevens te verwijderen zonder het hele model opnieuw te trainen, wat zowel kostbaar als inefficiënt is. Dit botst met het recht om toestemming in te trekken, zoals vereist door de AVG.
In plaats van de AVG volledig te ontmantelen, zouden we moeten nadenken over hoe we de regelgeving kunnen aanpassen om zowel privacybescherming als technologische vooruitgang te faciliteren. Het gebruik van geanonimiseerde data of het implementeren van nieuwe technieken zoals federated learning kan een middenweg bieden.
In de eerste alinea worden grote kwalificaties gebruikt om het belang van AI te onderstrepen. Een essentiële kracht voor innovatie die enorm gaat bijdragen aan de vooruitgang. Kwalificaties die kunnen worden onderbouwd zijn natuurlijk prima, maar mist die onderbouwing dan is het uitsluitend hete lucht.
De tweede alinea schetst een technische tekortkoming die door 8vance wordt afgewenteld op de wetgever. AI heeft zeer grote hoeveelheden content nodig om haar werk correct te doen. Maar geen van de AI-bouwers lijkt, op basis van bovenstaande alinea, ooit nagedacht te hebben over de verwijderbaarheid van de content, bijvoorbeeld als een bedrijf of persoon stelt dat bepaalde content niet meer gebruikt mag worden. En omdat hier nooit over is nagedacht, is de ingreep zowel kostbaar als inefficiënt (hertraining van het AI-model). Let wel, sinds 2016 is het al bekend dat het recht bestaat om toestemming in te trekken, maar in 2024 . Acht jaar tijd om met een innovatieve (!) oplossing te komen. Maar tot op dit moment hebben AI-bouwers dit blijkbaar nagelaten.
De derde alinea is de onfatsoenlijke suggestie van 8vance om de GDPR/AVG aan te passen om te compenseren voor luiheid van AI-bouwers. Hoe kom je erop?
AI in de Zorg: Een gemiste kans
8vance: Neem de zorgsector als voorbeeld. We verspillen momenteel enorm veel tijd aan administratieve taken die door AI uit handen genomen kunnen worden. Stel je voor dat we AI inzetten om deze lasten te verlichten. Zelfs als er in een uiterst klein aantal gevallen iets mis zou gaan met privacy, en het extra inspanning nooit kost om dat te herstellen, dan nog besparen we op de totale schaal enorm veel tijd en middelen.
In het recente regeerakkoord wordt juist benadrukt hoe belangrijk het is om administratieve lasten te verminderen en AI te omarmen:
“Halveren van de administratietijd in 2030. Als we de administratietijd weten te halveren naar zo’n 20% van de werktijd, zijn we er voor de komende jaren al. Revolutionair zijn de mogelijkheden die generatieve kunstmatige intelligentie (AI) in de zorg heeft. We willen dat organisaties zich hier op voorbereiden…”
Hier wordt duidelijk gas gegeven op AI. De overheid ziet de potentie en wil dat organisaties zich voorbereiden op een toekomst waarin AI een centrale rol speelt in het verbeteren van efficiëntie en het verlichten van werkdruk.
Deze paragraaf lijkt een voorsortering voor de paragraaf die hieronder volgt. Waarbij de schrijver verwijst naar een daadkrachtige regering om dat vervolgens af te zetten tegen starre toezichthouders (lees: de AP).
De paradox van strikte regulering
8vance: Tegelijkertijd staan we voor een paradox. Terwijl het beleid aanstuurt op versnelling in AI-adoptie, leggen toezichthouders strikte beperkingen op die de ontwikkeling en implementatie van AI hinderen. Een voorbeeld hiervan is de Autoriteit Persoonsgegevens (AP), die nauw toeziet op de verwerking van persoonsgegevens voor AI-training.
Er zijn twee hoofdgrondslagen voor het verwerken van persoonsgegevens: toestemming (consent) en gerechtvaardigd belang. Toestemming verkrijgen is in de praktijk vaak onhaalbaar. Je kunt immers niet aan miljoenen mensen vragen of je hun data mag gebruiken, en zelfs als dat zou lukken, kan die toestemming altijd worden ingetrokken. Als data eenmaal is gebruikt voor het trainen van een model, is het praktisch onmogelijk om die specifieke data er weer uit te halen zonder het hele model opnieuw te moeten trainen—een proces dat zowel tijdrovend als kostbaar is.
We zitten volgens 8vance in een paradox, en daar kan ieder weldenkend mens het volmondig mee eens zijn. Tenslotte hoeft een versnelling in AI-adoptie helemaal niet in tegenstelling te zijn met strikte beperkingen, zolang AI-bouwers rekening houden met bestaande wetgeving en zich daarnaar voegen. Als je iets willens en wetens hebt nagelaten dan moet je niet achteraf gaan lopen zeuren. Want dat is het, zeuren.
In de derde alinea wordt er nog meer gezeurd, dit keer over de constatering dat je miljoenen mensen niet kan vragen of je hun data mag gebruiken. Wat een onzin-argument is dit. Als je persoonsgegevens onrechtmatig en zonder toestemming scrapet dan is het misschien niet zo slim om de eigenaren van de persoonsgegevens te benaderen met het verzoek om deze persoonsgegevens commercieel te exploiteren, maar het is niet onmogelijk. Het feit dat AI-makers dit nalaten, geeft eerder aan dat ze zich realiseren dat wat ze doen onrechtmatig is, dan dat ze echt zo dom zijn om te denken dat deze data een soort free lunch is.
Verder valt 8vance in deze derde alinea in herhaling over hoe ingewikkeld het is om gegevens uit het AI-model te verwijderen. Dat heb ik hierboven al afdoende behandeld.
De Open Brief: Een oproep tot harmonisatie
8vance: Deze zorgen worden gedeeld door vele bedrijven en experts in Europa. Onlangs is er een open brief gepubliceerd op www.EUneedsAI.com, ondertekend door tientallen bedrijven, onderzoekers en ontwikkelaars. Zij waarschuwen dat Europa het risico loopt achterop te raken in de wereldwijde AI-ontwikkeling als gevolg van gefragmenteerde en te strikte privacywetgeving. Onder de ondertekenaars bevinden zich prominente figuren zoals Mark Zuckerberg en Yann LeCun van Meta, maar ook grote Europese bedrijven als SAP, Spotify, Prada en het Nederlandse 8vance .
In dit artikel Meta komt uit de kast: GDPR in haar huidige vorm moet verdwijnen ben ik reeds uitgebreid ingegaan op dit schotschrift.
Innovatie die stilstaat: Het potentieel van AI voor werkzoekenden
8vance: Bedrijven zoals 8vance hebben technologie ontwikkeld die werkzoekenden kan helpen om banen te vinden, discriminatie kan voorkomen en mensen kan matchen aan leuker, leerzamer en betekenisvoller werk. Dergelijke AI-toepassingen kunnen capaciteit in de samenleving ontsluiten om te werken aan de crisissen waar we mee te maken hebben. Ondanks de potentie van deze technologieën wordt hun implementatie gehinderd door strikte interpretaties van privacywetgeving. Dit illustreert hoe huidige regelgeving niet alleen grote techbedrijven treft, maar ook lokale innovaties die directe maatschappelijke voordelen kunnen opleveren.
In deze alinea vinden we het stokpaardje van 8vance, haar maatschappelijk belang. 8vance stelt het in haar privacyverklaring als volgt:
Gebruik van het 8vance platform kan namelijk bijdragen aan een betere doorstroming op de arbeidsmarkt en vermindering van discriminatie, nu naam, afkomst, leeftijd en geslacht niet worden meegenomen in de matching.
Het kleine woordje kan heeft hier een grote invloed. Kort gezegd kan de software van 8vance een maatschappelijk belang vertegenwoordigen, maar dat kan ook niet het geval zijn. Ondanks herhaalde oproepen daartoe heeft 8vance nog nooit een snipper kwantitatief bewijs voor haar maatschappelijke claim geleverd. En tot dat moment kan ik niet anders dan deze claim naar het land der fabelen verwijzen.
Europa moet vooruit!
8vance: Bovendien is het cruciaal dat Europa niet achterblijft op het gebied van AI. Als we te strak vasthouden aan regelgeving zonder ruimte voor innovatie, riskeren we afhankelijk te worden van AI-technologieën uit andere delen van de wereld, met name de VS en China. Bedrijven zoals Meta die open-source AI-modellen beschikbaar stellen, kunnen kleinere Europese bedrijven helpen om mee te doen in de AI-race.
Dus, willen we echt geen AI? Of willen we een balans vinden waarbij we zowel onze privacy beschermen als de ontwikkeling van eigen, Europese AI stimuleren? Het is tijd om het gesprek te verleggen van weerstand naar constructieve oplossingen die ons vooruit helpen.
Hier poogt 8vance angst aan te jagen door een beeld van de achterblijvend Europa te schetsen als de privacywetgeving niet wordt versoepeld.
Een oproep tot redelijkheid
8vance: Als de AI-toezichthouders in Europa het standpunt innemen dat in alle gevallen expliciete toestemming vereist is voor het trainen van AI-modellen met persoonsgegevens, zullen we in Europa niet meer in staat zijn om hoogwaardige AI-modellen te ontwikkelen die kunnen voldoen aan de behoeften van onze diverse samenleving. Dit heeft niet alleen gevolgen voor technologiebedrijven, maar ook voor sectoren zoals de zorg en de arbeidsmarkt, waar AI een sleutelrol kan spelen in het verbeteren van diensten en het verlagen van kosten.
De vraag rijst dan ook of toezichthouders – zoals de Nederlandse AP – in staat zijn om alle belangen objectief af te wegen. Het is belangrijk dat zij een balans vinden tussen het beschermen van privacy en het mogelijk maken van innovatie. Er is binnen de wetgeving ruimte voor een afweging van gerechtvaardigde belangen, zeker wanneer de potentiële voordelen voor de samenleving groot zijn.
De tweede alinea is niets minder dan een grofstoffelijke belediging van de Autoriteit Persoonsgegevens, de Nederlandse toezichthouder. Ik hoop da de AP zich dit aantrekt, en dan niet op de manier zoals 8vance hoopt.
Conclusie: Naar een gebalanceerde aanpak
8vance: Het is cruciaal dat we een gebalanceerde aanpak vinden die zowel de privacy van individuen beschermt als ruimte laat voor innovatie en vooruitgang. Dit vereist een harmonisatie van AI-data en privacywetgeving op Europees niveau, waarbij alle stakeholders betrokken worden—van beleidsmakers en toezichthouders tot bedrijven en burgers.
Europa heeft de kans om een leidende rol te spelen in de ethische en effectieve implementatie van AI. Laten we die kans niet laten schieten door te blijven hangen in verouderde wetgeving en ongegronde angsten. Het is tijd om te erkennen dat AI, mits verantwoord ingezet, enorme voordelen kan bieden voor onze samenleving.
Ik denk dat met alle recht van de wereld kan worden gesteld dat het cruciaal is dat AI-makers de grondrechten van burgers (gaan) respecteren.
Verder denk ik dat het cruciaal is dat toezichthouders actief en snel acteren op overtredingen van de GDPR/AVG.
En als laatste is het cruciaal dat AI-makers zich rekenschap geven van het feit dat content kan komen en content kan gaan en dat hun modellen daarmee moeten kunnen dealen.
En nou ophouden met zeuren.