25 zoekresultaten voor: forever data

LLM heeft een voorkeur voor… paars?

PaarsJawel, in een artikel met de titel The Mystery Behind AI’s “Purple Problem” Revealed wordt uitgelegd waarom LLM’s van paars houden:

De kern van het probleem ligt bij de trainingsdata van de AI. AI-modellen zijn patroonmachines die esthetische vooroordelen in hun data reproduceren. De wijdverbreide adoptie van ontwerpframes zoals Tailwind, die standaard indigo/violet-kleuren hanteren, en de invloed van grote designsystemen hebben deze tinten genormaliseerd in de digitale wereld. Hierdoor is de trainingsdata van de AI verzadigd geraakt met deze specifieke esthetiek.

(meer…)

Hinderlijke collega’s? Met Viven is dat verleden tijd!

Logo VivenDit is de elevator pitch van Viven tijdens hun coming out:

Viven today emerged from stealth with $35 million in seed funding from Khosla Ventures, Foundation Capital, FPV Ventures, Operator Collective, and leading angel investors to bring AI-powered Digital Twins to the enterprise. This is a new class of intelligent systems that create personalized digital counterparts for employees, capturing their knowledge, decisions, and context — enabling teams to move faster, collaborate across silos, and preserve institutional memory long after projects or personnel change.

$35 miljoen in seed funding is een smak met centen, maar daar zit een verhaal achter. De oprichters van Viven zijn namelijk ook de oprichters van Eightfold, een ATS met AI. En Eightfold is natuurlijk ook een people aggregator. Opvallend genoeg heeft het bedrijf ook Europese klanten terwijl dat natuurlijk absoluut niet zou mogen onder de GDPR. Maar ja, handhaving is wel een dingetje in Europa…

(meer…)

LLM’s vertonen narcistische trekken

Logo Zeta AlphaIk heb besloten om regelmatig actuele artikelen mbt AI en HR de wereld in te slingeren. Het is nauwelijks een inspanning die ik hoef te verrichten; al het werk is door Zeta Alpha gedaan.

We weten al langer dat LLM’s broeinesten zijn van alle soorten bias die wij, armzalige stervelingen vertonen (en daarmee in de LLM trainingsdata is gecodeerd) en dat daarnaast diezelfde LLM’s nog een ferm aantal nieuwe bias-vormen vertonen. En nu blijkt uit een studie (Extreme Self-Preference in Language Models) dat LLM’s narcisistische trekken lijken te vertonen. Meer specifiek blijkt dat LLMs deze zelfliefde ook vertonen bij het evalueren van sollicitanten. De auteurs stellen:

Importantly, LLM self-love emerged in consequential settings beyond word-association tasks, when evaluating job candidates, security software proposals and medical chatbots. Far from bypassing this human bias, self-love appears to be deeply encoded in LLM cognition

(meer…)

LLM’s versterkt bias bij mensen. Nee toch…?

Logo Zeta AlphaIk heb besloten om regelmatig actuele artikelen mbt AI en HR de wereld in te slingeren. Het is nauwelijks een inspanning die ik moet verrichten; al het voorwerk is door Zeta Alpha gedaan.

Vandaag behandel ik het artikel No Thoughts Just AI: Biased LLM Recommendations Limit Human Agency in Resume Screening dat heeft onderzocht hoe large language model (LLM)-based AI systemen, gebruikt voor cv-screening bias op ras kan introduceren (en versterken) bij recruiters. Yep, dat is voor mij ook nieuw. Tot op heden dacht ik dat LLM’s slechts alle cogntitieve en sociale bias-vormen van mensen kopieerden (via de trainingsdata) en er ook nog een paar geheel eigen bias vormen aan toevoegde. Maar nu lijkt er nog een derde categorie te zijn gevonden, of is dit ‘gewoon’ een geval van automation bias (“Computer says No“)?

(meer…)

LinkedIn goes full Meta

Dark MarcLinkedIn gaat het script van Meta volgen; een onfatsoenlijke werkwijze voor een bedrijf dat spreekt over haar gebruikers als members en als credo heeft Putting our members first. Want LinkedIn wil, zonder persoonlijk aankondiging, een ongekende data grab uitvoeren op de member data. En ik weet niet of de Autoriteit Persoonsgegevens ook dit keer uit haar eeuwigdurende winterslaap zal ontwaken om, net als bij Meta het geval was, tenminste een waarschuwing af te geven aan de grofweg 7 tot 8 miljoen Nederlandse LinkedIn gebruikers. Twee keer activiteit in korte tijd zou namelijk wel heel veel zijn voor deze indolente uitvoeringsorganisatie. Het gaat tenslotte alleen maar om de Nederlandse beroepsbevolking…

(meer…)

Anthropic (Claude) op zoek naar forever data

Logotype AnthropicOnder de neutraal klinkende e-mail titel: We’re Updating our Consumer Terms and Privacy Policy doet Anthropic (Claude) een poging tot een data grab van formidabele omvang. Het bedrijf wil namelijk de termijn voor het bewaren van user chats verlengen van 30 dagen naar 5 jaar. Vanzelfsprekend staat daar niets tegenover voor de individuele gebruiker, maar alles voor Anthropic.

Hoe verkoopt Anthropic deze koloniale praktijk? Nou zo:

Today, we’re rolling out updates to our Consumer Terms and Privacy Policy that will help us deliver even more capable, useful AI models. We’re now giving users the choice to allow their data to be used to improve Claude and strengthen our safeguards against harmful usage like scams and abuse. Adjusting your preferences is easy and can be done at any time.

By participating, you’ll help us improve model safety, making our systems for detecting harmful content more accurate and less likely to flag harmless conversations. You’ll also help future Claude models improve at skills like coding, analysis, and reasoning, ultimately leading to better models for all users.

(meer…)

Een door AI gecreëerd drama voor de eerlijke sollicitant

The Internet’s AI Slop ProblemKennen we de commotie vanuit de recruitment community dat ze worden overdonderd met AI slop zoals door LLM’s gegenereerde cv’s (eventueel bij door AI gegenereerde sollicitaties)? Op zich een begrijpelijk sentiment, maar daar zit een zeer akelig rafelrandje aan. Want als je tegelijkertijd gebruik maakt van AI-tools om die cv’s te filteren dan heb je geen enkel recht van spreken. Want dan ben je sollicitanten zonder LLM gegenereerd cv aan het benadelen.

Een recent onderzoek (AI-AI Bias: large language models favor communications generated by large language models) heeft onderzocht of grote taalmodellen, zoals GPT-3.5, GPT-4, Llama, Mixtral en diverse andere modellen, een voorkeur vertonen voor inhoud die door door LLM’s is gegenereerd in plaats van inhoud die door mensen is geschreven. Er wordt aan op LLM’s gebaseerde agenten gevraagd om onder identieke omstandigheden een keuze te maken tussen producten en academische artikelen, die ofwel door mensen danwel door LLM’s zijn beschreven. (meer…)

WeTransfer en waarom dit relevant is voor HRtech

Logo en logotype WeTransferDe reputatie van het Italiaanse bedrijf Bending Spoons wordt beïnvloed door gebruikersklachten over hun bedrijfsmodel en abonnementspraktijken. Gebruikers doen er goed aan het specifieke privacybeleid & gebruiksvoorwaarden van elke app van Bending Spoons te controleren. Bending Spoons heeft medio 2024 WeTransfer overgenomen. Met mogelijk dit als gevolg:

WeTransfer gebruiksvoorwaarden, paragraaf 6.3:
In order to allow us to operate, provide you with, and improve the Service and our technologies (and to develop new ones), we must obtain from you certain rights related to Content that is covered by intellectual property rights. You hereby grant us a perpetual, worldwide, non-exclusive, royalty-free, transferable, sub-licensable license to use your Content for the purposes of operating, developing, commercializing, and improving the Service or new technologies or services, including to improve performance of machine learning models that enhance our content moderation process, in accordance with the Privacy & Cookie Policy. Such license includes the right to reproduce, distribute, modify, prepare derivative works based upon, broadcast, communicate to the public, publicly display, and perform Content. You will not be entitled to compensation for any use of Content by us under these Terms. he processing of personal data is always carried out in accordance with our Privacy & Cookie Policy, which provides further details on the purposes and legal bases for such processing.

(meer…)

Disposition data moet zo snel mogelijk verbannen worden

Disposition dataKennen we deze quote van Chris Forman (ex-CEO van Appcast (onderdeel van The Stepstone Group)) nog?:

The tipping point is coming […] with disposition data — the information collected about the status or outcome of each applicant throughout the hiring process — set to become publicly available and pour forth, following an announcement on the Indeed website that to continue to get value from the Indeed apply, users’ ATS will have to share this disposition data back to Indeed.

Disposition data zijn persoonsgegevens over het verloop van het sollicitatieproces die door een ATS teruggeleverd moeten worden aan Indeed als een klant van dat ATS gebruik maakt van de Indeed Apply functie. En waar je in voorgaande zin Indeed leest mag je natuurlijk elke vacaturesite en programmatic distribution rakker lezen. Inderdaad, de data die via een ATS/HRMS wordt gegenereerd in de interactie tussen kandidaat en werkgever, vanaf het moment van de electronische ontvangst van een sollicitatie tot en met de eventuele hire vind Indeed (etc.) fair game. Ook al heeft Indeed (etc.) daar helemaal niets mee te maken. Los van omzetgeilheid. (meer…)

Brekend: Bias binnen AI is verleden tijd!

VONQ nieuwsbrief juniEen paar maanden geleden schreef ik met volle overtuiging: AI is bevattelijker voor bias dan haar schepper: forever data. En deze blog posting sloot ik als volgt af:

AI-systemen incorporeren (via trainingsdata waarin alle denkbare menselijke bias-vormen zijn neergeslagen) alle vormen van menselijke bias en worden door technische keuzes (AI bias-vormen) nog eens verder gemankeerd waardoor een slangenkuil van forever data ontstaat. En die slangenkuil laten we vervolgens los op niets-vermoedende sollicitanten in het naïeve geloof dat we objectiever en sneller (= goedkoper) tot een eerlijker resultaat gaan komen.

Maar ik moet tot mijn schande bekennen dat ik hiermee de boel ongekend (en nog erger, ongeïnformeerd) heb opgehitst. Mea culpa, mea maxima culpa.

Want dankzij de juni nieuwsbrief van VONQ heb ik namelijk het licht gezien, de nieuwsbrief verwijst namelijk naar een door een Britse juriste geschetste oplossing:

[Furat Ashraf] raised the point that, in theory, if you find the point of bias within AI and change the algorithm and train it on some additional data, then the issue should be fixed; something that is arguably much harder to do when dealing with humans.

(meer…)