AI bias bij opleuken profielfoto?

Een totaal onverwachte beroepsgroep die bedreigt wordt door de groei van artificial intelligence: plastisch chirurgen. Waarom zou je een serie kostbare en pijnlijke operaties moeten ondergaan met een risico op mislukking en een garantie op het had-ik-het-maar-nooit-gedaan op langere termijn, als je voor aanzienlijk minder er als een model uit kan zien. Dankzij AI.

Maar zelfs met AI kan je dan pijnlijk geraakt worden, zoals Rona Wang ontdekte nadat ze haar profielfoto voor LinkedIn wat professioneler wilde laten lijken via Playground middels de prompt “Give the girl from the original photo a professional linkedin profile photo.“:

Tweet Rona Wang

En voila, van Aziatisch naar Westers in een fractie van een seconde.

“My initial reaction upon seeing the result was amusement,” Wang told Insider. “However, I’m glad to see that this has catalyzed a larger conversation around AI bias and who is or isn’t included in this new wave of technology.”

Gelukkig heeft Playground op een professionele manier richting Wang gereageerd:

Suhail Doshi, the founder of Playground AI, responded to Wang’s post: “The models aren’t instructable like that so it’ll pick any generic thing based on the prompt. Unfortunately, they’re not smart enough.”

He added, “Fwiw, we’re quite displeased with this and hope to solve it.”


A recent study by researchers from the AI firm Hugging Face found that AI image generators like DALL-E2 had an issue with gender and racial bias.

Wel een idee voor de voorstanders van anoniem solliciteren?

Geef een reactie