Claude verwijdert database van Amazon, met leedvermaak tot gevolg

Mensen dwingen om met AI aan de slag te gaan is bijna altijd een slecht idee.

Wat is er aan de hand?

Amazon, een van de grootste bedrijven ter wereld, dwingt medewerkers om Kiro te gebruiken. Dit is een AI die met zijn vingers aan de productieomgeving mag zitten.

Een medewerker van Amazon probeerde een autocomplete-lijstje te maken en Kiro leek het een goed idee om dat lijstje administrator rechten te geven. Het lijstje besloot met die rechten de productie-omgeving van Amazon in de prullenbak te gooien.

https://fortune.com/2026/03/18/ai-coding-risks-amazon-agents-enterprise

Snelheid kan een voordeel zijn van artificiële intelligentie. In dit geval was het een nadeel. Amazon liep 120.000 orders mis voordat ze een backup terug wisten te zetten.

Wat vinden mensen ervan?

Op Youtube verscheen er een filmpje over.

Zoals verwacht barsten de reacties van leedvermaak.

Maar wat mij tussen de regels opvalt is hoe veel logischer de argumenten klinken van medewerkers die AI verplicht moeten gebruiken, vergeleken met die van managers.

Verplichte kost voor elke manager die AI wil opleggen aan zijn team:

“Ik word gedwongen AI te gebruiken op het werk, en dat doe ik dan ook. Als het onvermijdelijk mislukt en het management om een analyse vraagt, gooi ik de vergadernotities in een LLM en laat het zijn eigen fouten documenteren. Als mijn baas zegt dat het niet goed genoeg is, gooi ik zijn klacht in een nieuwe prompt en zo gaat de cyclus door. Ze vragen er letterlijk om.”

“In mijn huidige rol had ik na veel vallen en opstaan de perfecte balans gevonden tussen handmatig werk en AI. Ik was er blij mee. Nu krijg ik te horen dat ik AI niet genoeg gebruik. Terwijl ik verantwoordelijk ben voor het meest stabiele en cruciale deel van het platform. Geen idee waar dit naartoe gaat.”

“Je moet AI gebruiken om sneller te coderen… Je moet ophouden AI de schuld te geven van fouten… Je moet niet om loonsverhoging vragen als je alleen maar prompts typt… — Met vriendelijke groet, Jullie CEO”

“CEO’s noemen LLM’s intelligent, terwijl ze zelf niet meer zijn dan woordvoorspellers. Misschien moeten we CEO’s vervangen door LLM’s, in plaats van engineers? Geen enkele techbaas zal ooit toegeven dat hij ons voor niets heeft laten lijden. AI kan waarschijnlijk de helft van alle vergaderingen en statusupdates vervangen — het kan 90% van de managers vervangen — maar de opdracht is om het denken van engineers te vervangen. Gewoon lachen en zwaaien, jongens.”

“AI zal nooit een zo effectieve cost-function hebben als de menselijke angst om je baan te verliezen en je gezin te zien verhongeren.”

“Het begrijpt het verschil tussen staging en productie, zolang je het maar elke keer vier keer uitlegt.”

“Ze geven letterlijk een kind de autosleutels, een volle tank, en zijn nu verbaasd dat het kind betrokken is bij een kettingbotsing van 45 auto’s. Niemand denkt eraan de idioten bovenaan te ontslaan.”

“Ik werk bij een verzekeringsmaatschappij. We moeten een LLM implementeren van een derde partij die schadedocumenten analyseert. Het systeem kan een O niet van een 0 onderscheiden en wijst claims af omdat het de data inconsistent vindt. Het kost miljoenen aan arbeidsuren en de juridische problemen komen nog. Maar ze willen pioniers zijn. En wij developers zijn de zondebok. Het QA-team heeft letterlijk nachtmerries.”

“Ik denk dat de junior-developer vergeten is te prompten: ‘maak geen fouten’.”

“LLM’s zijn niets meer dan recursieve autocomplete. De enige problemen die ze oplossen vereisen alleen patroonherkenning. Ze kunnen geen enkel ander aspect van cognitie nabootsen. Toch beschadigt een MBA het menselijk brein zo grondig dat ze dit probleem niet kunnen zien.”

“Ik zou zeggen ‘goed, laat ze maar lijden’, maar geen enkele bestuurder zal ook maar enig verlies lijden door deze domheid. Ze krijgen grotere bonussen dan ooit voor het ontslaan van de mensen die dit hadden kunnen voorkomen. Ze eten letterlijk het karkas op van de bedrijven die ze zouden moeten leiden.”

Geen wijze les vandaag?

Jawel!

Gebruik van AI tools opdringen aan je medewerkers lijkt veel managers gek genoeg nog steeds een goed idee. Het is bijna altijd een slecht idee.

Geef een reactie

← Een handhavingsverzoek voor Autoriteit Persoonsgegevens