Gisteren schreef ik (onder meer) het volgende:

LLM’s zijn wel een blijvertje, tenzij de pricing door het dak gaat. Wat nog een uitdaging zal zijn om te vermijden want op dit moment zijn LLM’s zwaar verliesgevend en dat kan natuurlijk niet zo door blijven gaan.

En het toeval wil dat mijn favoriete HR-tech fanboy ongeveer gelijktijdig een bericht op LinkedIn plaatste waarin hij de belangrijkste reden van verliesgevende LLM’s prachtig zichtbaar maakte, via een tweet (x-eet?) van SemiAnalysis:

Recently, we purchased one of each Anthropic/OpenAI subscription plan and randomly ran long horizon coding tasks until we exhausted the weekly limit. It’s widely believed that a $200/month plan maxes out at ~$2000/month worth of tokens (assuming API pricing). However, we found that the subscriptions are actually far more generous.

En om dit nog iets duidelijker weer te geven hier ook even een niets aan de verbeelding overlatend staatje met wat Claude/OpenAI in rekening brengen versus hun daarbij behorende kosten:

Stel je een voor dat OpenAI en Anthropic het onvoorstelbare weten te bereiken; een notatie aan de Nasdaq. Dan hebben beide bedrijven een waardering van rond de $1000.000.000.000, met inkomsten die een fractie zijn van dat bedrag, of eerder een fractie van een fractie. Twee dingen gaan er dan gebeuren: de koers stort in elkaar (jammer voor gepensioneerden) en de prijzen van schieten als een komeet de lucht in (jammer voor alle afnemers) waarbij ongetwijfeld token-based pricing een dominante rol gaat spelen (jammer voor alle particuliere afnemers).

De volgende vraag wordt op dat moment relevant: hebben LLMS nog wel een meerwaarde? Ik zou het bijzonder jammer vinden als ik afscheid moet nemen van mijn gratis encyclopedie, maar ik overleef het wel. Maar hoe zit het met al die starry-eyed HR-tech bedrijven en het recruitment domein? Die zich dronken van geluk in het LLM-bad hebben gestort en nu tot de ontdekking komen dat het water veel kouder is dan verwacht?