Nieuws

Tokenverspilling: de stille belasting voor elk AI-team

Uit onderzoek blijkt dat beleefdheidsfrases zoals 'alsjeblieft' de tokenkosten van AI-modellen zoals ChatGPT, Claude en Gemini aanzienlijk verhogen. OpenAI-CEO Sam Altman onthulde dat dit alleen al voor ChatGPT tientallen miljoenen dollars per jaar kost. Een peer-reviewed artikel op arXiv schat dat deze linguïstische inflatie OpenAI maandelijks tot $11 miljoen extra oplevert. Naast beleefdheid leiden vage prompts, ontbrekende formaatinstructies en overmatige bestandsinvoer tot nog grotere verspilling, die onzichtbaar blijft voor de meeste teams.