Nieuws

Hoe het tokenbudget te verkleinen zonder het team te verkleinen

NVIDIA CEO Jensen Huang stelt dat een ingenieur jaarlijks voor minstens de helft van zijn salaris aan AI-tokens moet verbruiken, anders is hij 'diep verontrust'. Het artikel analyseert hoe bedrijven miljarden in AI investeren en tegelijkertijd banen schrappen, maar dat deze bezuinigingen vaak geen rendement opleveren. Technieken zoals prompt caching en het inzetten van goedkopere modellen kunnen de tokenkosten drastisch verlagen zonder personeel te ontslaan.