Nieuws

Stop Tokens Verspillen: Een Slimmer Alternatief voor JSON in LLM-Pipelines

Een nieuw formaat genaamd TOON biedt een slimmer alternatief voor JSON bij het voeren van gestructureerde data in grote taalmodellen (LLM). TOON verminderd de token-overhead die ontstaat door herhaalde veldnamen en structurele tekens in JSON, waardoor modellen efficiënter kunnen werken met gestructureerde invoer. Het formaat is ontworpen voor uniforme arrays van objecten en kan gebruikt worden in workflows waar herhaalde records worden verwerkt, zoals ondersteuningstickets of CRM-gegevens.