Nieuws

LiteLLM Agent Platform: Kubernetes-gebaseerd platform voor geïsoleerde AI-agent-sandboxes en persistent sessiebeheer

BerriAI heeft het LiteLLM Agent Platform als open-source uitgebracht. Het platform biedt een self-hosted infrastructuurlaag voor het draaien van meerdere AI-agenten in productie, met per-team sandbox-isolatie en sessiecontinuïteit bij pod-herstart. Sandboxes draaien op Kubernetes via de kubernetes-sigs/agent-sandbox CRD, lokaal met kind en in productie met AWS EKS. Het platform werkt bovenop de bestaande LiteLLM Gateway.