Nieuws

OpenAI en Broadcom onthullen eigen Jalapeño-chip voor AI-inferentie

OpenAI heeft samen met Broadcom de Jalapeño-chip onthuld, een custom processor speciaal ontworpen voor het draaien van grote taalmodellen. De chip is alleen bedoeld voor inferentie en zou een aanzienlijk hogere prestatie per watt leveren dan de huidige state-of-the-art. OpenAI brengt de eerste Jalapeño-servers tegen het einde van het jaar online en ziet de chip als eerste stap in een meerjarig rekenplatform.