Nieuws

OpenAI en Broadcom onthullen 'Jalapeño'-chip voor LLM-inferentie

OpenAI en Broadcom hebben de 'Jalapeño'-chip onthuld, speciaal ontworpen voor grote taalmodellen. De chip levert volgens OpenAI een aanzienlijk betere prestatie per watt dan bestaande hardware. De ontwikkeling duurde negen maanden, waarbij OpenAI's eigen modellen het proces versnelden. Grootschalige uitrol staat gepland voor eind 2026, waarbij Microsoft naar verwachting 40 procent van de chips zal afnemen.