Nieuws

Red Hat en Intel leggen aandacht aan schaalbare AI-inferentie terwijl bedrijven voorbij zijn aan de GPU-zeepbubbel

Red Hat en Intel benadrukken de groeiende belangstelling voor schaalbare AI-inferentie, terwijl bedrijven zich richten op efficiëntere infrastructuur. Het gebruik van CPUs neemt toe, met name voor agente taken, waardoor GPU's kunnen worden gereserveerd voor intensieve rekenkracht. Red Hat en Intel werken samen aan de integratie van vLLM-ondersteuning voor Intel Xeon in Red Hat AI 3.4.