Nieuws

Google brengt LiteRT.js uit: JavaScript-binding voor LiteRT draait .tflite-modellen in browsers via WebGPU

Google heeft LiteRT.js gelanceerd, een JavaScript-binding van LiteRT waarmee .tflite-modellen direct in de browser kunnen worden uitgevoerd via WebGPU. De bibliotheek biedt drie backends: CPU met XNNPACK, GPU via ML Drift en NPU via WebNN. Volgens Google levert LiteRT.js een prestatieverbetering tot 3x ten opzichte van andere web-runtimes en een 5–60x versnelling bij GPU/NPU ten opzichte van CPU.