Nieuws

Cohere's 30B codeeragent verslaat modellen 4x zijn grootte op één H100

Cohere heeft een codeeragent met 30 miljard parameters en slechts 3 miljard actieve parameters ontwikkeld. Het model draait op één H100-gpu en verslaat modellen die viermaal zo groot zijn. Het artikel bespreekt hoe dit mogelijk is en waarom het eigenlijk niet zou moeten werken.