Nieuws

The Sequence Knowledge #878: Beyond Transformer – Lessen uit alternatieven voor de Transformer-architectuur

The Sequence Knowledge #878 vat een serie over alternatieven voor de Transformer-architectuur samen, onderverdeeld in vier families: recurrente modellen, state space modellen, tekst diffusie en vloeibare modellen. De serie concludeert dat de monocultuur van de Transformer voorbij is en dat hybride architecturen de toekomst hebben.