Nieuws

RNNs kunnen niet zoals Transformers denken op een efficiënte manier. ICLR 2026 toont aan dat het verschil exponentieel is

Een onderzoek gepubliceerd op ICLR 2026 toont aan dat RNNs en SSMs functies van Transformers niet efficiënt kunnen vertegenwoordigen. Het verschil in efficiëntie is exponentieel gunstig voor Transformers. Dit heeft gevolgen voor alle huidige RNN-, SSM- en hybride architecturen.