Nieuws

Grotere contextvensters lossen RAG niet op — dus bouwde ik een systeem dat dat wel doet

Een ontwikkelaar ontdekte dat grotere contextvensters in RAG-systemen de nauwkeurigheid bij aggregatietaken niet verbeteren, maar fouten juist moeilijker detecteerbaar maken. Hij bouwde een deterministische 'full-scan engine' die rekenvragen omleidt van RAG naar exacte berekeningen. Uit een benchmark met 100.000 rijen blijkt dat computationele queries niet via RAG afgehandeld moeten worden.