Nieuws

Meeste RAG-hallucinaties zijn zoekfouten: hoe de retriever bepaalt wat het model kan verzinnen

Een artikel op Towards Data Science stelt dat de meeste hallucinaties in Retrieval-Augmented Generation (RAG) worden veroorzaakt door falende retriever, niet door het generatiemodel. Aan de hand van een test met het NIST Cybersecurity Framework laat de auteur zien dat de juiste informatie op de laatste plaats komt bij cosine-similarity, terwijl een eenvoudige keyword-match de juiste pagina bovenaan zet. De conclusie is dat hallucinatie in RAG vaak een retrievalprobleem is dat verkeerd wordt gelabeld als een generatiefout.