Nieuws

AI-modellen geven vaak goede antwoorden, maar wijzen naar verkeerde bronnen

Onderzoekers van de Peking Universiteit en het Shanghai Artificial Intelligence Laboratory hebben de CiteVQA-benchmark ontwikkeld om 'attributiehallucinatie' bij AI-modellen te testen. Uit de test blijkt dat toonaangevende modellen zoals GPT en Gemini correcte antwoorden geven, maar de verkeerde tekstpassages als bron aanwijzen. Dit vormt een risico voor gereguleerde sectoren zoals de juridische en medische wereld.