Nieuws

De AI-model zelfvertrouwenval

AI-modellen zoals ChatGPT kunnen met 99% vertrouwen foute antwoorden geven, zoals het verzinnen van een Nobelprijswinnaar voor 2025. Dit komt door de softmax-functie en slechte kalibratie van vertrouwen. Het artikel legt uit waarom modellen overmoedig zijn en hoe kalibratie de betrouwbaarheid kan verbeteren.