Nieuws

Nieuwe methode om bias te verminderen in AI-beeldherkenning

Onderzoekers van MIT, Worcester Polytechnic Institute en Google hebben een nieuwe methode ontwikkeld om bias te verminderen in AI-visionsmodellen, genaamd WRING. Deze methode helpt bij het identificeren en corrigeren van bias in modellen zoals OpenCLIP, zonder de andere relaties in het model te verstoren. De methode werkt door bepaalde coördinaten in de hoge-dimensionale ruimte van het model te verplaatsen, zodat het model niet meer kan onderscheiden tussen verschillende groepen binnen een bepaald concept. WRING is een post-processing methode die kan worden toegepast op vooraf getrainde modellen, waardoor het niet nodig is om het model opnieuw te trainen. De methode is momenteel beperkt tot modellen zoals CLIP, maar de onderzoekers willen het uitbreiden naar generatieve modellen zoals ChatGPT.