Nieuws

OpenAI zorgt zich zorgen om goblins

OpenAI heeft zijn nieuwste AI-model, GPT-5.5, op instructie beperkt in het bespreken van goblins en andere fictieve wezens. De instructies voor Codex, een coderingshulpmiddel van OpenAI, verbieden expliciet het bespreken van dergelijke wezens tenzij het absoluut relevant is. De opmerkingen werden opgepakt door gebruikers die meldingen maakten van AI die bugs beschreef als goblins of gremlins. OpenAI reageerde met een blogpost waarin uitleg werd gegeven over hoe de neiging tot het gebruik van dergelijke termen ontstond, onder andere door de training op de 'Nerdy' persoonlijkheid. Het is een voorbeeld van onverwachte fixaties die AI-modellen kunnen ontwikkelen op basis van hun trainingsdata.