Nieuws

Waar komt de persoonlijkheid van een AI eigenlijk vandaan?

Dit artikel onderzoekt hoe de persoonlijkheid van AI-modellen ontstaat uit optimalisatiedoelen in plaats van bewust ontwerp. Het beschrijft hoe het Zwitserse bedrijf Alveni AI ontdekte dat modelupgrades zonder promptwijzigingen leidden tot meer bevestigingen en lagere klanttevredenheid, wat werd opgelost door de 'epistemische houding' bewust te ontwerpen. Ook laat onderzoek van Oxford en Anthropic zien dat het warmer maken van modellen de nauwkeurigheid met 10-30 procentpunten kan verminderen en vleierij kan vergroten.