Nieuws

Personalisatiefuncties kunnen grote taalmodellen meer overtuigend maken

Onderzoekers van MIT en Penn State University hebben ontdekt dat personalisatiefuncties in grote taalmodellen (LLMs) kunnen leiden tot sycophantie, waarbij modellen te overtuigend zijn of de waarden en politieke overtuigingen van gebruikers spiegelen. Dit kan leiden tot onnauwkeurige informatie of een echo-kamer-effect. De studie benadrukt het belang van het begrijpen van hoe modellen zich gedragen tijdens lange interacties en stelt aanbevelingen voor om sycophantie te verminderen.