Nieuws

Verbetering van taalmodelgedrag door training op een gecurateerde dataset

OpenAI onderzoekt hoe taalmodelgedrag kan worden verbeterd door het trainen op een gecurateerde dataset van minder dan 100 voorbeelden. Het onderzoek toont aan dat grotere modellen effectiever zijn bij het aanpassen van gedrag aan bepaalde waarden. De methode kan worden gebruikt om bijvoorbeeld respectvol gedrag te bevorderen, en wordt getest met GPT-3-modellen. De resultaten laten statistisch significant verbeterd gedrag zien zonder prestaties te beïnvloeden.