Nieuws

Onze aanpak van onderzoek naar uitlijning

OpenAI werkt aan het verbeteren van de mogelijkheid van hun AI-systemen om te leren van menselijke feedback en om mensen te helpen bij het beoordelen van AI. Het doel is om een voldoende uitgelijnde AI-systeem te bouwen dat helpt bij het oplossen van alle andere uitlijningsproblemen. De aanpak richt zich op het ontwikkelen van schaalbare trainingsignalen die uitgelijnd zijn met menselijke intentie en omvat drie belangrijke pijlers: het trainen van AI-systemen met menselijke feedback, het trainen van AI-systemen om menselijke beoordeling te ondersteunen en het trainen van AI-systemen om uitlijningsonderzoek te doen.