Nieuws

AI-veiligheid via debat

OpenAI stelt een nieuw AI-veiligheidsconcept voor waarbij agents met elkaar debatteren over onderwerpen en een mens bepaalt wie de winnaar is. Het doel is om AI-systemen te trainen die complexere taken kunnen uitvoeren dan mensen, terwijl ze nog steeds in lijn blijven met menselijke voorkeuren. In experimenten met het MNIST-archief bleek dat debat de nauwkeurigheid van een menselijke rechter aanzienlijk kan verhogen.