Nieuws

Concreet onderzoek naar AI-veiligheid

OpenAI, samen met onderzoekers van Berkeley en Stanford, is mede-auteur van een paper met de titel 'Concrete Problems in AI Safety', geleid door Google Brain. Het onderzoek richt zich op praktische veiligheidsproblemen bij moderne machine learning-systemen, zoals robuustheid bij veranderingen in gegevensverdeling en het vermijden van ongewenste bijwerkingen bij beloningsfuncties. De paper wil meer aandacht genereren voor AI-veiligheidsonderzoek.