Nieuws

Testen van robuustheid tegen onverwachte vijanden

OpenAI heeft een methode ontwikkeld om te beoordelen of een neurale netwerkclassifier betrouwbaar kan worden verdedigd tegen adversariale aanvallen die tijdens het trainen niet zijn gezien. De methode levert een nieuw metriek, UAR (Unforeseen Attack Robustness), op die de robuustheid van een enkel model tegen onverwachte aanvallen meet en benadrukt het belang van het meten van prestaties over een breder scala aan onverwachte aanvallen.