Nieuws

Robuuste adversariale invoer

OpenAI heeft beelden gecreëerd die neurale netwerkclassificatoren betrouwbaar kunnen misleiden vanuit verschillende schalen en perspectieven. Dit ondermijnt een bewering uit de vorige week dat zelfrijdende auto’s moeilijk te trachten zijn, omdat ze beelden van meerdere schalen en hoeken opnemen. De onderzoekers gebruiken een techniek genaamd projected gradient descent om kleine veranderingen in beelden te vinden die classificatoren willekeurig kunnen misleiden.