Nieuws

Hackers kunnen AI-stemassistenten kapen met onhoorbare geluiden in video's en podcasts

Onderzoekers uit China en Singapore hebben een methode ontwikkeld om 'adversarial audio' te maken die onhoorbaar is voor mensen, maar AI-stemmodellen kan misleiden. Door deze geluiden te verbergen in ogenschijnlijk onschuldige audio, zoals muziek of films, kunnen aanvallers bijvoorbeeld spraakassistenten van Microsoft en Mistral overnemen. De techniek werkt alleen op opensource-modellen, maar omdat veel commerciële AI-systemen daarop zijn gebaseerd, is de kwetsbaarheid breed toepasbaar.