Nieuws

Nieuwe methode moet kinderen beschermen tegen illegale AI-gegenereerde inhoud

MIT-onderzoekers hebben een auditmethode ontwikkeld die kan detecteren of een AI-model is aangepast om kindermisbruikmateriaal te genereren, zonder dat het model dergelijke inhoud hoeft te produceren. De techniek, genaamd Gaussian probing, analyseert interne aanpassingen van het model en haalde een nauwkeurigheid van 100 procent in tests. De methode biedt platformen en wetshandhaving een manier om gevaarlijke modellen te identificeren zonder de wet te overtreden.