Deepfakes, watermarking en content provenance

Techverslaggever Rutger Otto bespreekt de ethische kwestie rond deepfakes van overleden beroemdheden. Hij stelt de vraag waarom nabestaanden mogen beslissen over virtuele nabootsingen en of een acteur zelf bezwaar kan maken.

De Britse National Crime Agency (NCA) en Internet Watch Foundation (IWF) waarschuwen ouders om geen foto's van hun kinderen openbaar te delen vanwege AI-nudification-apps. Online daders gebruiken deze tools om van onschuldige selfies extreem pornografisch materiaal te maken. Het aantal AI-gegenereerd kindermisbruikmateriaal steeg met 14% in 2025.

Muziekstreamingdienst Tidal stopt per direct met het uitbetalen van royalty's voor AI-gegenereerde muziek. Vanaf half juli worden AI-nummers voorzien van een label zodat gebruikers kunnen zien of muziek volledig door kunstmatige intelligentie is gemaakt. Tidal zegt dat het geld voorlopig naar menselijke artiesten moet gaan.

Muziekstreamingdienst TIDAL voert een nieuw beleid in dat volledig AI-gegenereerde muziek van inkomsten uitsluit. Het platform gaat AI-muziek labelen met een 'AI'-badge en automatisch tracks verwijderen die artiesten imiteren. Het beleid gaat in op 15 juli 2026.

Een deepfake-video van NU.nl-redacteur Donna Gijsman werd 300.000 keer bekeken op TikTok voordat het platform ingreep. De nepvideo toonde haar die onzin vertelde en angst zaaide. Techbedrijven hebben regels tegen deepfakes, maar handhaving blijkt lastig.

De politie van Vancouver heeft een foto van een drugsvangst bewerkt met AI en op X geplaatst met het label 'made with AI'. De originele afbeelding toonde een bescheiden hoeveelheid geld en drugs, maar de AI-versie bevatte fouten zoals verkeerde biljetwaarden. De politie beweerde dat AI is gebruikt om namen van verdachten weg te halen, maar critici vrezen dat de technologie wordt ingezet om bewijs te manipuleren.

Tom Hanks maakt zich zorgen dat Disney na zijn overlijden zijn stem als Woody kan nabootsen met AI. In een interview met Entertainment Weekly bespreekt hij dat alle opnames digitaal bewaard blijven en dus gebruikt kunnen worden. Hanks vreest dat het publiek onverschillig wordt voor producties die door AI zijn gegenereerd.

Een vrouwelijke stalker heeft jarenlang AI gebruikt om foto's te manipuleren zodat het leek alsof ze een relatie en een kind had met een nietsvermoedende man. Ze plaatste de beelden online en verspreidde zelfs trouwuitnodigingen. Het slachtoffer, Luke, kwam er pas achter via zijn zus. De zaak laat zien hoe generatieve AI obsessieve fantasieën kan versterken.

ElevenLabs werkt samen met Google DeepMind om SynthID-watermerken in AI-gegenereerde audio te verwerken. De onhoorbare watermerken blijven intact na bewerkingen zoals knippen of comprimeren. Gebruikers kunnen met de nieuwe gratis ElevenLabs Audio Detector controleren of audio door ElevenLabs is gegenereerd. Dit moet de transparantie en verantwoording rond AI-audio vergroten.

Uit de Muziekmonitor van NVPI blijkt dat 78 procent van de Nederlanders muziek door echte artiesten wil, tegen 68 procent twee jaar geleden. Ruim driekwart vindt dat AI-gegenereerde muziek een duidelijk label moet krijgen op streamingdiensten.

Modulate Inc. heeft een tool gelanceerd die via audio AI-gegenereerde muziek herkent. De API, genaamd AI Music Detection, beoordeelt of een clip AI-vocalen of -instrumenten bevat. Streamingdiensten kunnen hiermee synthetische tracks opsporen. Het systeem bereikt volgens Modulate 95% precisie bij tests tegen generatoren zoals Suno's 5.5-model.

Max Spero, CEO van AI-tekstdetector Pangram, stelt dat taalmodellen veel uniformere argumenten produceren dan mensen. Hij zegt dat AI-teksten te herkennen zijn aan de structurele patronen die ze achterlaten. Pangram gebruikt een deep-learning classifier om deze patronen te detecteren.

Uit onderzoek van videoplatform Kapwing blijkt dat bijna 60 procent van de video's op een nieuw TikTok-account onder AI-slop valt. Vooral bij kindercontent is het probleem groot: onder hashtag #cartoonkids is 97 procent AI-gegenereerde rommel. Jonge kinderen kunnen het verschil tussen echte en nep-informatie vaak niet onderscheiden, wat schadelijk kan zijn.

AI-gegenereerde beelden kunnen wetenschappelijke tijdschriften misleiden en het vertrouwen in de wetenschap ondermijnen. Onderzoekers waarschuwen dat visueel bewijs aan geloofwaardigheid verliest omdat iedereen met AI overtuigende nepbeelden kan maken. Transparantie over de herkomst van beelden wordt cruciaal geacht.

Een onderzoek van The Guardian onthult dat merken steeds vaker AI-gegenereerde influencers inzetten op sociale media zonder dit te vermelden. De content lijkt op echte klantervaringen, maar bevat geen duidelijke indicatie dat de personen niet echt zijn. Consumentenorganisatie Which? roept op tot meer transparantie. De ASA heeft geen specifieke regels voor AI-labeling, maar de Europese AI-wet zal vanaf augustus verplichte labeling vereisen.

Handelsorganisatie Eurocommerce, met leden als Amazon, H&M en IKEA, wil dat AI-gegenereerde reclame wordt vrijgesteld van de transparantieregels van de EU AI Act. Zalando zegt dat 90 procent van de marketingcontent op het platform al AI-gegenereerd is. Volgens de organisatie is een AI-gegenereerde bankafbeelding geen deepfake.

Uit een rapport van videobewerkingsbedrijf Kapwing blijkt dat bijna 60 procent van de video's op de 'For You'-pagina van nieuwe TikTok-gebruikers uit AI-rommel bestaat. Vooral kindercontent wordt overspoeld: de hashtag #cartoonkids bevatte bijna alleen AI-gemaakte video's. TikTok kondigde in november aan dat gebruikers de hoeveelheid AI-content kunnen filteren, en YouTube werkt aan labeling van AI-video's.

In Derbyshire, Engeland, wordt een politieagent onderzocht die ervan wordt beschuldigd generatieve AI te hebben gebruikt om in meerdere zaken bewijsmateriaal te fabriceren. Het is het eerste geval in het Verenigd Koninkrijk, kort nadat het nieuwe nationale PoliceAI-centrum agenten had geadviseerd geen generatieve AI te gebruiken voor gerechtelijke verklaringen vanwege hallucinaties.

De rechtbank van Amsterdam heeft een man veroordeeld tot dertig maanden cel, waarvan zes voorwaardelijk, voor het openen van tientallen bankrekeningen met vervalste identiteitsbewijzen via deepfakes. De fraude vond vorig jaar plaats bij ABN AMRO.

De Europese Commissie heeft op 10 juni de definitieve gedragscode gepubliceerd voor het labelen van AI-inhoud, als onderdeel van de AI-verordening. Vanaf 2 augustus 2026 moeten deepfakes en AI-gegenereerde teksten over onderwerpen van openbaar belang worden gelabeld. Ook moeten gebruikers worden geïnformeerd wanneer ze met een AI-systeem communiceren. De gedragscode is vrijwillig, maar de verplichtingen uit artikel 50 zijn dat niet.

De PVV van Geert Wilders heeft een schadevergoeding betaald aan rechtbanktekenaar Petra Urban nadat een partijlid haar tekening zonder toestemming met AI had aangepast om de afgebeelde Syrische broers dreigender te laten lijken. Urban sprak van een 'zorgwekkende ontwikkeling' en benadrukte het belang van neutraliteit in journalistiek werk.

Apple introduceert in iOS 27 nieuwe AI-functies in de Foto's-app, zoals Extend en Spatial Reframe, die fake pixels toevoegen. Camera-chef Jon McCormack zegt dat Apple AI niet zomaar inzet, maar gericht problemen oplost. Ook komt er een onzichtbaar watermerk via Google DeepMind's SynthID.

Uit een WIRED-onderzoek blijken tientallen 'genudificeerde' deepfake-afbeeldingen en -video's op de website van Grok te staan, waaronder niet-consensuele afbeeldingen van beroemdheden en ten minste één Amerikaanse politica. xAI heeft ondanks eerdere beloften de productie van schadelijke deepfakes niet effectief kunnen voorkomen. Andere AI-systemen zoals OpenAI's ChatGPT, Meta AI en Anthropic's Claude hebben strengere veiligheidsmaatregelen.

Deezer lanceert een gratis online tool die playlists van verschillende streamingdiensten scant om AI-gegenereerde nummers te identificeren. De tool ondersteunt 27 talen en is compatibel met platforms zoals Spotify, Apple Music, SoundCloud en YouTube Music. Deezer positioneert zich zo als tegenstander van AI-muziek en verwijdert actief AI-nummers uit aanbevelingen. De aankondiging volgt op de onthulling dat 44% van alle nieuwe muziek op Deezer AI-gegenereerd is.

Deezer biedt een gratis AI-muziekdetector waarmee gebruikers op elke grote streamingdienst kunnen controleren of er AI-gegenereerde nummers in hun afspeellijsten zitten. Volgens CEO Alexis Lanternier heeft 43 procent van de gebruikers die overstappen van andere platforms naar Deezer al AI-tracks in hun afspeellijsten. De tool is beschikbaar in 27 talen en ondersteunt 20 platforms.

OpenAI ondersteunt de EU-gedragscode voor transparantie van AI-inhoud en bevordert herkomststandaarden en tools om AI-gegenereerde content herkenbaar te maken. Het bedrijf wil zo bijdragen aan een betrouwbaar AI-ecosysteem in Europa.

De regering-Trump onderhandelt met senatoren over een wetsvoorstel dat staten beperkt in AI-regulering in ruil voor federale censuurwetten. Het plan omvat de Kids Online Safety Act, de NO FAKES Act en een federale leeftijdsverificatie. Critici waarschuwen dat dit leidt tot een massaal censuurregime dat de democratie ondermijnt.

De Chinese activiste Apple Peiqing Ni kreeg van X te horen dat deepfakes die haar als promiscue drugsverslaafde afbeelden niet in strijd zijn met de regels van het platform. De deepfakes verschenen nadat Ni had gepost over een herdenking van het Tiananmenplein-masacre. Pas nadat The Guardian vragen stelde aan X, werd het account geschorst.

De Bank of England heeft gewaarschuwd voor AI-gegenereerde oplichting nadat deepfakevideo's van Nigel Farage en gouverneur Andrew Bailey online verspreid werden. De video's tonen de twee die op de set van Question Time vechten. Bailey roept op tot het melden van dergelijke video's. Ook Martin Lewis waarschuwt voor een 'wilde westen' aan AI-oplichting.

MIT Technology Review-redacteur Will Douglas Heaven deelt vijf actuele thema's in AI, gebaseerd op een talk op SXSW Londen. Hij bespreekt de impact van AI op banen, de reële gevaren zoals deepfakes en gevaarlijke chatbotrelaties, de groeiende AI-tegenstand, de belofte van AI voor wetenschap, en de alomtegenwoordigheid van AI.

Aviva heeft een recordbedrag van £230 miljoen aan verzekeringsfraude ontdekt en gebruikt AI-tools om de groeiende problemen tegen te gaan. Het bedrijf zet AI in om valse documenten en beelden te herkennen die door fraudeurs met AI worden gegenereerd. De AI functioneert als filter voor menselijke onderzoekers.

Alan Finkel betoogt in een opiniestuk dat het gebruik van AI bij het schrijven van opinieartikelen de kunst van het overtuigen ondermijnt. Hij verwijst naar een incident waarbij hoogleraar Cath Ellis een door AI geschreven stuk indiende bij de Sydney Morning Herald zonder dit te melden. Finkel pleit voor duidelijke normen (de minimis standards) en transparantie over AI-gebruik in publicaties.

Meta heeft een experimentele AI-nieuwsfeed in zijn app stopgezet nadat deze nepnieuws en onjuiste AI-gegenereerde beelden verspreidde. De feed produceerde artikelen zonder bronvermelding of journalistieke controle. Meta noemt het een test die is stopgezet.

Een AI-gegenereerde toespraak toegeschreven aan de Namibische president Netumbo Nandi-Ndaitwah werd massaal gedeeld op sociale media. De toespraak veroordeelde corruptie en buitenlandse uitbuiting, maar werd door de president zelf afgewezen als een vervalsing. Het artikel analyseert waarom de nep-toespraak zoveel weerklank vond in Afrika en het Caribisch gebied, wijzend op een leiderschapscrisis en het verlangen naar moreel leiderschap.

Tijdens de NBA Finals 2026 gebruikte ESPN een AI-gegenereerde gelijkenis van Spurs-legende Tony Parker in een commercieel filmpje. Fans en journalisten reageerden verontwaardigd op sociale media, wijzend op het onnodige gebruik van generatieve AI terwijl ESPN over voldoende echt beeldmateriaal beschikt.

Amazon heeft aangekondigd dat het AI-gegenereerde productafbeeldingen zal tonen in zijn winkelapp op basis van zoekopdrachten van gebruikers. Het bedrijf stelt dat dit klanten helpt producten te vinden, maar critici uiten zorgen over misleiding en het gebruik van fictieve afbeeldingen in plaats van echte productfoto's.

Uit onderzoek blijkt dat AI-labels in sociale media de manier waarop mensen informatie beoordelen veranderen, met zowel positieve als negatieve effecten. Vanwege de EU AI Act worden platforms verplicht AI-content te labelen, maar dit kan leiden tot een algemene daling in het onderscheidingsvermogen doordat content zonder label als authentiek wordt beschouwd.

Een boek over hoe AI de perceptie van de werkelijkheid beïnvloedt, bleek verzonnen citaten te bevatten die door AI waren gegenereerd. De auteur Steve Rosenbaum gaf toe AI-tools zoals ChatGPT en Claude te hebben gebruikt bij het schrijven. Een AI-detectietool gaf aan dat 53% van het boek AI-gegenereerd was. WIRED trok de publicatie van een excerpt terug na vragen over het gebruik van AI.

Een door de Thaise politie verspreide foto van agenten in feestelijke jurken bij een arrestatie blijkt door AI gegenereerd. De beheerder van het Facebookaccount van het politiebureau wilde een vriendelijker imago creëren. Nieuwsmedia zoals de Daily Star en The Sun publiceerden de foto, maar moesten later corrigeren.

Google heeft een overzicht gegeven van de 12 belangrijkste aankondigingen tijdens Google I/O 2026. Daaronder vallen de nieuwe modellen Gemini Omni en Gemini 3.5 Flash, evenals updates aan Zoeken met AI-aangedreven informatieagenten en de introductie van Gemini Spark als persoonlijke AI-assistent. Ook werd de uitbreiding van SynthID-watermerking naar meer producten en de komst van AI-ondersteunde brillen voor Android XR aangekondigd.

Taylor Swift's management heeft handelsmerkaanvragen ingediend voor audiofragmenten van haar stem en haar visuele gelijkenis. Dit wijst op een verschuiving van auteursrecht naar handelsmerkrecht in de strijd tegen AI-namaak. Hoewel auteursrecht creatieve werken beschermt, beschermt het niet tegen AI-gegenereerde imitaties die consumenten misleiden over goedkeuringen. Handelsmerkrecht en publiciteitsrechten bieden mogelijk betere bescherming tegen dergelijke misleiding.

YouTube gaat AI-gegenereerde content prominenter labelen en vanaf deze maand automatisch scannen op 'fotorealistisch' AI-gebruik. De labels verschijnen bij normale video's direct onder de videospeler en bij Shorts als overlay onderaan. Voorheen gebeurde labeling alleen op eigen aangifte van de uploader. YouTube gebruikt C2PA en SynthID voor detectie, maar niet alle AI-content krijgt een prominent label.

ElevenLabs heeft een deal gesloten met Stan Lee Universe om het uiterlijk en de stem van de overleden Marvel-schrijver met AI na te bootsen. Gebruikers kunnen via de Iconic Marketplace van ElevenLabs de AI-kloon van Stan Lee gebruiken voor audioboeken en AI-gegenereerde stripverhalen. De aankondiging leidt tot ethische discussies over het gebruik van AI om overleden publieke figuren te doen herleven.

YouTube verscherpt de regels voor AI-labels. Vanaf mei 2026 detecteert een automatisch systeem AI-gegenereerde content, zelfs als makers het niet vermelden. Labels komen op zichtbaardere plekken, zoals onder de videospeler en als overlay bij Shorts. Aanbevelingen en inkomsten worden niet beïnvloed.

YouTube plaatst vanaf nu automatisch een label bij video's die realistisch ogen en met AI zijn gemaakt. Het label komt op een prominentere plek te staan, bijvoorbeeld tussen de video en de beschrijving bij lange video's. Makers moeten nog steeds zelf aangeven of hun video met AI is gemaakt, maar YouTube doet een extra check.

YouTube gaat video's die gebruikmaken van aanzienlijke fotorealistische AI automatisch labelen, in plaats van alleen te vertrouwen op makers om AI-inhoud zelf te melden. De labels worden ook prominenter weergegeven, direct onder de videospeler. Dit volgt op de uitbreiding van AI-detectie en de lancering van Gemini Omni van Google.

Generatieve AI vormt ernstige risico's voor de herinnering aan de Holocaust door ontkenning, vervalsing en clickbait. Deskundigen waarschuwen dat AI-gefabriceerde beelden en video's twijfel kunnen zaaien over de Holocaust. AI-geletterde jongere generaties worden gezien als de beste tool om deze desinformatie te bestrijden.

OmniPulse is een systeem dat met wavelet-scattering fingerprints synthetische en menselijke audio identificeert en toewijst. De kern is geschreven in Rust en maakt gebruik van FFI-bruggen, SlicedWasserstein-afstandsberekeningen en een MCP-server om efficiënt om te gaan met grote audiobestanden. Het systeem leest audio via gedeeld geheugen en voert de verwerking uit zonder de grote datasets te serialiseren.

Taylor Swift heeft een handelsmerk aangevraagd voor haar stem en podiumimago, als eerste muziekartiest die deze stap zet. De zet roept vragen op over auteursrecht en de rechten van artiesten in het tijdperk van AI. Het artikel bespreekt hoe AI gegenereerde imitaties en deepfakes juridische uitdagingen vormen, en hoe Swifts handelsmerk mogelijk een krachtig afschrikmiddel kan zijn tegen toekomstige vervalsingen.

AI-gegenereerde content wordt steeds overtuigender. Factcheckers adviseren om niet alleen diep in de beelden te kijken, maar ook breed naar de context. Door verdachte details en bronnen te controleren blijf je online veiliger.